ChatGPT og den nye AI skaber kaos inden for cybersikkerhed på spændende og skræmmende måder

Generativ kunstig intelligens transformerer cybersikkerhed og hjælper både angribere og forsvarere. Cyberkriminelle udnytter AI til at lancere sofistikerede og nye angreb i stor skala. Og forsvarere bruger den samme teknologi til at beskytte kritisk infrastruktur, regeringsorganisationer og virksomhedsnetværk, sagde Christopher Ahlberg, administrerende direktør for trusselsoplysningsplatformen Recorded Future.

Generativ AI har hjulpet skadelige aktører med at innovere og udvikle nye angrebsstrategier, hvilket gør det muligt for dem at være et skridt foran cyber sikkerhedsforsvaret. AI hjælper cyberkriminelle med at automatisere angreb, scanne angrebsflader og generere indhold, der taler til forskellige geografiske regioner og demografier. Derved kan de målrette en bredere vifte af potentielle ofre på tværs af forskellige lande. Cyberkriminelle har taget teknologien til sig for at skabe overbevisende phishing e-mails. AI-genereret tekst hjælper angriberne med at producere meget personaliserede e-mails og sms-beskeder, som er mere tilbøjelige til at narre målene.

"Jeg tror ikke, du behøver at tænke særlig kreativt for at indse, at det her faktisk kan hjælpe [cyberkriminelle] med at være forfattere, og det er et problem," sagde Ahlberg.

Forsvarerne bruger AI til at afværge angreb. Organisationer bruger teknologien til at forhindre lækager og proaktivt finde netværksårbarheder. Den automatiserer også dynamisk opgaver som at opsætte alarmer for specifikke nøgleord og opdage følsom information online. Trusselsjægere bruger AI til at identificere ualmindelige mønstre og sammenfatte store mængder data, hvor de forbinder prikkerne mellem forskellige kilder af information og skjulte mønstre.

Arbejdet kræver stadig menneskelige eksperter, men Ahlberg siger, at den generative AI-teknologi, vi ser i projekter som ChatGPT, kan hjælpe.

"Vi vil gerne fremskynde analysecyklussen for at hjælpe os med at analysere i tankens hastighed," sagde han. "Det er en meget svær ting at gøre, og jeg tror, vi ser en gennemslagskraft her, hvilket er ret spændende."

Ahlberg diskuterede også de potentielle trusler, som meget intelligente maskiner kan bringe med sig. Mens verden bliver mere og mere digital og forbundet, kan evnen til at forvride virkeligheden og forme opfattelser udnyttes af ondsindede aktører. Disse trusler er ikke begrænset til nationer, hvilket gør landskabet endnu mere komplekst og asymmetrisk.

AI har potentialet til at hjælpe med at beskytte mod disse fremvoksende trusler, men det medfører også sine egne risici. For eksempel kan maskiner med høj proceskapacitet hacke systemer hurtigere og mere effektivt end mennesker. For at imødegå disse trusler skal vi sikre, at AI bruges defensivt og med en klar forståelse af, hvem der har kontrol.

Som AI bliver mere integreret i samfundet, er det vigtigt, at lovgivere, dommere og andre beslutningstagere forstår teknologien og dens konsekvenser. At opbygge stærke alliancer mellem tekniske eksperter og politikere bliver afgørende for at navigere fremtiden for AI inden for trusselsjagt og videre.

AI's muligheder, udfordringer og etiske overvejelser inden for cybersikkerhed er komplekse og udvikler sig. At sikre upartiske AI-modeller og opretholde menneskelig indblanding i beslutningstagningen vil hjælpe med at håndtere de etiske udfordringer. Årvågenhed, samarbejde og en klar forståelse af teknologien vil være afgørende for at håndtere de potentielle langsigtede trusler fra yderst intelligente maskiner.

Ahlberg udtrykte også bekymring over Kina, Rusland og økonomiske modstandere, der implementerer autonome maskiner. Disse lande vil sandsynligvis ikke sænke AI-udviklingen eller dele etiske overvejelser. Selvom det at have evnen til at "slukke" sådanne maskiner er en klog sikkerhedsforanstaltning, antyder han, at integrationen af teknologi i samfundet og den globale økonomi sandsynligvis vil gøre det svært at adskille sig. Ahlberg understreger behovet for at designe produkter og maskiner med klarhed om, hvem der kontrollerer dem.

"Det store, som internettet gjorde i alt dette, var, at internettet på en måde blev stedet, hvor alverdens information flyttede hen," sagde Ahlberg. "Disse store sprogmodeller gør ret magiske ting... for at fremskynde den tænkecyklus."

Han tilføjede: "I de næste 25 år kommer verden til at afspejle internettet."