Italien har lige forbudt ChatGPT. Kunne USA være den næste?

Generative AI-modeller, såsom OpenAI's ChatGPT, indsamler data for at finjustere og træne deres egne modeller. Italien ser denne indsamling af data som en potentiel krænkelse af brugernes privatliv og har derfor forbudt ChatGPT i landet.

Om fredagen udsendte den italienske databeskyttelsesmyndighed en erklæring om, at der blev pålagt en øjeblikkelig midlertidig begrænsning af behandlingen af italienske brugeres data af OpenAI.

De to primære bekymringer, som forbuddet forsøger at imødegå, er uautoriseret indsamling af brugerdata og manglende aldersverifikation, hvilket udsætter børn for reaktioner, der er "helt uhensigtsmæssige i forhold til deres alder og bevidsthed", ifølge pressemeddelelsen.

Når det kommer til indsamling af data, hævder myndighederne, at OpenAI ikke har fået lovligt tilladelse til at indsamle brugerdata.

"Der synes at være ingen juridisk grundlag for den massive indsamling og behandling af personoplysninger med henblik på at 'træne' algoritmerne, som platformen er afhængig af," siger den italienske databeskyttelsesmyndighed i pressemeddelelsen.

OpenAI's udpegede repræsentant i Det Europæiske Økonomiske Samarbejdsområde har 20 dage til at overholde ordren, ellers kan AI-forskningsvirksomheden stå over for en bøde på op til 20 millioner euro eller 4% af den samlede årlige omsætning på verdensplan.

Beslutningen blev taget efter et databrud den 20. marts, hvilket udsatte ChatGPT-brugernes samtaler og oplysninger om betalinger fra abonnenter.

Denne krænkelse understregede de potentielle risici ved at bruge AI-værktøjer, der stadig er i deres forskningsfase, men stadig er tilgængelige for offentligt brug.

Så kan der snart blive indført et forbud i USA? Tech-ledere i USA har allerede begyndt at kræve et midlertidigt forbud mod yderligere udvikling af AI.

Tidligere på ugen var Tesla CEO Elon Musk, Apple medstifter Steve Wozniak og Emad Mostaque, CEO for Stability AI, blandt de teknologiske ledere, der underskrev en underskriftindsamling, hvor de opfordrede AI-laboratorier til at sætte træningen af AI-systemer mere kraftfulde end GPT-4 i bero i mindst seks måneder.

Ligesom forbuddet i Italien er pausen, der opfordres til af underskriftindsamlingen, ment til at beskytte samfundet mod de "dybtgående risici for samfundet og menneskeheden", som AI-systemer med menneskekonkurrencedygtig intelligens kan udløse.

Forespørgslen opfordrer endda amerikanske lovgivere til at overveje indgriben, hvis pausen ikke iværksættes af AI-laboratorierne selv.