Den senaste modellen av Chat GPT har väckt stor uppmärksamhet sedan den lanserades tidigare i år. Experter och AI-forskare har gått ut i ett öppet brev och krävt att utvecklingen av ny AI-teknik pausas i sex månader.

– Man har misslyckats med att få Chat GPT att bete sig i linje med vad vi vill att den ska göra, säger Olle Häggström, professor vid Chalmers tekniska högskola och en av dem som skrivit under det öppna brevet.  

Experten: Existentiellt hot

För några veckor sedan blockerade Italien Chat GPT, då de anser att chatbottens insamlande av data kan bryta mot GDPR och för att det är svårt att säkerställa att åldersgränserna efterföljs.

Olle Häggström anser att GPT 4 är oroväckande smart och förmögen att fatta självständiga beslut. Han tror att den nya tekniken kan utgöra ett existentiellt hot om den får fortsätta utvecklas. 

– Någonstans finns en världsmodell hos Chat GPT men vi vet väldigt lite om hur den ser ut. Därför vet vi inte heller vad AI strävar efter med sina handlingar.