Alexander Norén intervjuas i Morgonstudion.

Javascript är avstängt

Javascript måste vara påslaget för att kunna spela video
Hör varför Chat GPT:s mattekunskaper skulle kunna bli ett hot mänskligheten framtiden i klippet. Foto: SVT

Källor: ”Hot mot mänskligheten” fick AI-toppen sparkad

Publicerad

Anledningen till att Open AI-vd:n Sam Altman fick sparken är enligt nya uppgifter att företaget varit farligt nära att utveckla teknologi som kan överträffa mänsklig intelligens.

Innan Open AI:s vd Sam Altman fick sparken i fredags skrev flera av företagets forskare ett brev där de varnade styrelsen om att ett av Open AI:s nya projekt kan utgöra ett ”hot mot mänskligheten”, uppger källor till Reuters.

Projektet, som enligt källorna kallas för Q*, ska vara ett genombrott i utvecklingen av så kallat AGI, eller generell artificiell intelligens. Det är än så länge en hypotetisk nivå av artificiell intelligens som sägs ska överträffa mänsklig intelligens på många ekonomiskt värdefulla områden. Att utveckla AGI är ett av Open AI:s stora mål.

Tillbaka på vd-posten

Enligt Reuters källor var varningarna i brevet en av flera orsaker till att Altman avskedades. Styrelsen ska också ha oroat sig för att AI kommersialiseras för snabbt utan att man förstår konsekvenserna.

När Sam Altman avskedades från sitt uppdrag som Open AI:s vd framgick bara att han inte varit ”uppriktig i sin kommunikation” med styrelsen. Altman fick nästan omedelbart ett nytt toppjobb på Microsoft.

Efter det skrev 700 av Open AI:s anställda under ett brev där de protesterade motSam Altmans avskedande, och hotade att säga upp sig om inte styrelsen avgår och Altman kommer tillbaka till sin post.

Tidigare i veckan återinfördes Sam Altman som vd.

Framstegen i utvecklingen av AGI handlar delvis om AI:s förmåga att räkna matte.

Enligt Alexander Norén är det bara en tidsfråga innan AI överträffar människans förmåga att räkna matte. Hör varför Chat GPT:s mattekunskaper kan vara farliga för mänskligheten i klippet.

Så arbetar vi

SVT:s nyheter ska stå för saklighet och opartiskhet. Det vi publicerar ska vara sant och relevant. Vid akuta nyhetslägen kan det vara svårt att få alla fakta bekräftade, då ska vi berätta vad vi vet – och inte vet. Läs mer om hur vi arbetar.