Innan Open AI:s vd Sam Altman fick sparken i fredags skrev flera av företagets forskare ett brev där de varnade styrelsen om att ett av Open AI:s nya projekt kan utgöra ett ”hot mot mänskligheten”, uppger källor till Reuters.
Projektet, som enligt källorna kallas för Q*, ska vara ett genombrott i utvecklingen av så kallat AGI, eller generell artificiell intelligens. Det är än så länge en hypotetisk nivå av artificiell intelligens som sägs ska överträffa mänsklig intelligens på många ekonomiskt värdefulla områden. Att utveckla AGI är ett av Open AI:s stora mål.
Tillbaka på vd-posten
Enligt Reuters källor var varningarna i brevet en av flera orsaker till att Altman avskedades. Styrelsen ska också ha oroat sig för att AI kommersialiseras för snabbt utan att man förstår konsekvenserna.
När Sam Altman avskedades från sitt uppdrag som Open AI:s vd framgick bara att han inte varit ”uppriktig i sin kommunikation” med styrelsen. Altman fick nästan omedelbart ett nytt toppjobb på Microsoft.
Efter det skrev 700 av Open AI:s anställda under ett brev där de protesterade motSam Altmans avskedande, och hotade att säga upp sig om inte styrelsen avgår och Altman kommer tillbaka till sin post.
Tidigare i veckan återinfördes Sam Altman som vd.
Framstegen i utvecklingen av AGI handlar delvis om AI:s förmåga att räkna matte.
Enligt Alexander Norén är det bara en tidsfråga innan AI överträffar människans förmåga att räkna matte. Hör varför Chat GPT:s mattekunskaper kan vara farliga för mänskligheten i klippet.
