Texten är undertecknat av drygt 1 000 personer, däribland entreprenören Elon Musk, Apple-grundaren Steve Wozniak och en rad forskare och aktörer inom området. De efterfrågar ett större säkerhetstänk i framtagandet av nya AI-tjänster och vill bland annat se en tydligare reglering i form av säkerhetsprotokoll och tillsynsmyndigheter.

– Utvecklingen går så snabbt att politikerna inte riktigt hunnit med. Därför behöver vi ta en liten paus nu så att samhället kan komma ikapp, säger Max Tegmark, professor i fysik och forskare inom AI.

Robot rekommenderade skilsmässa

Brevet publiceras ett par veckor efter att företaget och forskningslaboratoriet Open AI presenterade den fjärde versionen av sitt omtalade GPT-program, GPT-4. Avsändarna vill se ett tillfälligt stopp i utvecklandet av tjänster som syftar till att bli ännu mer kraftfulla än det senaste. Enligt Max Tegmark finns det en risk att tappa kontrollen över tekniken.

– Vi har redan sett att GPT-4 och sådana system har rekommenderat folk att skilja sig eller uppmuntrat ungdomar att begå självmord.

Risk för missbruk

Open AI fick ett stort genomslag hos allmänheten när chattroboten Chat GPT lanserades i november 2022.Röster har höjts gällande etiska och juridiska fallgropar och att tekniken kan komma att missbrukas. Tidigare i veckan meddelade Europol att de undersöker hur och om AI kan komma att utnyttjas i kriminella syften som exempelvis nätfiske och spridande av desinformation.

Företaget Open AI har inte kommenterat uttalandet.