Han ligger bakom flera av de stora genombrott som har lett fram till dagens självlärande språkmodeller som chat GPT. Nu får Geoffrey Hinton Nobelpriset i fysik för sina banbrytande upptäckter inom AI, tillsammans med amerikanen John Hopfield.
– Jag är ganska stolt över vad vi har åstadkommit. Det är en magnifik sak. Men jag är också väldigt orolig. Kommer vi kunna hålla kontrollen?
Nu vill han att fler unga begåvade forskare får resurser för att arbeta med AI-säkerhet.
Vänta inte på superintelligensen
– Vi måste fundera ordentligt på de här frågorna nu, vi kan inte vänta på att AI har utvecklat superintelligens, säger Geoffrey Hinton.
AI är expert på att snabbt samla in extremt mycket information och sammanställa relevanta analyser och sammanfattningar. Därför skulle superintelligenta maskiner kunna utvecklas till pålitliga assistenter som hjälper oss att göra smarta val. Men den skulle också kunna utvecklas till något annat.
– Ett dåligt scenario är att AI bestämmer sig för att den inte behöver oss längre. Det skulle kunna hända om man får evolution mellan olika superintelligenta AI.
Geoffrey Hinton tänker sig att en super AI skulle kunna få kontroll över datacenter och börjar göra fler kopior av sig själv. Det skulle leda till AI-modeller som tävlar med varandra och utvecklar aggressivitet mot motståndare och bestämmer sig för att göra sig av med oss människor.
Men om det går så illa i framtiden, kan vi då inte bara stänga av elektriciteten?
– Många tror att det bara är att dra ut sladden. Men så enkelt är det inte. Datorerna kommer att övertala oss att inte göra det, säger Geoffrey Hinton.
Förmågan att ta fram väldigt många skarpa argument gör att framtidens superintelligens kan bli mycket bättre på att debattera än vad vi någonsin kommer att bli.
Barn som riktar pistoler mot oss
Han jämför vår relation till framtidens AI som om vi vore tvååringar som debatterar med vuxna.
– Tänk dig några tvååringar som håller pistoler riktade mot oss för att skjuta. Vi kan lätt övertala tvååring att inte skjuta. Vi kan övertyga dem att de inte klarar sig utan oss och vi kan locka med godis hela veckan. På samma sätt kommer AI att övertala oss att inte dra ut sladden.
Se hur det gick till när Geoffrey Hinton utvecklade dagens neurala nätverk som styr AI i SVT play på söndag den 1 december och i Vetenskapens värld på måndag den 2 december 20.00 i SVT2.
Neurala nätverk
Ett neuralt nätverk är en digital modell av en hjärna.
Hjärnan byggs upp av neuroner, alltså nervceller, som kopplas ihop med hjälp av synapser.
I ett neuralt nätverk motsvarar neuronerna av så kallade noder.
En programmerare omvandlar den här modellen till en kod och vi får en datorsimulering av en tänkande hjärna.
John Hopfield belönas med Nobelpriset i fysik för att han i början av 1980-talet utvecklade ett neuralt nätverk som nu kallas för Hopfieldnätverket. Det var starten för dagens AI-revolution.
I mitten av 1980-talet utvecklade Geoffrey Hinton det neurala nätverket och utvecklade en så kallad Boltzmannmaskin som han nu får Nobelpriset för. Men det skulle ta många år innan de neurala nätverken på riktigt skulle slå igenom.