Een voormalige belangrijke onderzoeker bij OpenAI gelooft dat er een behoorlijke kans is dat kunstmatige intelligentie de mensheid overneemt en vernietigt.
“Ik denk dat er misschien iets van een 10-20% kans is op AI-overname, [met] veel [of] de meeste mensen dood,” zei Paul Christiano, die het taalmodeluitlijningsteam bij OpenAI leidde, op de Bankless podcast. “Ik neem het heel serieus.”
Christiano, die nu aan het hoofd staat van het Alignment Research Center, een non-profit gericht op het afstemmen van AI’s en machine-leersystemen op “menselijke belangen”, zei dat hij zich vooral zorgen maakt over wat er gebeurt als AI’s het logische en creatieve vermogen van een mens bereiken. “Over het geheel genomen hebben we het misschien over een 50/50 kans op een catastrofe kort nadat we systemen op menselijk niveau hebben,” zei hij.
Christiano bevindt zich in goed gezelschap. Onlangs ondertekenden tientallen wetenschappers van over de hele wereld een online brief waarin zij er bij OpenAI en andere bedrijven die racen om snellere en slimmere AI’s te bouwen, op aandringen om de ontwikkeling op pauze te zetten. Hoge piefen van Bill Gates tot Elon Musk hebben hun bezorgdheid geuit dat AI, indien niet gecontroleerd, een duidelijk existentieel gevaar vormt voor mensen.
Don’t be evil
Waarom zou AI slecht worden? Om dezelfde reden als een mens: training en levenservaring.
Net als een baby wordt AI getraind door bergen gegevens te ontvangen zonder echt te weten wat ermee te doen. Het leert door te proberen bepaalde doelen te bereiken met willekeurige acties en richt zich op de “juiste” resultaten, zoals gedefinieerd door de training.
Tot dusver heeft machinaal leren, door zich onder te dompelen in gegevens die zijn verzameld op het internet, AI’s in staat gesteld enorme sprongen te maken in het samenstellen van goed gestructureerde, coherente antwoorden op menselijke vragen. Tegelijkertijd wordt de onderliggende computerverwerking die machinaal leren mogelijk maakt steeds sneller, beter en gespecialiseerder. Sommige wetenschappers geloven dat binnen een decennium die verwerkingskracht, gecombineerd met kunstmatige intelligentie, deze machines in staat zal stellen gevoelig te worden, zoals mensen, en een gevoel van eigenwaarde te hebben.
Dan wordt het spannend. En daarom stellen veel onderzoekers dat we moeten uitzoeken hoe we nu, in plaats van later, vangrails kunnen opleggen. Zolang AI-gedrag gecontroleerd wordt, kan het gecontroleerd worden.
Maar als de munt aan de andere kant valt, zegt zelfs de medeoprichter van OpenAI dat het wel eens heel slecht zou kunnen aflopen.
Foomsday?
Dit onderwerp ligt al jaren op tafel. Een van de beroemdste debatten over dit onderwerp vond 11 jaar geleden plaats tussen AI-onderzoeker Eliezer Yudkowsky en de econoom Robin Hanson. De twee bespraken de mogelijkheid van het bereiken van “foom” – wat blijkbaar staat voor “Fast Onset of Overwhelming Mastery” – het punt waarop AI exponentieel slimmer wordt dan mensen en in staat is zichzelf te verbeteren. (De afleiding van de term “foom” is discutabel.)
“Eliezer en zijn volgelingen geloven dat het onvermijdelijk is dat AI’s zonder waarschuwing ‘foom’ gaan, wat betekent dat je op een dag een AGI [kunstmatige algemene intelligentie] bouwt en uren of dagen later het ding zichzelf recursief heeft verbeterd tot goddelijke intelligentie en vervolgens de wereld opeet. Is dit realistisch? twitterde Perry Metzger, een computerwetenschapper die actief is in de AI-gemeenschap, onlangs.
Metzger betoogde dat zelfs wanneer computersystemen een niveau van menselijke intelligentie bereiken, er nog genoeg tijd is om eventuele slechte uitkomsten af te wenden. “Is ‘foom’ logisch mogelijk? Misschien. Ik ben er niet van overtuigd,” zei hij. “Is het in de echte wereld mogelijk? Ik weet vrij zeker van niet. Gaat er op lange termijn diep bovenmenselijke AI komen? Ja, maar geen ‘foom’.”
Een andere prominente figuur, Yann Le Cun, verhief ook zijn stem en beweerde dat het “volstrekt onmogelijk” is dat de mensheid een AI-overname meemaakt.” Laten we het hopen.
