Geoffrey Hinton, een pionier op het gebied van kunstmatige intelligentie die bekend staat als een van de “godfathers of AI” heeft zijn functie bij Google neergelegd zodat hij openlijk zijn zorgen kan uiten over hoe A.I. de wereld grote schade kan toebrengen.
Hinton gaf in een interview met de New York Times toe dat hij nu deels spijt heeft van zijn levenswerk. Ondanks de nuttige toepassingen van A.I. vreest Hinton dat de technologie onverantwoordelijk kan worden gebruikt en onbedoelde gevolgen kan hebben.
Hinton vreest dat de concurrentie tussen techgiganten als Google en Microsoft om de meest geavanceerde A.I. te maken zal leiden tot een wereldwijde race die niet zal stoppen zonder een vorm van wereldwijde regulering. Hij wees er echter ook nadrukkelijk op dat hij vond dat Google verantwoordelijk heeft gehandeld in zijn onderzoek:
In de NYT van vandaag impliceert Cade Metz dat ik bij Google wegging om kritiek op Google te kunnen leveren. Eigenlijk ben ik weggegaan zodat ik kon praten over de gevaren van AI zonder na te denken over hoe dit Google raakt. Google heeft zeer verantwoordelijk gehandeld.
– Geoffrey Hinton (@geoffreyhinton) Mei 1, 2023
Hinton staat bekend om zijn popularisering van de theoretische ontwikkeling van neurale netwerken in 1986 en om het creëren van een netwerk dat beelden kan herkennen in 2012. Zijn werk was cruciaal voor de ontwikkeling van huidige generatieve kunstmodellen zoals Stable Diffusion en MidJourney, en legde de basis voor OpenAI’s komende inspanningen om GPT-4 geschikt te maken voor interactie met beelden.
Door zijn mogelijk late stap vergelijken velen hem met J. Robert Oppenheimer, een natuurkundeprofessor die de atoombom heeft gemaakt.
Een van de directe problemen waar Hinton op wijst is de proliferatie van nepbeelden, -video’s en -teksten online, waardoor de waarheid voor de gemiddelde persoon steeds moeilijker te onderscheiden zou kunnen zijn. Aangezien generatieve A.I. steeds beter wordt, zouden makers van valse en manipulatieve inhoud deze instrumenten kunnen gebruiken om mensen te misleiden en te verwarren.
Hinton is ook bezorgd over hoe A.I. in de toekomst banen kan beïnvloeden. Hoewel chatbots zoals ChatGPT momenteel een aanvulling vormen op menselijke werknemers, zouden ze uiteindelijk de plaats kunnen innemen van degenen die routinetaken uitvoeren, zoals persoonlijke assistenten, accountants en vertalers. Hoewel AI sommige monotone taken kan verlichten, kan het ook meer banen doen verdwijnen dan verwacht, waardoor het sociale evenwicht wordt verstoord.
Op lange termijn vreest Hinton dat toekomstige versies van de technologie een bedreiging vormen voor de mensheid vanwege het onverwachte gedrag dat zij kunnen leren van de grote hoeveelheden gegevens die zij analyseren. Dit wordt een probleem wanneer A.I. systemen hun eigen code mogen genereren en uitvoeren.
Deze langetermijnvisie werd ook bijzonder relevant toen andere sleutelfiguren op het gebied van A.I. begonnen te waarschuwen voor de mogelijkheid van een “foom”-scenario – waarin AI de menselijke intelligentie ver overtreft – en voor de gevolgen die dit zou kunnen hebben voor de maatschappelijke ontwikkeling.
Hinton is slechts een van de duizenden technische leiders en onderzoekers die zich zorgen maken over de exponentiële ontwikkeling van AI op verschillende gebieden (van erotische chats tot medische diagnostiek). Vorige maand won een open brief aan populariteit waarin leiders opriepen tot een pauze in de ontwikkeling van AI totdat er adequate controles zijn ingesteld. Hinton ondertekende deze niet.
De evolutie van Hintons standpunt over A.I. weerspiegelt een groeiend bewustzijn van de risico’s en uitdagingen die gepaard gaan met de snel evoluerende technologie. Voor Hinton was het aftreden van zijn levenswerk belangrijk om een scenario te voorkomen dat volgens hem elke dag dichterbij lijkt te komen.
“Kijk naar hoe het vijf jaar geleden was en hoe het nu is,” vertelde hij The New York Times. “Neem het verschil en verspreid het naar voren. Dat is beangstigend.”
*** Vertaald met www.DeepL.com/Translator (gratis versie) ***
