Een groep prominente technologen, onderzoekers en andere beïnvloeders roepen OpenAI op om de training van zijn kunstmatige tool, ChatGPT, op pauze te zetten.
Top AI-figuren – waaronder Elon Musk, Steve Wozniak en Andrew Yang – hebben blijkbaar een open brief ondertekend waarin wordt opgeroepen tot een pauze van zes maanden voor de ontwikkeling van AI-systemen die krachtiger zijn dan GPT-4, de huidige versie van de generatieve tool die in november 2022 werd gelanceerd.
In de brief stellen de auteurs dat als het particuliere bedrijf niet stopt met het trainen van zijn AI voorbij de huidige GPT4-implementatie, “overheden” de kwestie moeten afdwingen.
“Wij roepen alle AI-laboratoria op om de training van AI-systemen die krachtiger zijn dan GPT-4 onmiddellijk voor minstens 6 maanden te pauzeren. Deze pauze moet openbaar en controleerbaar zijn en alle belangrijke actoren omvatten. Als een dergelijke pauze niet snel kan worden ingevoerd, moeten regeringen ingrijpen en een moratorium instellen”, aldus de brief.
De brief heeft momenteel meer dan 1100 handtekeningen. Sommigen vragen zich echter af of alle belangrijke ondertekenaars de brief wel hebben ondertekend. Opvallende namen zijn Turing Prize winnaar Yoshua Bengio, Stuart Russell, directeur van het Center for Intelligent Systems, Stability AI CEO Emad Mostaque, en Ripple mede-oprichter Chris Larsen.
Een woordvoerder van het project zei dat de vroegste handtekeningen dubbel waren gecontroleerd, maar dat de weergave van de namen was gepauzeerd vanwege de grote vraag.
“Alle topondertekenaars op de lijst zijn onafhankelijk geverifieerd,” vertelde Future of Life Institute Vice President Anthony Aguirre aan TCN. Hij voegde eraan toe: “Dat doen voor de hele lijst (die nu ruim boven de 30.000 ligt) gaat onze capaciteit te boven.”
Een opmerking op de site luidt: “Vanwege de grote vraag verzamelen we nog steeds handtekeningen, maar pauzeren we hun verschijning op de brief zodat onze doorlichtingsprocessen een inhaalslag kunnen maken.”
Musk, een van de medeoprichters van OpenAI, stapte in 2018 uit het bestuur, maar investeerde naar verluidt $ 100 miljoen in het project.
De komst van GPT4 twee weken geleden heeft zowel opwinding veroorzaakt – waarbij sommigen zijn komst als belangrijker aankondigden dan de komst van vuur – als alarm onder mensen die zich zorgen maken dat het ongecontroleerd de mensheid zou kunnen vernietigen.
In de brief wordt beweerd dat AI-systemen met een menselijke intelligentie aanzienlijke risico’s voor de samenleving en de mensheid vormen. De brief stelt dat de focus moet liggen op het nauwkeuriger, veiliger, transparanter, robuuster en betrouwbaarder maken van bestaande systemen, terwijl de ontwikkeling van AI-governancesystemen moet worden versneld.
“De mensheid kan een bloeiende toekomst tegemoet gaan met AI”, aldus het rapport, waarbij wordt opgemerkt dat “de samenleving andere technologieën met mogelijk catastrofale gevolgen voor de samenleving op pauze heeft gezet. Dat kunnen we hier ook doen. Laten we genieten van een lange AI-zomer en ons niet onvoorbereid in de herfst storten.”
Op een tweet over de petitie reageerde Musk: “Vooraanstaande [kunstmatige intelligentie] ontwikkelaars zullen geen acht slaan op deze waarschuwing, maar het is tenminste gezegd.”
Vooraanstaande AGI-ontwikkelaars zullen geen acht slaan op deze waarschuwing, maar het is tenminste gezegd
– Elon Musk (@elonmusk) Maart 29, 2023
OpenAI heeft nog niet gereageerd op een verzoek om commentaar.
