De gevaren van generatieve AI waren opnieuw het onderwerp van discussies op hoog niveau onder wereldleiders, toen de secretaris-generaal van de Verenigde Naties zich aansloot bij een groeiend koor van stemmen die oproepen tot regulering van de technologie.
“De alarmbellen over de nieuwste vorm van kunstmatige intelligentie, generatieve AI, zijn oorverdovend, en ze klinken het luidst vanuit de ontwikkelaars die het hebben ontworpen,” zei António Guterres maandag in een persconferentie. “De wetenschappers en experts hebben de wereld opgeroepen om in actie te komen en verklaren AI tot een existentiële bedreiging voor de mensheid, vergelijkbaar met het risico van een kernoorlog.”
We moeten deze waarschuwingen serieus nemen”, zei de secretaris-generaal van de VN.
De opmerkingen van Guterres kwamen op dezelfde dag dat de VN een rapport uitbracht, “Informatie-integriteit op digitale platforms”, waarin de noodzaak van verantwoord AI-gebruik wordt onderstreept en waarin wordt gewaarschuwd voor het gebruik van deepfakes in conflictgebieden.
Vandaag nam het Europees Parlement ook wat het omschrijft als “de allereerste AI-wetgeving ter wereld” aan.
Geschiedenis schrijven door onze toekomst vorm te geven.
Dat is waar de baanbrekende stemming van vandaag over ’s werelds allereerste AI wetgeving over gaat.
Het gaat erom dat Europa het voortouw neemt op het gebied van digitale innovatie. pic.twitter.com/jICNwcX9hy
– Roberta Metsola (@EP_President) Juni 14, 2023
Hoewel kunstmatige intelligentie een belangrijk aandachtspunt is voor Guterres, zei de secretaris-generaal dat de komst van AI niet mag afleiden van de schade die digitale technologie wereldwijd al aanricht, gezien de toename van haatzaaiende taal en verkeerde informatie online.
“De proliferatie van haat en leugens in de digitale ruimte veroorzaakt nu wereldwijd ernstige schade,” zei hij. “Het voedt nu conflicten, dood en vernietiging. Het bedreigt nu de democratie en de mensenrechten. Het ondermijnt nu de volksgezondheid en klimaatmaatregelen.”
Guterres zei dat hij een adviesraad voor AI zou oprichten om AI-gerelateerde initiatieven te behandelen. De raad zou bestaan uit experts op het gebied van kunstmatige intelligentie en VN-wetenschappers van de Internationale Telecommunicatie-Unie (ITU) en de Organisatie voor Onderwijs, Wetenschap en Cultuur (UNESCO).
De Secretaris-Generaal zei ook dat hij voorstander zou zijn van een agentschap voor kunstmatige intelligentie, geïnspireerd op het Internationaal Atoomagentschap.
De Internationale Organisatie voor Atoomenergie (IAEA) werd opgericht in 1957 en is een orgaan van de Verenigde Naties dat belast is met het toezicht op wereldwijde nucleaire activiteiten.
“Het voordeel van de IAEA is dat het een zeer solide, op kennis gebaseerde instelling is en tegelijkertijd, ook al is het beperkt, een aantal regulerende functies heeft,” zei Guterres. “Dus ik denk dat dit een model is dat heel interessant kan zijn.”
OpenAI CEO Sam Altman, die getuigde voor de Amerikaanse Senaatscommissie voor Justitie, riep op vergelijkbare wijze op tot de oprichting van een overheidsbureau dat belast is met het vaststellen van standaarden voor de ontwikkeling van kunstmatige intelligentie.
“Ik zou een nieuw agentschap oprichten dat licenties afgeeft voor elke inspanning boven een bepaalde schaal van capaciteiten en dat die licentie kan intrekken en ervoor kan zorgen dat de veiligheidsnormen worden nageleefd”, zei Altman, eraan toevoegend dat het agentschap onafhankelijke audits van elke AI-technologie zou moeten eisen.
Maar hoewel de secretaris-generaal voorstander is van een nieuw internationaal agentschap, erkende hij een gebrek aan VN-investeringen in openbaar bestuur, wat betekent dat elke actie het initiatief van lidstaten en de goodwill van de betrokken partijen zou vereisen.
“Vandaag voelen we hoe moeilijk het is voor staten en internationale organisaties om te concurreren vanuit wetenschappelijk en technisch oogpunt, met de platformen die ondertussen een enorm potentieel en een enorme kennis hebben verworven,” zei Guterres.
Na de lancering van OpenAI’s GPT-4 in maart, riep een online petitie van het Future of Life Institute op tot een pauze van zes maanden voor het trainen van AI-systemen. Hoogheden uit de technologie-industrie, waaronder Tesla CEO Elon Musk en Apple mede-oprichter Steve Wozniak, ondertekenden de brief.
