In een officiële verklaring van het Vaticaan op dinsdag luidde paus Franciscus de noodklok over de ontwrichtende mogelijkheden van kunstmatige intelligentie. De boodschap kwam als opmaat voor een aanstaande homilie, “Kunstmatige Intelligentie en Vrede”, voor Wereldvrededag op 21 september.
“De opmerkelijke vooruitgang op het gebied van kunstmatige intelligentie heeft een snel toenemende impact op de menselijke activiteit, het persoonlijke en sociale leven, de politiek en de economie,” zei Franciscus.
Franciscus riep op tot een open dialoog over AI en wat de opkomende technologie betekent voor de mensheid, en zei dat AI “begiftigd is met ontwrichtende mogelijkheden en ambivalente effecten.”
Het bericht over een door AI gegenereerde deepfake van paus Franciscus met een gezwollen wit Balenciaga-jasje en een met diamanten bezette halsketting heeft de paus misschien eindelijk bereikt.
Een deepfake is een steeds vaker voorkomende vorm van video- of audiocontent die gemaakt is met kunstmatige intelligentie en die valse gebeurtenissen afbeeldt, maar op een manier die heel moeilijk te identificeren is als zijnde vervalst.
Franciscus, die ooit aan ABC News vertelde dat hij nooit een computer gebruikte en de gelovigen vermaande om niet achter computers te zitten of zich op te sluiten in hun kantoren en te discussiëren als “toetsenbordstrijders”, was het onderwerp van meerdere deepfake afbeeldingen die eerder dit jaar viraal gingen. Op een door AI gegenereerde afbeelding liep de leider van de katholieke kerk over een catwalk in een regenboogkleurige doorschijnende cape.
Het onderwerp van de moderne paus gegenereerd door AI (midjourney) loopt voor ons uit de hand
Prompts in ALT pic.twitter.com/9hJyQP369E
– Javi Lopez ⛩️ (@javilopen) Maart 28, 2023
Om het gebruik van zijn technologie voor het verspreiden van deepfakes te stoppen – inclusief het neppe blinged-out uiterlijk van de paus – heeft het generatieve AI-kunstplatform Midjourney in maart zijn gratis proefversie beëindigd.
De paus drong aan op de noodzaak om kunstmatige intelligentie op verantwoorde wijze te ontwikkelen. Hij benadrukte de noodzaak van waakzaamheid om ervoor te zorgen dat kunstmatige intelligentie geen geweld en discriminatie aanwakkert, in het bijzonder gericht op kwetsbare en gemarginaliseerde gemeenschappen.
“Opdat kunstmatige intelligentie ten dienste kan staan van de mensheid en de bescherming van ons gemeenschappelijk huis, is het nodig dat ethische reflectie wordt uitgebreid naar de sfeer van onderwijs en recht,” zei Franciscus.
De woorden van Franciscus echoën uitspraken van de secretaris-generaal van de Verenigde Naties, die in juni waarschuwde tegen het gebruik van door ai-gegenereerde beelden om haat aan te wakkeren in conflictgebieden.
“De bescherming van de waardigheid van de persoon en de zorg voor een broederschap die daadwerkelijk openstaat voor de hele menselijke familie, zijn onmisbare voorwaarden voor technologische ontwikkeling om bij te dragen aan de bevordering van rechtvaardigheid en vrede in de wereld,” zei paus Franciscus.
