Nebezpečí generativní umělé inteligence byla opět tématem jednání světových lídrů na vysoké úrovni, když se generální tajemník OSN připojil k rostoucímu sboru hlasů volajících po regulaci této technologie.
„Poplašné signály ohledně nejnovější formy umělé inteligence, generativní AI, jsou ohlušující a nejhlasitěji je slyšet od vývojářů, kteří ji navrhli,“ řekl António Guterres na pondělní tiskové konferenci. „Vědci a odborníci vyzvali svět, aby jednal, a prohlásili umělou inteligenci za existenční hrozbu pro lidstvo, která se vyrovná riziku jaderné války.“
„Tato varování musíme brát vážně,“ řekl generální tajemník OSN.
Guterresovy komentáře přišly ve stejný den, kdy OSN vydala zprávu „Informační integrita na digitálních platformách“, která zdůrazňuje potřebu zodpovědného využívání UI a varuje před používáním deepfakes v konfliktních zónách.
Evropský parlament dnes také schválil něco, co označuje za „vůbec první legislativu o umělé inteligenci na světě“.
Tvoříme historii tím, že utváříme naši budoucnost.
Právě o tom je dnešní průlomové hlasování o vůbec první legislativě na světě AI
Jde o to, aby se Evropa ujala vedení v oblasti digitálních inovací. pic.twitter.com/jICNwcX9hy
– Roberta Metsola (@EP_President) 14. června 2023
Ačkoli je umělá inteligence pro Guterrese zásadním problémem, neměl by podle generálního tajemníka nástup umělé inteligence odvádět pozornost od škod, které digitální technologie již způsobují po celém světě, a to vzhledem k nárůstu nenávistných projevů a dezinformací na internetu.
„Šíření nenávisti a lží v digitálním prostoru nyní způsobuje vážné globální škody,“ řekl Guterres. „Podněcuje to konflikty, smrt a ničení. Ohrožuje demokracii a lidská práva. Podkopává veřejné zdraví a opatření v oblasti klimatu, a to hned.“
Guterres uvedl, že vytvoří a jmenuje členy poradního sboru pro umělou inteligenci, který se bude zabývat iniciativami souvisejícími s umělou inteligencí. V radě by byli odborníci na umělou inteligenci a vědci OSN z Mezinárodní telekomunikační unie (ITU) a Organizace pro výchovu, vědu a kulturu (UNESCO).
Generální tajemník rovněž uvedl, že by byl pro vznik agentury pro umělou inteligenci inspirované Mezinárodní agenturou pro atomovou energii.
Mezinárodní agentura pro atomovou energii (MAAE) byla založena v roce 1957 a je orgánem OSN, jehož úkolem je dohlížet na celosvětové jaderné aktivity.
„Výhodou MAAE je, že jde o velmi solidní instituci založenou na znalostech a zároveň, i když omezeně, má určité regulační funkce,“ řekl Guterres. „Domnívám se tedy, že se jedná o model, který by mohl být velmi zajímavý.“
Generální ředitel OpenAI Sam Altman při výpovědi před výborem pro soudnictví amerického Senátu podobně vyzval k vytvoření vládního úřadu, který by měl na starosti stanovování standardů pro vývoj umělé inteligence.
„Vytvořil bych novou agenturu, která by udělovala licence jakýmkoli snahám přesahujícím určitý rozsah schopností a která by mohla tuto licenci odebrat a zajistit dodržování bezpečnostních standardů,“ řekl Altman a dodal, že tato budoucí agentura by měla vyžadovat nezávislé audity jakékoli technologie umělé inteligence.
Generální tajemník je sice příznivcem nové mezinárodní agentury, přiznal však nedostatek investic OSN do veřejné správy, což znamená, že jakákoli akce by vyžadovala iniciativu členských států a dobrou vůli zúčastněných stran.
„Dnes cítíme, jak obtížné je pro státy a mezinárodní organizace konkurovat z vědeckého a technického hlediska platformám, které mezitím získaly obrovský potenciál a obrovské znalosti,“ řekl Guterres.
V návaznosti na březnové spuštění systému GPT-4 společnosti OpenAI vyzval institut Future of Life Institute v online petici k šestiměsíční pauze ve výcviku systémů umělé inteligence. Dopis podepsaly osobnosti technologického průmyslu, včetně generálního ředitele společnosti Tesla Elona Muska a spoluzakladatele společnosti Apple Steva Wozniaka.
