Skupina významných technologů, výzkumníků a dalších vlivných osobností vyzývá společnost OpenAI, aby pozastavila školení svého umělého nástroje ChatGPT.
Přední představitelé umělé inteligence – včetně Elona Muska, Steva Wozniaka a Andrewa Yanga – zřejmě podepsali otevřený dopis, v němž vyzývají k šestiměsíční pauze ve vývoji systémů umělé inteligence výkonnějších než GPT-4, současná verze generativního nástroje, která byla poprvé spuštěna v listopadu 2022.
V dopise autoři tvrdí, že pokud soukromá společnost nezastaví trénink své umělé inteligence nad rámec současné implementace GPT4, „vlády“ by si to měly vynutit.
„Vyzýváme všechny laboratoře umělé inteligence, aby okamžitě alespoň na 6 měsíců pozastavily výcvik systémů umělé inteligence výkonnějších než GPT-4. Tato pauza by měla být veřejná a ověřitelná a měla by zahrnovat všechny klíčové aktéry. Pokud se takovou pauzu nepodaří rychle zavést, měly by zasáhnout vlády a zavést moratorium,“ píše se v dopise.
Dopis v současné době vykazuje více než 1 100 podpisů. Někteří však zpochybňují, zda dopis skutečně podepsali všichni signatáři zvučných jmen. Mezi významná jména patří držitel Turingovy ceny Yoshua Bengio, Stuart Russell, ředitel Centra pro inteligentní systémy, generální ředitel Stability AI Emad Mostaque a spoluzakladatel společnosti Ripple Chris Larsen.
Mluvčí projektu uvedl, že nejstarší podpisy byly dvakrát zkontrolovány, ale že zobrazování jmen bylo pozastaveno kvůli velkému zájmu.
„Všichni přední signatáři na seznamu byli nezávisle ověřeni,“ řekl TCN viceprezident Future of Life Institute Anthony Aguirre. Dodal: „Udělat to pro celý seznam (který nyní značně přesahuje 30 000) přesahuje naše možnosti.“
V poznámce na stránkách se uvádí: „V seznamu je uvedeno, že se jedná o seznam, který je v rozporu se zákonem o ochraně osobních údajů: „Vzhledem k vysoké poptávce stále sbíráme podpisy, ale pozastavujeme jejich uvádění na list, aby naše ověřovací procesy mohly dohnat, co je třeba.“
Musk, jeden ze spoluzakladatelů OpenAI, v roce 2018 odstoupil z představenstva, ale údajně do projektu investoval 100 milionů dolarů.
Příchod GPT4 před dvěma týdny vyvolal jak nadšení – někteří jeho příchod ohlašovali jako důležitější než příchod ohně -, tak znepokojení mezi lidmi, kteří se obávají, že nekontrolovaný by mohl vyhladit lidstvo.
Dopis tvrdí, že systémy umělé inteligence s inteligencí, která je schopna konkurovat člověku, představují pro společnost a lidstvo značné riziko. Tvrdí, že je třeba se zaměřit na to, aby stávající systémy byly přesnější, bezpečnější, transparentnější, robustnější a důvěryhodnější, a zároveň urychlit vývoj systémů řízení umělé inteligence.
„Lidstvo se může těšit z prosperující budoucnosti s umělou inteligencí,“ uvedla zpráva s tím, že „společnost si dala pauzu v případě jiných technologií s potenciálně katastrofickými dopady na společnost. Můžeme tak učinit i zde. Užívejme si dlouhé léto s AI, nikoliv spěchejme nepřipraveni do pádu.“
Musk v reakci na tweet o petici odpověděl: „Přední vývojáři [umělé inteligence] toto varování nebudou brát v potaz, ale alespoň to bylo řečeno.“
Přední vývojáři AGI na toto varování nedbají, ale alespoň to bylo řečeno
– Elon Musk (@elonmusk) 29. března 2023
OpenAI zatím neodpověděla na žádost o komentář.
