Elon Musk, Steve Wozniak a více než 1 000 dalších podnikatelů, vědců a profesorů podepsali petici Institutu budoucnosti života za dočasné pozastavení vývoje umělé inteligence, jako je chatbot GPT-4. Co stojí za těmito obavami?
Chce Elon Musk zastavit vývoj umělé inteligence?
Elon Musk, Steve Wozniak a další podnikatelé, vědci a profesoři podepsali petici navrženou institutem Future of Life, která vyzývá k dočasnému zastavení vývoje umělé inteligence:
Vyzýváme laboratoře umělé inteligence, aby dočasně pozastavily trénink výkonných modelů!
Připojte se k výzvě FLI spolu s Yoshuou Bengiem, @stevewoz, @harari_yuval, @elonmusk, @GaryMarcus & více než 1000 dalších, kteří podepsali: https://t.co/3rJBjDXapc
Krátké o tom, proč po tom voláme – (1/8)
– Future of Life Institute (@FLIxrisk) 29. března 2023
V době psaní tohoto článku bylo shromážděno celkem 1 377 podpisů. Cílem tohoto dopisu je pozastavit nejméně na šest měsíců školení systémů, jako je GPT-4, nová verze slavného chatbota od společnosti OpenAI, kterou spoluzaložil Elon Musk.
Jde především o místo člověka ve vztahu k tomuto vývoji. V tomto smyslu je nastoleno několik otázek, jako jsou algoritmy, které mohou rozhodovat o tom, co vidíme na různých sociálních sítích, automatizace různých operací a vývoj myslí, které jsou inteligentnější než člověk:
Taková rozhodnutí by neměla být svěřována nevoleným vedoucím pracovníkům v oblasti technologií. Výkonné systémy umělé inteligence by měly být vyvíjeny až poté, co si budeme jisti, že jejich účinky budou pozitivní a jejich rizika zvládnutelná. Tato důvěra musí být dobře odůvodněná a musí se zvyšovat s rozsahem potenciálních účinků systému. „
Na druhou stranu petice vyzývá k tomu, aby se vývoj umělé inteligence přeorientoval na oblasti technologií, které jsou „bezpečné, interpretovatelné, transparentní, robustní, sladěné, důvěryhodné a spravedlivé“.
Je umělá inteligence skutečným nebezpečím?
Jako každá technologická inovace vyvolává i umělá inteligence otázky. Již v éře průmyslové revoluce lidé zpochybňovali své možné nahrazení stroji a fiktivní díla jako Terminátor rozpoutala vášně ohledně možného scénáře soudného dne, ale jsme skutečně na pokraji singularity? Tato otázka je rozdělující.
Tyto otázky nečekaly na to, až se objeví nedávný nárůst popularity umělé inteligence na sociálních sítích.
Je však skutečně třeba upozornit na etické otázky, zejména pokud jde o způsob, jakým se tyto systémy učí. Stejně jako při všech našich aktivitách na webu, i při každé interakci s umělou inteligencí získává informace o nás a my jimi zdarma krmíme algoritmy soukromých společností.
Je tedy zajímavé se ptát, jak tato data jsou a budou těmito společnostmi využívána, což může v současné době představovat racionálnější nebezpečí než fantazie o plně autonomní superumělé inteligenci.
Co se týče nahrazení lidí, stejně jako v jiných oblastech technologií, AI sice skutečně může některá pracovní místa zrušit, ale souběžně s tím jiná vytvoří. Stručně řečeno, jedná se o morálně neutrální nástroj, jehož nebezpečí či přínosy závisí na způsobu jeho využití.
