Bývalý klíčový výzkumník společnosti OpenAI se domnívá, že existuje slušná šance, že umělá inteligence převezme kontrolu nad lidstvem a zničí ho.
„Myslím, že možná existuje něco jako 10-20% šance, že umělá inteligence převezme vládu, [přičemž] mnoho [nebo] většina lidí zemře, “ řekl Paul Christiano, který vedl tým pro vyrovnávání jazykových modelů v OpenAI, v podcastu Bankless. „Beru to zcela vážně.“
Christiano, který nyní stojí v čele neziskové organizace Alignment Research Center, jejímž cílem je sladit UI a systémy strojového učení s „lidskými zájmy“, uvedl, že se obává zejména toho, co se stane, až UI dosáhne logických a tvůrčích schopností člověka. „Celkově možná mluvíme o šanci 50/50 na katastrofu krátce poté, co budeme mít systémy na úrovni člověka,“ řekl.
Christiano je v dobré společnosti. Nedávno desítky vědců z celého světa podepsaly online dopis, v němž naléhají na OpenAI a další společnosti, které se předhánějí v budování rychlejších a chytřejších UI, aby stiskly tlačítko pauzy ve vývoji. Velké osobnosti od Billa Gatese až po Elona Muska vyjádřily obavy, že pokud nebude umělá inteligence kontrolována, představuje pro lidi zjevné existenční nebezpečí.
Nebuď zlý
Proč by se umělá inteligence měla stát zlem? V zásadě ze stejného důvodu jako člověk: výcvik a životní zkušenosti.
Stejně jako dítě se i umělá inteligence trénuje tím, že přijímá hory dat, aniž by věděla, co s nimi má dělat. Učí se tím, že se snaží dosáhnout určitých cílů pomocí náhodných akcí a nuluje „správné“ výsledky, jak je definuje trénink.
Strojové učení zatím díky tomu, že se ponořilo do dat nashromážděných na internetu, umožnilo umělé inteligenci udělat obrovské pokroky v sestavování dobře strukturovaných a souvislých odpovědí na lidské dotazy. Současně se zrychluje, zlepšuje a specializuje základní počítačové zpracování, které strojové učení pohání. Někteří vědci se domnívají, že do deseti let umožní tento výpočetní výkon v kombinaci s umělou inteligencí, aby se tyto stroje staly vnímavými jako lidé a měly smysl pro sebe sama.
V tu chvíli se věci začnou komplikovat. A to je důvod, proč mnoho vědců tvrdí, že musíme přijít na to, jak zavést ochranné zábrany nyní, a ne později. Dokud je chování umělé inteligence monitorováno, může být kontrolováno.
Ale pokud mince dopadne na druhou stranu, i spoluzakladatel OpenAI říká, že by to mohlo být velmi, velmi špatné.
Foomsday?
Toto téma se řeší už léta. Jedna z nejznámějších debat na toto téma proběhla před 11 lety mezi výzkumníkem umělé inteligence Eliezerem Yudkowskym a ekonomem Robinem Hansonem. Oba diskutovali o možnosti dosažení „foomu“ – což zřejmě znamená „rychlý nástup ohromujícího mistrovství“ – bodu, kdy se umělá inteligence stane exponenciálně chytřejší než člověk a schopná sebezdokonalování. (Odvození termínu „foom“ je sporné.)
„Eliezer a jeho akolyté věří, že je nevyhnutelné, aby umělá inteligence bez varování přešla do ‚foomu‘, což znamená, že jednoho dne postavíte AGI [umělou obecnou inteligenci] a o několik hodin nebo dní později se tato věc rekurzivně sama zdokonalí do inteligence podobné bohu a pak sežere svět. Je to reálné?“ Perry Metzger, počítačový vědec působící v komunitě AI, nedávno napsal na Twitteru.
Metzger tvrdil, že i když počítačové systémy dosáhnou úrovně lidské inteligence, stále je dost času na odvrácení případných špatných výsledků. „Je ‚foom‘ logicky možný? Možná. Nejsem o tom přesvědčen,“ uvedl. „Je to možné v reálném světě? Jsem si téměř jistý, že ne. Bude dlouhodobě existovat hluboce nadlidská umělá inteligence? Ano, ale ne ‚foom‘.“
Další významná osobnost, Yann Le Cun, rovněž pozvedl hlas a prohlásil, že je „naprosto nemožné,“ aby lidstvo zažilo převzetí moci umělou inteligencí.“ Doufejme, že ano.
