Přes varovný výstřel, který zazněl po celém světě – otevřený dopis podepsaný stovkami vedoucích představitelů průmyslu, který prohlašuje umělou inteligenci za existenční hrozbu pro lidstvo – nový průzkum mezi více než 2 700 odborníky na umělou inteligenci vykresluje méně hrozivý obraz budoucnosti.
V rozsáhlém průzkumu AI Impacts, který byl proveden za pomoci výzkumníků z univerzit v Oxfordu, Berkeley a Bonnu, byli výzkumníci v oblasti umělé inteligence dotazováni na tempo pokroku v této oblasti a potenciální dopad pokročilých systémů umělé inteligence. Ačkoli byla shromážděna široká škála pohledů, pouze přibližně 5 % respondentů se domnívalo, že existuje vysoká pravděpodobnost zániku lidstva v důsledku AI.
To ostře kontrastuje s názory široké veřejnosti.
Průzkum ze srpna 2023 ukázal, že 61 % Američanů považuje AI za hrozbu pro lidstvo. K těmto obavám se připojili i vedoucí představitelé průmyslu, kteří podepsali dopis Centra pro bezpečnost AI, v němž se uvádí, že „zmírnění rizika vyhynutí v důsledku AI by mělo být globální prioritou“.
Paul Christiano, bývalý šéf pro sladění v OpenAI, odhadl 50% šanci, že AI skončí „katastrofou“. Mnozí prohlásili, že AI je hrozbou srovnatelnou s jadernou válkou nebo globální pandemií.
I přes tyto široce medializované pesimistické předpovědi se AI nadále vyvíjí. Společnosti se předhánějí ve vývoji pokročilejších systémů, přičemž generální ředitel společnosti OpenAI Sam Altman se vedle snahy o testování hranic této technologie zasazuje o regulaci.
Pokud jde o schopnosti AI, mnoho respondentů průzkumu předpovědělo, že AI dosáhne do 10 let významných tvůrčích milníků: například nakódování celé platební webové stránky od nuly nebo vytvoření písní k nerozeznání od dnešních hitů. Časové horizonty se však protáhly na delší dobu v případě výzev, jako je dokazování matematických teorémů.
Přesněji řečeno, možnost, že se strojová inteligence vysoké úrovně (HLMI) stane realitou, se přiblížila na 13 let, přičemž 50% pravděpodobnost úspěchu se předpovídá do roku 2047. Podobně se horizont plné automatizace práce (FAOL) – jedna z kontroverzních předpovědí Elona Muska – posunul o 48 let dříve, na rok 2116.
Na otázku týkající se schopnosti umělé inteligence vyrovnat se všem lidským schopnostem vědci předpovídají 50% šanci do roku 2047. To je o 13 let dříve než v případě podobného průzkumu v roce 2022.
Respondenti se rozdělili v názoru, zda by lidstvu více prospěl rychlejší nebo pomalejší pokrok.
Zajímavé je, že zatímco u systémů umělé inteligence v roce 2043 se očekává, že budou schopny najít nečekané způsoby, jak dosáhnout cílů, v lidskou schopnost vysvětlit takové jednání mají výzkumníci menší důvěru. Tato nejasnost v tom, jak rozhodování AI funguje, zdůrazňuje potřebu upřednostnit výzkum bezpečnosti AI – tento názor vyjádřilo 70 % respondentů.
Názory na to, zda lze AI v roce 2028 důvěřovat, že dokáže vysvětlit své vlastní uvažování, se lišily.
Značné obavy panují také v souvislosti s riziky, jako jsou dezinformace, nerovnost a masové sledování, které AI umožňuje.
Zatímco výzkumníci jsou celkově opatrně optimističtí, přibližně 40 % respondentů si myslí, že existuje minimální (nikoli nulová) šance na vyhynutí lidstva v důsledku pokročilé UI. Ačkoli tedy zabijáčtí roboti nehrozí, studium etiky a bezpečnosti AI zůstává kriticky důležité.
