Připravte se: Umělá inteligence může způsobit vyhynutí lidstva.
V úterý stovky vedoucích představitelů a výzkumných pracovníků v oblasti umělé inteligence – včetně vedoucích pracovníků společností Microsoft, Google a OpenAI – vydaly střízlivé varování. Tvrdí, že technologie umělé inteligence, kterou vyvíjejí, může jednoho dne představovat skutečné a aktuální nebezpečí pro existenci lidstva. Vedle hrůz pandemií a jaderných válek je podle nich umělá inteligence společenským rizikem podobného rozsahu.
V dopise, který zveřejnilo Centrum pro bezpečnost umělé inteligence, nabídli odborníci na umělou inteligenci toto prohlášení, které se vyznačuje strohou stručností: „Zmírnění rizika vyhynutí v důsledku UI by mělo být globální prioritou vedle jiných rizik společenského rozsahu, jako jsou pandemie a jaderné války.“
To je vše, nic víc neříkají.
Zdroj: Center for AI Safety
Vyjádření vykresluje umělou inteligenci jako bezprostřední hrozbu, podobnou jaderné katastrofě nebo globální pandemii. Signatáři, tito mágové technologického průmyslu, však své zlověstné varování nerozvedli.
Jak přesně má tento scénář konce světa probíhat? Kdy si máme v kalendáři poznamenat, že nastane nástup našich robotických vládců? Proč by se umělá inteligence, vynález lidské inovace, obrátila proti svým tvůrcům? Od architektů umělé inteligence se ozývalo ticho a neposkytovali žádné odpovědi.
Ve skutečnosti nebyli tito vedoucí představitelé průmyslu o nic informativnější než chatbot s konzervovanou odpovědí. Zdá se, že v oblasti globálních hrozeb umělá inteligence náhle přeskočila frontu a v počtu vyhledávaných klíčových slov na Googlu předstihla změnu klimatu, geopolitické konflikty, a dokonce i invazi mimozemšťanů.
Vyhledávání umělé inteligence na Googlu ve srovnání s jinými globálními obavami, jako jsou války, invaze mimozemšťanů a klimatické změny. Obrázek: Google
Zajímavé je, že společnosti mají tendenci prosazovat regulace, pokud jsou v souladu s jejich zájmy. Lze to považovat za jejich způsob, jak říci: „Přejeme si mít podíl na utváření těchto předpisů“. Je to podobné, jako když liška žádá o nová pravidla v kurníku.
Je také pozoruhodné, že generální ředitel společnosti OpenAI Sam Altman prosazuje regulaci v USA. Přesto pohrozil, že opustí Evropu, pokud se politici na tomto kontinentu budou nadále snažit AI regulovat. „Budeme se snažit vyhovět,“ řekl Altman na panelu na University College London. „Pokud budeme moci vyhovět, vyhovíme. A pokud nebudeme moci, přestaneme fungovat.“
Je fér říci, že o pár dní později couvl a řekl, že OpenAI nemá v plánu opustit Evropu. Stalo se tak samozřejmě poté, co dostal příležitost promluvit si o této záležitosti s regulačními orgány během „velmi produktivního týdne“.
velmi produktivní týden rozhovorů v Evropě o tom, jak nejlépe regulovat umělou inteligenci! jsme nadšeni, že zde můžeme nadále působit, a samozřejmě nemáme v plánu odejít.
– Sam Altman (@sama) 26. května 2023
AI je riskantní, ale je to tak riskantní?
Potenciální rizika umělé inteligence nezůstala mezi odborníky bez povšimnutí. Již dříve otevřený dopis, který podepsalo 31 810 podporovatelů, včetně Elona Muska, Steva Wozniaka, Yuvala Harariho a Andrewa Yanga, vyzval k pozastavení tréninku výkonných modelů umělé inteligence.
„Tyto protokoly by měly zajistit, aby systémy, které se jimi řídí, byly nade vší pochybnost bezpečné,“ píše se v dopise a upřesňuje se, že „to neznamená pauzu ve vývoji umělé inteligence obecně, pouze ústup od nebezpečného závodu o stále větší nepředvídatelné černé skříňky modelů s emergentními schopnostmi.“
O problematice možného fomového vývoje umělé inteligence (kdy se umělá inteligence stane schopnou zdokonalovat své vlastní systémy, čímž zvýší své schopnosti natolik, že překoná lidskou inteligenci) se diskutuje již řadu let. Nicméně rychlé tempo dnešních změn spolu se značným mediálním pokrytím vyneslo tuto debatu do centra celosvětového zájmu
Zdroj: Columbia Journalism Review
To vyvolalo různé názory na to, jak umělá inteligence ovlivní (nikoli pouze může ovlivnit) budoucnost sociálních interakcí.
Někteří si představují utopickou éru, v níž spolu budou komunikovat sladěné UI a lidé a technologický pokrok bude vládnout. Jiní se domnívají, že se lidstvo přizpůsobí UI a v souvislosti s touto technologií vzniknou nová pracovní místa, podobně jako se zvýšil počet pracovních míst po vynálezu automobilu. Jiní však tvrdí, že AI má značnou šanci dozrát a stát se nekontrolovatelnou, což představuje pro lidstvo skutečnou hrozbu.
Do té doby je to ve světě AI jako obvykle. Sledujte svůj ChatGPT, Bard nebo Siri – možná je od ovládnutí světa dělí jen jedna aktualizace softwaru. Zatím se však zdá, že největší hrozbou pro lidstvo nejsou naše vlastní vynálezy, ale spíše náš bezmezný talent pro hyperbolu.
