Byl to příběh o firemní špionáži, který by nevymyslel ani skutečný lidský scénárista. Společnost OpenAI, která v loňském roce vyvolala celosvětovou posedlost umělou inteligencí, se ocitla na titulních stranách novin v souvislosti s náhlým odvoláním a posléze opětovným nástupem Sama Altmana, generálního ředitele společnosti.
I když se Altman vrátil tam, kde začínal, zůstává vířící mrak otázek, včetně toho, co se stalo v zákulisí.
Někteří popisují tento chaos jako bitvu na úrovni seriálu HBO „Nástupnictví“ nebo „Hry o trůny“. Jiní spekulovali, že to bylo proto, že Altman přesunul svou pozornost na jiné společnosti, jako je Worldcoin.
Ale nejnovější a nejpřesvědčivější teorie říká, že byl vyhozen kvůli jedinému dopisu: Q.
Nejmenované zdroje agentuře Reuters sdělily, že technická ředitelka OpenAI Mira Muratiová uvedla, že impulsem pro krok proti Altmanovi, který byl proveden bez účasti předsedy představenstva Grega Brockmana, jenž následně na protest z OpenAI odstoupil, byl významný objev – popsaný jako „Q Star“ nebo „Q*“.
Co je proboha „Q*“ a proč by nás to mělo zajímat? Jde o nejpravděpodobnější cesty, kterými by se vývoj umělé inteligence mohl dále ubírat.
Odhalení tajemství Q*
Záhadný Q*, který uvedla technická ředitelka společnosti OpenAI Mira Murati, vedl v komunitě AI k bujarým spekulacím. Tento termín by mohl odkazovat na jednu ze dvou různých teorií: Q-learning nebo algoritmus Q* z Maryland Refutation Proof Procedure System (MRPPS). Pochopení rozdílu mezi nimi je klíčové pro pochopení potenciálního dopadu Q*.
Teorie 1: Q-Learning
Q-learning je typem posilovacího učení, tedy metody, kdy se umělá inteligence učí rozhodovat metodou pokusů a omylů. Při Q-learningu se agent učí činit rozhodnutí odhadem „kvality“ kombinací akčních stavů
Zdroj: Simplilearn
Rozdíl mezi tímto přístupem a současným přístupem OpenAI – známým jako Reinforcement Learning Through Human Feedback neboli RLHF – je ten, že se nespoléhá na interakci s člověkem a vše dělá sám.
Schéma RLHF. Obrázek: OpenAI
Představte si robota, který se pohybuje v bludišti. Pomocí Q-learningu se naučí najít nejrychlejší cestu k východu zkoušením různých tras, přičemž obdrží kladné odměny stanovené vlastním návrhem, když se přiblíží k východu, a záporné odměny, když narazí na slepou uličku. Postupem času si robot na základě pokusů a omylů vytvoří strategii („Q-tabulku“), která mu napoví, jakou akci je nejlepší provést z každé pozice v bludišti. Tento proces je autonomní a spoléhá na interakci robota s okolím.
Pokud by robot používal RLHF, mohl by člověk místo toho, aby na vše přišel sám, zasáhnout, když robot dosáhne křižovatky, a ukázat, zda byla volba robota moudrá, či nikoli.
Tato zpětná vazba by mohla mít podobu přímých příkazů („zahni doleva“), návrhů („zkus cestu s více světla“) nebo hodnocení volby robota („dobrý robot“ nebo „špatný robot“).
V Q-learningu představuje Q* žádoucí stav, ve kterém agent přesně zná nejlepší akci, kterou má v každém stavu provést, aby maximalizoval svou celkovou očekávanou odměnu v čase. V matematickém vyjádření splňuje Bellmanovu rovnici.
V květnu zveřejnila společnost OpenAI článek, ve kterém uvádí, že „vycvičila model, který dosáhl nového stavu v řešení matematických problémů tím, že odměňoval každý správný krok uvažování namísto prostého odměňování správné konečné odpovědi“. Pokud by k dosažení tohoto cíle použili Q-learning nebo podobnou metodu, uvolnila by se tím celá řada nových problémů a situací, které by ChatGPT dokázal nativně řešit.
Teorie 2: Algoritmus Q* z MRPPS
Algoritmus Q* je součástí systému MRPPS (Maryland Refutation Proof Procedure System). Jedná se o sofistikovanou metodu pro dokazování tvrzení v umělé inteligenci, zejména v systémech pro zodpovídání otázek.
„Algoritmus Q∗ generuje uzly v prohledávacím prostoru, přičemž k usměrnění prohledávání používá sémantické a syntaktické informace. Sémantika umožňuje ukončit cesty a prozkoumat plodné cesty,“ píše se ve výzkumné práci.
Obrázek: Jack Minker
Jedním ze způsobů, jak tento proces vysvětlit, je představit si fiktivního detektiva Sherlocka Holmese, který se snaží vyřešit složitý případ. Shromažďuje stopy (sémantické informace) a logicky je spojuje (syntaktické informace), aby dospěl k závěru. Algoritmus Q* funguje v umělé inteligenci podobně, kombinuje sémantické a syntaktické informace, aby se orientoval ve složitých procesech řešení problémů.
To by znamenalo, že OpenAI je o krok blíže k modelu schopnému chápat realitu nad rámec pouhých textových podnětů a více se blíží fiktivnímu J.A.R.V.I.S (pro GenZers) nebo Netopýřímu počítači (pro boomers).
Takže zatímco Q-learning je o tom, jak naučit AI učit se z interakce s okolím, algoritmus Q je spíše o zlepšení deduktivních schopností AI. Pochopení těchto rozdílů je klíčem k docenění potenciálních důsledků OpenAI „Q“. Obě metody mají obrovský potenciál pro rozvoj umělé inteligence, ale jejich aplikace a důsledky se výrazně liší.
To vše jsou samozřejmě jen spekulace, protože společnost OpenAI tento koncept nevysvětlila a ani nepotvrdila či nevyvrátila zvěsti o tom, že Q* – ať už je to cokoli – skutečně existuje.
Potenciální důsledky „Q „*
Pověst o „Q*“ společnosti OpenAI by mohla mít rozsáhlý a různorodý dopad. Pokud se jedná o pokročilou formu učení Q, mohlo by to znamenat skok ve schopnosti umělé inteligence učit se a samostatně se přizpůsobovat ve složitých prostředích a řešit tak celou řadu nových problémů. Takový pokrok by mohl rozšířit aplikace AI v oblastech, jako jsou autonomní vozidla, kde je rozhodování ve zlomku sekundy na základě neustále se měnících podmínek klíčové.
Na druhou stranu, pokud „Q“ souvisí s algoritmem Q z MRPPS, mohlo by to znamenat významný krok vpřed v deduktivním uvažování a schopnostech AI řešit problémy. To by mělo dopad zejména v oborech vyžadujících hluboké analytické myšlení, jako je právní analýza, interpretace složitých dat, a dokonce i lékařská diagnostika.
Bez ohledu na jeho přesnou povahu představuje „Q*“ potenciálně významný krok ve vývoji AI, takže skutečnost, že je jádrem existenciální debaty OpenAI, vyznívá pravdivě. Mohl by nás přiblížit k systémům AI, které budou intuitivnější, efektivnější a schopné zvládat úkoly, které v současnosti vyžadují vysokou úroveň lidských znalostí. S takovým pokrokem však přicházejí otázky a obavy týkající se etiky AI, bezpečnosti a důsledků stále výkonnějších systémů AI v našem každodenním životě a ve společnosti obecně.
Dobré a špatné vlastnosti Q*
Potenciální přínosy Q*:
Lepší řešení problémů a vyšší efektivita: Pokud je Q* pokročilou formou Q-learningu nebo algoritmu Q*, mohlo by to vést k vytvoření systémů umělé inteligence, které by efektivněji řešily složité problémy, což by bylo přínosem pro odvětví, jako je zdravotnictví, finance a správa životního prostředí.
Lepší spolupráce mezi lidmi a AI: UI s lepšími schopnostmi učení nebo dedukce by mohla rozšířit lidskou práci, což by vedlo k efektivnější spolupráci ve výzkumu, inovacích a každodenních úkolech.
Pokrok v automatizaci: „Q*“ by mohl vést k sofistikovanějším automatizačním technologiím, což by zvýšilo produktivitu a potenciálně vytvořilo nová odvětví a pracovní příležitosti.
Rizika a obavy:
Etické a bezpečnostní otázky: S tím, jak se systémy umělé inteligence stávají pokročilejšími, je stále náročnější zajistit jejich etické a bezpečné fungování. Hrozí riziko nezamýšlených důsledků, zejména pokud akce AI nejsou v dokonalém souladu s lidskými hodnotami.
Ochrana soukromí a bezpečnost: S vyspělejší AI se stupňují obavy o soukromí a bezpečnost dat. Systémy AI schopné hlubšího porozumění a interakce s daty by mohly být zneužity. Představte si tedy AI, která zavolá vašemu romantickému partnerovi, když ho podvádíte, protože ví, že podvádění je špatné.
Ekonomické dopady: Zvýšená automatizace a schopnosti umělé inteligence by mohly vést k přesunu pracovních míst v určitých odvětvích, což by si vyžádalo společenské úpravy a nové přístupy k rozvoji pracovní síly. Pokud umělá inteligence zvládne téměř vše, proč mít lidské pracovníky?
Nesoulad mezi UI a pracovníky: Riziko, že si systémy UI vyvinou cíle nebo metody fungování, které nejsou v souladu s lidskými záměry nebo blahobytem, což může vést ke škodlivým důsledkům. Představte si robota na úklid domácnosti, který je posedlý pořádkem a neustále vyhazuje vaše důležité papíry? Nebo zcela eliminuje tvůrce nepořádku?
Mýtus AGI
Jak si stojí údajný Q* společnosti OpenAI na pozadí snahy o vytvoření umělé obecné inteligence (AGI) – svatého grálu výzkumu umělé inteligence?
AGI označuje schopnost stroje chápat, učit se a uplatňovat inteligenci v různých úlohách, podobně jako lidské kognitivní schopnosti. Je to forma umělé inteligence, která dokáže zobecnit učení z jedné oblasti do druhé, čímž prokazuje skutečnou přizpůsobivost a všestrannost.
Bez ohledu na to, zda je Q pokročilou formou Q-learningu nebo se vztahuje k algoritmu Q, je nezbytné pochopit, že se to nerovná dosažení AGI. Zatímco „Q*“ může představovat významný krok vpřed v konkrétních schopnostech umělé inteligence, AGI zahrnuje širší škálu dovedností a porozumění.
Dosažení AGI by znamenalo vyvinout umělou inteligenci, která by dokázala vykonávat jakýkoli intelektuální úkol, který dokáže člověk – což je nepolapitelný milník.
Stroj, který dosáhl úrovně Q, si není vědom své vlastní existence a zatím nedokáže uvažovat za hranicemi svých předtréninkových dat a algoritmů nastavených člověkem. Takže ne, navzdory tomu, co se o něm říká, „Q“ ještě není předzvěstí našich vládců umělé inteligence; je to spíše chytrý toustovač, který se naučil sám si mazat chleba.
Co se týče AGI, která předznamenává konec civilizace, možná přeceňujeme svůj význam v kosmickém pořadí. Q* společnosti OpenAI je možná o krok blíže k umělé inteligenci našich snů (nebo nočních můr), ale není to ještě AGI, která bude přemýšlet o smyslu života nebo o své vlastní křemíkové existenci.
Nezapomeňte, že je to ta samá OpenAI, která opatrně pozoruje svůj ChatGPT jako rodič pozorující batole s fixem – je hrdá, ale neustále se obává, že bude kreslit po zdech lidstva. Zatímco „Q*“ je skok, AGI zůstává o další krok dál a zeď lidstva je prozatím v bezpečí.
