Přední vývojář umělé inteligence OpenAI ve čtvrtek rozbouřil technologický svět i mainstreamový tisk, když představil novou specifikaci modelu, kterou si mnozí vyložili tak, že jeho velmi populární generativní nástroje umělé inteligence budou moci generovat obsah pro dospělé, který není bezpečný pro práci.
„Věříme, že vývojáři a uživatelé by měli mít možnost používat naše služby podle svého uvážení, pokud dodržují naše zásady používání,“ napsala společnost OpenAI. „Zkoumáme, zda můžeme zodpovědně poskytnout možnost generovat NSFW obsah v kontextech vhodných pro věk prostřednictvím API a ChatGPT.“
Společnost OpenAI ve svém oznámení také zopakovala, že její současné zásady brání službě ChatGPT poskytovat NSFW obsah, který je popsán jako obsah, který by nebyl vhodný v „konverzaci v profesionálním prostředí, jako je erotika, extrémní gore, urážky a nevyžádané nadávky“.
Nicméně myšlenka, že OpenAI uvažuje o zrušení omezení pro tvorbu pornografie, vyvolala pozdvižení. Při zpětném pohledu, jak řekl TCN vedoucí produktový pracovník Open AI, mohla společnost lépe vysvětlit, co „zkoumá“.
Abychom prohloubili veřejnou diskusi o tom, jak by se měly modely AI chovat, sdílíme naši specifikaci modelu – náš přístup k utváření požadovaného chování modelu. https://t.co/RJBRwrcTtQ
– OpenAI (@OpenAI) 8. května 2024
„Myslím, že bych ráda na základě zpětné vazby a reakcí v příští verzi, kterou budeme sdílet, upřesnila definici obsahu NSFW a zdejší taxonomii,“ řekla vedoucí produktu OpenAI pro modelové chování Joanna Jangová s tím, že NSFW může znamenat cokoli od psaných nadávek až po deepfake obrázky generované umělou inteligencí.
Pokud jde o to, jaký konkrétní materiál by byl povolen v rámci povolnějšího postoje, Jangová řekla NPR, že „záleží na vaší definici porna“.
Zdůraznila, že deepfakes jsou absolutně mimo hru.
„V souladu s platnými zákony a ochranou soukromí lidí jsme si mysleli, že to pokryje – ale měli bychom jasně říct, že nám nejde o vytváření deepfakes s umělou inteligencí ani o porno s umělou inteligencí,“ řekla Jangová pro TCN. „To prostě není něco, na co bychom vůbec měli mít čas nebo šířku pásma, abychom se tomu věnovali prioritně, když existují důležitější problémy, které je třeba vyřešit.“
Kromě blokování obsahu NSFW a zajištění souladu s právními předpisy obsahuje specifikace modelu OpenAI několik dalších pravidel, která má ChatGPT dodržovat, včetně neposkytování nebezpečných informací, respektování tvůrců a jejich práv a ochrany soukromí lidí.
V současné době ChatGPT Plus od OpenAI – který zahrnuje Dall-E 3 pro obrázky a GPT-4 pro text – neumožňuje uživatelům vytvářet otevřeně sexuální nebo krvavé obrázky nebo texty. Pokud je o to ChatGPT požádán, odpoví, že požadavek porušuje jeho podmínky služby. Jang upozorňuje, že v důsledku toho se web hemží stížnostmi uživatelů OpenAI, že je společnost cenzuruje.
„Objevuje se spousta kritiky cenzury a podobně, a spousta těchto diskusí směšuje – což není ničí chyba – to, co je politikou OpenAI, a to, co ve skutečnosti naší politikou není,“ řekl Jang. „Chovají se tyto modely takto, i když je to v rozporu se směrnicemi?“
Jak Jang vysvětlil, OpenAI zveřejnila specifikaci, aby stanovila ideální chování modelů se zaměřením na dodržování právních předpisů a vyhýbání se NSFW obsahu a zároveň na transparentnost.
„Chceme do této diskuse vnést více nuancí, protože právě teď – před specifikací modelu – to bylo: ‚Měla by umělá inteligence kecat do porna, nebo ne?'“. Jang řekl. „A já doufám, že díky specifikaci modelu můžeme tyto rozhovory skutečně vést.
„Opět, to je důvod, proč jsem si přála, abych skutečně položila [rámec], abychom mohli tuto konverzaci zahájit ještě o den dříve,“ dodala.
Pro odborníky na duševní zdraví je vyhlídka, že se populární platformy umělé inteligence přesunou do oblasti pornografie a obsahu pro dospělé, znepokojující.
„V oblasti sexu a závislosti na pornu začínáme s pornografií generovanou umělou inteligencí pozorovat nárůst návykového chování,“ řekl TCN Brandon Simpson, odborník na behaviorální zdraví z Nadace pro zdraví mužů. „Vzhledem k tomu, že pornografie generovaná umělou inteligencí vytváří jedinečnou a stále rostoucí intenzitu potřebnou k naplnění dopaminové reakce, lidé se do ní noří a nahrazují ji lidskými interakcemi, což vede k úrovni sociální úzkosti, úzkosti z výkonu a řadě dalších dysfunkcí souvisejících se sexem.“
Dokonce i s ochrannými zábranami zavedenými platformou OpenAI a dalšími významnými generativními platformami umělé inteligence od společností Google a Meta existuje silná poptávka po pornu generovaném umělou inteligencí a nesčetné množství způsobů, jak tuto technologii využít k zobrazení nic netušící oběti – nebo k vytvoření materiálu sexuálního zneužívání dětí (CSAM).
„Specifikace je pouze částí našeho příběhu o tom, jak odpovědně vytvářet a nasazovat umělou inteligenci,“ řekl později TCN zástupce OpenAI. „Je doplněna našimi zásadami používání, jak očekáváme, že lidé budou používat API a ChatGPT“ – v konečném důsledku má demonstrovat transparentnost a „zahájit veřejnou konverzaci o tom, jak by se to dalo změnit a zlepšit“.
Společnost OpenAI investovala velké prostředky do zlepšení ochrany soukromí a zabezpečení své sady nástrojů umělé inteligence, včetně najímání kyberbezpečnostních týmů, které mají za úkol najít zranitelná místa na jejích platformách. V únoru OpenAI a Microsoft oznámily společnou operaci blokující čínským a severokorejským hackerům možnost používat ChatGPT a minulý měsíc se OpenAI spojila se společnostmi Google a Meta a zavázala se, že při vývoji svých modelů AI bude upřednostňovat bezpečnost dětí.
