Wiodący deweloper sztucznej inteligencji OpenAI podburzył w czwartek zarówno świat technologii, jak i prasę głównego nurtu, gdy wprowadził nową specyfikację modelu, którą wielu interpretowało jako oznaczającą, że jego niezwykle popularne generatywne narzędzia sztucznej inteligencji będą mogły generować treści dla dorosłych, które nie są bezpieczne dla pracy.
„Uważamy, że programiści i użytkownicy powinni mieć swobodę korzystania z naszych usług według własnego uznania, o ile przestrzegają naszych zasad użytkowania” – napisał OpenAI. „Badamy, czy możemy odpowiedzialnie zapewnić możliwość generowania treści NSFW w kontekstach odpowiednich dla wieku za pośrednictwem API i ChatGPT”.
W swoim oświadczeniu OpenAI powtórzyło również, że jego obecna polityka uniemożliwia ChatGPT serwowanie treści NSFW, opisanych jako treści, które nie byłyby odpowiednie w „rozmowie w środowisku zawodowym, takich jak erotyka, ekstremalna gore, obelgi i niechciane wulgaryzmy”.
Niemniej jednak pomysł, że OpenAI rozważa zniesienie ograniczeń w tworzeniu pornografii, podniósł brwi. Z perspektywy czasu, lider produktu Open AI mówi TCN, firma mogła lepiej wyjaśnić, co „badała”.
Aby pogłębić publiczną rozmowę o tym, jak powinny zachowywać się modele sztucznej inteligencji, udostępniamy naszą specyfikację modelu – nasze podejście do kształtowania pożądanego zachowania modelu. https://t.co/RJBRwrcTtQ
– OpenAI (@OpenAI) 8 maja 2024
„Myślę, że to, co chciałbym zrobić – w oparciu o opinie i reakcje, w następnej wersji, którą udostępnimy – to być bardziej precyzyjnym co do definicji treści NSFW i taksonomii niektórych osób” – powiedziała Joanna Jang, liderka produktu OpenAI ds. zachowania modelu, zauważając, że NSFW może oznaczać wszystko, od wulgaryzmów na piśmie po generowane przez sztuczną inteligencję fałszywe obrazy.
Jeśli chodzi o to, jakie konkretne materiały byłyby dozwolone w ramach bardziej liberalnego stanowiska, Jang powiedziała NPR, że „zależy to od definicji pornografii”.
Podkreśliła, że deepfake’i absolutnie nie wchodzą w grę.
„Przestrzegając obowiązujących przepisów i chroniąc prywatność ludzi, myśleliśmy, że to wystarczy – ale powinniśmy jasno powiedzieć, że nie zajmujemy się tworzeniem deepfake’ów AI ani pornografii AI” – powiedziała Jang w wywiadzie dla TCN. „To po prostu nie jest coś, na co powinniśmy mieć czas lub przepustowość, aby nadawać priorytet, gdy są ważniejsze problemy do rozwiązania.”
Oprócz blokowania treści NSFW i zapewniania zgodności z prawem, specyfikacja modelu OpenAI obejmuje kilka innych zasad, których ChatGPT ma przestrzegać, w tym niedostarczanie niebezpiecznych informacji, poszanowanie twórców i ich praw oraz ochronę prywatności ludzi.
Obecnie ChatGPT Plus OpenAI – który obejmuje Dall-E 3 dla obrazów i GPT-4 dla tekstu – nie pozwala użytkownikom na generowanie jawnie seksualnych lub krwawych obrazów lub tekstu. Gdy użytkownik zostanie o to poproszony, ChatGPT odpowie, że żądanie narusza warunki korzystania z usługi. W rezultacie Jang zwraca uwagę, że w sieci roi się od skarg użytkowników OpenAI, że firma ich cenzuruje.
„Istnieje wiele krytyki cenzury i tego, co masz, a wiele z tych dyskusji myli – bez niczyjej winy – to, co jest polityką OpenAI, z tym, co w rzeczywistości nie jest naszą polityką” – powiedział Jang. „Czy te modele zachowują się w ten sposób, mimo że jest to sprzeczne z wytycznymi?”.
Jak wyjaśnił Jang, OpenAI opublikowało specyfikację, aby określić idealne zachowania modeli, koncentrując się na zgodności z prawem i unikaniu treści NSFW przy jednoczesnym zachowaniu przejrzystości.
„Chcemy wnieść więcej niuansów do tej dyskusji, ponieważ teraz – przed specyfikacją modelu – brzmiało to: „Czy sztuczna inteligencja powinna tworzyć porno, czy nie?”” powiedział Jang. „Mam nadzieję, że dzięki specyfikacji modelu będziemy mogli faktycznie prowadzić te rozmowy.
„Ponownie, dlatego żałuję, że nie odłożyłam [ram], abyśmy mogli rozpocząć tę rozmowę nawet dzień wcześniej” – dodała.
Dla ekspertów ds. zdrowia psychicznego perspektywa popularnych platform AI wkraczających w sferę pornografii i treści dla dorosłych jest niepokojąca.
„W dziedzinie uzależnienia od seksu i pornografii, wraz z pornografią generowaną przez sztuczną inteligencję, zaczynamy dostrzegać wzrost zachowań uzależniających” – powiedział TCN Brandon Simpson, specjalista ds. zdrowia behawioralnego w Men’s Health Foundation. „Ponieważ pornografia generowana przez sztuczną inteligencję tworzy wyjątkową i stale rosnącą intensywność potrzebną do zaspokojenia reakcji dopaminowej, ludzie nurkują i zastępują ją interakcjami międzyludzkimi, co prowadzi do poziomu lęku społecznego, lęku przed wydajnością i wielu innych dysfunkcji seksualnych”.
Nawet przy zabezpieczeniach wprowadzonych przez OpenAI i inne główne platformy generatywnej sztucznej inteligencji od Google i Meta, istnieje duże zapotrzebowanie na porno generowane przez sztuczną inteligencję i niezliczone sposoby wykorzystania technologii do przedstawienia niczego niepodejrzewającej ofiary – lub wygenerowania materiałów przedstawiających seksualne wykorzystywanie dzieci (CSAM).
„Specyfikacja to tylko część naszej opowieści o tym, jak odpowiedzialnie budować i wdrażać sztuczną inteligencję” – powiedział później TCN przedstawiciel OpenAI. „Uzupełnieniem są nasze zasady użytkowania, sposób, w jaki oczekujemy, że ludzie będą korzystać z API i ChatGPT” – ostatecznie mające na celu wykazanie przejrzystości i „rozpoczęcie publicznej rozmowy o tym, jak można ją zmienić i ulepszyć”.
OpenAI zainwestowało znaczne środki w poprawę prywatności i bezpieczeństwa swojego pakietu narzędzi AI, w tym zatrudnianie czerwonych zespołów ds. cyberbezpieczeństwa w celu znalezienia luk w zabezpieczeniach swoich platform. W lutym OpenAI i Microsoft ogłosiły wspólną operację blokującą chińskich i północnokoreańskich hakerów przed korzystaniem z ChatGPT, a OpenAI dołączyło do Google i Meta w zeszłym miesiącu, zobowiązując się do priorytetowego traktowania bezpieczeństwa dzieci w rozwoju swoich modeli sztucznej inteligencji.
