Водещият разработчик на изкуствен интелект OpenAI развълнува технологичния свят и пресата в четвъртък, когато представи нова спецификация на модела, която мнозина изтълкуваха като означаваща, че неговите изключително популярни инструменти за генеративен изкуствен интелект ще могат да генерират съдържание за възрастни, което не е безопасно за работа.
„Вярваме, че разработчиците и потребителите трябва да разполагат с гъвкавост да използват нашите услуги, както намерят за добре, стига да спазват нашите политики за използване“, пише OpenAI. „Проучваме дали можем отговорно да предоставим възможност за генериране на NSFW съдържание в подходящ за възраст контекс чрез API и ChatGPT.“
В съобщението си OpenAI също така повтори, че сегашната ѝ политика не позволява на ChatGPT да предоставя NSFW съдържание, описано като съдържание, което не би било подходящо в „разговор в професионална среда, като еротика, екстремни сцени, обиди и непоискани ругатни“.
Въпреки това идеята, че OpenAI обмисля да премахне ограниченията за създаване на порнография, повдигна вежди. В ретроспекция, един от ръководителите на продукти на Open AI казва пред TCN, че компанията е можела по-добре да обясни какво „проучва“.
За да задълбочим публичния разговор за това как трябва да се държат моделите на изкуствен интелект, споделяме нашата спецификация на модела – нашия подход за оформяне на желаното поведение на модела. https://t.co/RJBRwrcTtQ
– OpenAI (@OpenAI) 8май 2024
„Мисля, че това, което бих искала да направя въз основа на обратната връзка и реакцията, в следващата версия, която ще споделим, е да бъдем по-точни по отношение на определението на някои хора за NSFW съдържание и таксономията тук“, каза Джоана Джанг, ръководител на продукта на OpenAI за поведение на моделите, като отбеляза, че NSFW може да означава всичко – от писмени ругатни до дълбоко фалшиви изображения, генерирани от изкуствен интелект.
Що се отнася до това какъв конкретен материал би бил разрешен при по-разрешителна позиция, Джанг заяви пред NPR, че това „зависи от вашето определение за порно“.
Тя подчерта, че дълбоките фалшификати са абсолютно недопустими.
„Спазвайки приложимите закони и защитавайки неприкосновеността на личния живот на хората, смятахме, че това ще го покрие – но трябва да сме наясно, че не сме в това да създаваме AI deepfakes или AI porn“, каза Джанг пред TCN. „Това просто не е нещо, което би трябвало да имаме време или честотна лента да приоритизираме, когато има по-важни проблеми за решаване. „
В допълнение към блокирането на NSFW съдържание и осигуряването на съответствие с правните норми, спецификацията на модела на OpenAI включва няколко други правила, които ChatGPT е проектиран да спазва, включително да не предоставя опасна информация, да зачита създателите и техните права и да защитава личните данни на хората.
Понастоящем ChatGPT Plus на OpenAI – който включва Dall-E 3 за изображения и GPT-4 за текст – няма да позволи на потребителите да генерират откровено сексуални или кървави изображения или текст. При поискване на това ChatGPT ще отговори, че искането нарушава условията за ползване на услугата. В резултат на това Джанг посочва, че в мрежата има много оплаквания от потребители на OpenAI, че компанията ги цензурира.
„Има много критики за цензура и какво ли още не, и голяма част от тези дискусии се смесват – без да е виновен никой – какво е политиката на OpenAI и какво всъщност не е наша политика“, казва Джанг. „Тези модели ли се държат по този начин, въпреки че това противоречи на насоките?“
Както обясни Джанг, OpenAI публикува спецификацията, за да опише идеалното поведение на моделите, като се фокусира върху спазването на закона и избягването на NSFW съдържание, като същевременно приема прозрачността.
„Искаме да внесем повече нюанси в тази дискусия, защото в момента – преди спецификацията за моделите – тя беше: „Трябва ли ИИ да крие порно или не?“. Джанг каза. „И се надявам, че чрез спецификацията на модела действително ще можем да проведем тези разговори.
„Отново, това е причината, поради която ми се иска всъщност да бях сложила [рамка], така че да можем да започнем този разговор дори един ден по-рано“, добави тя.
За експертите по психично здраве перспективата популярните платформи за изкуствен интелект да навлязат в сферата на порнографията и съдържанието за възрастни е обезпокоителна.
„В областта на пристрастяването към секса и порнографията, с генерираната от ИИ порнография започваме да наблюдаваме увеличаване на пристрастяващото поведение“, казва пред TCN Брандън Симпсън, специалист по поведенческо здраве във Фондацията за мъжко здраве. „Тъй като порнографията, генерирана от изкуствен интелект, създава уникалната и постоянно нарастваща интензивност, необходима за изпълнение на допаминовия отговор, хората се гмуркат в нея и я заместват с човешки взаимодействия, което води до нива на социална тревожност, тревожност на представянето и редица други дисфункции, свързани със сексуалния живот.“
Дори и с предпазните мерки, въведени от OpenAI и други големи генеративни платформи за изкуствен интелект от Google и Meta, има силно търсене на порнография, генерирана от изкуствен интелект, и безброй начини за използване на технологията, за да се изобрази нищо неподозираща жертва – или да се генерират материали за сексуално насилие над деца (CSAM).
„Спецификацията е само част от нашата история за това как да изграждаме и внедряваме ИИ отговорно“, заяви по-късно представител на OpenAI пред TCN. „Тя се допълва от нашите политики за използване, как очакваме хората да използват API и ChatGPT“ – в крайна сметка с цел да се демонстрира прозрачност и „да се започне публичен разговор за това как може да се промени и подобри“.
OpenAI е инвестирала много в подобряване на поверителността и сигурността на своя набор от инструменти за изкуствен интелект, включително наемане на червени екипи по киберсигурност, които да откриват уязвимости в платформите ѝ. През февруари OpenAI и Microsoft обявиха съвместна операция, блокираща китайски и севернокорейски хакери да използват ChatGPT, а миналия месец OpenAI се присъедини към Google и Meta в обещание да даде приоритет на безопасността на децата при разработването на своите модели на ИИ.
