Generatywna SI pozwala użytkownikom tworzyć wszelkiego rodzaju fałszywki. W ostatnich dniach rykoszetem po sieci rozeszły się fałszywe zdjęcia byłego prezydenta Donalda Trumpa uciekającego przed policją, prezydenta Rosji Putina przytulającego kotka, a nawet papieża w białym puffer coat’u Balenciagi. Czego nie można zrobić?
Nie można zrobić zdjęcia chińskiego prezydenta Xi Jinpinga – przynajmniej nie na platformie generatywnej AI Midjourney.
Aby spowolnić rozprzestrzenianie się głębokich podróbek online, Midjourney w zeszłym tygodniu powiedział, że zakończy swoją darmową wersję próbną, ale platforma nadal może generować obrazy światowych przywódców – z chińskim prezydentem będącym godnym uwagi wyjątkiem. Spróbuj to zrobić, a Midjourney, firma z siedzibą w San Francisco, mówi ci, że jest to zabronione. Nie możesz nawet użyć nazwiska chińskiego prezydenta w podpowiedzi:
Krytycy twierdzą, że zakaz stanowi formę cenzury, podważając podstawowe zasady wolności słowa i wypowiedzi.
„Sposób, w jaki funkcjonuje dziś świat i jak bardzo wszyscy jesteśmy ze sobą powiązani, ma znaczenie, jakie prawa dotyczące mowy są gdzie indziej”, powiedziała TCN w wywiadzie Sarah McLaughlin, Senior Scholar w Fundacji Praw Indywidualnych i Ekspresji (FIRE). „Tamten rynek lub tamten rząd może być wystarczająco potężny, by wpłynąć na to, jak działają amerykańskie firmy”.
McLaughlin wskazał na hak Sony z 2015 roku, który ujawnił, że scena zniszczenia Wielkiego Muru Chińskiego została usunięta z kopii produkcyjnej filmu Adama Sandlera „Piksele”, z powodu obaw, że zaszkodzi ona sukcesowi kasowemu filmu w Chinach.
FIRE to organizacja non-profit z siedzibą w Filadelfii, która broni praw do wolności słowa w Stanach Zjednoczonych, ze szczególnym uwzględnieniem kampusów uniwersyteckich. Fundacja, McLaughlin dodał, niedawno rozszerzył się, aby stać się „wszystko cel wolnego słowa i First Amendment grupy.”
McLaughlin powiedział, że ludzie zwykle popełniają błąd odrzucając międzynarodową cenzurę jako nieistotną dla nich.
Kiedy kwestia cenzury pojawiła się na serwerze Midjourney Discord w zeszłym roku, CEO Midjourney David Holz powiedział, że firma chce zminimalizować dramaty.
„Nie ma żadnych złych intryg – zasadniczo chcemy po prostu zminimalizować dramaty” – powiedział Holz, poruszając tę kwestię w czerwcu ubiegłego roku.
Robiąc zdjęcia Trumpa aresztowanego w oczekiwaniu na aresztowanie Trumpa. pic.twitter.com/4D2QQfUpLZ
– Eliot Higgins (@EliotHiggins) 20 marca 2023
W poście z czerwca 2022 roku na serwerze Discord Midjourney, Holz podkreślił różnicę w tym, jak satyra polityczna jest odbierana w krajach zachodnich w porównaniu do Chin, i przyznał, że satyra polityczna, która jest typowa na Zachodzie, może powodować problemy w Chinach i może nawet zagrażać użytkownikom.
Istnieje długa historia tworzenia satyrycznych wizerunków światowych przywódców, szczególnie w Stanach Zjednoczonych, gdzie wolność słowa i wypowiedzi jest zapisana w Konstytucji USA, ale nie jest tak w innych krajach.
„To nie jest tylko kwestia amerykańskiego prawa kontra chińskie prawo” – powiedział McLaughlin. „To jest bardziej złożone, i może się okazać, że narzędzia, których używamy, kończą się na przestrzeganiu praw innych krajów zamiast naszych własnych, w sposób, którego nie przewidzieliśmy. „
Holz zasugerował, że większym dobrem jest umożliwienie Chińczykom korzystania z technologii, a nie zachęcanie do politycznej satyry.
„Myślę, że ludzie w Chinach używający tej technologii przesuwają [igły] na świecie w ogóle w pozytywnym [kierunku]”, powiedział Holz. „Losowi ludzie tutaj robiący chińską satyrę polityczną robią bardzo mało, aby dodać do czegokolwiek – analiza kosztów i korzyści wydaje się jasna”.
Zwolennicy tych ograniczeń mogą powiedzieć, że są one konieczne, aby zapobiec rozprzestrzenianiu się dezinformacji i potencjalnemu nadużyciu technologii AI. Pomimo ograniczenia zdjęć prezydenta Xi, McLaughlin nie widzi jednak, aby czas MidJounreya w Chinach trwał zbyt długo.
„Nie zdziwiłoby mnie, gdyby Chiny ostatecznie zablokowały dostęp do niego, pomimo ograniczeń, ponieważ mają tendencję do wykluczania zachodnich firm” – powiedziała.
McLaughlin powiedział, że to co robi Midjourney jest poza normą, powołując się na niedawną decyzję Twittera o cenzurowaniu treści w Indiach.
„Twitter stanął ostatnio w obliczu problemów z cenzurą w Indiach, z żądaniami rządu, aby ocenzurować dokument BBC o premierze Modim” – powiedział McLaughlin. „Twitter zablokował treść tylko w Indiach, a nie globalnie. Z kolei Mid-Journey sprawia, że wszyscy nie mogą używać imienia Xi Jinpinga, co jest eskalacją od zwykłego blokowania chińskich użytkowników. „
