Gigant mediów społecznościowych Twitter twierdzi, że nowy system zapobiegający rozprzestrzenianiu się materiałów przedstawiających seksualne wykorzystywanie dzieci (CSAM) na jego platformie został „płynnie wdrożony”, testując technologię opracowaną przez grupę non-profit Thorn.
Konto bezpieczeństwa Twittera ogłosiło we wtorek, że uczestniczyło w testach beta rozwiązania Safer grupy opartego na sztucznej inteligencji, które ma na celu proaktywne wykrywanie, usuwanie i zgłaszanie materiałów tekstowych zawierających seksualne wykorzystywanie dzieci.
Dzięki naszej stałej współpracy z @thorn robimy więcej, aby stworzyć bezpieczną platformę. X był zaangażowany w testowanie rozwiązania Thorn w fazie beta, aby proaktywnie wykrywać wykorzystywanie seksualne dzieci w oparciu o tekst. Ta praca opiera się na naszych nieustannych wysiłkach na rzecz zwalczania seksualnego wykorzystywania dzieci…
– Bezpieczeństwo (@Safety) 7 maja 2024
„Dzięki naszej stałej współpracy z Thornem robimy więcej, aby stworzyć bezpieczną platformę” – napisano na koncie bezpieczeństwa na Twitterze. „Ta praca opiera się na naszych nieustannych wysiłkach na rzecz zwalczania wykorzystywania seksualnego dzieci w Internecie, a konkretnym celem jest rozszerzenie naszych możliwości w zakresie zwalczania treści o wysokiej szkodliwości, w których dziecko jest narażone na bezpośrednie ryzyko”.
„To samoobsługowe rozwiązanie zostało płynnie wdrożone do naszych mechanizmów wykrywania, umożliwiając nam doskonalenie kont wysokiego ryzyka” – kontynuował.
Założona w 2012 roku przez aktorów Demi Moore i Ashtona Kutchera organizacja Thorn opracowuje narzędzia i zasoby mające na celu ochronę dzieci przed wykorzystywaniem seksualnym. W kwietniu Google, Meta i OpenAI podpisały zobowiązanie wydane przez Thorn i inną organizację non-profit All Tech is Human, ślubując egzekwowanie barier wokół swoich modeli sztucznej inteligencji.
„Wiele nauczyliśmy się z naszych testów beta” – powiedziała TCN wiceprezes Thorn ds. nauki o danych, Rebecca Portnoff. „Chociaż wiedzieliśmy, że wykorzystywanie seksualne dzieci przejawia się we wszystkich rodzajach treści, w tym w tekście, podczas testów beta zobaczyliśmy konkretnie, w jaki sposób uczenie maszynowe / sztuczna inteligencja dla tekstu może mieć rzeczywisty wpływ na skalę”.
Jak wyjaśnił Portnoff, model Safer AI składa się z modelu językowego przeszkolonego w zakresie tekstów związanych z bezpieczeństwem dzieci oraz systemu klasyfikacji, który generuje wieloetykietowe prognozy dla sekwencji tekstowych. Wyniki przewidywania wahają się od 0 do 1, wskazując zaufanie modelu do znaczenia tekstu dla różnych kategorii bezpieczeństwa dzieci.
Ze względu na rozprzestrzenianie się generatywnych narzędzi sztucznej inteligencji od czasu uruchomienia ChatGPT w 2022 r., grupy nadzorujące Internet, takie jak brytyjska fundacja Internet Watch Foundation, alarmują o zalewie pornografii dziecięcej generowanej przez sztuczną inteligencję, która krąży na ciemnych forach internetowych, mówiąc, że nielegalne materiały mogą przytłoczyć Internet.
Ogłoszenie zespołu ds. bezpieczeństwa Twittera pojawiło się na kilka godzin przed tym, jak Unia Europejska zażądała od firmy wyjaśnienia doniesień o „zmniejszeniu zasobów do moderowania treści”.
W najnowszym raporcie dotyczącym przejrzystości, który Twitter przedłożył organom regulacyjnym UE, stwierdzono, że środki cięcia kosztów Elona Muska zmniejszyły wielkość zespołu moderacji treści platformy o prawie 20% od października 2023 r. i zmniejszyły liczbę monitorowanych języków z 11 do 7.
„Komisja domaga się również dalszych szczegółów na temat ocen ryzyka i środków łagodzących związanych z wpływem generatywnych narzędzi sztucznej inteligencji na procesy wyborcze, rozpowszechnianie nielegalnych treści i ochronę praw podstawowych” – dodano w żądaniu.
UE wszczęła formalne postępowanie przeciwko Twitterowi w grudniu 2023 r. w związku z obawami, że firma naruszyła ustawę o usługach cyfrowych w kilku obszarach, w tym w zakresie zarządzania ryzykiem, moderowania treści, „ciemnych wzorców” i dostępu do danych dla naukowców.
Komisja stwierdziła, że Twitter musi dostarczyć żądane informacje do 17 maja i odpowiedzieć na dodatkowe pytania do 27 maja.
