Обединените нации алармираха за генерирани от изкуствен интелект дълбоки фалшификати, които се използват за разпространение на омраза и дезинформация в социалните медии. В публикувания в понеделник доклад „Информационна цялост на цифровите платформи“ световната организация подчертава необходимостта от отговорно използване на ИИ.
„Макар да притежава почти невъобразим потенциал за справяне с глобалните предизвикателства, съществуват сериозни и спешни опасения относно също толкова мощния потенциал на последните постижения в областта на изкуствения интелект – включително генераторите на изображения и видео дълбоките фалшификати – да застрашават целостта на информацията“, се казва в доклада на ООН.
Целостта на информацията се отнася до точността, последователността и надеждността на информацията, която според ООН е застрашена от дезинформация, дезинформация и реч на омразата.
„Тези рискове допълнително се засилиха поради бързия напредък на технологиите, като например генеративния изкуствен интелект“, пише генералният секретар на ООН Гутериш във въведението към доклада. „Стана ясно, че обичайното поведение не е опция.“
Генеративният изкуствен интелект е вид програма, обикновено представена под формата на чатбот, която е способна да генерира текст, изображения или други медии в отговор на подкани.
В доклада на ООН се изразява загриженост относно ефекта от дълбоките фалшификати и дезинформацията, генерирана от ИИ, в конфликтните зони.
Използването на реч на омразата често се наблюдава като предвестник на жестоки престъпления като геноцид, отбелязва ООН. В доклада също така се подчертава, че Конвенцията за предотвратяване и наказване на престъплението геноцид от 1948 г. забранява всяко пряко или публично подстрекаване, което може да доведе до геноцид.
Разпространението на омраза & лъжи в цифровото пространство причинява сериозни вреди в световен мащаб.
Тази ясна & настояща глобална заплаха изисква ясни & координирани глобални действия.
– @antonioguterres представя своя нов доклад за интегритета на информацията в цифровите платформи. https://t.co/atXRvwOwXv pic.twitter.com/i5MjAkWSNy
– Организация на обединените нации (@UN) June 12, 2023
Макар да не дава конкретни примери, докладът на ООН обръща внимание на неотдавнашни случаи на използване на генеративен изкуствен интелект за създаване на, в някои случаи, убедително подвеждащо съдържание и изображения.
През март генерирано от ИИ изображение на бившия президент Доналд Тръмп, който е арестуван, стана вирусно, след като беше споделено в Twitter от основателя и творчески директор на Bellingcat Елиът Хигинс. През същия месец Midjourney, компанията, която стои зад едноименния генератор на изображения с изкуствен интелект, прекрати безплатната си пробна версия поради широко разпространена злоупотреба.
„Всички заинтересовани страни трябва да предприемат спешни и незабавни мерки, за да гарантират безопасно, сигурно, отговорно, етично и съобразено с правата на човека използване на изкуствения интелект и да се справят с последиците от последните постижения в тази област за разпространението на дезинформация и реч на омразата“, заяви ООН.
Докладът призовава собствениците на цифрови платформи да инвестират в системи за модериране на съдържанието, които използват както човешки, така и изкуствен интелект за всички езици, използвани в държавите, в които оперират, и да направят докладването на съдържанието прозрачно.
Като заяви, че трябва да се сложи край на ерата на философията на Силициевата долина „move fast and break things“, международният орган заяви, че неприкосновеността на личния живот на потребителите, сигурността и прозрачността са от съществено значение и трябва да бъдат вградени в новите технологии от самото начало.
Гутериш посочи предстоящата среща на върха за бъдещето през 2024 г. като възможност за постигане на съгласие по многостранни решения.
„Предизвикателствата, пред които сме изправени, могат да бъдат преодолени само чрез по-силно международно сътрудничество“, заяви генералният секретар Гутериш.
