Възможността да се създават дълбоки фалшификати на известни и влиятелни хора, генерирани от изкуствен интелект, предизвика буря в интернет, но докато изображенията на папата, облечен в пухкаво яке Balenciaga, и арестуваният бивш президент на САЩ Доналд Тръмп се появиха на първите страници на вестниците, според доклад на Rolling Stone се появява нова тенденция: дълбоки фалшификати на жертви на убийства.
„Изглежда, че те са създадени, за да предизвикат силни емоционални реакции, защото това е най-сигурният начин за получаване на кликове и лайкове“, казва Пол Блекли, доцент по наказателно правораздаване в Университета на Ню Хейвън, пред Rolling Stone. „Неудобно е да се гледа, но мисля, че може би това е целта.“
Кратките видеоклипове, които се разпространяват в TikTok, включват видео, генерирано от изкуствен интелект, аудио и описания на деца от първо лице. Сред най-известните, изобразени по този начин, е Роути Мари Флойд, представена в някои видеоклипове като Роди Мери Флойд, чието тяло беше намерено във фурна през 2018 г. Бабата на Флойд, Каролин Джоунс, е обвинена в убийството на Флойд, твърди Rolling Stone, като добавя, че генераторът на изкуствен интелект също така дава различни възрасти и раси на детето.
Изображение: Варианти на ИИ-генератора на Роялти Мари Флойд
Феноменът, който причинява тези грешки, е известен като халюцинации. „Халюцинациите“ на ИИ се отнасят до случаите, когато ИИ генерира неочаквани, неверни резултати и не е подкрепен от данни от реалния свят. Халюцинациите на ИИ могат да създадат невярно съдържание, новини или информация за хора, събития или факти.
„Тези AI deepfakes на истински жертви на престъпления със сигурност вдъхват живот на историята по начин, който никой от нас не би могъл да си представи, което може да помогне за образоването на широката общественост“, заяви адвокатът и главен изпълнителен директор на AR Media Андрю Росоу пред TCN. „От правна гледна точка обаче това използване и прилагане на изкуствен интелект е изключително обезпокоително и проблематично.“
Росоу посочи два основни проблема: опасения за неприкосновеността на личния живот и причиняване на емоционален стрес на тези, които са познавали жертвата.
Дълбокият фалшификат е все по-често срещан вид видеоклип, създаден с помощта на изкуствен интелект, който изобразява фалшиви събития. Дълбоките фалшификати, които вече предизвикват безпокойството на служителите по киберсигурност и правоприлагащите органи, стават все по-трудни за откриване благодарение на бързо развиващите се платформи за генеративен изкуствен интелект като Midjourney 5.1 и DALL-E 2 на OpenAI.
Midjourney прекрати безплатната си пробна версия през март след ръст на вирусните дълбоки фалшификати, генерирани с помощта на нейната технология.
Нарастващата мощ на ИИ също така кара измамниците да използват технологията, за да се опитват да измамят потенциални инвеститори и да им отнемат парите и криптовалутите. Миналата седмица се разпространи дълбокофалшив видеоклип на Елон Мъск, който рекламира крипто измама.
Както съобщава Rolling Stone, акаунтът, който е качил видеото на Роялти Мари Флойд, е свален от TikTok заради „нарушаване на политиката на платформата по отношение на синтетичните медии, изобразяващи частни лица“. Все пак джинът вече е изпуснат от бутилката и акаунти, които публикуват подобни видеоклипове, запълват празнината.
„За съжаление, случаи на употреба като този трябва да се случат, за да можем да напреднем в правната си юриспруденция и прецедент по вече силно дискутирани въпроси, свързани с неприкосновеността на личния живот (преди и след смъртта) и сега възникващите технологии, които сами по себе си все още действат предимно в сивия сектор с нашите съдилища“, каза Росоу.
