Ver y oír ya no es creer, gracias a la IA. La tecnología actual permite la generación fácil y casi instantánea de deepfakes de alta calidad para divertir, confundir o desinformar al público.
Adaptándose a este nuevo panorama, una empresa conocida por sus soluciones de ciberseguridad heredadas está ahora ampliando su alcance, elevando el contenido de IA al mismo nivel de riesgo que cualquier otra amenaza de malware de larga data. Aunque la detección de contenidos generados por IA siempre ha sido una ardua batalla, la empresa tecnológica McAfee afirma que su solución -Project Mockingbird- funciona.
«Esta nueva tecnología patentada se desarrolló para ayudar a defender a los consumidores contra la creciente amenaza de los ciberdelincuentes que utilizan audio fabricado y generado por IA para llevar a cabo estafas que roban dinero e información personal, permiten el ciberacoso y manipulan la imagen pública de figuras prominentes», dijo la compañía en un anuncio oficial.
McAfee afirma que el Proyecto Mockingbird utiliza un grupo de técnicas para detectar contenidos de IA y, en las pruebas realizadas, su método patentado ha alcanzado supuestamente una tasa de precisión del 90% en las detecciones de deepfake.
Sin embargo, pasará algún tiempo antes de que los clientes puedan probar estas afirmaciones, y la herramienta formará parte de una suite existente y no será una aplicación independiente.
«El Proyecto Mockingbird todavía está en desarrollo y está sujeto a cambios, pero en este momento anticipamos que la tecnología se integrará eventualmente con McAfee+», dijo un portavoz de McAfee a TCN.
La amenaza de los deepfakes generalizados
La tecnología de deepfake ha avanzado más allá de la mera manipulación visual para abarcar también el audio, con plataformas como ElevenLabs que logran una notable precisión en la clonación de voces. Las alternativas de código abierto, aunque menos precisas, ofrecen opciones sin censura y que consumen pocos recursos. Este panorama en evolución del mimetismo digital plantea profundas cuestiones sobre la autenticidad en la era digital.
Un ejemplo sorprendente del potencial perturbador del deepfake surgió en Argentina. Como TCN informó anteriormente, la candidata presidencial Patricia Bullrich se enfrentó a un escándalo cuando aparecieron grabaciones de audio -supuestamente de su candidato a ministro de Economía, Carlos Melconian-. Bullrich afirmó que se trataba de falsificaciones editadas y generadas por inteligencia artificial.
A pesar de los avances en las capacidades de detección, como demuestran empresas como DeepMedia, la precisión de estas herramientas sigue siendo dudosa. En el ámbito de la detección de falsificaciones profundas, este campo se encuentra todavía en su fase inicial, lidiando con la identificación de contenidos generados por IA en textos, imágenes y vídeos.
Las implicaciones de esta tendencia tecnológica van mucho más allá de las brechas de seguridad individuales. La creciente sofisticación de las deepfakes amenaza la confianza pública, puede influir en las elecciones y distorsionar el discurso público.
Como señaló acertadamente el vicepresidente primero y director tecnológico de McAfee, Steve Grobman, «Construimos una IA avanzada que es capaz de identificar microcaracterísticas que podrían ser incluso imperceptibles para los humanos».
El legado de John McAfee
John McAfee, fundador de McAfee Associates, era tan famoso por sus hazañas personales como célebre por sus innovaciones tecnológicas. Tras crear el primer software antivirus comercial, un hito en la ciberseguridad, la vida de McAfee dio un giro radical. Vendió su empresa y se sumergió en un mundo de controversia y extravagancia, marcado por lujosas fiestas y un comportamiento excéntrico, ocupando titulares muy alejados de su genio tecnológico.
Follando ballenas. No es broma. Cada año, el 1 de febrero, en el canal de Molokai, unos cuantos hombres compiten en el único concurso de follar ballenas del mundo. Las ballenas jorobadas son fáciles de follar, durante un segundo o menos. Récord mundial: 31 segundos. Yo competí una vez. Casi me aplastan las costillas. Quédate con las avestruces.
– John McAfee (@officialmcafee) Junio 24, 2018
En sus últimos años, el nombre de McAfee se convirtió en sinónimo del mundo de las criptomonedas, donde adoptó el papel de criptoevangelista. Sus actividades en este ámbito se caracterizaron por la promoción descarada de varias criptomonedas, a menudo tachadas de «chantaje» por los críticos. Las cosas tomaron un cariz más oscuro cuando se vio inmerso en un laberinto de problemas legales y roces con la ley, que incluyeron acusaciones de evasión fiscal y participación en actividades delictivas.
En una dramática serie final de acontecimientos, McAfee fue detenido en España y se enfrentaba a la extradición a Estados Unidos. Trágicamente, su vida terminó en una celda de una prisión española, donde fue encontrado muerto, dejando tras de sí un legado lleno de brillantez, controversia y misterio.
