Gemini, el chatbot de inteligencia artificial generativa de Google, se negará a responder preguntas sobre las próximas elecciones estadounidenses. El gigante tecnológico informó el martes de que ampliaba una restricción de un experimento anterior sobre las elecciones en la India, y Reuters informó de que la prohibición se extenderá a todo el mundo.
«En preparación para las muchas elecciones que tendrán lugar en todo el mundo en 2024 y por precaución, estamos restringiendo los tipos de consultas relacionadas con las elecciones para las que Gemini devolverá respuestas», dijo un portavoz de Google a TCN, señalando que las restricciones se anunciaron por primera vez en diciembre.
«El blog de diciembre también destaca con quién estamos trabajando en Estados Unidos», añadió el portavoz.
En vísperas de la temporada electoral de 2024, desarrolladores de IA como OpenAI, Anthropic y Google se han propuesto frenar la desinformación a través de sus plataformas, pero la negativa de Gemini a responder incluso a preguntas básicas -como la fecha de las elecciones presidenciales en EE.UU.- supone un nuevo nivel de moderación.
«Apoyar las elecciones es una parte fundamental de la responsabilidad de Google hacia nuestros usuarios y el proceso democrático», declaró la empresa. «Proteger la integridad de las elecciones también significa mantener nuestros productos y servicios a salvo de abusos».
«En Google, contamos desde hace tiempo con políticas para mantener la seguridad de nuestros productos y plataformas», continúa el comunicado. «Nuestras políticas se aplican de forma coherente a todos los usuarios, independientemente del tipo de contenido».
Imagen: Google Gemini AI
Cuando se le hacen preguntas sobre las próximas elecciones, Gemini responde: «Todavía estoy aprendiendo a responder a esta pregunta. Mientras tanto, prueba a buscar en Google».
Cuando se trata del día de las elecciones, la búsqueda en Google ofrece una respuesta directa: Martes, 5 de noviembre de 2024.
Google no respondió de inmediato a la solicitud de comentarios de TCN.
Imagen: Anthropic Claude AI
Le hace la misma pregunta al ChatGPT de OpenAI. GPT-4 responde: «Las elecciones presidenciales de Estados Unidos de 2024 están previstas para el martes 5 de noviembre de 2024».
OpenAI declinó la solicitud de TCN para hacer comentarios, y en su lugar señaló una entrada de blog de enero sobre el enfoque de la compañía para las próximas elecciones en todo el mundo.
«Esperamos y aspiramos a que las personas utilicen nuestras herramientas de manera segura y responsable, y las elecciones no son diferentes», dijo OpenAI. «Trabajamos para anticipar y prevenir abusos relevantes -como «deepfakes» engañosos, operaciones de influencia a escala o chatbots que se hacen pasar por candidatos».
Por su parte, Anthropic ha declarado públicamente que Claude AI está fuera del alcance de los candidatos políticos. Aun así, Claude no solo te dirá la fecha de las elecciones, sino que destacará otra información relacionada con ellas.
«No permitimos que los candidatos usen Claude para construir chatbots que puedan hacerse pasar por ellos, y no permitimos que nadie use Claude para campañas políticas dirigidas», dijo Anthropic el mes pasado. «También hemos entrenado y desplegado sistemas automatizados para detectar y prevenir usos indebidos como la desinformación o las operaciones de influencia».
Anthropic dijo que violar las restricciones electorales de la compañía podría resultar en la suspensión de la cuenta del usuario.
«Debido a que los sistemas de IA generativa son relativamente nuevos, estamos tomando un enfoque cauteloso sobre cómo nuestros sistemas pueden ser utilizados en la política», dijo Anthropic.
