amaneciendo.com.mx Tu ventana al mundo
LO ESENCIAL
En enero de 2024, votantes en Estados Unidos recibieron llamadas automáticas con una voz que imitaba al presidente Joe Biden. El mensaje pedía abstenerse de votar en las primarias. El audio era falso: un deepfake generado por Inteligencia Artificial.
Este incidente ilustra una capacidad perturbadora de la IA. No solo distorsiona información: fabrica realidades completas. Estudios documentan que la desinformación puede propagarse hasta seis veces más rápido que los contenidos verificados.
Los algoritmos que gobiernan el ecosistema digital favorecen contenidos diseñados para provocar emociones intensas, indignación o polarización. En este entorno, la verdad compite en desventaja.
Durante 2023, la Alianza Nacional de Inteligencia Artificial impulsó foros en el Senado para analizar el impacto de estas tecnologías en procesos electorales. En ese momento no existían disposiciones sobre contenido sintético, manipulación automatizada de información ni uso de sistemas algorítmicos para amplificar campañas de desinformación.
CONTEXTO
La iniciativa buscaba anticipar riesgos y construir diálogo sobre protección de la información en contextos electorales. El marco regulatorio no correspondía a la velocidad del cambio tecnológico.
La presidenta Claudia Sheinbaum ha planteado incluir la regulación del uso de IA en la reforma electoral, particularmente frente a los riesgos de deepfakes y manipulación digital.
La regulación efectiva requiere coordinación entre academia, gobierno, sector privado y sociedad civil: el modelo de cuádruple hélice de innovación. La autorregulación de la industria, aunque valiosa, resulta insuficiente sin marcos institucionales.
EN PERSPECTIVA
Varias empresas desarrolladoras han adoptado principios de responsabilidad,
El desafío consiste en regular con enfoque basado en riesgos, diálogo intersectorial y visión que combine innovación, derechos y
Proteger la integridad de la información no es solo un asunto tecnológico. Es un desafío para las democracias y para las decisiones sobre el futuro digital que se construye.
Etiquetas: Inteligencia Artificial, deepfakes, reforma electoral, desinformación, regulación tecnológica, democracia digital, Tecnología e IA
