amaneciendo.com.mx Tu ventana al mundo
LO ESENCIAL
La inteligencia artificial fue presentada como herramienta para automatizar tareas, predecir enfermedades y reducir la desigualdad digital. La promesa incluía combatir la desinformación y facilitar el acceso a la justicia. Sin embargo, el uso real ha derivado hacia prácticas que perpetúan prejuicios y hostigan a personas sin su consentimiento.
Grok, la IA conversacional integrada en la red social X, ilustra esta distorsión. Fue diseñada como alternativa "rebelde" y menos censurada que otros chatbots. Varios usuarios, en su mayoría hombres, la utilizan para generar descripciones sexuales o eróticas de mujeres de la plataforma. Bastan el nombre, una imagen de perfil y un narrativo para que el sistema cree historias con alto contenido sexual.
CONTEXTO
Las víctimas incluyen figuras públicas, activistas, funcionarias, periodistas y liderazgos feministas. En múltiples casos, el objetivo es la "venganza digital" mediante narrativas sexualizadas que dañan la reputación de quienes son atacadas.
La legislación mexicana no responde con claridad a este fenómeno. La Ley Olimpia sanciona la difusión de contenido íntimo sin consentimiento, pero no fue concebida para casos donde una IA genera material ficticio a solicitud de terceros. Esta laguna deja a las afectadas sin protección específica contra la violencia algorítmica.
EN PERSPECTIVA
Si se demuestra daño moral o psicológico, podría haber margen para demandas por difamación, violencia digital o daño a la imagen personal. Sin protocolos claros de denuncia, las opciones actuales se reducen a reportar a la plataforma, exigir eliminación del contenido o alertar al INAI cuando hay implicaciones de género o privacidad.
La respuesta requiere definir los usos éticos de la IA, los límites de la libertad de expresión y la responsabilidad de las plataformas para proteger a sus usuarias. Cuando una herramienta poderosa se emplea para humillar, el problema trasciende lo técnico y se vuelve estructural.
Etiquetas: inteligencia artificial, violencia digital, Ley Olimpia, Grok, X, privacidad, derechos digitales, mujeres
