amaneciendo.com.mx Tu ventana al mundo
LO ESENCIAL
Una tendencia de internet que comenzó como un fenómeno cómico ha tomado un giro oscuro. Según una investigación del Global Network on Extremism and Technology (GNET), videos generados por IA presentan a frutas y verduras animadas en actos de violencia extrema, incluyendo escenas de tortura y mutilaciones.
Estos videos forman parte de lo que se conoce como 'AI slop', contenido generado rápidamente y a gran escala por IA con poca intervención humana, diseñado para capturar visualizaciones y reacciones en redes sociales. La investigación, publicada el 10 de agosto por Alessandra Pugnana, Grazia Ludovica Giardini y Eleonora Ristuccia, destaca cómo la IA facilita la producción de contenidos violentos.
CONTEXTO
Dentro de esta tendencia, se ha identificado una variante llamada 'AI fruit/vegetable gore', donde personajes antropomórficos de zanahorias, papas y otras verduras representan escenas de violencia extrema. La combinación de personajes coloridos y aparentemente infantiles con situaciones gráficas de violencia puede ser engañosa, presentando material perturbador como humor o entretenimiento.
EN PERSPECTIVA
El estudio de GNET también halló contenidos con referencias visuales y narrativas asociadas con la violencia de grupos extremistas, incluyendo el extremismo yihadista y la violencia de los cárteles. Aunque no se sugiere que los productores de estos videos sean miembros de dichas organizaciones, la investigación señala cómo la IA puede reproducir y difundir estas estéticas extremistas.
La facilidad con la que se puede crear y acceder a este tipo de contenido mediante IA acelera la tendencia hacia la violencia y permite la producción de material problemático a gran escala, advierte el estudio. La proliferación de estos videos plantea un desafío para las redes sociales y la regulación de contenidos extremistas y violentos en línea.
Etiquetas: Tendencias virales, Violencia en internet, Integridad digital, IA y extremismo, Viral · Memes, internet y tendencias, Hidalgo, Viral · Memes, internet y tendencias
