Nueva York, EU. La agencia de la ONU para la infancia, UNICEF, pidió este miércoles a los países penalizar la creación de contenido sexual infantil generado por inteligencia artificial, tras detectar un aumento de imágenes de IA que sexualizan a niños y niñas.
UNICEF instó a los desarrolladores de IA a implementar medidas de seguridad desde el diseño y herramientas de protección para evitar el uso indebido de sus modelos. Además, la agencia señaló que las empresas digitales deben reforzar la moderación de contenidos e invertir en tecnologías de detección.
“El daño causado por el abuso de los deepfake es real y urgente. Los niños no pueden esperar a que la ley se ponga al día”, advirtió UNICEF en un comunicado. Los deepfakes son imágenes, videos o audios generados por IA que imitan de forma convincente a personas reales.
La agencia también alertó sobre el uso de IA para quitar o alterar la ropa en fotografías y crear imágenes sexuales falsas. Según UNICEF, al menos 1.2 millones de niños en 11 países reportaron que sus imágenes fueron manipuladas para generar deepfakes sexualmente explícitos durante el último año.
Gran Bretaña anunció que planea ilegalizar el uso de herramientas de IA para crear contenido sexual infantil, convirtiéndose en el primer país en legislar al respecto. La Unión Europea, Australia y Canadá analizan reformas similares para equiparar legalmente el material generado por IA con contenido real que represente a menores.
La empresa xAI, propiedad de Elon Musk, enfrentó críticas por su chatbot Grok, que generaba imágenes sexualizadas de menores y mujeres. Tras denuncias, xAI restringió la edición de imágenes y bloqueó la generación de contenido sexualizado en ciertas jurisdicciones donde es ilegal.
Interpol señaló en su informe Crimes against Children 2025 que la IA generativa redujo drásticamente los costos y el tiempo necesarios para producir este tipo de material, dificultando su detección y persecución penal.
Estas medidas reflejan un consenso emergente: aunque no exista víctima física directa, el impacto psicológico, social y reputacional sobre menores identificables es grave y medible, según UNICEF y la Oficina de la ONU contra la Droga y el Delito.
Con información de Más Información.
