En medio del creciente debate global sobre el uso ético de la inteligencia artificial, Japón ha registrado sus primeros arrestos por la venta de imágenes obscenas generadas con IA. Según reportes de medios locales como la emisora pública NHK, varias personas fueron detenidas por presuntamente utilizar programas gratuitos de inteligencia artificial para crear carteles con imágenes indecentes de mujeres ficticias.
Los detenidos, cuyas edades oscilan entre los 20 y los 50 años, habrían comercializado estos pósteres en plataformas de subastas en línea, vendiéndolos por miles de yenes (1.000 yenes equivalen aproximadamente a siete dólares). Aunque las autoridades aún no han confirmado oficialmente esta información a la agencia AFP, diversos medios aseguran que se trata del primer caso en Japón relacionado con la comercialización de contenido sexual explícito generado por IA.
El auge de esta tecnología ha desatado alertas por su potencial malicioso. Una de las preocupaciones más graves es el uso de deepfakes: videos, audios o imágenes manipuladas con inteligencia artificial que simulan ser reales. Estas herramientas se utilizan con frecuencia para crear pornografía no consentida, un fenómeno que afecta en su mayoría a mujeres.
De acuerdo con un estudio de 2019 de la firma neerlandesa Sensity, el 96% de los videos deepfake en internet tienen contenido pornográfico y, en casi todos los casos, representan a mujeres sin su consentimiento.
Este tipo de prácticas no solo atentan contra la privacidad y la integridad de las personas, sino que también plantean retos legales urgentes, pues muchos países aún no cuentan con una normativa clara que regule la creación y difusión de contenido generado con inteligencia artificial.
La situación en Japón reaviva el debate sobre los límites éticos del uso de IA y la necesidad de que los gobiernos implementen marcos legales efectivos para prevenir el uso indebido de estas tecnologías emergentes.
