Cuando el algoritmo rompe la ética: el oscuro abismo del CSAM sintético.

Por Osvaldo Hernández Olivera.

Abogado en Derecho Informático | Opinión Legal sobre Tecnología y Futuro.

Durante años nos vendieron la inteligencia artificial como la gran aliada del progreso. Una herramienta capaz de optimizar procesos, ampliar el conocimiento y mejorar la vida cotidiana. Pero mientras ese discurso se repite en conferencias y anuncios corporativos, en los rincones más oscuros de internet la misma tecnología está siendo utilizada para algo mucho más inquietante: recrear el abuso sexual infantil sin necesidad de cámaras, víctimas reales ni escenarios físicos. Ya no estamos hablando solo de robots que escriben o coches que se conducen solos; estamos hablando de la creación de material de abuso sexual infantil generado por algoritmos. Sí, leyó bien: CSAM sintético. Para algunos «puristas» del derecho, si el niño en la imagen no existe en la vida real, el delito es cuestionable: no hay nada que perseguir. Aquí lo decimos claro: esa es una visión cínica y peligrosa; no necesitamos una víctima de carne y hueso en la pantalla para entender que recrear el abuso mediante código, es un atentado directo contra la dignidad de la infancia y una bomba de tiempo social.

El vacío legal que beneficia al agresor
El fondo del problema es conocido. La tecnología avanza a una velocidad que las leyes no logran seguir. Muchos códigos penales siguen exigiendo la existencia de una víctima real para que una conducta sea castigada. Ese vacío normativo se ha convertido en terreno fértil para quienes, amparados en el anonimato digital, producen y consumen este tipo de contenido generado por inteligencia artificial. ¿Es menos grave porque es ficticio? La respuesta es no. Este material no es neutral ni inofensivo. Funciona como un mecanismo de normalización del abuso, alimenta fantasías criminales y reduce las barreras psicológicas que separan la simulación de la agresión real. Permitir su circulación bajo el argumento de la libertad creativa es, en los hechos, mirar hacia otro lado.

Tecnología sin ética también es violencia
La responsabilidad no puede recaer únicamente en policías y fiscales. Las empresas que desarrollan herramientas de inteligencia artificial generativa no pueden seguir actuando como si desconocieran los usos perversos de sus productos. La inversión en seguridad no debe limitarse a proteger datos financieros o evitar fraudes; debe incluir límites éticos claros y efectivos que impidan la generación de contenido que sexualice a la infancia. Organismos internacionales como Interpol ya han advertido sobre este fenómeno. Sin embargo, en México y en gran parte de América Latina, la respuesta institucional sigue siendo lenta y fragmentada. Se requieren reformas legales urgentes que sancionen la creación, posesión y distribución de este material, sin importar si el “menor” fue captado por una cámara o generado por un algoritmo.

La infancia no es terreno de experimentación
Al final, esta discusión no gira en torno a líneas de código ni avances tecnológicos. La pregunta de fondo es otra: qué tipo de sociedad estamos dispuestos a construir. Si aceptamos que la tecnología se use para sexualizar la imagen de la infancia, aunque sea de manera artificial, estamos renunciando a principios básicos de protección y dignidad. Desde nuestra trinchera, el llamado es directo: legisladores, autoridades, empresas tecnológicas y ciudadanía comparten una responsabilidad ineludible: la lucha contra el abuso infantil también se libra en el terreno digital; no debemos bajar la guardia ya que se trata de una obligación ética. La inteligencia artificial no tiene conciencia, pero nosotros sí. Y en la protección de los niños no hay espacio para medias tintas.