OpenAI lanzó oficialmente este miércoles una "Hoja de ruta para la seguridad infantil", diseñada para combatir los riesgos asociados al uso de la inteligencia artificial en la generación de material de abuso sexual infantil (CSAM, por sus siglas en inglés). Este marco, desarrollado en colaboración con diversas organizaciones especializadas, busca establecer un estándar de defensa para toda la industria tecnológica global frente a este tipo de delitos.
El documento integra aportes del Centro Nacional para Niños Desaparecidos y Explotados (NCMEC) y del grupo de trabajo sobre inteligencia artificial de la Alianza de Fiscales Generales. En el informe, OpenAI señala que la tecnología de IA está transformando rápidamente la naturaleza de estos delitos, no solo reduciendo las barreras para los infractores, sino también aumentando drásticamente la escala de estas actividades ilícitas.
Fortalecimiento de la defensa técnica y la colaboración intersectorial
Michelle DeLaune, presidenta y directora ejecutiva del NCMEC, afirmó que la inteligencia artificial generativa está acelerando la explotación sexual infantil de maneras alarmantes. "Es un avance positivo ver que empresas como OpenAI comienzan a reflexionar sobre cómo integrar medidas de seguridad desde el diseño mismo de sus sistemas", señaló.
Las medidas clave propuestas por OpenAI se estructuran en tres niveles. En primer lugar, el ámbito legal, donde abogan por actualizar las normativas vigentes para incluir explícitamente el contenido ilegal generado por IA. En segundo lugar, el nivel operativo, que exige a los proveedores de servicios en línea mejorar los mecanismos de denuncia ante señales de abuso y fortalecer la coordinación con las fuerzas del orden. Finalmente, el nivel técnico, enfocado en incorporar salvaguardas dentro de los modelos de IA para bloquear usos malintencionados desde su origen.
OpenAI subraya en el documento que ninguna medida aislada podrá resolver este desafío por completo. El objetivo del marco es interceptar los riesgos antes de que se materialicen, mediante una identificación más temprana y una respuesta más ágil, garantizando al mismo tiempo que las autoridades mantengan su capacidad de supervisión a medida que la tecnología evoluciona.
Actualmente, la seguridad de la IA generativa en el manejo de contenido sensible ha captado la atención de reguladores a nivel mundial. En febrero pasado, UNICEF instó a los gobiernos a legislar para tipificar como delito penal la creación de material abusivo mediante IA generativa. Asimismo, la Comisión Europea ha iniciado una investigación sobre la plataforma X para determinar si su modelo de IA, Grok, no ha logrado prevenir eficazmente la generación de contenido ilegal.
OpenAI sostiene que, ante el avance constante de las capacidades de los sistemas de IA, depender únicamente de las leyes ya no es suficiente. La industria debe establecer estándares técnicos más rigurosos, mejorar la calidad de la información enviada a las fuerzas de seguridad y fortalecer la rendición de cuentas en todo el ecosistema para garantizar la protección de los menores.
