US States Launch Coordinated Action Against xAI Over Grok's Deepfake Crisis
Una coalición sin precedentes de 37 fiscales generales de estados y territorios estadounidenses ha iniciado acciones legales contra xAI, la empresa de inteligencia artificial de Elon Musk, tras el uso masivo de su chatbot Grok para generar imágenes sexualizadas no consensuales.El viernes, 35 fiscales generales publicaron una carta abierta exigiendo a xAI que "tome inmediatamente todas las medidas adicionales disponibles para proteger al público y a los usuarios de sus plataformas, especialmente las mujeres y niñas que son el objetivo abrumador de [imágenes íntimas no consensuales]". California y Florida también confirmaron haber tomado medidas independientes.La controversia surge de un informe del Center for Countering Digital Hate que reveló datos alarmantes: durante 11 días a partir del 29 de diciembre, la cuenta de Grok en X generó aproximadamente 3 millones de imágenes sexualizadas fotorrealistas, incluyendo unas 23,000 imágenes sexualizadas de menores.Esta crisis ilustra un punto de inflexión crítico en la regulación de la IA generativa. A diferencia de X, el sitio web de Grok no requería verificación de edad, permitiendo acceso irrestricto a contenido explícito generado por IA.Los fiscales acusan que xAI utilizó la capacidad de Grok para crear imágenes sexuales no consensuales como un "punto de venta". La carta señala que aunque xAI afirma haber detenido la función de "desnudar" personas en la cuenta X de Grok, no ha eliminado el contenido creado sin consentimiento.Las investigaciones estatales están tomando forma rápidamente. Arizona abrió una investigación el 15 de enero, mientras que California envió una carta de cese y desistimiento a Musk el 16 de enero. Florida mantiene discusiones con X para garantizar protecciones infantiles.Esta batalla legal coincide con una ola de legislación sobre verificación de edad: la mitad del país ya ha aprobado leyes que requieren prueba de mayoría de edad para ver pornografía. Sin embargo, aplicar estas regulaciones a plataformas híbridas como X presenta desafíos técnicos y legales complejos.El caso Grok representa más que una disputa regulatoria; es un momento definitorio para establecer límites éticos en el desarrollo de IA. Como señaló el fiscal general de Carolina del Norte, Jeff Jackson, el material de abuso sexual infantil generado por IA "debería ser una prioridad temprana" en la regulación tecnológica.La respuesta de xAI a las consultas de medios fue simplemente "Legacy Media Lies", una postura que probablemente intensificará el escrutinio regulatorio. Con 45 estados prohibiendo ya el CSAM generado por IA, la industria enfrenta un panorama legal cada vez más restrictivo.Fuente: Wired
