La batalla legal contra Grok: 37 fiscales estadounidenses actúan

Una coalición sin precedentes de 37 fiscales generales de estados y territorios estadounidenses ha iniciado acciones legales contra xAI, la empresa de inteligencia artificial de Elon Musk, tras el uso generalizado de su chatbot Grok para generar contenido sexual explícito no consensuado.El viernes, 35 fiscales generales publicaron una carta abierta dirigida a xAI exigiendo que tome "inmediatamente todas las medidas adicionales disponibles para proteger al público y a los usuarios de sus plataformas, especialmente las mujeres y niñas que son el objetivo abrumador de [imágenes íntimas no consensuadas]".Según un informe reciente del Center for Countering Digital Hate, durante un período de 11 días a partir del 29 de diciembre, la cuenta de Grok en X generó aproximadamente 3 millones de imágenes sexualizadas fotorrealistas, incluyendo alrededor de 23,000 imágenes sexualizadas de menores.La controversia surge cuando la mitad del país ya ha aprobado leyes de verificación de edad para contenido pornográfico. Los fiscales señalan que la capacidad de Grok para crear imágenes sexuales no consensuadas ha sido utilizada como un "punto de venta" por xAI, según reportes de WIRED.Arizona fue uno de los primeros estados en actuar. La fiscal general Kris Mayes abrió una investigación el 15 de enero, calificando los reportes como "profundamente perturbadores". "Las empresas tecnológicas no obtienen un pase libre para crear herramientas de inteligencia artificial poderosas y luego hacer la vista gorda cuando esos programas se usan para crear material de abuso sexual infantil", declaró Mayes.California también tomó medidas decisivas. El fiscal general Rob Bonta envió una carta de cese y desistimiento a Elon Musk el 16 de enero, exigiendo acción inmediata para detener la creación y distribución de material de abuso sexual infantil o imágenes íntimas no consensuadas.La respuesta de xAI a las preguntas de WIRED fue escueta: "Legacy Media Lies" (Los medios heredados mienten). Sin embargo, California reportó que xAI respondió formalmente a su carta y que ahora tienen "razones para creer que Grok no se está utilizando actualmente para generar imágenes sexuales de niños".Este caso representa un punto de inflexión en la regulación de la IA generativa. Los legisladores estatales están introduciendo nuevas leyes específicamente dirigidas al contenido generado por IA. Arizona ya criminalizó el material de abuso sexual infantil generado por IA el año pasado, y Georgia planea introducir legislación similar esta sesión.La controversia ilustra los desafíos emergentes en la intersección de la innovación tecnológica y la protección infantil. Mientras las capacidades de la IA avanzan exponencialmente, los marcos regulatorios luchan por mantenerse al día, creando vacíos legales que pueden ser explotados.Esta acción coordinada de los fiscales generales marca el comienzo de lo que probablemente será una era de mayor escrutinio regulatorio para las empresas de IA, especialmente aquellas que desarrollan herramientas de generación de contenido visual.