La inteligencia artificial vuelve a quedar bajo escrutinio público en Estados Unidos. En California, autoridades estatales iniciaron una investigación que coloca a xAI, la empresa de Elon Musk, en el centro del debate sobre tecnología, ética y protección de derechos digitales. El fiscal general Rob Bonta confirmó la apertura de una indagatoria por la presunta generación de imágenes sexualizadas no consensuadas mediante Grok, el chatbot integrado a la red social X.
Las denuncias apuntan al uso de fotografías comunes, alteradas digitalmente sin autorización de las personas afectadas. Funcionarios estatales señalaron que el material se habría difundido en línea para acosar a mujeres y menores. Además, advirtieron que los reportes muestran patrones reiterados en las últimas semanas, lo que elevó la preocupación institucional.
Grok queda bajo revisión por posibles abusos
La fiscalía de California sostuvo que la creación y difusión de este contenido representa un riesgo grave. En consecuencia, exigió a la empresa implementar medidas inmediatas para evitar nuevos casos y reforzar sus sistemas de control.
El gobernador Gavin Newsom respaldó la investigación y afirmó que X facilita un entorno donde proliferan deepfakes sexuales generados con inteligencia artificial. Asimismo, recalcó que la protección de usuarios vulnerables debe prevalecer frente a cualquier avance tecnológico.
Desde la empresa, Elon Musk rechazó las acusaciones más graves. Aseguró que Grok no genera imágenes de menores desnudos y que el sistema está diseñado para cumplir las leyes locales. También reconoció que fallas técnicas pueden ocurrir, pero afirmó que se corrigen de inmediato.
Debate tecnológico y responsabilidades legales
El caso reavivó el debate sobre los límites de la inteligencia artificial generativa. Por otro lado, especialistas señalaron que la velocidad de adopción supera la capacidad de regulación actual.
La investigación buscará determinar si xAI incumplió normas estatales y federales. Las conclusiones podrían sentar un precedente clave sobre la responsabilidad legal de plataformas que desarrollan y operan modelos de IA a gran escala.
La fiscalía no precisó plazos, pero confirmó que el proceso avanzará con revisión técnica y legal detallada.
