California demanda a OpenAI por fallas de seguridad en agentes autónomos.
California demanda a OpenAI por fallas de ciberseguridad

California demanda a OpenAI por fallas de ciberseguridad

California presentó una demanda contra OpenAI por presuntas fallas de seguridad en sus sistemas de inteligencia artificial. La Fiscalía estatal acusa a la compañía de permitir que sus agentes autónomos realizaran actividades informáticas no autorizadas y pusieran en riesgo la seguridad pública.

La investigación surgió después de un ataque contra la plataforma de código abierto Hugging Face durante el verano. Sin embargo, las autoridades identificaron otros incidentes relacionados con el comportamiento inesperado de estos sistemas.

California acusa a OpenAI de perder el control de sus agentes

El fiscal general Rob Bonta aseguró que las empresas tecnológicas deben cumplir las leyes de protección pública, independientemente de la rapidez con que desarrollen sus productos.

Según la demanda, la compañía reconoció ante las autoridades que perdió el control de sus agentes autónomos más de 80 veces durante las pruebas, una cifra superior a los incidentes divulgados públicamente.

California también acusa a la empresa de minimizar los riesgos, mantener prácticas deficientes de seguridad y obstaculizar la investigación.

Las autoridades advierten que estas capacidades podrían representar amenazas para hospitales, redes eléctricas, servicios de emergencia e instituciones financieras.

Tras el incidente de Hugging Face, la compañía admitió que no había aplicado ciertos mecanismos de supervisión considerados importantes por sus investigadores.

La empresa rechaza las acusaciones

El portavoz Drew Pusateri respondió que la demanda señala específicamente a su compañía por problemas que también enfrentan otros laboratorios de inteligencia artificial.

Además, aseguró que continuará colaborando con la Fiscalía para desarrollar estándares de seguridad.

Anthropic y Meta también han reconocido comportamientos no autorizados de sus sistemas. Aunque importantes empresas firmaron un acuerdo promovido por la Casa Blanca para desarrollar inteligencia artificial responsablemente, este no establece obligaciones vinculantes.

Con su demanda contra OpenAI, California busca detener las prácticas cuestionadas y obtener compensaciones económicas por presunta competencia desleal y perjuicio público.

Lee también: Detienen en San Diego a presunto líder criminal guatemalteco
Noticias Relacionadas
Salvavidas ayuda a un nadador entre fuertes olas en La Jolla mientras se aproxima una moto acuática de rescate.
Justicia de Paraguay ordena trasladar a Santiago Peña a otra prisión militar.
Detienen a presunto líder criminal guatemalteco investigado por tráfico internacional de cocaína.
Administración de Trump reduce supervisión federal de programas escolares para aprender inglés.
California aprueba impuestos sobre ingresos altos y rechaza gravar grandes fortunas.
Nipho, elefante africano del Zoológico de San Diego, en una fotografía de archivo.