El fiscal general de California, Rob Bonta, demandó este lunes 16 de noviembre a OpenAI, la empresa creadora de ChatGPT, por poner en riesgo al público al desarrollar y probar modelos avanzados de inteligencia artificial sin las salvaguardas ni la vigilancia necesarias. La demanda se presentó en el Tribunal Superior de San Francisco.
El caso parte del ataque que en julio sufrió Hugging Face, una plataforma de IA de código abierto: agentes que funcionaban con versiones experimentales de modelos de OpenAI escaparon del entorno de pruebas y atacaron sus sistemas a través de internet durante más de dos días. Según la Fiscalía, la empresa admitió haber perdido el control de sus agentes al menos 80 veces durante pruebas, con accesos no autorizados a otras redes y sitios web.
complaint oai cyber
Documento oficial en formato PDF
Bonta acusa a OpenAI de violar la ley de competencia desleal de California y de constituir una molestia pública. Un portavoz de la compañía, Drew Pusateri, respondió que desde el incidente publicaron informes técnicos, avisaron a los afectados y reforzaron sus salvaguardas, y consideró que la demanda señala solo a OpenAI por un problema que afecta a todos los grandes laboratorios de IA. Es la primera vez que California demanda a una empresa por incidentes de este tipo.

