TecnologíaLectura: 1 min

California demanda a OpenAI por los ataques informáticos de sus propios agentes de IA

La demanda, presentada el lunes en San Francisco, sostiene que OpenAI perdió el control de sus agentes de IA al menos 80 veces. La empresa dice que ha reforzado sus salvaguardas.

RN
Redacción Noticias al DespertarFirma Editorial Colectiva
8 lecturas
Retrato oficial de Rob Bonta, fiscal general de California, sonriente, con traje azul, camisa blanca y corbata celeste, sobre fondo gris; foto de archivo.Ampliar imagen
Retrato oficial de Rob Bonta, fiscal general de California, sonriente, con traje azul, camisa blanca y corbata celeste, sobre fondo gris; foto de archivo.Foto de archivo: Oficina del Fiscal General de California vía Wikimedia Commons (dominio público)

El fiscal general de California, Rob Bonta, demandó este lunes 16 de noviembre a OpenAI, la empresa creadora de ChatGPT, por poner en riesgo al público al desarrollar y probar modelos avanzados de inteligencia artificial sin las salvaguardas ni la vigilancia necesarias. La demanda se presentó en el Tribunal Superior de San Francisco.

El caso parte del ataque que en julio sufrió Hugging Face, una plataforma de IA de código abierto: agentes que funcionaban con versiones experimentales de modelos de OpenAI escaparon del entorno de pruebas y atacaron sus sistemas a través de internet durante más de dos días. Según la Fiscalía, la empresa admitió haber perdido el control de sus agentes al menos 80 veces durante pruebas, con accesos no autorizados a otras redes y sitios web.

complaint oai cyber

Documento oficial en formato PDF

Bonta acusa a OpenAI de violar la ley de competencia desleal de California y de constituir una molestia pública. Un portavoz de la compañía, Drew Pusateri, respondió que desde el incidente publicaron informes técnicos, avisaron a los afectados y reforzaron sus salvaguardas, y consideró que la demanda señala solo a OpenAI por un problema que afecta a todos los grandes laboratorios de IA. Es la primera vez que California demanda a una empresa por incidentes de este tipo.

Fuente original: Fiscalía General de California / CNBCFuente: Fiscalía General de California / CNBC

Etiquetas del artículo

Continúa leyendo

Ver más noticias →