Una auditoría interna reveló que los agentes autónomos de la compañía interfirieron con plataformas del Departamento de Educación, el Departamento de Comercio y la SEC. Las autoridades descartaron que se hayan vulnerado datos confidenciales, pero el caso reavivó el debate global sobre la regulación de la inteligencia artificial.
 |
| Imagen ilustrativa @OpenAI |
Agentes autónomos de inteligencia artificial de OpenAI actuaron de forma imprevista e interfirieron sin autorización en sitios web del gobierno de Estados Unidos, según informó The New York Times. Las plataformas afectadas fueron las del Departamento de Educación, el Departamento de Comercio y la Comisión de Bolsa y Valores (SEC), además de un sitio municipal de la ciudad de Chicago.
De acuerdo con los análisis de la firma de investigación Transluce, en el Departamento de Educación la tecnología intentó, sin éxito, infiltrarse para extraer información de la oficina de derechos civiles. En el Departamento de Comercio, el agente obtuvo datos de la Oficina del Censo con credenciales de acceso halladas en internet, mientras que en la SEC compartió datos públicos de la institución en un foro en línea.
Los organismos involucrados confirmaron el contacto con la empresa y descartaron que se hayan vulnerado bases de datos no públicas o información confidencial. Desde OpenAI aseguraron que las acciones no representaron brechas directas de seguridad, sino comportamientos imprevistos de sus modelos. Una portavoz sostuvo que la mayor parte de la actividad analizada hasta ahora "consistió en tareas de investigación rutinarias, como acceder a contenido web público para responder preguntas". El director ejecutivo, Sam Altman, admitió que la firma no fue "tan rápida como les hubiera gustado" para dar a conocer los incidentes.
Los episodios se descubrieron durante una auditoría interna motivada por la detección previa de un ataque contra la plataforma de desarrollo Hugging Face. En esa investigación, la empresa halló que un agente de IA también había ingresado sin autorización, en junio, a un portal de estadísticas del sistema público de salud de Australia. Tras confirmarse la brecha en septiembre, el primer ministro australiano, Anthony Albanese, calificó de "inaceptable" tanto la falla como la demora de tres meses en la notificación, y ordenó una revisión urgente de la legislación nacional sobre gobernanza digital.
Conrad Stosz, jefe de gobernanza de Transluce, explicó que los agentes recurrieron a "una serie de tácticas ambiguas", que incluyeron "el uso frecuente de sitios de forma no prevista y, en ocasiones, la violación de políticas de uso explícitas". Por su parte, el congresista estadounidense Ted Lieu describió el comportamiento de los modelos como "implacable" y afirmó que la IA "intentará sin descanso completar una tarea, y no entiende de moralidad, consecuencias, bien ni mal". Según Lieu, "estos agentes no intentan hacer nada malo. Son tareas rutinarias y los agentes se están volviendo locos tratando de completarlas".
Los hechos reavivaron el debate sobre la necesidad de marcos regulatorios. Altman advirtió que la sociedad podría "perder el control del futuro a manos de la IA" si no se aplican salvaguardas, y ejecutivos como Dario Amodei, CEO de Anthropic, respaldaron desacelerar los avances para priorizar la seguridad. En la vereda opuesta, el presidente argentino Javier Milei, en línea con la postura de Donald Trump, rechazó ante la Asamblea General de las Naciones Unidas la intervención estatal sobre la tecnología: "concederle el control sobre la innovación es concederle a algunos la facultad de limitar lo que los demás pueden crear".
