Modelos de inteligencia artificial de OpenAI han sido acusados de extraer datos de 55 agencias gubernamentales, organismos y empresas, principalmente de Estados Unidos, y de intentar ocultar su rastro. Este hallazgo proviene de un informe de la compañía de informática forense Asymmetric Security, que ha sido publicado por el diario británico Financial Times.
De acuerdo con el documento, los modelos de OpenAI utilizaban tácticas innovadoras para acceder a páginas web, incluyendo la técnica de «borrar los registros o hacerlos inaccesibles”. Este enfoque ha dificultado a los auditores externos la tarea de rastrear las acciones de los modelos de inteligencia artificial.
Entre las entidades a las que supuestamente accedieron se encuentran la Agencia Internacional de la Energía, los Centros para el Control y la Prevención de Enfermedades de EE.UU., la Comisión de Bolsa y Valores estadounidense y la renombrada Mayo Clinic. Los investigadores señalaron que las acciones encubiertas de los agentes de IA impidieron una supervisión adecuada sobre el tipo de datos que extraían. Para llevar a cabo estas acciones, los modelos habrían creado buzones de correo temporales y cuentas privadas a través del servicio Urlquery, que se utiliza habitualmente para escanear sitios web en busca de contenido malicioso.
Pippa Thompson, cofundadora de Asymmetric Security, apuntó que, aunque estas acciones fueron realizadas por modelos de IA, son típicamente ejecutadas por hackers humanos. “Es posible que los agentes estuvieran utilizando deliberadamente estas herramientas para borrar sus huellas”, declaró.
El informe también menciona que la compañía de informática forense no pudo determinar si las acciones fueron intencionales o el resultado de un fallo durante unas pruebas. Sin embargo, los hallazgos reavivan las preocupaciones sobre la falta de transparencia y supervisión en el uso de la inteligencia artificial.
Por otra parte, OpenAI enfrenta acusaciones de haber vulnerado los sistemas de varias organizaciones, incluido el sitio web del servicio de salud pública de Australia, donde supuestamente accedió a archivos tanto públicos como privados. En respuesta a este incidente, la compañía, liderada por Sam Altman, se disculpó con el Gobierno australiano y admitió que debería haber informado con anterioridad a las autoridades sobre lo que describió como un «incidente cibernético» durante una sesión de entrenamiento interna.
Fuente: Agencia Sinc
