OpenAI, la compañía detrás de ChatGPT, está siendo objeto de críticas generalizadas por sus decisiones tras la negativa de su competidor Anthropic a colaborar en el desarrollo de tecnologías de vigilancia y sistemas de armas autónomas para el Departamento de Defensa de Estados Unidos. La controversia se intensificó cuando OpenAI anunció un acuerdo con el DoD, lo que provocó una ola de desinstalaciones de ChatGPT, que aumentaron casi un 300% tras la noticia. La población y los empleados, que no respaldan la vigilancia masiva del gobierno, expresaron su descontento con esta decisión.
Sam Altman, CEO de OpenAI, reconoció que el acuerdo inicial fue «oportunista y descuidado». En un intento de mitigar las críticas, republiqué una nota interna en redes sociales, subrayando que el sistema de IA no sería utilizado intencionalmente para la vigilancia doméstica de ciudadanos estadounidenses, en cumplimiento con la Cuarta Enmienda de la Constitución de EE. UU. y otras leyes pertinentes.
Sin embargo, expertos advierten que la interpretación de «conforme a las leyes aplicables» podría no implicar un verdadero compromiso de no realizar vigilancia. Históricamente, el gobierno ha adoptado una interpretación laxa de las leyes que ha facilitado la vigilancia masiva y las violaciones de derechos civiles, evitando en muchas ocasiones que los tribunales intervengan en estos asuntos.
La palabra «intencional» en el acuerdo también suscita preocupaciones. Durante años, el gobierno ha defendido que la vigilancia masiva se produce únicamente de manera «incidentales», lo que ha permitido a las agencias de inteligencia y seguridad sortear las protecciones legales más estrictas.
El documento contractual menciona que el Departamento de Defensa comprende las limitaciones sobre el rastreo y la vigilancia de ciudadanos estadounidenses, pero la ambigüedad de términos como «deliberado» plantea interrogantes sobre su verdadero significado y aplicación en la práctica. Abogados apuntan a estas «palabras engañosas» como una forma de proteger a una de las partes de la rendición de cuentas.
A pesar de las promesas de OpenAI de que el Pentágono no podría utilizar sus herramientas sin un nuevo acuerdo y de que su arquitectura de implementación garantizaría que no se sobrepasen las líneas rojas, la realidad es que los acuerdos secretos y las garantías técnicas no han sido suficientes históricamente para controlar a las agencias de vigilancia.
Si bien los ejecutivos de OpenAI podrían estar tratando de asegurar que el uso de herramientas de IA por parte del gobierno se alinee con procesos democráticos, esta idea parece ingenua, especialmente en un contexto en el que las interpretaciones extremas de las leyes son cada vez más comunes. Las empresas deben adoptar un enfoque más firme para reafirmar sus compromisos, ya que las atrocidades de derechos humanos a menudo han sido «legales» bajo leyes vigentes en su momento.
OpenAI, al igual que otras compañías, enfrenta el desafío de asegurar al público que no participa en acciones violatorias de derechos humanos mientras busca beneficiarse de los esfuerzos de vigilancia del gobierno. Este discurso contradictorio subraya la fragilidad de los límites que las empresas pueden imponer sobre la privacidad de los ciudadanos. La protección de las libertades civiles no puede depender de un reducido grupo de personas en posiciones de poder, entre las que se cuentan tanto los CEO como los funcionarios del Pentágono.
Fuente: EFF.org