Check Point Software ha hecho un llamado urgente a los gobiernos y al sector privado para que implementen regulaciones y controles de seguridad antes de que surjan desastres provocados por tecnologías autónomas. Este requerimiento se enmarca dentro del creciente debate sobre la regulación de la inteligencia artificial, una discusión intensificada por recientes declaraciones de Anthropic que abogan por la necesidad de integrar un sistema de apagado de emergencia, conocido como «kill switch».
La compañía, reconocida como pionera en soluciones de ciberseguridad, señala que la adopción de tecnologías autónomas en servicios públicos e infraestructuras críticas conlleva nuevos riesgos operativos que deben ser abordados de inmediato. La falta de un marco legal adecuado podría dar lugar a situaciones peligrosas, especialmente si estos sistemas automatizados sufren fallos o se convierten en objetivos de ciberataques.
Mario García, director general de Check Point Software para España y Portugal, subraya la importancia de legislar la inclusión de un botón de apagado de emergencia que permita desactivar la IA en caso de que las circunstancias lo requieran. «La tecnología autónoma tiene el potencial de revolucionar nuestra economía, pero también necesitamos establecer controles y contrapesos, especialmente en áreas tan sensibles como los servicios públicos», afirma García.
El directivo también plantea interrogantes cruciales respecto a la responsabilidad del botón de apagado, cuestionando si recae en el proveedor tecnológico, en el gobierno o en los responsables legislativos. García resalta la necesidad de definir claramente cómo funcionaría esta herramienta, ya sea deshabilitando flujos de trabajo automatizados o poniendo en cuarentena agentes de IA específicos.
Asimismo, sugiere que la implementación de estas medidas de seguridad debe dirigirse prioritariamente a la infraestructura crítica nacional, expandiéndose posteriormente una vez que el modelo esté consolidado. Aunque estas reglas pueden integrarse mediante código y comandos, advierte que los despliegues a gran escala se convierten en un objetivo atractivo para los ciberdelincuentes.
Por lo tanto, tanto en el sector público como en el privado, es fundamental que la seguridad se incorpore desde el diseño de estos programas, evitando la tentación de aplicar soluciones apresuradas tras la materialización de un problema relacionado con la inteligencia artificial.
