Hoy se ha lanzado la vista previa de «Acciones en Edge», una característica experimental del navegador que permite a los usuarios aprovechar modelos modernos de agentes informáticos para realizar diversas tareas. Con el objetivo de probar y avanzar en la investigación sobre esta nueva tecnología, se invita a un grupo selecto de usuarios a explorar las posibilidades que esta función ofrece, a la vez que se reconocen los riesgos potenciales asociados a ella.
La seguridad de los usuarios es una prioridad para la empresa, que está trabajando en estrecha colaboración con la comunidad de investigación en inteligencia artificial y seguridad para desarrollar y probar nuevos enfoques de mitigación de riesgos. Este esfuerzo incluye la implementación de mecanismos que ofrecen defensas robustas contra posibles ataques, como las inyecciones de comandos, que han sido una preocupación desde la llegada de los asistentes de IA.
Los ataques de inyección de comandos, que buscan manipular las instrucciones de los modelos de IA, han evolucionado y representan un riesgo mayor a medida que estas herramientas se vuelven más sofisticadas. La empresa ha publicado ya conceptos de prueba que evidencian cómo estos ataques pueden permitir a los atacantes robar datos o ejecutar transacciones no autorizadas.
En respuesta a estos desafíos, se han propuesto varias estrategias de defensa, que incluyen la limitación de la entrada de datos no confiables y la detección de desviaciones de las tareas que el usuario ha solicitado. En esta fase inicial, se han bloqueado accesos a ciertos sitios considerados riesgosos y se han implementado protecciones basadas en la tecnología Microsoft Defender SmartScreen, que protege a millones de usuarios de fraudes y malware.
Además, se están probando nuevas técnicas que permiten a la función de «Acciones en Edge» monitorear su propio comportamiento para detectar y hacer frente a desviaciones que podrían poner en riesgo la seguridad del usuario. A modo de ejemplo, se incluyen comprobaciones de relevancia y funciones que piden autorización al usuario cuando se involucra información sensible.
La iniciativa también limita el acceso del sistema a datos y acciones peligrosas, evitando interacciones con configuraciones avanzadas del navegador e impidiendo el acceso a información sensible como contraseñas y datos de formularios.
Con esta vista previa, la empresa espera recibir retroalimentación de la comunidad para mejorar la seguridad y funcionalidad de «Acciones en Edge». La colaboración se puede llevar a cabo a través de un canal de Discord habilitado para este fin, donde los usuarios pueden compartir sus experiencias y sugerencias. La compañía se muestra optimista sobre el potencial de esta tecnología, mientras continúa comprometida con la seguridad en el entorno digital.
vía: Microsoft Windows blog
