La revolución de la inteligencia artificial avanza a pasos agigantados, desplazándose más allá de los clásicos chatbots hacia agentes autónomos que pueden actuar, decidir e interactuar con sistemas internos. Sin embargo, estos nuevos avances traen consigo importantes desafíos en términos de seguridad. A diferencia del software tradicional, los agentes de IA pueden ser manipulados a través del lenguaje, lo que los hace susceptibles a ataques como la inyección de prompts y plantea riesgos de seguridad adicionales, como el exceso de autonomía.
Para abordar estos temas, el próximo 31 de julio se llevará a cabo un webinar exclusivo con Sourabh Satish, CTO y cofundador de Pangea. Durante esta sesión, se explorará el paisaje en evolución de los agentes de IA y se discutirán las mejores prácticas para asegurar su funcionamiento.
El seminario abordará diversas áreas, incluyendo demostraciones de la configuración y vulnerabilidades del MCP (Multi-Cloud Platform), lo que permitirá destacar cómo diferentes arquitecturas pueden afectar la superficie de ataque de los agentes. Asimismo, se presentará un resumen de las medidas de seguridad existentes, que abarcan desde proyectos de código abierto y ofertas de proveedores de servicios en la nube hasta herramientas comerciales y enfoques «hazlo tú mismo».
Además, se realizará una comparación de las ventajas y desventajas de varias soluciones de protección para ayudar a los participantes a elegir el enfoque adecuado según sus necesidades. Los asistentes también recibirán prácticas recomendadas y consejos para implementar guardrails que aseguren sus agentes de IA sin frenar la innovación.
Este evento es esencial para líderes de ingeniería, ingenieros de IA y responsables de seguridad que buscan comprender y mitigar los riesgos asociados con el software agente en un entorno cada vez más adversarial.
vía: AI Accelerator Institute
