El 24 de abril de 2025, a las 12 p.m. EST, se llevará a cabo un seminario web en línea centrado en los nuevos desafíos de seguridad que enfrentan las aplicaciones impulsadas por inteligencia artificial generativa. Este evento se presenta como una oportunidad crucial para que empresas y profesionales del ámbito de la ciberseguridad se informen sobre las amenazas emergentes, especialmente las que surgen a través de ataques de inyección de mensajes.
Con la carrera constante de las organizaciones por integrar la inteligencia artificial generativa en sus flujos de trabajo, los adversarios han comenzado a encontrar formas innovadoras de explotar los modelos de lenguaje mediante ataques que permiten la filtración de datos sensibles y la elusión de controles de seguridad. En este contexto, es esencial que las empresas comprendan cómo funcionan estos ataques y las estrategias disponibles para proteger sus aplicaciones de GenAI.
Durante el seminario, Rob Truesdell, Chief Product Officer de Pangea, guiará a los asistentes a través de un análisis exhaustivo de las amenazas relacionadas con la inyección de mensajes. La sesión abordará varios puntos clave, incluyendo una explicación de las técnicas de inyección directa e indirecta, así como ejemplos de ataques del mundo real que ilustran la gravedad de estos riesgos. Además, se discutirá qué están haciendo los proveedores de modelos de lenguaje para implementar defensas nativas contra estas amenazas.
El seminario también explorará la distinción entre amenazas internas y externas, destacando cómo los adversarios pueden manipular los modelos de GenAI desde dentro y fuera de las organizaciones. Los participantes aprenderán sobre estrategias de mitigación de riesgos, incluyendo mejores prácticas de ingeniería y seguridad que pueden ayudar a prevenir, detectar y responder a intentos de inyección de mensajes. Por último, se ofrecerán pautas sobre cómo evaluar la efectividad de los mecanismos de detección de inyección de mensajes.
Este webinar está diseñado específicamente para líderes en seguridad, ingenieros de inteligencia artificial y equipos de producto que buscan comprender y mitigar los riesgos asociados con aplicaciones impulsadas por IA en un entorno cada vez más adversario. Se espera que la participación sea alta, dado el interés creciente en las implicaciones de la ciberseguridad en el desarrollo y uso de tecnologías de inteligencia artificial.
vía: AI Accelerator Institute
