Amazon ha presentado una nueva funcionalidad en su servicio Amazon Bedrock que permite la inferencia entre regiones, ofreciendo a las organizaciones una mayor flexibilidad para acceder a modelos fundamentales (FMs) a través de diferentes regiones de AWS, sin sacrificar el rendimiento ni la disponibilidad. Sin embargo, muchas empresas han implementado estrictas políticas de control de acceso regional, ya sea mediante políticas de control de servicios (SCPs) o AWS Control Tower, que a menudo bloquean esta nueva función, generando un dilema entre la seguridad y la capacidad de aprovechar las capacidades de inteligencia artificial.
La inferencia entre regiones permite a las aplicaciones gestionar ráfagas de tráfico inesperadas utilizando recursos de computación en diferentes regiones. Esto resulta particularmente beneficioso para los desarrolladores que utilizan el modo de inferencia bajo demanda, ya que facilita la distribución del tráfico, mejorando así la capacidad de respuesta y el rendimiento del sistema ante picos en la demanda.
A pesar de las ventajas de esta nueva funcionalidad, las restricciones de acceso en regiones específicas pueden impedir que Amazon Bedrock funcione de manera óptima. Las SCPs configuradas para restringir el acceso a todos los servicios en ciertas regiones pueden afectar la capacidad de Amazon Bedrock de acceder a modelos en esas áreas, lo que resulta en la imposibilidad de realizar inferencias entre regiones.
La manera en que opera la inferencia entre regiones de Amazon Bedrock implica un sistema automatizado de enrutamiento que evalúa las regiones disponibles para realizar la solicitud de inferencia, priorizando la región de origen para minimizar la latencia. Sin embargo, si el acceso a cualquier región potencial de cumplimiento está bloqueado por SCPs, la solicitud no podrá llevarse a cabo, lo que genera errores para los usuarios que desean acceder a estas funciones.
Se presenta un caso específico que ilustra cómo se puede configurar eficazmente el acceso a la inferencia entre regiones modificando las SCPs existentes para permitir que Amazon Bedrock funcione correctamente. Para las organizaciones que utilizan AWS Control Tower, la modificación de las SCPs puede permitir que ciertos modelos se utilicen sin comprometer las restricciones regionales, siempre y cuando se identifiquen las regiones donde están alojados los modelos necesarios.
Este enfoque de política de acceso garantiza que las organizaciones puedan seguir cumpliendo con los requisitos regulatorios sin perder de vista las potentes capacidades de inteligencia artificial que Amazon Bedrock ofrece. La implementación correcta de estas políticas no solo optimiza el acceso a modelos entrenados, sino que también ayuda a las empresas a adaptarse a las exigencias cambiantes del entorno digital sin comprometer la seguridad.
vía: AWS machine learning blog
