En un mundo donde la inteligencia artificial generativa sigue impulsando la innovación a través de diversas industrias y aspectos de la vida cotidiana, la responsabilidad en el uso de la inteligencia artificial ha emergido como una cuestión clave. AWS ha subrayado la importancia de este enfoque al presentar nuevas herramientas y recursos bajo el lema de la responsabilidad en la IA durante su evento AWS re:Invent 2024. La compañía tecnológica ha destacado que la confianza es fundamental para el éxito a largo plazo de la IA, algo que solo puede lograrse mediante el uso responsable de la tecnología.
Un estudio conjunto realizado por Accenture y AWS sostiene que la responsabilidad en la utilización de la inteligencia artificial no solo ayuda a mitigar riesgos, sino que también impulsa el valor empresarial al mejorar la calidad del producto, la eficiencia operativa y la lealtad del cliente. Casi la mitad de las empresas encuestadas reconocen que el uso responsable de la IA es crucial para el crecimiento de los ingresos relacionados con esta tecnología.
AWS se ha convertido en el primer proveedor importante de servicios en la nube en obtener la certificación ISO/IEC 42001, la cual establece un estándar internacional para la gestión responsable de sistemas de inteligencia artificial. Esto significa que un tercero independiente ha validado los esfuerzos de AWS para mitigar riesgos y aprovechar oportunidades asociadas con el desarrollo, implementación y operación de sistemas de IA.
Una de las innovaciones presentadas durante AWS re:Invent 2024 es la expansión de Amazon Bedrock Guardrails, un sistema de protecciones diseñado para aumentar la seguridad y la transparencia en aplicaciones de inteligencia artificial generativa. Amazon Bedrock Guardrails ofrece técnicas avanzadas para prevenir errores factuales y detectar contenido tóxico, tanto en texto como en imágenes, lo cual refuerza la confianza en los sistemas de inteligencia artificial.
Además, se han introducido capacidades de evaluación para generative AI a través de Amazon Bedrock Evaluations, permitiendo a las organizaciones comparar y seleccionar los mejores modelos para sus casos de uso específicos. Este sistema emplea tecnología LLM-as-a-judge, la cual proporciona evaluaciones de calidad humana de manera más eficiente y económica en comparación con evaluaciones completamente realizadas por humanos.
Otra novedad es Amazon Nova, una nueva generación de modelos que incorpora medidas de salvaguarda integradas para detectar y eliminar contenido dañino, destacando así su arquitectura centrada en la responsabilidad desde la recolección de datos hasta la implementación post-despliegue.
AWS también ha lanzado las AI Service Cards, un conjunto de recursos destinados a aumentar la transparencia en el desarrollo y uso de su tecnología de inteligencia artificial. Estas tarjetas ofrecen información detallada sobre los casos de uso previstos, las limitaciones y las elecciones de diseño responsables detrás de los servicios de inteligencia artificial de la empresa.
Con estos desarrollos, AWS reafirma su compromiso con la innovación responsable en inteligencia artificial, proporcionando las herramientas necesarias para que las organizaciones de todos los tamaños puedan aprovechar el potencial de la IA, garantizando confianza y transparencia en sus aplicaciones.
vía: AWS machine learning blog
