Yuewen Group, un líder global en literatura en línea y operaciones de propiedad intelectual, ha logrado atraer alrededor de 260 millones de usuarios en más de 200 países y regiones a través de su plataforma internacional WebNovel. La compañía se ha comprometido a promover la literatura web china en el ámbito global, adaptando novelas de calidad en películas y animaciones para mercados internacionales, lo que amplía la influencia cultural de China.
Recientemente, Yuewen Group ha anunciado la integración de Prompt Optimization en Amazon Bedrock, una herramienta que permite optimizar los prompts para diversos casos de uso con una sola llamada a la API o con un simple clic en la consola de Amazon Bedrock. Esta innovación marca un paso significativo en la mejora del rendimiento de los modelos de lenguaje grande (LLMs) para tareas de procesamiento inteligente de texto dentro de la empresa.
Iniciando con modelos de procesamiento de lenguaje natural (NLP) propios, la compañía enfrentó dificultades con ciclos de desarrollo prolongados y actualizaciones lentas. Para superar estos desafíos, Yuewen Group adoptó el modelo Claude 3.5 Sonnet de Anthropic en Amazon Bedrock. Este modelo ofrece capacidades mejoradas de comprensión y generación del lenguaje, lo que permite manejar múltiples tareas de manera concurrente con una mejor comprensión del contexto. Sin embargo, al principio, la empresa encontró obstáculos para aprovechar todo el potencial de los LLMs debido a su limitada experiencia en ingeniería de prompt, destacando la necesidad de una optimización estratégica de los mismos.
Uno de los principales retos en la optimización de prompts es la complejidad de evaluación, ya que la calidad de un prompt y su capacidad para generar respuestas deseadas dependen de numerosos factores, incluidos la arquitectura del modelo de lenguaje y los datos de entrenamiento. Además, la dependencia del contexto hace que un prompt efectivo en un escenario pueda no funcionar igual en otro, lo que requiere ajustes sustanciales. A medida que las aplicaciones de LLMs aumentan, también lo hace la cantidad de prompts necesarios, haciendo que la optimización manual sea cada vez más laboriosa.
Para abordar estos problemas, la tecnología de optimización automática de prompts ha ganado atención. La optimización de prompts en Amazon Bedrock ofrece eficiencia al generar automáticamente prompts de alta calidad adaptados a diferentes LLMs, lo que ahorra tiempo y esfuerzo en la ingeniería de prompts manual. Esto ha permitido a Yuewen Group mejorar significativamente la precisión en tareas analíticas de texto inteligente. Por ejemplo, en el caso de la atribución de diálogos de personajes, los prompts optimizados alcanzaron un 90% de precisión, superando en un 10% a los modelos de NLP tradicionales.
La implementación de esta nueva tecnología ha transformado el proceso de ingeniería de prompts, permitiendo a la empresa completar sus tareas de manera más ágil y eficiente. Se han recopilado buenas prácticas para maximizar la experiencia del usuario, como utilizar prompts claros y precisos y evitar ejemplos excesivamente largos.
Con la continua evolución de la inteligencia artificial, herramientas como la optimización de prompts serán fundamentales para permitir que las empresas aprovechen al máximo los beneficios de los modelos de lenguaje grande en sus operaciones. La experiencia de Yuewen Group demuestra cómo estas innovaciones pueden revolucionar aplicaciones en diversas industrias, ofreciendo ahorros significativos en tiempo y mejoras en el rendimiento.
vía: AWS machine learning blog
