AWS, al igual que todos los hyperscalers, está acelerando significativamente en el ámbito de la IA generativa (y no solo). Recientemente, la multinacional ha puesto a disposición de todos Amazon Bedrock, una plataforma diseñada para desarrollar aplicaciones que se basan en LLM. También llega Amazon Titan Embeddings, un LLM diseñado para aprovechar la IA utilizando sus propios datos. Pero no son las únicas novedades: AWS también ha anunciado nuevas funcionalidades de inteligencia artificial generativa para CodeWhisperer y QuickSight.
Amazon Bedrock: los principales LLM accesibles a través de API
Desde el lanzamiento de ChatGPT, hemos sido testigos de una gran proliferación de modelos lingüísticos de gran tamaño, tanto generales como específicos. Amazon Bedrock es un servicio de AWS que permite desarrollar aplicaciones basadas en diferentes Modelos Fundamentales, es decir, modelos de aprendizaje automático pre-entrenados en grandes cantidades de datos.
La ventaja de Amazon Bedrock es que permite integrar varios modelos de IA generativa dentro de las aplicaciones, evitando que las empresas tengan que realizar inversiones significativas en infraestructura para entrenar sus propios modelos internamente. Los usuarios también podrán integrar sus propios datos en las aplicaciones creadas. Amazon asegura dar mucha importancia a la privacidad, garantizando total transparencia sobre cómo se tratarán esta información.
Actualmente, se admiten los LLM de AI21 Labs, Anthropic, Cohere, Stability AI, además del de Amazon. Próximamente se agregará el soporte para LLama 2, el LLM de Meta. Entre los casos de uso de Amazon Bedrock se incluyen la generación de texto e imágenes, la creación de chatbots y la búsqueda de información.
Amazon Titan Embeddings: la Generación con Recuperación está al alcance de todos
Amazon Titan es un servicio que incluye una serie de Modelos Fundamentales pre-entrenados y listos para usar. «Estos MF son particularmente útiles, pero para proporcionar respuestas basadas en datos privados, es necesario utilizar la técnica RAG, Generación con Recuperación. En la práctica, RAG es un enfoque que permite conectar estos modelos pre-entrenados a nuevas fuentes de datos. Sin embargo, para hacerlo, se requiere tener habilidades específicas de aprendizaje automático. Aquí es donde entra en juego Amazon Titan Embeddings, que simplifica este proceso. Actualmente, admite 25 idiomas y contextos largos, de hasta 8,000 tokens, como GPT-4 (GPT-3 está limitado a 4,000 tokens).
Nuevas funcionalidades para Amazon CodeWhisperer
Amazon CodeWhisperer es una IA desarrollada por AWS diseñada para ayudar a los programadores en la redacción y revisión de código, una de las aplicaciones donde la IA está demostrando ser más útil para mejorar la productividad. El problema es que los desarrolladores a menudo se encuentran utilizando API, bibliotecas y clases que no están incluidas en el entrenamiento del modelo, por lo que resulta difícil obtener sugerencias sobre estos activos específicos, que a menudo son propios de las empresas.
Amazon CodeWhisperer permite «alimentar al modelo, de manera respetuosa con la privacidad, con la propia documentación procedente de GitHub o de fuentes internas de la empresa, para mejorar el conocimiento de la herramienta y obtener sugerencias sobre material para el cual CodeWhisperer no ha sido entrenado.
