IA Generativa na SAP - Highlights

Comecemos pelas conclusões: a SAP pretende capitalizar na tendência de IA Generativa fornecendo dois componentes principais: Generative AI Hub (um ecossistema para construir aplicações de IA generativa) e Joule (um assistente de negócios inteligente baseado na tecnologia e nos dados fornecidos pela SAP).

Embora existam outras alternativas competitivas no mercado, se a SAP conseguir integrar esses componentes de maneira significativa em seu ecossistema de aplicações, a SAP criará soluções muito competitivas para clientes que estão fortemente investidos na stack de produtos da SAP.

SAP Business AI Model

O Generative AI Hub é relevante para o desenvolvimento de aplicações de IA generativa, permitindo que desenvolvedores acessem vários modelos de fundação, apliquem uma camada de segurança fornecida pela SAP e trabalhem de maneira multi-tenant – oferecendo ao mesmo tempo um playground para engenharia e gestão de prompts. Neste momento, a IA generativa parece estar em uma fase incipiente, carecendo de suporte para construção de agentes inteligentes, assistentes personalizados e registros de prompts. Além disso, existem outras alternativas no mercado (como o Azure AI Studio) que podem superar o Generative AI Hub. No entanto, se a SAP conseguir construir ou (exclusivamente) incorporar modelos de parceiros especializados em representar conhecimento empresarial especializado (como finanças ou e-commerce) e integrar o Generative AI Hub com seu ecossistema de produtos – ela pode ganhar uma vantagem aqui.

Joule é um assistente de negócios que pode integrar dados de diferentes fontes, o Generative AI Hub e outros sistemas SAP. Parece ser projetado tanto como uma interface quanto como um gateway para as informações armazenadas em outros sistemas SAP (especialmente sistemas de registro). Novamente, há várias alternativas no mercado (incluindo a alternativa de construir seu próprio assistente no Azure AI Studio) – mas se a SAP integrar facilmente o Joule com seu ecossistema e fornecer uma maneira de integrar o Joule em fluxos de trabalho e interações de usuários – ela também poderá criar uma proposta muito competitiva para clientes que já utilizam extensivamente o ecossistema de produtos SAP.

Entendendo a SAP AI Foundation

Em primeiro lugar, a SAP segue a tendência de grandes corporações de capitalizar no crescente interesse e nas oportunidades de negócios associadas à IA generativa.

AI SAP Foundation

A SAP AI Foundation é a plataforma fundamental da SAP para a construção de funcionalidades de IA, representada pela SAP AI Foundation, que visa fornecer um conjunto completo de serviços para desenvolvedores na Business Technology Platform da SAP.

A SAP AI Foundation possui várias camadas:

A camada mais básica fornece acesso a uma série de Modelos de Fundação de IA (modelos de aprendizado de máquina de propósito geral, como LLMs) que são atualmente fornecidos por parceiros (no momento da escrita, a SAP fornece acesso aos modelos da OpenAI, modelo Gemini da Google e ao modelo de código aberto Falcon). Modelos futuros devem ser construídos pela própria SAP ou fornecidos por um espectro ampliado de fornecedores. Portanto, a SAP pode operar como uma intermediária entre diferentes fornecedores de modelos de fundação, permitindo que operações complexas sejam alimentadas por um modelo de fundação ou outro;
A segunda camada é composta pela funcionalidade de Dados e Contexto de Negócios - que basicamente significa fornecer suporte para bancos de dados de vetores e busca semântica. Por enquanto, a SAP usa o pgvector (um motor de busca de similaridade de vetores do Postgres), mas isso se tornará uma capacidade padrão para armazenamento de vetores e busca de similaridade no SAP Hana Cloud. Esta camada é instrumental para garantir o grounding dos LLMs através de várias implementações RAG;
A terceira camada é representada por dois componentes: Gestão de Carga de Trabalho de IA e Gestão de IA Generativa. A Gestão de Carga de Trabalho de IA fornece funcionalidades básicas para processos padrão de IA, como treinar modelos de aprendizado de máquina ou realizar inferências sobre eles. A Gestão de IA Generativa é o segundo componente, que é a plataforma principal para o uso de funcionalidades de IA Generativa fornecidas pela SAP (mais sobre isso a seguir);
Finalmente, a quarta (e superior) camada é representada por serviços de IA que são serviços complexos e de alto valor, construídos com base nas funcionalidades fornecidas pelas camadas anteriores. Esta camada fornece funcionalidades focadas em suporte a negócios, como: Processamento de Documentos, Tradução ou Recomendações.

Em suma, a SAP AI Foundation é uma plataforma construída sobre modelos de fundação, incorporando capacidades de gestão de dados (incluindo dados vetoriais), usando tanto IA clássica quanto generativa para fornecer funcionalidades de alto nível para vários produtos empresariais (como finanças, e-commerce ou gestão de documentos).

Entendendo o Generative AI Hub

Agora, vamos abordar o suporte à IA Generativa, que foi o foco do curso. A SAP gerencia a IA Generativa através do Generative AI Hub, que possui três componentes principais:

Conjunto de Ferramentas: suporta um Playground e capacidades para realizar engenharia de prompts e gerenciar prompts. Um fato interessante é que eles planejam oferecer suporte para uma funcionalidade de Registro de Prompts no futuro;
Confiança e Controle: adiciona segurança nativa da SAP e permite suporte multi-tenant para aplicações de IA Generativa. Não há agentes, moderação de conteúdo e plugins neste momento (mesmo que tais serviços sejam fornecidos por outras plataformas como os serviços Azure AI);
Acesso a modelos de fundação: permitindo que os desenvolvedores acessem vários modelos de fundação LLM (mesmo acesso fornecido pela SAP AI Foundation).

SAP AI HUB Generativo

Durante o curso, não vi nenhum suporte para templates de prompts, que são essenciais para construir pipelines de IA Generativa de maneira flexível e escalável. Além disso, não estou certo de como o Generative AI Hub competirá contra soluções como o Azure AI Studio, que possui uma gama mais ampla de capacidades (como construir seu próprio assistente ou construir agentes inteligentes).

Considerações finais

Um curso com aspecto muito informativo, mesmo sendo em um nível introdutório. Os materiais são definitivamente claros e as unidades de autoavaliação ajudam a consolidar o conhecimento. Recomendo fortemente este curso para aqueles que querem aprender o básico sobre IA Generativa em geral e IA Generativa dentro do universo SAP em particular.

Link de acesso ao curso: https://open.sap.com/courses/genai1.

Esteja atento que ele estará disponível por tempo inderteminado.