Home

Apresentação

O Serpro LLM é o serviço de Grandes Modelos de Linguagem (LLM) do Serpro. O serviço oferece soluções baseadas em Inteligência Artificial Generativa, tecnologia capaz de compreender e produzir texto em linguagem natural que ficou bastante conhecida após a popularização de ferramentas como o Chat GPT.

O serviço provê um catálogo de LLMs abertas, já validadas pela academia e pela indústria. Os modelos ficam hospedados na infraestrutura própria de GPUs do SERPRO, sendo uma alternativa interessante para evitar a transferência de dados sigilosos para fornecedores estrangeiros ou operadores externos.

Inicialmente, o Serpro LLM oferece duas interfaces:

• Playground: uma janela de conversa livre que permite degustar os modelos disponibilizados.
• API: disponibilizada na Loja de APIs do PLIN, permite que os modelos de linguagem sejam integrados nas aplicações.

Ambientes

O SerproLLM está estruturado para operação em dois ambientes: Experimentação e Produção.

O ambiente de Experimentação está destinado para testes de modelos disponibilizados no SerproLLM, incluindo modelos novos que ainda estão em análise ou ainda não estão disponibilizados para produção.

Já o ambiente de Produção está configurado para atender a demandas específicas do Serpro e seus clientes, com modelos já previamente testados e aprovados quanto à disponibilidade, acordo de nível de serviço, com o mínimo de atendimento aos requisitos não funcionais.

Atenção

O ambiente de Experimentação não proporciona garantia de estabilidade e continuidade do serviço, portanto não deve ser utilizado para demandas de produção.

Oportunidades de inovação

É comum associar LLMs com janelas de chat com um assistente de Inteligência Articial que consegue falar sobre assuntos gerais, ser criativo e até ajudar uma pessoa em determinadas tarefas quando solicitado. Mas elas podem ir muito além disso.

As LLMs são projetadas para entender e gerar texto natural de forma eficaz, logo, viabilizam a criação de soluções envolvendo o Processamento de Linguagem Natural (PLN) tais como análise de sentimento, extração de informações, classificação automática, correção ortográfica, formatação, normalização, resumo e tradução de textos, dentre outros.

É possível, por exemplo, projetar um processamento em lote de uma grande base de documentos de texto para que sejam gerados resumos e metadados que vão enriquecer e acelerar o processo interno de uma determinada organização. As possibilidades de inovação são inúmeras.

Experimente o Serpro LLM e descubra como a Inteligência Artificial Generativa pode transformar suas soluções!