Exemplos de uso🔗
Exemplos de aplicação🔗
Para ver exemplos completos de uso, está disponibilizado um repositório contendo notebooks Jupyter na linguagem Python. Os exemplos atualmente disponibilizados implementam as seguintes aplicações:
- Sumarização Stuff: Útil para textos pequenos, sem levar em conta contexto histórico de mensagens. Detalhes de implementação neste Jupyter Notebook em Python.
- Sumarização Map-Reduce: Utilizada para textos maiores, que extrapolam a janela de contexto. Detalhes de implementação neste Jupyter Notebook em Python.
- Sumarização Refine: Esta abordagem trata-se de resumos cumulativos a partir da primeira "fatia" do documento original. O resumo é atualizado com cada "fatia" nova acrescentada. Detalhes no Jupyter Notebook.
- Extração de dados de arquivo PDF em formato JSON: Este exemplo lida com documentos PDF com a finalidade de converter dados para um formato estruturado como JSON. Detalhes no Jupyter Notebook.
- Análise de imagem: O SerproLLM conta com modelos multimodais na entrada, que permitem ao usuário solicitar uma análise de conteúdo binário, como um arquivo de imagem, por exemplo. Estão disponibilizados dois exemplos, um com o modelo Pixtral e outro com o modelo Mistral Small.
- Reasoning: Alguns modelos do SerproLLM possuem o recurso de raciocínio (reasoning), que proporciona uma capacidade adicional ao LLM para chegar à resposta. Detalhes sobre o uso desse recurso podem ser encontrados no Jupyer Notebook, o modelo usado é o
GPT-OSS-120B. - Tool Calling: Embora o modelo de linguagem tenha a capacidade de fornecer respostas para basicamente qualquer tipo de pergunta, ás vezes é desejável que a resposta seja fornecida especificamente por uma ferramenta ou função, cujos parâmetros devem ser fornecidos pelo modelo. Este Jupyter Notebook mostra detalhes sobre como este recurso funciona, com um exemplo ilustrativo de um assistente tributário.
O repositório é atualizado com frequência, conforme evolui o desenvolvimento da plataforma do SerproLLM.