Skip to main content

Casos de uso do Prosa

Visão geral​

O Prosa é uma plataforma de inferência que permite você utilizar modelos de linguagem para diversas tarefas, como processamento de texto e busca aumentada (RAG). Ele se integra à sua aplicação via API, oferecendo flexibilidade para construir soluções personalizadas na Magalu Cloud.

Quando utilizar​

Você pode aproveitar o Prosa em diversos cenários:

  • Atendimento e suporte: Crie assistentes internos para triagem de tickets e respostas a dúvidas frequentes, otimizando o tempo da sua equipe.
  • Processamento de documentos: Automatize tarefas como resumo, extração de informações relevantes e classificação de grandes volumes de texto.
  • RAG (busca aumentada): Implemente sistemas que fornecem respostas precisas baseadas na base de conhecimento específica da sua empresa.
  • Geração de conteúdo interno: Agilize a criação de rascunhos, descrições e outros materiais para aumentar a produtividade dos seus times.
  • Automação de processos: Integre o Prosa em fluxos existentes que exigem compreensão e geração de texto.

Funcionamento​

O Prosa funciona como uma infraestrutura de inferência, ou seja, ele utiliza modelos de linguagem pré-treinados para processar suas solicitações via API. Você envia o texto desejado e recebe a resposta gerada pelo modelo escolhido. A plataforma cuida da complexidade da execução dos modelos, permitindo que você se concentre na construção da sua aplicação.

Limitações e cotas​

Atualmente, o Prosa possui algumas limitações importantes:

  • Treinamento ou customização de modelos: O Prosa é focado em inferência e não permite treinar ou personalizar os modelos disponíveis.
  • Produto de chat pronto para o usuário final: O Prosa oferece a infraestrutura via API, sendo necessário que você desenvolva sua própria aplicação de chat.
  • SLA rigoroso e garantido: As garantias de operação do serviço ainda estão em fase de validação durante o período piloto.
  • Limites O limite para RPM(requisições por minuto) hoje é de 600 e TPM(Tokens por minuto) é de 100K.

Perguntas frequentes (FAQ)​

  • O Prosa pode ser usado para criar um chatbot completo? Não, o Prosa é uma plataforma de inferência que fornece a base para você construir sua própria aplicação de chat.
  • Posso treinar meus próprios modelos no Prosa? Atualmente, não é possível treinar ou customizar modelos na plataforma. O Prosa oferece apenas modelos pré-treinados.
  • Existe alguma garantia de disponibilidade do serviço? As garantias de operação estão em fase de validação durante o período piloto.

Próximos passos​

Para começar a usar o Prosa, explore a documentação e os exemplos disponíveis para entender como integrar a plataforma à sua aplicação na Magalu Cloud. Acompanhe as atualizações do serviço para ficar por dentro das novas funcionalidades e melhorias.