Modelos disponíveis
Visão geral
O Prosa oferece modelos de diferentes tamanhos para atender às suas necessidades. A escolha do tamanho ideal envolve equilibrar qualidade e custo, selecionando o porte ideal que entregue resultados satisfatórios para sua tarefa específica.
Quando utilizar
Para otimizar seus custos e desempenho, siga estas recomendações:
- Comece com o menor tamanho adequado à sua necessidade e aumente apenas se a qualidade dos resultados não for suficiente.
- Utilize Small para tarefas estruturadas de alto volume, como classificação, extração e rotulação de dados. Esses modelos são eficientes para operações rápidas e simples.
- Opte por Medium ou Large quando precisar de raciocínio mais elaborado ou geração de conteúdo sofisticado.
Funcionamento
A tabela a seguir detalha os portes disponíveis e suas características:
| Porte | Tamanho aproximado | Indicado para |
|---|---|---|
| SLM | ~4B parâmetros | Tarefas simples e rápidas: classificação, extração, respostas curtas. |
| Small | ~8B parâmetros | Uso geral versátil: chat, resumos, tarefas do dia a dia. |
| Medium | porte intermediário | Tarefas que exigem mais capacidade do que o Small, mantendo eficiência. |
| Large | ~70B parâmetros | Tarefas complexas: raciocínio elaborado, geração sofisticada, RAG. |
Limitações e cotas
O catálogo de modelos está em fase de validação e pode sofrer alterações durante a fase piloto. Por isso, ao planejar sua aplicação, trabalhe com os portes (Small, Medium e Large) em vez de depender de um modelo específico. Isso garante flexibilidade e adaptação às mudanças no catálogo da Magalu Cloud.
Perguntas frequentes (FAQ)
Como devo escolher o tamanho ideal para minha aplicação? Comece avaliando a complexidade da tarefa. Se for simples, como classificação ou extração de dados, Small pode ser suficiente. Para tarefas mais elaboradas, considere Medium ou Large. Sempre teste com o menor tamanho e aumente se necessário.
Próximos passos
Para começar a usar os modelos na Magalu Cloud, explore a documentação detalhada sobre como configurar sua aplicação e otimizar o uso dos diferentes portes de modelo. Acompanhe as atualizações do catálogo para aproveitar ao máximo os recursos disponíveis.