Visão geral
O AI Hub é a plataforma de Inteligência Artificial da Magalu Cloud e estamos disponibilizando a funcionalidade de modelos como serviço inicialmente. Você escolhe um modelo do catálogo, cria uma chave e integra as chamadas à sua aplicação sem provisionar GPUs nem operar a infraestrutura de inferência.
Para usar o serviço, solicite acesso pela página do AI Hub e aguarde a liberação para a sua conta. Depois da liberação, o AI Hub aparece no menu lateral do console.
Quando utilizar
Use o AI Hub para adicionar geração e processamento de conteúdo, busca semântica, reranqueamento e transcrição de áudio às suas aplicações. O catálogo reúne modelos de linguagem, embeddings, rerankers e reconhecimento de fala.
O serviço é indicado para equipes que desejam integrar modelos prontos por API, escolher entre diferentes opções de custo e capacidade e acompanhar o consumo associado às chamadas.
Funcionamento
- Solicite acesso ao AI Hub e aguarde a liberação para a sua conta.
- Crie uma chave de API.
- Consulte o catálogo de modelos e selecione o modelo adequado à tarefa.
- Envie solicitações à API compatível com o padrão OpenAI, usando a API Key e a URL exibidas no console.
- Acompanhe o consumo através do painel de métricas por API Key ou por tenant. A cobrança é calculada de acordo com a unidade de medida conforme o modelo.
Para verificar as métricas por tenant:
Para verificar as métricas por API KEY:
Dependendo do modelo selecionado, as unidades de medida mudam:
| Tipo | Unidade |
|---|---|
| LLM | Token por Milhão |
| Text-To-Speech ou Speech-To-Text | Segundos do áudio gerado ou processado |
| Text-To-Image | Imagem gerada |
| Embedding | Milhão de tokens de entrada |
| Rerankers | Milhão de tokens de entrada |
O AI Hub ainda não fornece, até esta data, serviços de treinamento ou fine tuning de modelos. Os serviços mencionados poderão ser acrescentados conforme planejamento. Nossos usuários serão avisados das novidades com antecedência.
Configurações do serviço
Os limites de requisições, tokens e disponibilidade podem variar conforme o modelo e a configuração da conta. Para detalhes sobre RPM ( Requisições por Minuto ) e TPS ( Tokens por segundo ) acesse no console:
Perguntas frequentes
Como consigo acesso ao AI Hub?
O acesso é concedido mediante solicitação. Preencha o formulário na página do AI Hub e aguarde o contato da Magalu Cloud com a confirmação da liberação.
O AI Hub é um chat pronto para uso?
Não. O AI Hub fornece modelos por API para integração em aplicações e fluxos próprios.
Posso usar qualquer modelo do catálogo para qualquer tarefa?
Não. Há modelos com finalidades distintas. Modelos de embeddings transformam texto em vetores, rerankers reordenam resultados de busca e modelos de fala transcrevem áudio. Consulte a página de modelos disponíveis.
Como funciona a cobrança?
O consumo é cobrado por unidade de medida de acordo com o modelo. Veja Preços e cobrança e consulte os valores vigentes no console.
Onde consulto os limites de uso?
Consulte os limites de uso por API KEY, nos detalhes de cada API KEY (opção Detalhes).
Próximos passos
- Consulte os modelos disponíveis.
- Leia Preços e cobrança.
- Siga o guia para usar o AI Hub no console.