- Documentação
- Plataforma e arquitetura
- Onde a IA roda: Private Cloud e On Site
Onde a IA roda: Private Cloud e On Site
O mesmo motor, dois lugares. Quase todo cliente começa na Private Cloud; quem precisa da inferência dentro do próprio perímetro leva o motor para o rack.
- Private Cloud
- Data centers no Brasil e nos EUA, isolada por organização
- On Site
- Nó exclusivo no seu rack de 19"
- Fora do perímetro
- Só telemetria de saúde e plano de controle auditável
Nesta página
Private Cloud ou On Site
| iSol Private Cloud | On Site | |
|---|---|---|
| Onde roda a inferência | Data centers da iSol no Brasil e nos EUA | Nó exclusivo no seu rack |
| Isolamento | Por organização | Físico, dentro do seu perímetro |
| Prazo para começar | Semanas | Instalação entre a 6ª e a 10ª semana |
| Com o link de internet caído | Depende da conectividade | A IA segue no ar |
| Modelo comercial | Assinatura pelo produto | Comodato ou compra, 36 meses, mensalidade fixa por nó |
Como o On Site é instalado
- ConterSemana 1: inventário do uso de IA e das regras de dado.
- Começar na Private CloudSemanas 1 a 6: o trabalho começa sem esperar o hardware.
- InstalarSemanas 6 a 10: o nó entra no rack e a carga migra.
- ComporDo mês 3 em diante: mais nós conforme a demanda (1, 2, 4, 5 ou 6).
Requisitos do local: rack de 19 polegadas, no-break e uma VLAN dedicada.
Desempenho medido no On Site
| Medida | Valor |
|---|---|
| Memória unificada por nó | 128 GB (cerca de 121 GB utilizáveis) |
| Interligação do par de nós | 200 Gb/s (cerca de 110 Gb/s efetivos) |
| Contexto por conversa | 262 mil tokens |
| Tempo até começar a responder | 0,2 a 0,45 s; com 10 mil tokens de entrada, 3 a 4 s |
| Velocidade de geração | 23 a 26 tokens/s |
Medições da configuração de referência. Marca e modelo do equipamento ficam no anexo técnico.
O que sai do perímetro
- Telemetria de saúde do nó.
- Plano de controle autenticado e auditável, para atualização e suporte.
- Failover para a Private Cloud: opcional e desligado por padrão.
Direito de auditoria, acesso do regulador e plano de saída entram no contrato, com NDA mútuo.
Faltou alguma coisa nesta página? Fale com um AI Architect.