Computação com GPU · CHINZY
Aluguel de GPU B300: como comparar regiões a partir da Cidade de Ho Chi Minh
A região que hospeda o modelo pode mudar a espera pelo primeiro token na Cidade de Ho Chi Minh. A VNNIC lista um ponto de troca de tráfego na cidade; isso não revela a rota nem a latência real de um fornecedor de GPU.
O que enviar ao pedir orçamento
Peça a dois fornecedores um endereço de teste, o preço por hora de GPU, o mínimo faturável e a tarifa de saída por GB. Envie as mesmas consultas anonimizadas pela rede dos usuários, mantendo modelo, tamanho de entrada, concorrência e cache iguais.
Como avaliar duas propostas
Meça em separado, no horário comercial e no pico da noite, o percentil 95 até o primeiro token, a taxa de falhas e os GB de saída. Descarte regiões acima do limite de latência e compare em uma única moeda o custo de GPU somado ao tráfego de saída.
Fonte local
VNNIC · Viet Nam National Internet eXchange (VNIX) ↗São exemplos de compra. As fontes fornecem contexto local. Confirme na proposta a região de entrega, o apoio presencial e a disponibilidade.