Onde fica a GPU, e por que isso muda o seu projeto

O local que a oferta nem sempre mostra

Uma oferta de GPU cobrada em reais pode estar rodando num data center em outro país. O preço por hora e o modelo da GPU aparecem em destaque; a cidade onde a máquina fica, muitas vezes, só aparece no contrato ou na documentação técnica.

O local da GPU pesa em três frentes: quanto tempo cada resposta demora, se o uso de dados pessoais vira transferência internacional pela LGPD e como o contrato com o fornecedor é montado. As nossas GPUs ficam em data centers no Brasil, em Vitória (ES), Serra (ES), São Paulo (SP) e Rio de Janeiro (RJ), e a proposta indica em qual deles.

Tempo de resposta: o limite que vem da física

A luz percorre a fibra óptica a cerca de 200 mil quilômetros por segundo. Mesmo pelo caminho mais curto sobre a superfície da Terra e sem nenhum equipamento no caminho, a ida e a volta de um pacote entre São Paulo e outro continente têm um tempo mínimo.

Dentro do Brasil, as distâncias são outras: o mínimo físico de ida e volta fica perto de 4 ms entre São Paulo e Rio de Janeiro, 4 ms entre Rio de Janeiro e Vitória e 7 ms entre São Paulo e Vitória.

O mínimo físico é um cálculo nosso, com a distância de círculo máximo e a velocidade da luz na fibra. As medições publicadas pela Spheron, um provedor de nuvem, sem data de coleta informada, ficam acima dele: os cabos fazem trajetos mais longos e os equipamentos no caminho acrescentam atraso. O seu resultado depende da sua conexão.

Quando isso pesa

• Pesa pouco em simulações científicas, treinamento e ajuste fino em lote. O trabalho roda horas seguidas dentro do data center, e a distância só aparece na hora de enviar os dados e buscar o resultado.
• Pesa muito em inferência interativa, como no caso de um LLM em produção: assistentes que conversam com clientes, atendimento por voz, busca com IA dentro de um sistema. Quando o sistema conversa direto com a GPU naquela região, cada pergunta paga a ida e a volta, e uma conversa soma várias delas.

Dados pessoais: quando o local vira assunto jurídico

Se a carga de trabalho usa dados pessoais de clientes, funcionários ou pacientes e a GPU fica fora do Brasil, a LGPD trata isso como transferência internacional de dados. A transferência é permitida, mas o contrato precisa seguir um dos caminhos previstos na lei e regulamentados pela ANPD.

O guia LGPD e GPU no exterior explica esses caminhos e o que o jurídico da empresa costuma pedir ao fornecedor.

Contrato e cobrança

Com um fornecedor estrangeiro, o contrato costuma seguir a lei e o foro do país dele, e a fatura costuma vir em dólar. A empresa passa a lidar com câmbio, com os tributos sobre importação de serviço que se aplicarem ao caso e com uma disputa em outra jurisdição se algo der errado.

Com contrato no Brasil e cobrança em reais, a fatura chega na moeda em que o financeiro faz o orçamento, e as obrigações entre a sua instituição e a nossa ficam sob a lei brasileira.

Sete perguntas para fazer a qualquer fornecedor

1. Em que cidade e país fica o data center onde a GPU roda?
2. Cópias de segurança, registros de acesso e o suporte técnico também ficam nesse país?
3. A GPU é exclusiva da minha empresa ou dividida com outros clientes?
4. Se houver dado pessoal fora do Brasil, qual mecanismo do art. 33 da LGPD o contrato usa?
5. Em que moeda é a cobrança e como funciona o reajuste?
6. Quais são os tempos de atendimento e em que horários o suporte funciona?
7. O que acontece com os dados no fim do contrato, e quem comprova que foram apagados?

Perguntas frequentes