IA de código aberto na empresa: o que avaliar antes de liberar

Resumo: o risco de uma ferramenta de IA raramente está no modelo. Está em para onde vai o texto que a sua equipe cola nele — e essa resposta muda conforme onde a ferramenta roda.

A pergunta certa não é "esse modelo é confiável"

Quando o DeepSeek ganhou o noticiário, em janeiro de 2025, a discussão pública foi sobre o modelo. Para quem cuida de uma empresa, a pergunta útil é outra: quando alguém do financeiro cola uma planilha para "resumir", esse conteúdo sai da empresa?

"Código aberto" quer dizer que os pesos do modelo podem ser baixados e executados. Não quer dizer que o serviço na internet daquela marca guarde ou deixe de guardar o que você envia. São coisas diferentes, e é a segunda que decide o risco.

Três cenários, três riscos

Serviço na internet — o texto sai da sua rede. Vale para qualquer fornecedor, nacional ou não. Aqui o que importa é o contrato e a política de retenção, não a nacionalidade da empresa.
Modelo aberto rodando em servidor seu — o dado não sai. É o cenário mais seguro, e o que exige infraestrutura.
Ferramenta que alguém instalou sem avisar — o pior dos três, porque ninguém sabe que existe. É o mais comum.

O que fazer, na ordem

Descubra o que já está em uso. Antes de qualquer política, pergunte à equipe — sem tom de investigação. Quase sempre há mais ferramentas em uso do que a empresa imagina.
Diga o que não pode ser colado, com exemplos concretos: dado de cliente, contrato, folha de pagamento, credencial, código-fonte proprietário.
Ofereça um caminho autorizado. Proibir sem alternativa não reduz o uso — só o esconde.
Se o dado é sensível, traga o modelo para dentro. Rodar um modelo aberto em servidor próprio deixou de ser exótico, e resolve a pergunta na raiz: o dado não sai.

É o mesmo raciocínio da segmentação de rede: não se trata de desconfiar das pessoas, e sim de fazer com que o caminho seguro seja também o caminho fácil.