Anthropic cria sistema para provar identidade de modelos de IA

A Anthropic está construindo um sistema chamado "Model Identity" que emite credenciais criptográficas verificáveis para cada modelo de IA — semelhante a um certificado TLS, mas para inferência. Quando o Claude (ou outro modelo) gera uma resposta, ela vem acompanhada de uma assinatura digital que prova: (1) qual modelo exato produziu a saída, (2) qual versão/weights, (3) quem operou a inferência (Anthropic, AWS, parceiro), e (4) que a saída não foi alterada pós-geração.

A motivação vem da explosão de modelos open-source, fine-tunes, distilações e APIs de terceiros reempacotando modelos. Hoje, se você recebe um texto, código ou decisão de IA, não tem como saber se veio do Claude 3.5 Sonnet oficial, de um clone hospedado num servidor obscuro, ou de um modelo malicioso injetado na cadeia. Reguladores (EU AI Act, EUA EO 14110) começam a exigir rastreabilidade. A Anthropic propõe padrão aberto (baseado em W3C Verifiable Credentials) para toda a indústria adotar.

Para quem aprende IA no Brasil, isso muda a forma como você avalia e usa modelos em produção. Não basta olhar benchmark: você precisa saber a proveniência do modelo que roda no seu app, no seu provedor de nuvem, no SaaS que contratou. Em setores regulados (bancos, saúde, governo), Model Identity vira requisito de compliance. Também combate deepfakes: se uma imagem/vídeo/áudio não tem credencial válida de modelo conhecido, é suspeito por padrão.

Exemplo prático: sua startup contrata API de "Claude 3.5" de um revendedor brasileiro. Com Model Identity, você verifica a credencial na resposta: se o issuer não for Anthropic ou parceiro autorizado, você detecta que está rodando um fine-tune não auditado. Ou: um relatório médico gerado por IA chega ao CRM — o sistema valida a credencial do modelo e registra hash da saída para auditoria futura. Tudo automatizado, sem humano no loop.

Conselho: acompanhe o draft do padrão (provavelmente via IETF/W3C). Se você deploya modelos, comece a assinar artefatos de inferência agora (mesmo que simples: hash dos weights + assinatura da sua infra). Exija de fornecedores de API de IA: "Vocês suportam Model Identity?". Em 2025, isso vira diferencial de contratos enterprise e requisito de seguros cibernéticos no Brasil.