Anthropic desenvolve sistema para provar qual IA gerou a resposta

A Anthropic está desenvolvendo o FlashProve, um sistema que tenta verificar se uma resposta foi produzida pelo modelo de inteligência artificial que a empresa afirma utilizar. A proposta usa criptografia para criar uma espécie de comprovante matemático da identidade do modelo responsável pela saída.

Segundo a empresa, a ideia é dar ao usuário uma forma de conferir se está interagindo com a IA anunciada pelo fornecedor, e não com uma versão diferente ou mais barata. A Anthropic também diz que o mecanismo pode dificultar tentativas de trocar modelos sem avisar ou de atribuir a um sistema resultados que vieram de outro.

No material publicado nesta terça-feira, 3, a Anthropic informou que abriu uma especificação técnica e partes do código em formato aberto para que outros pesquisadores possam testar e aprimorar a proposta. A companhia, porém, não anunciou planos para levar o FlashProve aos seus próprios serviços nem a outras plataformas de IA.

A empresa descreve o FlashProve como um projeto de pesquisa, ainda sem previsão de lançamento. Os pesquisadores afirmam que o objetivo, por enquanto, é permitir análise externa e desenvolvimento de novos componentes a partir da proposta original.

A ferramenta também foi pensada para usos além dos serviços de IA oferecidos diretamente pelas empresas. A Anthropic cita o caso de um desenvolvedor que diz ter usado um modelo de cibersegurança para revisar um software, ou de uma empresa que afirma ter recebido aprovação de um plano de negócios por uma IA específica.

Nesses exemplos, a verificação serviria para confirmar se o modelo anunciado foi realmente o usado no processo. A proposta não elimina a necessidade de confiar no fornecedor, mas tenta criar um meio técnico para checar essa informação.

Por enquanto, o FlashProve segue como uma demonstração de pesquisa. A empresa não informou data de disponibilidade nem disse se a tecnologia será incorporada aos seus produtos.