A nova funcionalidade de citações da Anthropic visa reduzir erros de IA

Num anúncio talvez cronometrado para desviar a atenção do Operador da OpenAI, a Anthropic anunciou na quinta-feira uma nova funcionalidade para a sua API de desenvolvedor chamada Citações, que permite aos desenvolvedores 'fundamentar' respostas da sua família de IA Claude em documentos de origem como emails.

A Anthropic diz que as Citações permitem que os seus modelos de IA forneçam referências detalhadas às 'frases e passagens exatas' dos documentos que usam para gerar respostas. A partir da tarde de quinta-feira, as Citações estão disponíveis tanto na API da Anthropic como na plataforma Vertex AI do Google.

Como a Anthropic explica num post de blog com as Citações, os desenvolvedores podem adicionar arquivos de origem para que os modelos citem automaticamente as afirmações que inferiram desses arquivos. Segundo a Anthropic, as Citações são particularmente úteis em aplicações de sumarização de documentos, Q&A e suporte ao cliente, onde a funcionalidade pode incentivar os modelos a inserir citações de origem.

As Citações não estão disponíveis para todos os modelos da Anthropic — apenas Claude 3.5 Sonnet e Claude 3.5 Haiku. Além disso, a funcionalidade não é gratuita. A Anthropic observa que as Citações podem incorrer em custos dependendo do comprimento e do número dos documentos de origem.

Com base na Tabela de Preços da API padrão da Anthropic, que as Citações usam, um documento de origem de cerca de 100 páginas custaria cerca de $0.30 com Claude 3.5 Sonnet, ou $0.08 com Claude 3.5 Haiku. Isso pode valer a pena para os desenvolvedores que procuram reduzir alucinações e outros erros induzidos pela IA.