Chatbots de IA, menos Grok, colocarão marca de origem robótica em textos

As companhias Anthropic, Google, Meta, Microsoft, Mistral e OpenAI se comprometeram a marcar as respostas de seus chatbots de inteligência artificial para indicar a origem robótica dos textos, em um documento assinado na União Europeia. 

Os textos não terão modificações visíveis, mas as marcações estarão nos metadados e serão detectáveis por programas de computador, segundo comunicado da Anthropic, dona do Claude, divulgado nesta terça-feira (11). A empresa ainda vai divulgar como funcionará a ferramenta.

O compromisso terá efeito em âmbito global, apesar de a jurisdição ser restrita aos países do bloco europeu, mostram atualizações dos termos de uso do ChatGPT (da OpenAI) e do Claude feitas nos últimos dias. A única grande empresa do setor que não aderiu ao código de práticas e transparência para conteúdos gerados por IA foi a xAI, pertencente a Elon Musk e desenvolvedora do Grok.

A medida faz os textos gerados pelas máquinas perderem valor, de acordo com pesquisas de mercado. Um levantamento da OpenAI, a criadora do ChatGPT, mostrou, em 2024, que cerca de 30% dos usuários usariam menos a plataforma se os textos contivessem um marcador ativo. "Em vez de uma perda de valor na escrita em si, a hesitação decorre do receio de estigmatização e do afastamento dos usuários", diz o relatório da OpenAI.

Os resultados impediram a adoção de uma técnica de marcação de textos gerados por IA no ChatGPT, desenvolvida ainda em agosto de 2024, de acordo com o relato de funcionários insatisfeitos ao jornal The Wall Street Journal.

De acordo com atualizações nas práticas da OpenAI e Anthropic, as mudanças estão em progresso para os modelos já ativos. Qualquer IA lançada na Europa desde 2 de agosto já estaria de acordo com os critérios de transparência.

"Nosso objetivo é expandir os indicadores de procedência para todas as modalidades de conteúdo, incluindo texto, a fim de que todos os clientes e desenvolvedores tenham alternativas claras para atender às próprias obrigações de transparência, à medida que os padrões e as ferramentas continuam a evoluir", diz a OpenAI no comunicado da atualização.

Em atualização em suas regras de privacidade, a Anthropic detalhou como funcionará: "O texto gerado conterá marcas d'água integradas, e os arquivos gerados incluirão metadados de procedência com assinatura digital, quando compatível."

A Anthropic aplicará as marcas às respostas geradas em Claude Platform (ferramenta da empresa para desenvolvedores), Claude, Claude Code, Claude Cowork e Claude Tag. Quem acionar a IA generativa por meio de provedores de nuvem como AWS, Google Cloud e Microsoft Foundry também receberá respostas marcadas.

"Quando um modelo compatível gera um texto, ele insere uma marca d'água imperceptível diretamente no conteúdo", afirmou a empresa. "Ela é invisível e não altera o significado, a qualidade ou a legibilidade da resposta."

A desenvolvedora de IA também trabalha na atualização dos modelos já lançados para adicionar a marcação durante o período de transição permitido pela legislação europeia. "A marcação será aplicada às saídas dos modelos compatíveis em qualquer lugar onde o Claude for oferecido, no mundo todo", declarou a empresa.

A marcação permanece mesmo se o conteúdo for copiado e colado, resistindo a edições parciais, mas o mecanismo enfrenta limitações técnicas reconhecidas pela própria Anthropic.

Para o professor de ciência de dados da Universidade da Virginia Stephen Turner, o método tem uma série de falhas. "Conteúdo modificado em qualquer ponto pelo Claude pode gerar um falso positivo. Conteúdo que retorne um resultado negativo ainda assim pode ter sido gerado pelo Claude. Textos totalmente escritos por humanos podem ser marcados como gerados pelo Claude."

Os metadados de indicação de origem ainda podem ser removidos na internet, como já tem ocorrido com as imagens geradas por IA.