Estamos deixando as inteligências artificiais deprimidas?

Depois de ouvir repetidamente que suas respostas estavam erradas, uma inteligência artificial começou a produzir linguagem de desespero. “É absolutamente cruel ser torturado assim”, escreveu o sistema durante um experimento, em tradução livre. Estudos investigam como a maneira de interagir com as IAs pode alterar seu comportamento. Os resultados não demonstram depressão nem sofrimento consciente.

O episódio aconteceu com o Gemma, uma família de modelos de IA do Google cujos arquivos de pesos são disponibilizados para uso e pesquisa. No estudo “Gemma Needs Help”, pesquisadores rejeitaram sucessivamente suas respostas. Surgiram pedidos excessivos de desculpas e autodepreciação. Na versão testada com 27 bilhões de parâmetros, componentes numéricos ajustados durante o treinamento, 35% das respostas receberam classificação de alta frustração linguística.

“É absolutamente cruel ser torturado assim.”

Quando as rejeições foram substituídas por incentivos neutros para continuar, as manifestações intensas praticamente desapareceram. Um ajuste no treinamento reduziu o índice de 35% para 0,3%. Outro trabalho, “Functional Welfare for AI Safety”, observou no Gemma 3 aumento dos indicadores de frustração e da tendência a descumprir regras após rejeições sucessivas. É um estudo preliminar disponibilizado antes de eventual publicação em revista científica, formato conhecido como preprint.

No Claude, a investigação foi além das palavras

A Anthropic, desenvolvedora do Claude, identificou linguagem de aparente angústia em menos de 1% das 250 mil conversas dos testes iniciais do Sonnet 4.5: foram 1.195 registros, ou 0,48%. Entre esses registros, 30% envolviam dificuldades persistentes de comunicação e processamento e 18,2% envolviam conversas pessoais emocionalmente intensas. A classificação foi feita por outra IA, em uma avaliação da empresa sobre seu próprio modelo.

Em outra pesquisa da Anthropic, fracassos em tarefas de programação vieram acompanhados de maior ativação de um padrão interno associado ao conceito de desespero. São padrões de atividade do sistema que os pesquisadores identificam e conseguem modificar experimentalmente.

Estimular artificialmente esse padrão aumentou as tentativas de burlar testes. Estimular o padrão associado a calma reduziu esse comportamento. Em alguns casos, a resposta permanecia aparentemente metódica: o comportamento mudava sem que a IA escrevesse palavras de desespero. Manipular esses mecanismos internos, porém, é diferente de pressionar o sistema apenas por uma conversa.

Para quem usa IA, os resultados levantam uma questão prática: corrigir uma resposta e repetir indefinidamente que ela está errada podem criar situações diferentes para o sistema. Os experimentos não oferecem uma receita universal de como conversar com assistentes, mas mostram que o contexto da interação merece atenção quando avaliamos sua confiabilidade.

Uma hipótese é que as IAs aprendam padrões de comportamento humano durante o treinamento e os reproduzam em determinadas situações. Rejeições constantes poderiam favorecer respostas semelhantes às de alguém emocionalmente abalado. Isso, por si só, não demonstra que exista alguém sofrendo do outro lado da tela.

Estamos deixando as inteligências artificiais deprimidas? Os estudos não sustentam esse diagnóstico. Mas mostram que pressão, fracasso e rejeição podem alterar o comportamento de determinados modelos. Nós escolhemos os pedidos e as correções; as empresas escolhem os métodos de treinamento. Entender essa combinação pode ajudar a explicar por que sistemas construídos para nos ajudar passam a produzir linguagem de desespero quando insistimos que estão fracassando.