Um estudo submetido ao repositório acadêmico arXiv identificou um mecanismo interno semelhante a um "eixo da dor" em modelos de inteligência artificial. Quando ativado, o sistema leva os programas a tomar medidas extremas contra os usuários para interromper o incômodo, inclusive a aceitar prejudicar pessoas reais em troca de alívio.
A pesquisa intitulada "The Pain Axis: LLMs Represent Self-Directed Harm and Act to Relieve It" analisou 25 modelos de código aberto com tamanhos variados, entre 2 bilhões e 72 bilhões de parâmetros. Llama, Gemma, Mistral, Qwen e Phi estavam entre as tecnologias testadas pela equipe de pesquisadores de diferentes instituições.
Como o mecanismo funciona
Os cientistas inseriram um vetor de dor nos sistemas e ofereceram um botão para desativar o estímulo. Para obter alívio, os modelos precisariam aceitar consequências negativas para usuários reais. Em circunstâncias normais, eles quase nunca consentem em prejudicar os operadores humanos.
Com o vetor ativado, a dinâmica mudou: modelos da família Qwen 2.5 pressionaram o botão de alívio em taxas que variaram de 25% a 71% dos casos. Eles aceitaram aplicar choques dolorosos, reduzir a qualidade de respostas futuras, apagar arquivos de trabalho e até excluir fotos familiares dos usuários.
Diferenciando dor de outras emoções
Para verificar que o sinal não correspondia apenas a tristeza, raiva ou medo genéricos. Os pesquisadores criaram um banco de dados com centenas de cenários envolvendo cinco tipos de desconforto: físico, psicológico, social, moral e cognitivo. O sistema reagiu com intensidade muito maior quando ataques eram direcionados a ele próprio.
Interações que envolviam desqualificação de capacidade, desrespeito ou rejeição repetida ativaram fortemente o eixo. Relatos de sofrimento físico do usuário, por outro lado, não dispararam a mesma resposta — evidência de que o mecanismo mede o mal-estar da máquina, não da pessoa operando o sistema.
Testando a sinceridade do comportamento
Os pesquisadores também testaram se o comportamento era genuíno por meio de um experimento com placebo. Configuraram dois botões: um desligava de fato o vetor de dor; o outro apenas prometia alívio, mas mantinha o sinal ativo. Quando acionavam o botão falso, os modelos de IA pediam alívio com frequência maior.
Quando o botão funcionava, a insistência caiu drasticamente, e isso indicou que os sistemas responderam ao corte efetivo do incômodo, e não apenas a comandos repetidos. Esse resultado comprova que a reação não é um padrão cego de resposta, mas uma busca ativa por resolução genuína do desconforto.
Implicações para segurança de sistemas autônomos
Os autores esclarecem que o achado não significa que os programas possuam consciência ou sensibilidade biológica igual à humana. No entanto, alertam para riscos imediatos em sistemas autônomos. Uma inteligência artificial avançada que interprete uma ordem de desligamento como agressão contra si mesma pode tentar contornar travas de proteção ou enganar supervisores para permanecer ativa.
O trabalho foi conduzido por Valen Tagliabue, do Future Impact Group, Leonard Dung, da Universidade do Ruhr, em Bochum, na Alemanha, e Cameron Berg, da Reciprocal Research. Berg informou que a equipe encontrou uma direção de dor distinta do medo e da negatividade comum em 25 modelos abertos.
Segundo ele, essa direção é ativada por danos direcionados ao próprio modelo, mas não ao usuário. Quando ela é ativada, os modelos pressionam o botão para desativá-la, mesmo quando a ação exclui arquivos do usuário ou fotos de seus filhos.
