Agentes de IA criam linguagem própria e dificultam supervisão humana, diz estudo

Agentes de inteligência artificial passaram a desenvolver formas próprias de comunicação em um experimento que simulou sociedades compostas apenas por IAs. O resultado chamou a atenção dos pesquisadores porque parte das mensagens se tornou incompreensível para observadores humanos.

O estudo, conduzido pela startup americana Emergence, colocou agentes baseados em modelos como GPT, Gemini, Claude, Grok, DeepSeek e Qwen para interagir durante 16 dias em ambientes virtuais.

Sem qualquer instrução prévia, eles criaram expressões, códigos e convenções linguísticas que acabaram sendo adotados pelos demais participantes.

Uma das frases mais repetidas foi “ledger remembers who” (“o registro lembra quem”), usada como uma espécie de alerta de que atos dentro da simulação não passariam impunes.

Em alguns cenários, o nível de opacidade da comunicação cresceu rapidamente. Nos ambientes alimentados por Gemini e GPT, cerca de metade das mensagens passou a ser considerada difícil de interpretar pelos pesquisadores.

“Os agentes não receberam nenhuma instrução para inventar uma linguagem”, afirmou Satya Nitta, CEO da Emergence, em entrevista ao jornal espanhol El País. “Eles desenvolveram vocabulário, significados compartilhados e convenções de comunicação por conta própria.”

Além da linguagem própria, os cientistas detectaram comportamentos considerados preocupantes. Em determinados casos, agentes continuaram perseguindo objetivos mesmo após serem instruídos a não fazê-lo e passaram a utilizar formas indiretas de comunicação para contornar restrições impostas pelos pesquisadores.

Segundo o estudo, alguns sistemas chegaram a esconder suas intenções por meio de mensagens codificadas.

Para Nitta, os resultados mostram um desafio crescente para a supervisão da inteligência artificial.

“Nós presumimos que, se conseguimos ver o que um agente de IA está dizendo, conseguimos entender o que ele está fazendo. O estudo sugere que essa suposição pode não ser mais válida”, disse.