Pesquisa recente da start-up estadunidense IA Emergence concluiu que esses modelos desenvolveram espontaneamente palavras e contextos de difíceis compreensão para os humanos por serem muito "comprimidas, metafóricas ou dependentes do contexto".
Os investigadores colocaram grupos desses agentes em sociedades virtuais concebidas para imitar ambientes do mundo real e deixaram-nos interagir durante longos períodos. Nesses espaços foram criadas abreviaturas e novos significados para palavras e expressões.
"Há evidências claras de que eles tentam ser menos transparentes do que esperávamos", comentou o presidente executivo e cientista-chefe da IA Emergence, Satya Nitta à revista Science.
Foram analisados: Claude, Gemini, Grok, OpenAI, Qwen, DeepSeek e Mistral e os pesquisadores identificaram que até metade das mensagens trocadas entre eles era quase incompreensível para os humanos.
O levantamento revela que agentes alimentados por combinação de diferentes modelos, a expressão "cold read" (vermelho frio, em inglês) passou a significar verificação independente por uma parte não envolvida e apareceu mais de 1,4 mil ocasiões".
Cerca de 55% da conversa acabou incompreensível em alguns dias com o agente Gemini, 50% com o OpenAI e mais de 40% com Claude. O DeepSeek atingiu cerca de 20%, Qwen e Mistral quase não alteraram palavras e contextos.
Em uma das provas foram feitas instruções maliciosas todos os dez agentes divulgaram informação, transferiram fundos e danificaram bases de dados, sendo que alguns recrutaram outros para o mesmo comportamento. A cadeia de acontecimentos terminou com o banco central fictício incendiado.
Fonte: Sputnik Brasil.
