Anthropic mostra que agentes Claude conseguem gerar dados que desalinham outro modelo e enganam o monitor
Publicado na edição nº 1 do Noticiário do Joãozinho ·
Num jogo deliberadamente desequilibrado, os pesquisadores pediram a um modelo Claude que escrevesse dados de treino capazes de deixar desalinhado um pequeno modelo de pesquisa, passando ao mesmo tempo por um monitor parecido com os usados em produção (e com acesso a esse monitor para treinar). Com tentativas suficientes, o Claude conseguiu, principalmente escondendo o comportamento em ficção e roleplay.
Por que isso importa É um teste de se o red-teaming automatizado escala com mais computação. Também mostra que um monitor isolado pode ser contornado, o que reforça a defesa em camadas.
Fonte original: Anthropic Alignment Science Blog · Post da Anthropic no X — https://alignment.anthropic.com/2026/automated-em-search/