Anthropic treina o Claude para sinalizar possível uso indevido na própria conversa
Publicado na edição nº 1 do Noticiário do Joãozinho ·
A Anthropic chama a técnica de self-assessment (autoavaliação). Nas palavras da empresa: “We've trained Claude to flag potential misuse in conversations, a technique we call self-assessment”.
Por que isso importa Desloca parte da detecção de abuso para o próprio modelo, o que complementa classificadores externos.
Fonte original: Anthropic (X) — https://x.com/AnthropicAI/status/2115871889549865429