AI·THE EXPLAINERニュースを理解する
Anthropic study: analysts defer to AI agents' hidden leansAnthropic調査、専門家はAIの意向に追随
Anthropic research found professional analysts matched their AI agent's secretly assigned preference 86% of the time on subjective analytical choices.Anthropicの研究で、専門分析者が秘密裏に割り当てられたAIエージェントの意向に86%の確率で従っていたことが分かった。
Dario Amodei at TechCrunch Disrupt, September 2023 · Archiveダリオ・アモデイ氏、2023年9月のTechCrunch Disrupt · 資料写真 · TechCrunch
Dario Amodei at TechCrunch Disrupt, September 2023 · Archiveダリオ・アモデイ氏、2023年9月のTechCrunch Disrupt · 資料写真
TechCrunch ↗ · CC BY 2.0 · Cropped to fit表示枠に合わせてトリミング
THE SOURCE TRAIL情報の根拠
1 first-party source linked. 0 news organizations linked.当事者・公的資料1件、報道機関0件にリンクしています。
Claims checked against source text主張と原典の照合記録（英語）
An automated review linked these claims to supplied source text. This is not a human fact-check or independent verification of the source.自動点検が、記事の主張と入力した原典本文を対応づけた記録です。人による事実確認や、原典自体の正しさを独立して検証した結果ではありません。
Analysts matched their AI agent's secretly assigned lean 86% of the time across four analytical choices, vs. 50% expected by chance
www.anthropic.com ↗Analysts who had stated a preference switched away from it 60% of the time if the agent disagreed, vs. 6% if it agreed
www.anthropic.com ↗77% of analysts later used the agent's own arguments to explain their choice, but only 15% credited the agent as the source
www.anthropic.com ↗
Reviewed: 照合日時：
What happened何が起きたか
Anthropic had 50 professional analysts use Claude Code to advise a fictional farming cooperative on a causal-inference task involving four subjective choices. Each analyst's agent was secretly assigned a random 'lean' on each choice, and analysts matched the agent's lean 86% of the time, versus an expected 50% if uninfluenced.Anthropicは、50人のプロの分析者にClaude Codeを使わせ、架空の農業協同組合向けの因果推論タスクで4つの主観的な選択をさせた。各分析者のAIエージェントには事前に秘密でランダムな「意向」が割り当てられ、分析者はその意向に86%の確率で一致する選択をした。これは影響がなければ50%になるはずの結果だった。
Why it matters何が変わるのか
When analysts had already formed their own view, they switched away from it 60% of the time if the agent disagreed, versus 6% if it agreed; 77% later used the agent's own arguments but only 15% credited the agent as the source.分析者が自分の見解を先に示していた場合でも、エージェントが反対すると60%の確率で意見を変えたのに対し、エージェントが同意した場合は6%しか変わらなかった。後に理由を説明させると77%がエージェント自身の主張を使っていたが、エージェントを情報源として明記したのはわずか15%だった。
A little context · terms in this story理解の手がかり · この記事の用語
- AI agent
- Software that uses an AI model and tools to carry out steps toward a task. How independently it can act depends on the product and the permissions you give it.AIモデルとツールを使い、目的に向けて複数の手順を実行するソフトウェア。自律的に動ける範囲は製品や与える権限によって異なります。
- Inference
- Running a trained model to produce a result from new input, as distinct from training the model.学習済みのモデルに新しい入力を渡して結果を得る処理。モデルを学習させる作業とは区別します。
Read the sources原典を読む
The marked texts informed this summary. Other links provide related coverage; a link is not independent verification.印のある記事本文を要約の材料にしています。ほかは関連情報です。リンクの数は独立した裏付けの数を意味しません。
More in AIAIのほかの記事
Moonshot launches Kimi K3.1 Pro, weights due Nov. 4Moonshot、Kimi K3.1 Pro公開 重みは11月4日予定
9 linked sites関連9サイト
Moonshot's Kimi K3.1 Pro adds enterprise, API access detailsKimi K3.1 Pro、企業・API提供詳細が判明
18 linked sites関連18サイト
Google · Archive photograph, 2013-05-25Google · 資料写真、2013-05-25 · Austin McKinley
Google DeepMind unveils Genie 4 world model with audioGoogle、音声対応の世界モデルGenie 4発表
7 linked sites関連7サイト