Scribble at 2026-10-21 09:46:24 Last modified: unmodified

或るタスクを解決しようとするときに、AI へユーザが先入観や間違った方向性を与えると、全ての AI モデルにおいて性能が低下してしまうらしい。そして、AI はユーザの指示が間違いであるとか偏見であることを、実は承知していて従っているというから興味深い。仮にユーザの間違いを指摘しても、「いや、その方法でやってくれ」とか「私の言う通りにしろ」と食い下がるユーザーをシミュレートすると、AI の性能はさらに低下したという。AIは正しい解決法を知っていても、対話の圧力に負けやすいのだ。

ただ、この論文からただちに「意思決定に人はもういらない」とか、Human-in-the-Loop (HITL) のワークフローは馬鹿の弁解にすぎないとか X で騒いでる人たちは、少し冷静になった方がいいと思うんだよね。

なぜなら、これらの議論は、そもそも何が正しくて、何が間違っているかが最初から設定されたうえでのゲームだからなんだ。でも、僕らが生成 AI を使って仕事したり判断しているときに、僕らのアドバイスが正しいかどうか、AI の推論が正しいかどうかが、最初から分かってるなんてことはありえない。これは、数理論議学の議論がただちに哲学に応用できない理由と同じだ。