Scribble at 2024-09-15 10:44:28 Last modified: unmodified

テレンス・タオが GPT-o1 についてコメントを出している。これまでの GPT では "hallucinated nonsense" を吐き出すことしかできなかったが、今回のモデルは改善されており、あと何回かの進展があれば大学院生にアドバイスして結果を出させるていどのアドバイスで済むという。ともかく、先に書いたように形式的な推論の妥当性や整合性だけを、十分な（つまり推論の制約が明確な）初期条件を与えて確認させるという用途であれば、僕らの用途で使うレベルならタオが要求するレベルでなくても使えるであろう。

したがって、今度は使う側の僕らがどういう条件を AI に与えて有効な結論を引き出すかという問題が残る。ここで重要なのは、もちろんいま述べたような初期条件を的確に与えるだけでなく、AI が出した結論を評価できるだけの見識を利用者がもつということだ。簡単なことだが、AI は利用する者がバカだとバカな結論をバカがそのまま利用するので、その手の愚かなエコーチェインバーが形成されるだけになってしまう。これは、もちろん僕が昔から「集合知」なんてものを（簡単には）認めない理由と同じだ。