Scribble at 2026-05-08 08:05:30 Last modified: 2026-05-08 08:25:12

添付画像

AI Slop is Killing Online Communities

この記事にも言えることだけど、フックになるからといって「AI」を中心に話をするのは的外れなんだよね。このような話題も、結局は AI を使う人間の話をしていることに他ならないわけであって、本質的には AI は関係ないんだよ。

凡庸な人間が集まってりゃ、自然と凡庸で低レベルなコンテンツが大量に投稿されるわけであって、これまでのオンライン・コミュニティというのは、ウィキペディアのように編集者を置いて低レベルな投稿を排除したり、StackOverflow のような reputation を組み込んだり、Reddit のように両方の仕組み(編集+投票)を取り入れて、良質なコンテンツが埋もれないような措置をとってきたわけだけど、これは或る種の無限後退になる。なぜなら、ウィキペディアでは昔から「気違い編集者」と呼ばれる人がいて編集者の質が問われてきたし、reputation はもちろん凡人たち自身による人気投票だからだ。

もちろん、こういう問題があるからといって、編集者の行いを編集するメタ編集者を置いたり、あるいは人気投票の結果が妥当かどうか評価するメタ投票なんてやってたら、コミュニティは機能しなくなるが、あるいは一人の支配者に全ての判断の根源を委ねることになる。

AI の結果を濫用することでコンテンツの質が低くなるのは、当然だけど AI の「濫用」が問われているのであって、この主体はどう考えても人なのであるから、これは明らかに AI の話じゃない。それを、このところ「AI」というキーワードを使って語る人たちが増えすぎていて、議論の質が一向に改善も進展もしないというのが僕の見方だ。つまり、この手の議論自体が「AI」というキーワードを濫用してしまって、皮肉なことに本質である人の話を十分に展開できない元凶になってしまっているのだ。

で、いまのところブログ記事に一つだけ付いてるコメントが言っているように、こういう場合の問題は昔から同じことであって、自由に参加できるユーザが持ち寄るコンテンツで運営されるオンライン・コミュニティにおいてコンテンツの質を維持したり向上させるためには、一定の人手が必要だ(何らかの判定システムを AI で実装するとしても、それを開発するコストがかかる)。じゃあ、そのインセンティブはなんだろうか。従来の、いわば「善意」に頼ったコミュニティというのは、もちろん「善意の」個人の動機だけに頼っていたわけだから、その人物の気まぐれによってどうとでもなってしまうし、その人物に reputation が集まれば集まるほど逆にコミュニティが歪んでくるリスクがある。いまでも、「インフルエンサー」なんていう、資格でもなければ社会的な地位でもない妙な名札を広告代理店がでっち上げて、広告配信の番組みたいなものとして彼らの投稿コンテンツを扱っているわけだけど、もはや彼らの大半は個人的な商売として投稿しているわけで、善意もくそもない。そして、そもそも有能であろうと凡人であろうと、一定の質を保って成果を出すには一定の時間や労力がかかるわけであって、メディアとしての理屈、たとえば毎週だの毎月だのという、成果を出すために必要であり妥当な所要時間とは関係のないところで「締め切り」ができるため、彼らの成果は必ず質が低下してくる。アインシュタインに、毎月の5日にノベール賞に匹敵する論文を公表しろと求めて、彼のような才能をもつ人物ですら、そんなことできたと思うだろうか? いわんや、博士号すらもってない凡人に(俺もだけどさ)、毎月のように人々の役に立つコンテンツを公開しろといって、できるわけがないのだ。そうして、これはもちろん既存の新聞や雑誌やニューズ番組にも言えることだけど、物事の是非とは関係のない決まり事だけで何か成果を予定調和のように作っていると、絶対に成果物の品質は低下するのだ。

したがって、ものごとを機械的にやれば、新聞だろうとブログだろうとオンライン・コミュニティの投稿内容だろうと、必ず拙劣なものになっていき、「締め切り」のためにロクでもないことを書き始めるものなのである。よって、是々非々で記事を書いたり公開している、僕らのような個人サイトの運営者の方が、コンテンツの制作については明らかに自由だし、気楽だし、そしてたいていにおいて品質は高いに決まっているのである(その種類がニッチで、多くの人の関心と異なるかどうかは別の話だ)。よって、オンライン・コミュニティというものが、投稿内容のストリームによってしか是非を判断したり評価できない仕組みになっているのであれば、それは本質的に良いコンテンツよりも杜撰に垂れ流されているコンテンツでしか図りようがないものになりやすく、ユーザが増えれば増えるほど比例して質が低下していくのは避けられないと思う。そして、その総体が言うまでもなく「ウェブ」というものなのだ。

  1. もっと新しいノート <<
  2. >> もっと古いノート

冒頭に戻る