Scribble at 2023-11-27 18:45:18 Last modified: 2023-11-28 10:04:18

ニュアンスとしては自分自身が書くものについても、という意味合いが含まれているのだろう。僕も同感だ。そもそも、AI は僕たち自身が作り出したコンテンツによってトレーニングされるのであるから、AI がクズを吐き出すのかどうかは、僕らにかかっている。AI が信用できないとすれば、それはすなわち人類の活動の全体が総じてクズみたいなものだという話にも等しいわけで、それなら人類なんて滅ぶ方が宇宙論的なスケールの道徳から言って「正しい」ということになる。まさしく、数々のハードボイルドな SF が逆説的に訴えてきたことと同じであろう。

ということであるから、局所的には色々と言えるかもしれないが、一般論としては AI の成果と人類の成果について信頼性の優劣はない。どちらも一定の節度において信頼し、どちらも一定の節度において疑うという、僕ら自身の節度ある態度が求められるだけのことなのである。

それはそうと、community college の教員でこのレベルの人物がいるとは驚きだ。よくまとまっている教科書をいくつも公開しているし、なかなかやるね。

[追記：2023-11-28] AI の結果が人類のやってきたことの反映でしかないというのは事実だとして、でも AI の脅威論を唱える人の多くは、AI の成果には新しい特徴があって脅威になると言う。それは、端的に言えば爆発的な生産性らしい。なるほど、品質を問わなければ、僕が自宅で Stable Diffusion を使って社内研修に使うイラストを生成している場合でも、確かに生産性とコストを考えたら劇的な違いはある。これをプロのイラストレータに発注してたら、電通案件だったら１枚のイラストで20万円とか平気でかかる（というか、技術や工数やクォリティや独自性を考えたら、それが当然だろう）。でも、品質さえ問わなければ、僕が自分で生成 AI で出力すると、わずかな電気代と僕のマシンの減価償却を抜きにすれば、委託料金なしで１時間に数百枚のイラストを出力できる。その大半は出来損ないだが、そこから10枚ほど選べるだけでもぜんぜん生産性は違う。そして、この生産性やコストの違いによって、品質を問わなければ、人類が出力してきた物量を超える成果を AI は短時間で築き上げるだろう。そして、そこには何らかのリスクがあるというわけだ。でも、第一に「品質を問う」のは人類なのだから（AI が自律的に品質管理できるならともかく、その基準だって人がつくるわけだし）、品質を問わずにデタラメに成果を続々と出すことを許している責任は AI にではなく人にあるのは自明だろう。そして第二に、物量が膨大な数になるとしても、やはり歩留り率は人の成果の中で優れたものが出てくる割合と、そう大きな違いがあるとは思えない。そして、ガラクタの数が１万倍になったとして、ではガラクタを補正するようなアルゴリズムを AI に人が適用すれば、それを正す生産性もまた１万倍で進むのだから、別に深刻な問題はないだろう。すると、残るのは gray goo のような事態、つまり補正すべきだと気づいて、補正するアルゴリズムや新しい基準をトレーニングして AI を改定していくスピードがガラクタの増え方を超えられなくなるという心配だろう。これは、もちろん「AI の暴走」として描かれるために gray goo などと気の毒に呼ばれるのであろう。でも、僕はこれについても問題は AI ではなく人間にあると思っている。ウイルスのようにマシンからマシンに拡散したり逃げながら、ガラクタを吐き出し続けるようなことにでもなれば困るが、それでも人類には最終手段として「ネットワークを切断する」とか「電源プラグを引き抜く」という簡単な対策があるのだ。