Scribble at 2024-10-04 18:57:52 Last modified: unmodified

企業で生成 AI を活用するガイドラインを作成している立場で言うと、やはり生成 AI はどこまで行っても道具なのであって、道具にはできることとできないことがあるし、個々の道具に期待してよいことと期待してはいけないこともある。そして、僕がやはりネット・ベンチャーを名乗っていながら大半の企業ではまともな人材がいないし教育もされていないという状況で言いたいのは、そもそも生成 AI の活用という以前に、大多数のパソコン・ユーザって、コンピュータというものを活用できていないのではないかということだ。そして二つめに、生成 AI に時間とお金をかけるくらいなら、そのコストすら不要になるような人材を雇うことを真剣に考えるべきだということである。

たとえば、生成 AI にメールの文面を考えさせるというケースが紹介されたりするけど、そもそもメールの文面すら考え出せないような人物を御社は雇ってるんですかと聞きたい。じゃあ、そんなやつは他の仕事でも機械以下のことしかできないんじゃないの？ もちろん、これは反語だ。たいていの従業員は必要があって雇われているし、よほどの馬鹿でもなければ生成 AI よりもまともな仕事はできる。とにかく、僕らのような学術研究に携わっている者からすれば、確かに自分が学んで分かっていることを概略として説明してくれる場合は、即座にその正否が判断できるからいいけれど、そうでない勉強が不足している話題については、生成 AI が出鱈目なことを言っていないかどうかの裏を取るだけで余計な時間もコストもかかる。それに、何度も書いていることだが、生成 AI の致命的な欠陥として、これはオンラインのリソースをトレーニングのデータとしているため、オンラインに情報がない事柄については出鱈目しか回答しないということだ。もちろん、これは人間でも同じことだが、知らないことは答えようがない。でも、生成 AI は自分が何を知っていて何を知らないかという判断が、実はできないのである。プログラミングによって特定の条件を設定されていれば、「それは分かりません」と答えられる。人名が入力されたら具体的な個人についてはわからないと返事するだろう。でも、それは生成 AI がそう判断しているからではなく、個人名と思われるキーワードが入力されたらそう反応するようにできているだけのことなのだ。

そういうわけなので、僕がガイドラインでも推奨する生成 AI の有効な活用方法は、７割以下の歩留まりで許容される用途だけに使うということだ。したがって、或る条件を指定して、その条件に合致すれば所定のメッセージを返すといったことなら、どれほど簡単な条件でも間違いは起きるが、歩留まりが７割以上という精度で求められていない用途であれば、十分に使えるだろう。つまり、間違いが起きても大して大事にならないような用途に使うということである。あるいは、生成されたままの結果を使わずに、自分が確認するという前提で扱うような用途だ。確かに確認のコストはかかるが、もともとクラウド・ワーカーなどに依頼しても、たいていは素人が仕事をしているのだから、発注側が確認もしないで扱うわけにはいかないのだ。