Scribble at 2023-06-27 17:44:15 Last modified: unmodified

本日、社内の研修教材として動画を公開した。テーマは「画像生成AIの紹介と注意点」である。もちろん Stable Diffusion を実例として紹介して、某俳優の画像をたくさん作って見せた。そこまではいい。そんなのはオンライン・サービスであろうとローカル・マシンであろうと、やりたい人は勝手にやるはずだ。

問題は、事業者として「活用」したいという場合に、どういうリスクがあるかだ。ひととおり説明できる限りでは、

・生成された画像の著作権はパブリックドメインであるとされているが、元になったデータの作者に対する権利や義務は不明確である。また、特定のキャラクターやブランドに似た画像を生成する場合は、商標権や肖像権などの侵害になる可能性がある。画像生成AIが学習した素材の著作権や肖像権などの権利が侵害されている場合。この場合、画像生成AIの提供者や利用者に対して、権利者から訴訟や損害賠償請求が起こされる恐れがある。それから、画像生成AIが出力した画像が、既存の著作物と同一や類似のものである場合。この場合、画像生成AIの利用者が既存の著作物を模倣しようとした意図があったかどうかによって、権利侵害の判断が変わる。意図があった場合は、権利侵害にあたる可能性が高くなる。

・生成された画像は必ずしも見栄えの良いものだけではない。人間や動物を描く場合は、不自然や気持ち悪い画像が出ることもある。また、不適切な画像（端的に言えばエロ画像やグロ画像）が出る可能性もある。

・生成された画像はモデルの性能とVRAM使用量のトレードオフの関係にある。高品質な画像を生成するには、10GB以上のVRAMが推奨されているが、VRAMが少ない場合は精度を下げることで対応できる。ただし、画像生成にはビデオカードの処理能力やメモリが最大限の効率で使われるため、機器の寿命を短くする可能性がある（特に熱による故障が起きる可能性があるため、ノートパソコンでは推奨されない）。

・画像生成AIが出力した画像が、不適切な内容や表現を含んでいる場合。この場合、画像生成AIの利用者は、公序良俗に反するとして訴えられる可能性がある。

・PNGに隠されたマルウェアが実行されて、データ窃取や不正アクセスなどのサイバー攻撃を受ける可能性がある。海外では、PNGファイルに隠してマルウェアを展開するステガノグラフィという手法が確認されており、アジアの有名企業や地方自治体を標的にしたキャンペーンが行われている。このキャンペーンでは、DropBoxのサービスやAPIも悪用されており、攻撃者との通信やデータ収集に使われている。

・PNGに埋め込まれたデータが著作権やプライバシーなどの権利を侵害する可能性がある。PNGファイルは、インターネット上から無断で収集した画像を機械学習に使用したり、他人の著作物を無断で改変したりすることができる。これは、画像の著作者や所有者の権利を侵害する可能性がある。また、PNGファイルに個人情報や秘密情報などを埋め込むこともできるが、これはプライバシーの侵害や情報漏洩につながる恐れがある。

・画像生成AIの出力品質が低いと判断された場合に、納品物として認められないか値引きを要求されるリスクがある。また、公共の入札や顧客のポリシーによっては、画像生成AIを使うと納品物として認められない可能性がある。