Scribble at 2024-01-06 17:49:16 Last modified: unmodified
Dall-E already has one minor safeguard in place – proper names (and hence deliberate infringement attempts) reportedly sometimes get blocked – but those safeguards aren’t fully reliable:
僕も試しに固有名詞を使って Microsoft Image Creator を使ってみたけれど、まぁふつうに出るよね。これは "Hatsune Miku is sining on the stage" というプロンプトだ。
この記事で書かれている生成 AI のリスクなるものは、もう既にみなさんが書店で見かける生成 AI の法的な問題点を列挙しているイージーな法律系の本が指摘している内容と大差ない。いや、それどころか上の記事ではコンテンツの剽窃なり著作権というポイントしか紹介していないので、不十分ですらあろう。なぜなら、現行の生成 AI には学習した時点で取得した公開データに含まれる情報から、或る人物についてのデタラメな「ウソの個人情報」を生成してしまうというリスクもあるし、アクセス制限の不備で取得されてしまった機密情報を勝手にバラ撒かれてしまうという問題もあるからだ。