画像生成AIの問題点とは？

「インスパイアされて作ったアートです」ではすみません。

ただ遊んでいるだけだと、AIすげーぜ！ AIたのしーぜ！ なんですが、その楽しさの裏にはいろいろと問題があります。

その際たるものが画像の著作権問題。アートの世界において、他の作品やアーティストから影響を受けるのは当然ですが、その「影響」が「ほぼ完コピ」となると話は別。だって、それ盗作ですから。

で、AIはその完コピ盗作ができてしまうという話です。

今のAI、元データをほぼ完コピできてしまう

GoogleやAI企業DeepMindなどのテック業界と、カリフォルニア大学バークレー校、プリンストン大学などアカデミック分野の共同研究チームが、AIに関するレポートを公開。

いわく、昨今のAIはトレーニングデータの画像を完全に記憶することができてしまうといいます。トレーニングデータをもとに新たな画像を作るのではなく、データ完コピのほぼ同じ画像を作ることができます。

このトレーニングデータ＝元画像には著作権があるものもありますが、完コピ画像がAI生成画像として世に出てしまうと非常にやっかい…。

研究チームの中の人が、レポートを一部Twitterでも解説しています。以下ツイートに埋め込まれた画像の左がトレーニングデータ。右が生成された画像。

トレーニングデータにはキャプションがついており、研究チームはこのキャプションを画像生成AIのStable Diffusionにリクエスト。

結果、「生成」された画像は（画質に多少のノイズはあるものの）トレーニングデータの完コピでした。

画像の完コピはレアなこと

米Gizmodoが研究チームの中の人2人にZoom取材したところ、完コピ画像は稀だと語ってくれました。

チームは30万もの画像キャプションを試してみたところ、AIがキャプションをそのまま記憶していたのは約0.03％の頻度。そこからの完コピ画像生成はさらにレアだといいます。

AIが画像を記憶することも可能

今回の研究対象にはStable DiffusionとGoogleのImagenがありますが、Imagenの場合は、一度データセットに画像が登録されてしまえば、その画像を記憶することができてしまうこともわかりました。

取材では、AIは画像を「生成」するのが目的で、「コピー」ではないことを注意すべきだと説明。また、AIがさらに加速する中で、今回明らかになった完コピ可能なAIの記憶力によるリスクについても検討する必要があると語ってくれました。

画像生成AIと著作権がらみの裁判はすでにいくつもありますが、今回の研究報告は裁判の行く末にも大きく影響する可能性も。

著作権侵害や個人情報漏洩の危険性

研究に参加したチューリッヒ工科大学のFlorian Tramèr教授は、無料有料問わずAIを提供する企業は、ユーザーにどれだけ著作権について注意喚起できているかという疑問も投げかけています。

問題は著作権だけでなく、個人情報リークにまで及びます。もし、AIがどこかで誰かの個人情報に触れ、それを記憶し、完コピして書いたものをどこかで「生成データ」として出してしまったら…。

現時点では、完コピ画像も非常に稀ですが、急成長するAI業界ではその微小なリスクも脅威となってしまうのかもしれません。

[via:GIZMODO]
https://news.yahoo.co.jp/articles/bc35fba097a40afa5504f45590a3bbb76946e555

ネットの反応

・スゲーな
・もう、いいだろ、これで
・AIがここまでのものを生み出してしまうとは
・もう1年後にはバーチャルSEXやろこれ
・現実の女の写真も加工盛り盛りでもはや絵だし、しかもその加工が不気味なんだからこっちのほうがええよな
・顔が整ったマネキンみたいなのだけじゃなく微妙に個性出してるのすげえな
・めっちゃリアルっぽいんだけど一目でAIとわかる不思議
・特に肌の質感てちょっとしたところで違和感出る
・今はまだCGってわかるけど進化すると見分けがつかなくなってくるんだろうなぁ～
・エロコンテンツが進化普及して困る人はいない
・性的搾取される女さんはいなくなる？
　＞元画像の人に還元されてないからある意味搾取はされてるけどな
・足の指6本定期
・よく見るとやっぱ指は苦手みたいだな
・なんで髪は自然なのに指は無理なんや
・グラドルとかコスプレイヤーがお気持ち表明してるけどやっぱり皆んな危機感あるんかな？
　＞仕事が無くなる可能性あるんやからそら反対するやろ
・すごいはすごいけどこういう三次系って萌えないよな
・絵で興奮できるのか？羨ましいな
・既にパクりを冗長させるものとして問題視されている。
・実在の人物の学習モデルもあるんですけど……無法地帯のAI学習怖すぎる。
・既に実在する人間の写真で(例えばガッキーとかの芸能人)学習させたモデルのAIもある状態で、自分の写真を勝手に使われて自分に似た顔でエロいコスやポーズさせてる写真みたいな絵がいつ世に出るかわかったもんじゃないよ

【グラドルはコチラ】