AI絵の「元ネタ探し」はほぼ不可能だった――データを消してもAIは同じ絵を描く

「この絵、どこかで見た気がする」——でも確かめる方法がなかった

「この絵、どこかで見た気がする」——でも確かめる方法がなかった / Credit:Canva

AIが描いた1枚のイラストに、なんとなく既視感を覚えたことはないでしょうか？

SNSでは「これは有名なアーティストの絵柄を写しただけでは？」という論争が絶えず、実際にアーティストたちがAI企業を訴える裁判は世界各地で進行中です。

こうした争いを解決するカギと考えられてきたのが、生成画像の「出どころ探し」です。

AIの出力が学習データのどれに由来するのかを特定できれば、クレジット表記や報酬の支払い、そして規制のルール作りにも道が開けます。

MITの研究チームも当初、出どころ探しの技術がAIの理解や規制に役立つと期待して研究を始めました。

ところが、この出どころ探しには大きな壁がありました。

「この画像を学習していなかったら、AIは何を描いたのか」を本当に確かめるには、その画像抜きでAIをゼロから作り直すしかありません。

学習画像は膨大にあるため、1枚ずつ確かめていくのは事実上不可能でした。

そこで研究チームは、発想を変えました。

あとから作り直すのではなく、最初から「特定の画像の影響だけをオフにできるAI」を作ってしまえばいいのです。

新開発のAI(拡散アンサンブル)は、それぞれ違う組み合わせの画像を学んだ小さなAIの集合体で、ある画像の影響を消したいときは、それを学んだ小さなAIたちをオフにするだけで済みます。

こうして「その画像を一度も見ていないAIなら何を描いたか」を、作り直しなしで正確に確かめられるようになりました。

この新型AIが描く絵の品質は従来のAIとおおむね同程度で、検証の土台は整いました。