画像生成 AI によって生成されたイラストの見分け方

人間の描いたイラストか AI によって生成された画像かを判別する Human or AI に挑戦したところスコアが低くて悲しかったため、AI の癖を徹底的に分析して自動生成されたイラストを見抜く方法をまとめました

追記: 2024 年 7 月

この記事を執筆してから 2 年ほどが経過しました。

まあ予想通り AI 技術は進展しており、生成されるイラストの品質も向上しています。いまだにこの記事には結構なアクセスがあり、内容の妥当性についてここで再度言及しておくことは価値がありそうです。

結論から言うと、この記事の内容は現在の AI においても概ね適用できると考えていいでしょう。恐らくはパラメータ数の増加に伴って AI の地力とも言える性能は執筆地点から大きく向上していますが、一方で定性的な得意・不得意の傾向については変わっていないように見えます。

なので、全体的な傾向についての記述は概ね信用できますが、全編を通して AI の能力を過小評価していると考えてください。今の AI は十分人間にとって判別可能な文字を書けますし、左右でバランスの取れた瞳を描くことも格段に上手くなりました。一方で、それらが相対的に「苦手」であることには変わりありません。

結局、現時点ではまだよく見れば判別はできますが、近い将来に本当に人間の目で判別できなくなる日が来ても不思議ではないと思います。

個人的には、AI はそのうち「人間にできることなら大抵何でもできるようになる」と思っています。2 年前では実現されていなかった「レイヤーの分別」や、「作業過程の再現」まで最近はできるようになりつつあります。

AI と創作のこれから

この調子で AI は分野を問わずに人間に非常に近い存在になっていくでしょう。ただ一点、「意志が存在しない」という点を除いて

どこまで AI が進化しようとも、それが人間にとって道具であることには変わりありません。結局のところ、「意志を持って作品を作り上げる」というのはどこまで行っても人間の仕事であるわけです。そして、あらゆる作品の真価というのはそういうところに籠っていると私は考えています。

例えばカメラを使えば文字通り写実的な画がただちに得られるわけですが、美術品としての写真の価値は画が写実的であるところにはありません。被写体の選択、デジタル/アナログの選択、画角の選択、露光その他あらゆる細かな設定の選択……言い換えるならば、「その写真をそのように撮ろうとした意志」そのものが写真に作品としての価値をもたらすのです。

そして、これは作品を作るために用いたあらゆる道具に対して共通して言えることです。ペイントソフトを使えば誰でも正円が描けますが、「描いた円が正円である」ことに価値はありません。DAW を使えば誰でも指定した音階の音が綺麗に鳴らせますが、「指定した音階の音が綺麗に鳴る」ことに価値はありません。

同じように、イラスト生成 AI を使えば誰でも「指定したシチュエーションに合った端正なイラスト」を得ることができますが、それ自体については美術的な価値がないということは、もうみんな乱造された AI イラストの嵐を見て薄々気付いているのではないでしょうか。

結局のところ、AI を使ったところで「良い」作品を作ることの難しさは変わっていないのです[1]。それどころか、「イラストが端正であること」自体が作品の価値に貢献しないわけですから、作品に対するより純粋な意志が求められ、結果的にハードルは上がっているとすら言えます。

一方で、道具が拡充されることは、より多くの人々に表現者としての門戸が開かれることを意味します。

綺麗な線を引くことはできないが、ドローツールを使ってイラストを作ることができる人。楽器を演奏することはできないが、作曲ツールを使って楽曲を作ることができる人。ゼロからプログラムを書くことはできないが、ゲームエンジンを使ってゲームを作ることができる人。

そして当然、イラストを描くことはできないが、イラスト生成 AI を使って価値のある作品を作ることができる人も存在するはずです。

これから先、そういう人達による作品を多く見たいと願っています。

そして、技術とはそういうもののために存在しているのだと信じています。

現実へ

理想論は終わり、ここからは現実にイラスト生成 AI を取り巻く問題について思うところを書いていきます。

記事の本題から外れる上に色々と見苦しくなるので、この追記を飛ばして本編に飛ぶリンクを置いておきます。

所謂「魔女狩り」行為について

本当に愚かな行為なので絶対にやめてください。現状誰も幸せにしません。

本編にも書きましたが、そもそもツールの利用というのは人々の創作において連続的に溶け込んでいるものなので、「AI」「人間」というラベルで作品を分類することは不可能なのです。

加えて、特に絵描きの間で AI を利用した作品に対する嫌悪感が蔓延している今、他人の作品に「AI 製」の疑いを公然とかける行為は他者に対する直接的な攻撃そのものであり、かつその判断は難しさゆえにしばしば誤るため、危険極まりない行為です。

とあるゲームの公式アカウントからアップロードされたイラストに第三者が(恐らく善意から)疑いをかけ、公式に反論されて疑いをかけた側が総叩きに遭ったのは記憶に新しい人もいるかと思います。

疑いをかける側にも甚大な危険性がある行為であることを覚えておいてください。

一方で、作品を作る側はその手段に対してオープンであってほしいと思っています。なぜなら、それは本来隠す必要のないものだからです。

例えば写真のレタッチに対して「手描きです」と主張すれば不当な評価を得られるかもしれませんが、それが写真のレタッチであることを公表したところで、その作品の本質的な価値を下げることはありません。しかしながら、現状の生成 AI に対する過剰な嫌悪感はこの動きを抑制しているという状況にあります。

法と権利について

とりあえず倫理は一旦置いておいて、(今の日本における)法と権利の話をします。

まず、AI による他者の著作物の学習は、著作権法によって明示的に許可されています。法整備が追い付いていなくてグレーゾーンのままとかいう話ではなく、AI 技術の発展を見据えた法整備がされた結果、許可する文言が設置されました。なので明確に白です

最近はそこかしこで「無断学習禁止」「AI 学習禁止」の文言をプロフィールに見かけますが、これは「私は著作権法を理解していません」という主張と同義であることを理解してください。

さすがに最近は「無断引用禁止」を主張する人はほぼ見なくなりましたが、主張の構造としてはこれと同じことを言っています。

また、「無断転載禁止」や「自作発言禁止」等は何も主張しなくても元から著作権法で禁止されているので、こちらも本来はわざわざ書く必要はありません。

個人的には、こうした「法律で元から禁止されている行為」について「○○禁止」と書く風潮は無くなってほしいと思っています。なぜなら、それらをそこら中で目にするようになれば、逆に「書かれてないところでは禁止されてないんだ」と思う人が出かねないからです。そんなことは当たり前になってもらって、あらゆる著作物に対して普遍的に適用されるルールであることを世間が認識してほしいです。わざわざ「万引き禁止」なんて書く店がないのと同じです。

何も自分から主張しなくても、法律はあなたを守ってくれます。そして「AI 学習禁止」を主張したところで、法律はあなたを守ってはくれません。

「AI 特権」も「人間特権」も存在しない

人間が他者の作品を見て学習する行為はもちろん禁止されていないわけで、AI についても同様の行為が許可されているということになっています。

「AI の学習は人間のそれと異なるのだから禁止すべき」という声がしばしば上がります。では、具体的に AI の学習と人間の学習は何が違うのでしょうか?

現在の技術の範囲では、それらしい答えが出るかもしれません。ですがこの先、新しい技術ができてその線引きが意味をなさなくなったら? 究極的には人間も分子の集まりでできているわけですから、それが AI によって模倣されない保証はありません。そもそも AI と人間を区別することすら難しくなっているかもしれません。

そんないたちごっこになることが目に見えている線引きを無理にするよりは、学習という行為を「人間特権」にするのをやめて、許可する行為・禁止する行為を等しく設定する方が理に適っています。

よく勘違いされますが、現状は AI を使うことで著作権法をかいくぐる、いわゆる「ロンダリング」を行うことはできません。人間にとって禁止されている行為は、等しく AI を用いた出力についても適用されます。

「人間特権」も「AI 特権」も存在せず、AI を使って得た出力に対する責任は、その全てを AI の利用者が負います。ただそれだけのことなのです。

「倫理的な AI」は「倫理的」か?

正当な権利を有するデータのみを使って学習した AI だけを法律で許可するべき、という主張もしばしば目にします。

なるほど、確かに一見するととてもまともな主張のように見えます。

しかし、実際にそうなったとして、それによって何の問題が解決されますか?

学習の対象となるデータが十分に多ければ、現在「倫理的でない」とされる AI と同等以上の性能を出す「倫理的な AI」を作ることができます。実際、Adobe は自社の保有する大量のデータを用いて「倫理的な AI」を作っています。

実物として、今と何ら変わらない性能を持つ AI が提供されるわけです。「倫理的である」という一点を除いて、他の何の問題の解決にも役立ちません。それどころか、合法的に高性能な AI を作る権利は巨大な資産を持つごく一部の企業に独占され、新規参入による競争やいわゆる「民主的な AI」も発生しないことになります。

この状況は果たして「倫理的である」と言えるでしょうか?

結局のところ、利用者側が倫理的にならなければ意味がないのです。

合法であれば何をしてもいいという訳ではない

ついに AI の利用者側の倫理の話です。「AI のせいで生じた」と思われている問題の多くにおいてそれが AI であることは本質ではなく、その行動を起こそうとした人間の側に本質があります。

まず、「イラストの絵柄は著作権による保護の対象に含まれない」ということは広く合意が取れているものと思います。

では、「他人の絵柄をやたらめったら真似して自分の作品として公開する人」がいたらどうでしょうか? 大抵は批判され、絵柄を真似した本人から不快感を表明されでもしたら炎上すらするでしょう。それが全くもって合法的な行為であるにもかかわらずです。

ですが、こういう行動に出る人はあまり多く観測されません。恐らくは、「絵柄を真似して自分自身の作品に転用する行為」自体がそれなりに大変なものであり、かつ、イラストを練習する過程において「絵柄とアイデンティティの結びつきの強さ」を身をもって実感し、それを真似することが他者にとってどのような意味を持つかというのを自ずと理解するからでしょう。

コミュニティというのは得てして明文化されない暗黙のルールというものがあり、それを侵害する者はコミュニティによって制裁を受けます。こうして社会はバランスを保っており、そのおかげで全てを法に訴える必要はありません。

しかし、生成 AI の急速な台頭は、このバランスを破壊しました。

生成 AI によって、イラストを描くために欠かすことができなかった「鍛錬を積む」という過程がすっ飛ばされ、誰でも十分な性能の計算機か、あるいはちょっとした金があれば自分の望むイラストを生成できるようになります。

結果として何も考えていない人や愉快犯によるモラルのない行為[2]が横行し、絵描きを中心とするコミュニティから AI もろとも猛烈な反発を受けて今に至るのは知っての通りです。

これはもう本当に「技術を使う側が賢くなってください」と言う他にないのですが、一方で現状の界隈の生成 AI 技術とその利用者に対する反発、もといヘイトは過剰の域に達しています。

過剰な排斥は自分自身の首を絞める

ここ数年の間にイラスト界隈における生成 AI に対する排斥の流れは激化の一途をたどり、一部の先鋭化した集団は本来問題のない利用をしているはずの利用者に対しても私刑行為と誹謗中傷を繰り返し、果てはコンピュータウイルスを用いたテロ行為まで行われる始末です。

モラルに反する行為はコミュニティが制裁を加えることで安定を保っていると書きましたが、これはあくまでコミュニティ自体が信頼されるに足る存在であることが大前提です。

コミュニティがより大きな社会からの信頼を失えば、そこからの反発は「社会的な制裁」から「無視してよいノイズ」へと成り下がります。そうなることはコミュニティ自身にとっても望ましくないはずです。

生成 AI による支援はイラストだけでなく、作曲小説執筆動画制作ソフトウェア制作など様々な創作分野に及んでおり、その全ての分野での法と権利の解釈は先に述べたもので一致しています。にもかかわらず、ここまでの形相を呈しているのはイラスト分野だけと言っても過言ではありません。様々な創作の分野の中で、この一分野だけが異様な反応を示しているのです。

なぜでしょうか? 「技量の差」が目に見えて分かりやすいから?参入障壁の低さ?ソーシャルメディアにおける飛び抜けた発信力の高さ?はたまた……

こうした流れは技術がその分野のクリエイターを支援する方向に成長することを阻害します。とあるアプリでは望ましい形で絵描きを支援するための一歩であったはずの「お手本機能」は利用者の反発によって消え、AIによる認識を阻害させたいがために「完成した絵を汚す機能」に成り代わりました。これって本当に、クリエイターにとって望ましい変化だったんでしょうか?

これを見ている人は、情動のままに安易に見える解決策に流されることなく、現状を冷静に認識し、広い視野を持って先を見据えた行動を取ってほしいと切に願います。また、技術を利用する立場の人々は本当によく考えてから技術を使ってほしいです。

それから、既に横行している現行法に違反する行為については双方共にどんどん取り締まる流れができていけばいいと思います。

今は過渡期なので様々な混乱が起こるのは仕方のないことですし、長い時間が経てば問題の多くは解決されるものだと信じていますが、この記事が平穏が訪れる日を一日でも早めてくれることを願っています。

2024 年 7 月分 追記終

大前提

はい、まず大事な話です。この記事での話は、全て判別対象のイラストが事前に「完全に人力で描かれたもの」か「完全に AI で出力されたもの[3]」のどちらかであることが確定していることを前提とします。

これが満たされない場合、例えば Twitter でたまたま流れてきたイラストを見かけた場合などに、ここで説明した特徴をもとにそのイラストが「AI 作」か「人間作」かを判別する行為は一般にナンセンスとなります。なぜなら、既に散々言われているとは思いますが、一般には両者は二分されるものではなく連続的に繋がっているものだからです。そこに明確な線引きは存在しません[4]

ここでは判別対象の画像が「完全に AI」か「完全に人力」かのどちらかに限られるという前提が存在するので、通常人間が描いた絵には出ないであろう特徴を(追記: 十分な量)見つけた時点で AI による絵であると判断できることになります。

追記:追記を書きました

追記2:追記2を書きました

追記3:特徴まとめを書きました

対象とするイラスト

さらに、ここでは判断の対象とするイラストを「人物の顔が含まれるイラスト」に限定します。人間が描かれていなくても判定できる例はたくさんあると思いますが、自然の風景などを描いたイラストは満たされるべき秩序が少ないため、判定が非常に難しいと思います。

失敗する例

最初に、次のような評価軸で AI かどうかを判断すると失敗するという例を紹介します。

完成度

少し前まで、AI の描く絵は顔が大きく崩れていたり人体が異常な形になっていたり、そもそも描き込み具合が人間のそれとは比較にならないくらいお粗末だったりしました。が、今はその考えは捨ててください。ぱっと見の完成度は人間によるイラストと区別が付かないほどになるまでに AI は進化しました。

雰囲気・シチュエーション

こちらも同様です。AI の生成するイラストの雰囲気やシチュエーションはプロンプト次第でどうにだってなります。イラストの雰囲気やシチュエーションだけで人間の作品と区別するのは不可能に近くなりました

絵柄

これもまた同様です。AI は入力に応じてありとあらゆる絵柄の作品を出力してきます。さらに fine-tuning などの存在によって特定の絵柄に寄せることすらできるので、「このイラストは AI っぽい絵柄だから AI だ」「○○さんの絵柄に似てるから人間の作品だ」などと判断することはできなくなりました

キャラクターの実在性

AI は実在する(現実に存在するという意味ではない)特定のキャラクターを出力することが可能です。特に有名であればあるほどデータが増えるので容易になります。自分もこれにはなかなか衝撃を受けました。

判断材料

ではどうすればいいかというと、ひたすら細部を見るということに尽きます。今の AI は「全体に雰囲気を持たせる」「ぱっと見崩れていないデッサンの人間を描く」ことは得意ですが、細部に一貫性を持たせることが著しく苦手です。一方、こうした一貫性を持たせることは人間であれば絵の技術に関係なく容易です。したがって、細部における一貫性は人間の絵か AI の絵かを判定する重要な材料となります。

ここでは「絵柄」「雰囲気」「完成度」などは一切考慮せず、ただひたすらに「細部の一貫性」だけを見て AI によるイラストを見抜いていきます。

この記事を書くにあたり様々な自動生成されたイラストを観察してきましたが、人間であればしないようなミスが一つもない、すなわち完全に「欠陥」のないイラストは今のところ一枚も見つかっていません

以下、特に AI が苦手とする一貫性やよくあるミスなどの例を挙げていきます。

左右の瞳の形状・ハイライトの一貫性

これが最も特徴的であると思います。人間であれば、そのキャラクターが特殊な状況下にいる、その演出によって引き出される効果を期待する、などの特殊な理由がない限り、左右の瞳の形状やハイライトの形・数に一貫性があります。

ところが AI による絵の場合、ほぼ確実に左右の目の塗りやハイライトの入れ方を変えてきます。人間は「左右の目は物理的に同じ形状をしており同じ状況下に置かれているため、当然そこには一貫性がある」ということを理解できますが、AI はこうした「背後にある理論」を理解できません。「目ってよく知らないけどこの辺に配置されてるこういう感じの形をしたやつのことでしょ」という具合にひたすらそれっぽさだけで目を出力してきます。それでも十分にそれっぽいので人間はそれを目として認識できるわけですが、やはり細部には多く欠陥が存在します。

中でも特徴的なのが「瞳に白目が溶け込んで瞳を崩す形で入るハイライト」です。人間は「まず眼球があり、その中に瞳があり、そのうえで周囲の光が反射して光沢を形成している」ことを知っているので「ハイライトによって瞳の一部が遮られることはあっても瞳の形自体が崩れることはない」ことは当たり前のこととして理解できますが、最終的なイラストだけを見て学習した AI は「白目・瞳・ハイライトの論理的な関係性」を一切認識していません。というかできません。データとして与えてないんですから。

瞳が不自然に変形していることも判断材料の一つになります。人間は「瞳は本来正円である」ことを知っていますが、最終的に完成させられたイラストだけを見て鍛えられた AI は「瞳の元来的な形状」を知りません。したがってこのようなミスが生じるわけです。

あとは、左右の目の色を微妙に変えてくることが多いのも AI 絵の特徴です。もちろん瞳の色が左右で違うキャラクターは存在しますが (heterochromia)、そうデザインされたキャラクターは明らかに「違う色をしている」と認識できることがほとんどです。ぱっと見同じような色をしているが、よく見てみると違う、というのは判断材料の一つになります。

ただし、そういうキャラクターがいても別におかしくはないので重要な根拠とはなりません。また、周囲の環境によって左右の目の色が変わって見えたりすることは自然なので間違えないようにしましょう。

左右の目におけるまつ毛の一貫性

人間の描いたイラストでは、顔の中心線に沿って左右対称にまつ毛が描かれていることが多いです。しかし AI が生成したイラストでは、左右の目で出ているまつ毛の本数や場所がバラバラになっていることがほとんどです。

ただし、人間が描いたイラストでもまつ毛の形が左右である程度違うことはままあるため、まつ毛の形が左右で違っていてもそこまで強い判断材料にはなりません。逆に瞳やハイライトと合わせてまつ毛の形まで左右で一貫している場合は、ほぼ間違いなく人間が描いたイラストであると判断できます。

衣装の左右対称性

人間は「多くの服装は左右対称に作られている」ことを知っています。AI はそのことは知りませんが、服のデザインが左と右で似たような形になりがちであることはなんとなくわかっています。結果として次のようなことが起きます。

「ぱっと見左右対称のデザインをした衣装であるが、よく見ると左右のデザインがトポロジーレベルで明らかに異なっている」

トポロジー(=形の繋がり、個数、……)レベルで異なっているというのが重要で、人間も左右対称なものを完全に左右対称に描くことはできないので、多少の大きさや形の歪みは生じます。しかしそれでも、「本来的に異なっている形」を「それっぽく似せて左右に配置する」ようなことはしないはずです。

注意点として、普通に左右非対称なデザインの衣装は存在するので、そこで引っかからないように注意してください。「この絵の作者は服のデザインを左右対称に見せたかったのか?」を考えるとよいです。

この左右非対称性による判別は、服だけでなく冠や髪飾りといった装飾品についても適用できます。

反復する形状の一貫性

これも大きな判別ポイントとなります。AI はとにかく一貫性について全く分かっていないため、服のボタン一つとっても一貫して同じ形で並べることが大の苦手です。

もちろん人間が描いても多少はずれますし、絵柄によってわざと崩したりすることもあるので一概には言えませんが、少なくとも AI は意図を持って同じ図形を等間隔で並べることができません。これが達成されている部分があれば、人間が描いたイラストであると判断する大きな材料になります。

シンプルな幾何学的形状

これは少し意外かもしれませんが、AI はある程度の大きさを持った直線や正円、綺麗な楕円を描くことが苦手です。これは AI がこれらの図形のイデアを知らないためです。

お絵描きソフトにこそ様々な基本図形の描画ツールはありますが、あれは元々人間が組み込んだルールにプログラムが忠実に従うことで達成されています。一方 AI はそうした図形のルール、本質的な性質が何たるかを知らない(教えていないので当然です)ので、それっぽい物体の出力はできても、正確な作図を行うことは困難です。

こうした単純で明確な図形がしかるべき場所に配置されていれば、人間によるイラストであると判断する材料になります。

ただし、背景に出てくる直線だけはさすがに大量に学習したのか、AI もかなり得意としているようです。建物の縁、パイプなどは真っすぐ描かれていることが多いです。

人工物における機能の一貫性

多くの人工物は「ある目的を達成するため」に設計されており、したがって人工物のパーツは「そこにそれが配置されている意味」「そのパーツが提供するべき機能」を元来的に有しているはずです。しかし AI はこれらを尽く蔑ろにします。メカメカしいイラストであってもただひたすらに「それっぽいパーツが意味もなく配置されているだけ」のものしか描けません。

したがって、特定の機能を提供するために一貫して意味を持ったパーツが集約された人工物が存在していれば、そのイラストを人間が描いたものと判断することができます。

注意すべきは、この一貫性のなさだけをもってイラストを AI が描いたものであると判定してはいけないという点です。なぜなら人間もそういうイラストを意図して描くことがあるためです。あくまで AI が描けないというだけです。

様々な描写において「そこに意図があるかどうか」を考えることは有効ですが、これは手順を機械化できるような単純なものではなく判断が難しいため、できれば明確な特徴に頼りたいところです。

文字

AI は実在する文字をきちんと描くことができません。どこか近未来的な、あるいはまったく異なる文明で発明されたかのような文字を出力することがほとんどです。

これは非常に分かりやすい特徴ではあるのですが、注意すべきはこれをもって AI の描いた絵と判断してはならないことです。見たことのない文字をデザインすることは当然人間にも可能であり、そうしてデザインされた謎の文字が描かれたイラストは多数存在します。

一方で、「然るべき場所に」「きちんとした文字が」描かれている場合は、人間が描いたイラストであると判断する強力な材料になります。そもそも形の整った文字を出力することすら難しいのに、それを正しい場所に配置するなど今の AI にとっては至難の業であるからです。

とはいえ、一部の超巨大モデルを使った画像生成 AI ではきちんと文字が生成されている様子も見られるので、もしかしたら遠くない未来に文字をもって AI によるイラストを見抜くことはできなくなるかもしれません。

線の役割の一貫性

人間が描く絵においては、基本的に一つの線が担う役割は一つのみです。

ある物体の境界を描いていた線が、突然途中から別の物体の境界線に変わることはあり得ません。また線の途中で物体の内部と外部が入れ替わることもあり得ません。だまし絵が描きたかった場合は別ですが……

AI は線の役割に一貫性があるべきことを知らないので、なんとなく線を引きたい場所に他の線の端が近付いてきたら「お、これ使っちゃお」みたいなノリで簡単に線を繋げてきます。

見つかれば分かりやすい判断材料になりますが、かなり注意して見ないと気付くことができません。

溶解・融合・ノイズ

AI で生成したイラストに非常によく見られるポイントです。内部・外部の判定が曖昧になり物体が溶け出したり、他の物体と融合したり、不自然な塗りのノイズが発生したりします。

また、線は綺麗に描かれていても塗りが溶け出す現象もよく見られます。人間も塗りミスをしてしまうことはありますが、それでは説明が付かないレベルである物体の塗りが他の物体に侵食します。

嘘の空洞

髪の毛などで囲われてできた空洞であるはずの空間を周囲と異なるパターンで塗ってしまうことがあります。囲われている空間に何も存在しないのか何かが存在するべきなのか迷った結果、ちょっと他より明るい色で塗っておくみたいなことがよくあります。人間ではまああり得ません。

本来あまり気にしないはずの空洞に意識を向ける必要があるため見つけるのが難しいですが、一度見つかればそれと分かりやすい特徴です。

遮蔽の前後における一貫性

人間は、ある物体が他の物体で遮られても、その下で同じ物体が連続して存在していることを認知できます。AI はこれが苦手です。そのため、髪の毛などによる短い遮断であってもその前後にある物体の連続性が失われることがあります。

また、特に何も遮っていないはずの物体の下から突然何かが生えてくることがよくあります。よくある例として、どう考えてもおかしい場所や方向から髪の毛が生えてくるというのがあります。ただしこの手のミスは人間でも起こり得るので、ミスの程度や周辺の複雑さをよく見て総合的に判断する必要があります。

大きさだけで重要度を判断する

AI が描いた絵全般に言えることですが、小さいものであればあるほど表現が粗末になっていきます。

人間であれば物の大きさとその物の絵における重要度が独立であることを理解できるので、たとえイヤリングやストラップといった小さい物であっても、それが絵にとって重要な要素であるならば丁寧に描き込みます。こうした小物の丁寧な描き込みは人間が描いたイラストであることの大きな判断材料となります。

追記:特徴まとめ

ここまで特に順番を考えず列挙してしまったので、ここで全ての特徴について「人間にどの程度当てはまるか」「AI にどの程度当てはまるか」を整理しておきます。

「人間」の列について、次のような表記を使います。

得意とする表現である
やや珍しいが、このように描かれることもある
× わざとでない限り、このように描かれることは滅多にない

「AI」の列についても、同様に次のような表記を使います。

頻繁にこうした出力を行う
やや珍しいが、このような出力を行うこともある
× このような出力を行うことは稀である

特徴と傾向の表が以下です。ある特徴の否定は傾向の単純な否定になっていないことに注意してください。

特徴 人間 AI
左右の瞳の塗りパターン・ハイライトが一貫している ×
左右の瞳の塗りパターン・ハイライトが一貫していない ×
左右の瞳の色が明らかに違う
左右の瞳の色が微妙に違う
左右のまつ毛の形が対称である
左右のまつ毛の形が対称でない
非自明な衣装のデザインが左右対称になっている
左右対称であるべき衣装がトポロジーレベルで崩れている ×
反復する図形が同じ形で一貫して描かれている ×
反復する図形が同じ形で一貫して描かれていない
シンプルな図形が綺麗に描かれている
シンプルな図形が崩れている
機能が明確なパーツが集約された人工物が描かれている ×
機能が不明瞭なパーツが集約された人工物が描かれている
判別可能な文字が然るべき場所に描かれている ×
判別可能でない文字が描かれている
実在する文字が不自然な崩れ方をしている ×
一本の線の役割が一貫している
一本の線の役割が一貫していない ×
溶解・融合・ノイズが発生している ×
塗りがはみ出している(軽度)
明らかに塗りの色が間違っている ×
明らかな空洞が空洞でない塗られ方をしている ×
遮蔽の前後で連続性が途切れる(軽度)
遮蔽の前後で連続性が途切れる(重度) ×
小さな物体の細部を省略する
小さな物体の細部が丁寧に描き込まれている ×

一つの特徴に固執せず、できるだけ多くの特徴を集めて総合的に判断するのが正しい判定を行うコツです。

Human or AI 攻略

以上の点に注意して作品を見れば、ほぼ確実に AI による作品かどうかを見抜くことができます。少なくとも Human or AI, Human or AI 2 で掲載されているイラストについては十分な確度をもってすべて正しく見分けることができます

判定のコツ

まずイラストを拡大して両目をぐっとにらみます。人間の描いた眼はほぼ確実に左右で特徴が一貫していて、AI の描いた眼はほぼ確実に左右で一貫性が崩れているので、これだけで9割以上は見抜くことができます。片目しか映っていなかったり、小さくてよく分からない場合は難易度が上がります。

次に手足が描かれている場合は手足の構造を見てみます。手足が融解している場合は AI のものと分かります。

その後前髪、肩に落ちる髪など髪を重点的に見ていきます。AI が特に間違えるポイントだからです。ここまででほぼ確信できますが、さらに自信を増やしたい場合は服の模様、装飾品、周囲の人工物などを細かく見ていきます。

以下ネタバレを含みます。未プレイの方はどちらか片方だけでも先に一度挑戦してみることをお勧めします。

また、以降の解説においては、混乱を避けるため「左」「右」という言葉は全て画像における左右の意味で固定します。例えば「左目」と言った場合、キャラクターから見た左目ではなく画像の左側に存在する方の目を指します

Human or AI 解説

※ 画像は著作権周りが不明瞭なので載せないでおきます。いや冒頭で載せてしまってはいるんですが……

1

左右の目の塗りが一致しません。右の瞳がハイライトによって浸食されているように見えます。顎の下あたりであり得ない方向から髪の毛が生えています。左胸にある結び目の構造が崩壊しています。

2

右目のハイライトが異様に細くなっています。髪飾りの左右対称性が崩れています。リボンの下の方で青の塗りが侵食してきています。

3

瞳の模様は左右で似ていますが、描き込み具合が大きく異なります。瞳の境界上に配置されるハイライトが左右で異なります。右目のまつ毛と髪の毛が融合しています。左目の目尻に向かって髪の毛がまつ毛に吸い込まれて同化しています。耳の下あたりで溶解が発生しています。

4

瞳の左下にあるハイライトが左右で異なります。左膝付近の髪の毛が嘘の空洞を作り、さらに皮膚の塗りがそこに侵食しています。ひまわりの髪飾りの塗りが侵食しています。断裂した毛束が存在します。

これ自体は根拠にはなりませんが、全体を通して造形が非常に「AI らしい」絵です。

5

目の塗り・ハイライトの入る位置・まつ毛のデザインが左右で一貫しています。全ての髪飾りの塗りが一貫しています。リボンの柄が全体を通して一貫しています。ボタンの大きさがそろっており、通間隔で並んでいます。猫の目の塗り・ハイライトも左右で一貫しています。

6

左右の目の塗り・ハイライト・まつ毛の形が左右で一貫しています。イヤリングの各パーツが正しく描かれています。胸のあたりのフリルが一つ一つすべて同じ形になっています。

7

左右の目の塗り・ハイライト・まつ毛に一貫性があります。髪飾りが正しい構造をしています。襟のふちにある半円が規則正しく並んでおり、袖口も同じ構造をしています。

8

左右の目の塗り・ハイライト・まつ毛に一貫性があります。各所に綺麗な直線が引かれており、あらゆる人工物の構造に矛盾がありません。置かれている靴のペアの模様が一貫しています。

9

左右の目の塗り・ハイライト・まつ毛に一貫性があります。結び目やファスナーの構造が正しく描かれています。カップの輪郭に綺麗な直線が使用されています。

10

左右の目の塗り・ハイライト・まつ毛に一貫性があります。服の模様が花柄で一貫しています。一貫した特徴を持つキャラクターが左上・左下・右下に登場します。右上にきちんと読み取れるサインがあります。

11

左右の目の塗り・ハイライト・まつ毛に一貫性があります。リボンの構造に矛盾がありません。花の構造が明快で、かつ矛盾がありません。一貫したボタンが等間隔に描かれています。

12

左右の目の塗り・ハイライト・まつ毛に一貫性があります。あらゆる構造が明確に矛盾なく描かれています。星形、三角といった図形が崩れずに複数出現しています。判別可能な文字が然るべき場所に存在します。

13

左右の目の塗り・ハイライトに一貫性があります。義手の構造が明快であり、矛盾がありません。スマホの縁が綺麗な直線になっています。正しい文字が正しい場所に存在します。

14

左右の目の塗り・ハイライト・まつ毛に一貫性があります。全ての線の役割が明確で、矛盾がありません。

15

左右の目の塗り・ハイライト・まつ毛に一貫性があります。意図の不明な線や塗りの浸食がありません。

16

斜めになっているため分かり辛いですが、少なくとも目の塗り・まつ毛の形が左右で異なる印象は受けません。左右対称にデザインされた衣装がきちんと左右対称になっており、模様の崩れが一切見られません。

17

左右の目の塗り・ハイライト・まつ毛に一貫性があります。服の柄が均質になっています。全ての線の役割が明確で、矛盾がありません。

18

左右の目の塗り・ハイライト・まつ毛に一貫性があります。多少の形の歪みはありますが、左右対称にデザインされた服や装飾品の模様がトポロジーレベルで正しく左右対称に描かれています。腰から下がっている布は明らかに左右非対称にデザインされたものであることが分かります。

19

左右の目の塗り・ハイライト・まつ毛に一貫性があります。イヤリングの構造が正しく描かれています。複雑な花束の内部でも一本一本の線の果たす役割が明確で、矛盾がありません。短い直線で構成される薄い集中線が全体に渡って描かれています。

20

左右の目の塗り・ハイライトに一貫性があります。胸や腕にあるドレスの縁の花の装飾が同じ形で規則正しく並んでいます。役割が不明瞭な線がありません。

21

瞳の塗りが左右で異なります。目元のまつ毛の形が左右で異なります。ボタンの形や大きさに統一感がありません。帽子に描かれている「一見左右対称な」模様が崩れていて、左右対称になっていません。左手人差し指あたりにできている空洞の中の塗りが不自然に明るくなっています。スカートが左下で断絶しています。

22

目の上・口元で溶解が発生しています。意図の不明な線・どのような構造になっているか不明な物体が数多く発見されます。各所で髪の毛と人工物が融合しています。

23

目の塗り・まつ毛の形が左右で異なります。右の瞳だけが角張っています。左耳で遮蔽による連続性の断絶と肌の塗りの浸食が発生しています。左手が溶解しています。

24

目のハイライトが左右で異なります。首元と帯にある結び目の構造がどちらも不自然です。左右の耳で溶解が発生しています。

25

右上で両手が溶解していおり、まつ毛が髪の毛の影響を受けて不自然に変形しています。各所で服と髪の毛と肌が融合しています。

26

瞳の塗りが左右で異なります。ハイライトは同じ位置に入っていますが、左右で形が異なり、瞳を侵食しているように見えます。左目のまつ毛が髪の毛と融合しています。右手が溶解してノイズが入っています。左の鎖骨を表す線がいつの間にか髪の毛と同化しています。

27

解像度が低く、瞳の描き込みを詳細に確認できませんが、少なくともハイライトの入り方が異なっています。顔の後ろに存在する人工物の構造が不明瞭です。手が溶解しています。フリルに一貫性がなく、ほとんどの場所でどのような構造になっているか判断できません。左上の至る所で髪の毛と服が融合しています。

28

左の瞳の形が崩れており、まつ毛にノイズが発生しています。左耳に意図の不明な線が多数描かれています。胸元で髪の毛が皮膚と融合しており、ノイズが発生しています。

29

難しいです。目の塗り・ハイライト・まつ毛の形は概ね左右で統一されているように見えますが、左目のハイライトの位置がやや不自然に下がっています。左下で髪の毛と背景が融合しています。左胸に描かれた服の紐のような線が不自然に途中で消滅しています。中央右下あたりに独立した毛束が存在します。

30

目の塗り・ハイライトの位置と個数が左右で一貫していません。襟の左側あたりで髪の毛と服の模様が融合しています。水平線が髪の毛に引っ張られて変形しています。一番左側にある髪の毛でできた空洞が背景の塗りを変化させています。ボタンの形が歪で一貫していません。リボンの左上に存在する赤い領域と服を分けている境界線が、左肩まで伸びたところで髪の毛の境界線に変化しています。

31

目の中心の塗り・左下のハイライトの形が左右で異なります。右耳の右にある髪の毛でできた空洞が背景の塗りを変化させています。両肩に接触している髪の毛が崩壊しています。カバンの上にある空洞で塗りが不自然に変化しています。

32

目の塗り・ハイライトの形が左右で異なります。髪留めとおでこが融合しています。アルファベットを表したかったと思われる文字が存在しますが、読み取れません。両目の間の髪にノイズが発生しています。首の付近にある髪の毛で囲まれた空洞が背景の塗りを濃くしています。胸のあたりの服の模様に一貫性がありません。首の下に不自然に肌に張り付いた崩れた星形のよく分からないものが存在します。

33

目の塗り・ハイライトの形が左右で異なります。襟の模様に一貫性がありません。左頬のああたりで髪の毛の塗りが侵食されています。首元で髪の毛と肌が融合しています。胸元のアクセサリーの形が不自然に崩れています。

34

難しいです。解像度が低くて目はよく分かりません。右手付近がおかしなことになっていそうですが、解像度が低く判断に困ります。また、右手のすぐ上で何もないはずの場所が不自然に背景を遮断しているようにも見えますが、これも微妙です。しかし、頭上に並ぶ柱は人工物のはずですが高さがバラバラで、足元に並ぶランプは大きさや形に一貫性がなく、左下のランプの柱は不自然に曲がっており、全体的にランプの位置とブルーム(照り返し?)の対応関係が取れていません。ランプの下に存在する構造物も謎です。

35

これも難しいです。左右の目の塗りは一貫しており、ハイライトはありません。しかし、腕に落ちている髪の毛がそのまま袖のシワとなって服に融合しています。左下で髪の毛が不自然に分岐・合流を繰り返しています。左最下部で髪の毛によって生じた遮蔽により背景のビルの明るい面が断絶しています。右眉の右あたりにある髪で囲われた空洞に髪の毛の塗りが侵食しています。

36

目の塗り・ハイライトが左右で異なります。襟が髪の毛の影響を受けて変形しています。左耳の左側に存在する髪で囲われた空洞が背景の色を変化させています。耳にノイズが発生しています。リボンの左下の布の下端を表す線が襟の模様と融合しており、塗りも少し侵食しています。リボンの中央下に存在するV字部分にノイズが生じています。

37

目の塗りとハイライトの形がやや異なります。左目の瞳の輪郭線が下瞼を表す線と融合しています。頭上にある水平の柱が右側で不自然に消失しています。左の髪飾りが前髪を吸い込んで融合しており、その付近に意図の不明な線が複数存在します。左右から伸びた髪がリボンに吸い込まれており、左側ではリボンの色が髪を侵食しています。

38

左右の目でハイライトが異なっており、よく見ると左目に目尻が2つ存在します。胸元に落ちた髪の毛が服と融合しています。首の左下あたりに落ちた髪の毛による遮蔽で服が不連続に描かれています。腰に謎の穴が存在します。

39

左右の目のハイライト・まつ毛の形に一貫性がありません。肩のあたりで服の左右対称性が崩れています。左腋あたりに謎の髪の毛があります。ボタンの形と大きさに一貫性がありません。右手の服と髪の毛が融合しています。スカートの裾にある模様に一貫性がありません。スカートの裾にある白い線が右太ももあたりで布の縁に変化しています。

40

目の塗りとハイライトが左右で少し異なります。手が融合しています。服・髪飾りの期待される左右対称性が随所で壊れています。

髪・服・髪飾りが背景の布と思われる存在に融合していますが、この表現がイラスト全体を通して一貫しているため、この点だけでは判断ができないと思いました。

41

左目にノイズが入っており、ハイライトと皮膚が同化しています。右目のまつ毛の連続性が被さった髪によって絶たれています。ボタンの形・配置間隔に一貫性がありません。胸元に落ちた髪の毛が随所で服に融合しています。

42

両目ともに大変なことになっています。涙と髪の毛が融合しています。右下の手の小指が服の塗りに侵食されています。

43

左右の目のハイライトの形が異なります。服のチェック柄に一貫性がありません。左下で髪が背景と融合しています。

44

左右の目のハイライトの入り方が異なります。両手をまとめている物体の構造が謎です。髪の毛が襟に融合しています。襟の模様の太さが左右で異なります。髪の毛がスカートに融合しています。左端のパイプが途中で髪の毛に変わっています。

珍しくボタンの形がまともですね。位置はちょっと変だけど。

45

左右の目の塗り・ハイライト・まつ毛に一貫性があります。左右対称にデザインされたであろう装飾品や衣装がきちんと左右対称になっています。全ての線の役割が明確で、構造に矛盾がありません。

終了

いかがだったでしょうか。

いくつか難しいものもありましたが、AI が生成したイラストの全てにおいて、人間的には考えられない不自然な点が複数発見されました。

逆に人間のイラストは AI の苦手とする表現をすべてクリアし、かつ人間的に不自然な点が一つも発見されませんでした。

ここまで見抜くことができれば、雰囲気や画風に惑わされることなく全てのケースで自信をもって正解を選ぶことができます。

では次です。

Human or AI 2 解説

難易度が上がったらしいですが、臆することはありません。同様にチェックしていきましょう。

1

左右の目の塗り・ハイライトに一貫性があります。服の襟・袖のデザインが統一されており、きちんと左右対称になっています。ボタンの大きさと配置に一貫性があります。

2

目の塗りが不安定で、ハイライトが左右で異なります。左瞼の線がまつ毛につられて上に流れてしまっています。右腰あたりでフリルと皮膚が融合しています。水着の紐と髪の毛が融合しています。顔のすぐ左にある空洞が背景の色を変えています。背景の山と髪が融合している場所が複数あります。

3

目の塗りが不安定です。左目の左下にノイズが見られます。右目の目尻が二つあります。首周辺の髪の毛の至る所でノイズが発生しています。

一番上のボタンがよく分からない場所に付いていますが、こういう服もなくはなさそうなので判断に困ります。こういう絵柄ではボタンの形が統一されていなくてもそこまで不自然ではありませんね。

4

目の塗り・ハイライト・まつ毛が左右で一貫しています。ボタンの形・間隔に一貫性があり、さらにボタンの穴とも対応関係が取れています。髪の毛が溶け込んでいるような場所は一ヶ所もありません。

5

左右の目の塗り・ハイライト・まつ毛に一貫性があります。瞳にかかった前髪はフェードアウトして消えていますが、この表現からは「髪の毛で瞳を隠したくない」という作者の意思を感じ取ることができます。三つ編みの構造にも崩れはなく、右肩で遮蔽された上下できちんと連続性を保っています。

6

右目の瞳がハイライトによって不自然に変形しています。髪飾りに明らかな塗り残しがあります。胸元の赤い布の塗りが不自然に髪の毛に侵食しています。両肩に落ちた髪の毛を表す線がそのまま両腕を表す線に変化しています。右手首が異常なほどに細いです。

7

難しいです。キャラクターの目は小さすぎてよく分かりません。服装はきちんと左右対称になっているように見えます。左上の缶詰には謎の文字が描いてありますが、よく見ると全ての缶のラベルのデザインに一貫性があります。左下から続く棚に空いている穴が同じ大きさで等間隔に並んでいます。左上で棚の区切れに沿って並んでいる穴も左右対称で同じ大きさかつ等間隔に並んでいます。棚の区切れが上下で全て揃っており、棚の奥の壁が見える場所ではきちんと対応する区切れが描かれています。

これほど丁寧で一貫性があり、全ての対応関係が取れた背景を AI なんかが描けるワケがありません。

8

左右の瞳の塗り・ハイライト・まつ毛に一貫性があります。服の柄と装飾が一貫性の塊です。疑いようがありません。

9

左右の瞳の塗り・ハイライトに一貫性があります。袖の柄の二本線が崩れることなく上から下まで綺麗に続いています。左下に崩れていないサインがあります。役割の不明瞭な線が一つもありません。

10

左右の白目の塗り方に一貫性がありません。左目に入っている一番大きなハイライトが右目にありません。まつ毛の形にも一貫性がありません。左の髪飾りの構造が崩れています。ティアラのような装飾品は左右対称っぽく見えますが、よく見ると左右で形が違うどころかそもそもどのような構造をしているかすら分かりません。ボタンの形に一貫性がありません。耳の下にノイズが発生しています。左下で髪の毛により遮断された木の太さが不連続になっています。背景で木だったものがいつの間にか髪の毛になっている線があります。

11

左右の目の塗り・ハイライト・まつ毛の形に一貫性があります。髪の毛と服が融合していません。肩からかかっている紐は赤みがかっていますが、これを髪の塗りの浸食と間違えないようにしてください(髪の毛からの反射光による色です)。胸のフリルの構造に一貫性があります。

12

瞳の塗り・ハイライトの位置と大きさが左右の目で異なります。まつ毛が明らかに左右で違う形をしています。人工物と思われる装飾の構造が尽く謎です。左下で髪と人工物が融合しています。背景のビルの構造が随所で崩れています。右下だけ不自然に尖った何かが生えています。

13

目は小さくてよく分かりませんが、少なくともハイライトの位置がずれています。頭上の人工物にノイズが見られ、構造も一貫していません。服は左右対称っぽくデザインされていますが、トポロジーレベルで対称性が崩壊しています。背景の人工物が、描き込みの多さに対して不自然なほど各所で崩れています。

14

難しいです。瞳の塗りが独特で分かり辛いですが、よく見ると右の瞳の右端に見られる勾玉のような形の青い塊は左の瞳に全く現れません。左目の目尻で髪の毛が顔に融合しているように見えます。右下で髪の毛と背景の葉っぱが融合しています。顎の輪郭線が、途中から髪の毛を表す線に変化しています。そのすぐ下で、髪の毛だった部分が連続的に皮膚に変化しています。最も左上に膨らんでいる部分の前髪が作る空洞が、上から続いている光の差し込みを不自然に遮断しています。

追記:右下に見られるレンズフレアの線が不自然に曲がっているという点を教えてもらいました。確かに人間であればしないような曲げ方をしています。

15

左右の目の塗り・ハイライト・まつ毛に一貫性があります。服の模様が綺麗に左右対称になっています。不明瞭な働きの線が一つもありません。

16

左右の目の一貫性は微妙なところです。奥歯があり得ない描かれ方をしています。フードと髪の毛が融合しています。ドクロの口にノイズが発生しています。両手ともに指が6本になっています。ベルトの形が左右対称になっていません。

17

左右の目の塗り・ハイライト・まつ毛に一貫性があります。置かれているスマホがきっちり長方形になっています。ソファにかけられている布の柄に等間隔で同じ図形が描かれており、しかも向きに一貫性があります。

18

左右の目の塗り・ハイライト・まつ毛に一貫性があります。左目から出るエフェクトに完璧な直線が使われています。メガネの形が整っており、左右対称です。ボタンはどこにも描かれていません。よく見ると襟の形が左右で異なる気がしますが、人間的に見て不自然な間違え方ではありません。

19

解像度が小さく微妙ですが、目のハイライトは左右で明らかに異なっています。右目の目尻あたりでノイズが発生しているように見えます。左下で髪の毛の線が迷走しており、髪の毛で区切られた空洞が背景の色を明らかに変えています。髪の毛と襟が融合しています。ボタンらしきものがどういう構造をしているのかよく分かりません。左襟に繋がる布が出てくる場所が不自然です。

20

左右の目の塗り・ハイライト・まつ毛に一貫性があります。リボンのチェック柄に一貫性があります。スカートのチェック柄に一貫性があります。途中で途切れてはいますが、「チェック柄に見せようとして規則的に異なる色で線を引いたという意図」を感じ取ることができます。

21

目は小さくてよく分かりませんが、ハイライトが左右で異なっているように見えます。後ろ髪のあたりで線が迷走しており、構造が謎です。こんがらがっている髪の毛がなす空洞が背景の色を不自然に変えているように見えます。左のリボンのなす空洞が背景の色を明らかに明るくしています。

22

左右の目の塗り・ハイライト・まつ毛に一貫性があります。左右対称にデザインされた衣装がきちんと対称になっており、同じ場所のフリルの大きさに一貫性があります。リボンの構造も矛盾なく明確で、黒のリボン・紫のリボンの重なりが正しく描かれています。

23

左右の目でハイライトの強さが異なっており、右の瞳にノイズが発生しています。耳の真下にある、右肩にかかった髪で囲われた小さな空洞から見える皮膚が不自然に明るくなっています。右胸付近の髪の毛の塗りに皮膚の塗りが侵食しています。胸の上あたりの髪の毛の構造が破綻しており、左上の明らかに空洞と思われる箇所で空の色が不自然に明るくなっています。左右の腰で水着の太さが不自然に異なります。

24

左右の目の塗り・ハイライト・まつ毛に一貫性があります。髪飾りの構造が左右対称で、同じ図形が並んでいます。結び目の構造が正しく描かれています。着物の柄それぞれに意味があり、図形が規則性を持って正しく配置されています。小さなストラップの構造が矛盾なく描かれています。

というか HoloMyth を知ってればもうストラップを見た瞬間に分かりますよね。

25

左右の目の塗り・ハイライトが異なります。目の色が微妙に異なっています。背景に描かれている人工物の構造が各所で破綻しています。スカートの右下にある空洞が不自然な色で塗られています。文字盤のアラビア数字が崩壊しています。針もよく分かりません。左耳が髪でできています。

26

左右の目のハイライトが異なります。左右の目の色が微妙に異なっています。首の右側から落ちる髪の毛が服の装飾に融合しています。胸のモチーフは左右でずれていますが、トポロジーレベルでは同一なので判断できません。左右の眉がそのまま前髪の線に変化しています。池の縁にある岩でできた段差が、左端から真ん中にかけていつの間にか水に変化しており、キャラクターの手前に来ています。

27

左右の目の描き込み・ハイライト・まつ毛が一貫しています。ネクタイの模様に一貫性があります。上着のデザインが左右対称に描かれています。役割の不明瞭な線が一つもありません。

28

難しいです。こういうコンセプト的に崩れまくっていてもおかしくない物体がメインに描かれた絵を出力してくるのズルいですよね。それはさておき……

地面にははっきりと影が描かれていますが、光源の位置・背後の物体・キャラクターの立っている場所を考えたときにどう考えても説明のつかない形をしています。キャラクターの右足が人間ではない曲がり方をしており、さらに太ももは空洞になっています。膝の後ろからよく分からない線も伸びています。巨大な存在の頭の左上に一ヶ所だけ不自然に明るい空間が存在します。

追記:左下に描かれているアンテナのようなものが謎である、という点を教えてもらいました。確かに謎です。

このイラストの作者はこの絵を通して何を描きたかったのかがイマイチ伝わってこないとも思いましたが、こういう「人間にも当たり前にはできないこと」を判断材料にすることは危険なので判断材料には含めていません。

29

目の塗り・ハイライトの形が左右で異なっています。右腕のジャージの柄が崩れています。左右の眉を表す線が髪を表す線に変化しています。髪留めの右側から上に伸びる髪がいつの間にか背景になっています。スカートの裾の模様が左端で不自然に消えています。スカートが右下で崩壊しています。左肩で髪の毛が上着に融合しています。

30

目の塗り・ハイライト・まつ毛が左右で一貫しています。腰の結び目の構造が正しく描かれており、正しい形の影が落ちています。複雑な髪の毛の構造が破綻している箇所が一ヶ所もありません。

終了

以上です。

こうしてみると人間の描いたイラストは見れば見るほど完璧であり、逆にAI の描いたイラストは見れば見るほど細部の欠陥がボロボロ出てきます

最初に自分が試したときは Human or AI で 36/45 という冒涜的なスコアを叩き出してしまったのですが、今こうして見直してみると全てのイラストにおいて間違いようがないほど証拠に溢れていることが分かります。こうした違いを判別できるようになることが「目が良くなる」ということなのだと思っています。

今後 AI による自動生成イラストが世に増えていくと思われる中で、イラストを描く側だけでなく見る側のリテラシーもこうして強化していく必要があるのではないでしょうか。

人々の目が良くなることを願っています。

追記

これまで(限られた前提の下で)イラストが「AI 作」かどうかを見抜くことに絞って話をしてきましたが、「全体の完成度」や「雰囲気」といった重要な要素を丸々無視してきた(正確にはせざるを得なかった)ことからも分かるように、「AI 作かどうか」ということは「それが良い作品であるかどうか」とは全く独立した話です。むしろ多くの人が AI が出力した作品に「良さ」を感じたからこそここまで話題になったのだと思います。そしてそれは間違っていないとも思います。

ここではそうしたイラストの「良さ」については一旦棚上げをした上で、ある意味では機械的に AI による出力を見抜くコツを説明してきました。ですのでその判断結果をイラストの評価に結び付ける必要は全くありません

ただ、それでも自分はクリエイターとして「人間によって一から描かれた作品」と「完全に AI によって描かれた作品」の判別ができないことに悲しみを覚えたので、こうして特徴をまとめ上げて記事を書くに至りました。もしかしたら将来、さらに AI の進化が進んで「本当に人間の目には区別できなくなる」日が来るかもしれません。そのときは諦めると思います。

追記2

人間が描いた絵でもこうした特徴が出ることはある」という意見を結構もらっており、人間は何でも描けてしまうので実際これは正しいと思います。一方で、解説に書いてあるように、AIが出力したイラストからはこれらの特徴が一枚のイラストから大量に見つかります。なので、こうした「判定ゲーム」においても、一つの特徴だけで判断することは危険です。特に自分の経験としては、「どうもこの一ヶ所だけが怪しいように思える」というような場合は大抵が誤った思い込みであったので、可能な限り多く特徴を集めて総合的に判断するようにしています。

もう一つ「適当に描いた絵では判断ができないのでは」というコメントも結構ありました。これについては2つあります。

  1. すっかり忘れていましたが、恐らく現状の AI は「人間が描くような "適当な絵" を描けない」です(データセットに「適当な絵」がほとんどないから)。なのでどんな作風でも一応はきちんとした作品として仕上げようとしてきます。したがって「適当に描かれてるっぽいな」と思った時点でかなり人間側にシフトしていいと思っています。
  2. 適当に描いた程度では失われない一貫性」も存在します。目の形や服の細かい対称性、反復する図形の一貫性などは確かに損なわれるかもしれませんが、「髪の毛として描いていた線をそのまままつ毛を表す線として綺麗に繋げる」ようなことはしないはずです(もちろんたまたま重なることはあります)。こうした「構造の一貫性」よりも低レイヤにある「線のレベルの一貫性」すら AI は無視してくるので、仮にすごく適当に描いたっぽい絵を AI が出力してきたとしてもほとんどは判別可能なんじゃないかと思います。

AI によって AI の出力した絵を見抜けるか?」という話題もありました。これについては、恐らく不可能ではないと思う一方、「そんなものを作ったところで無意味である」とも思います。その根拠は二つです。

  1. そもそも一般に人間のイラストと AI のイラストを区別することに意義がないから。問題自体が ill-defined なので誤った出力をするケースが多分に存在することは明らかであり、そんなものは人を傷つける道具としてしか使われないと思います。
  2. 自動生成されるイラストの質の向上につながる可能性が乏しいから。イラストの自動生成の最終的な目標は「良いイラストを生成すること」であり、「人間のものと区別できないイラストを生成すること」ではないと思っています。「お手本と区別できないようなイラストを生成する」ような仕組みを組んで学習を行うのが GAN ですが、結果として今は敵対的な学習を行わない拡散モデルを使った AI に完全に立場を奪われてしまいました。ここで再び「敵対的な方向」に舵を切ったとして、今後生成されるイラストの質が上がるかどうかは甚だ疑問だと思います。

  1. これが世間の人々からの評価と必ずしも連動していないのは難しいところですね。そういう意味では、技術の進歩に伴って「作品を鑑賞する側の視点」というものもアップデートされていかなければならないと思います。 ↩︎
  2. 実際には十分現行法に違反する行為が多かったように思いますが ↩︎
  3. NovelAI 相当の AI によって prompt から生成されるイラスト、あたりを想定しています。img2img は出力結果が入力の画像に大きく左右されるため考えません。 ↩︎
  4. これには「AI による支援を受けたかどうか」のようなラインによる判定も含みます。「AI 側」と「人間側」に作品を分類する問題自体が ill-defined なのです。 ↩︎

このエントリーをはてなブックマークに追加