画像生成AIによって生成されたイラストの見分け方

人間の描いたイラストか AI によって生成された画像かを判別する Human or AI に挑戦したところスコアが低くて悲しかったため、AI の癖を徹底的に分析して自動生成されたイラストを見抜く方法をまとめました。

大前提

はい、まず大事な話です。この記事での話は、全て判別対象のイラストが事前に「完全に人力で描かれたもの」か「完全に AI で出力されたもの^[1]」のどちらかであることが確定していることを前提とします。

これが満たされない場合、例えば Twitter でたまたま流れてきたイラストを見かけた場合などに、ここで説明した特徴をもとにそのイラストが「AI 作」か「人間作」かを判別する行為は一般にナンセンスとなります。なぜなら、既に散々言われているとは思いますが、一般には両者は二分されるものではなく連続的に繋がっているものだからです。そこに明確な線引きは存在しません^[2]。

ここでは判別対象の画像が「完全に AI」か「完全に人力」かのどちらかに限られるという前提が存在するので、通常人間が描いた絵には出ないであろう特徴を（追記: 十分な量）見つけた時点で AI による絵であると判断できることになります。

追記：追記を書きました

追記2：追記2を書きました

追記3：特徴まとめを書きました

対象とするイラスト

さらに、ここでは判断の対象とするイラストを「人物の顔が含まれるイラスト」に限定します。人間が描かれていなくても判定できる例はたくさんあると思いますが、自然の風景などを描いたイラストは満たされるべき秩序が少ないため、判定が非常に難しいと思います。

失敗する例

最初に、次のような評価軸で AI かどうかを判断すると失敗するという例を紹介します。

完成度

少し前まで、AI の描く絵は顔が大きく崩れていたり人体が異常な形になっていたり、そもそも描き込み具合が人間のそれとは比較にならないくらいお粗末だったりしました。が、今はその考えは捨ててください。ぱっと見の完成度は人間によるイラストと区別が付かないほどになるまでに AI は進化しました。

雰囲気・シチュエーション

こちらも同様です。AI の生成するイラストの雰囲気やシチュエーションはプロンプト次第でどうにだってなります。イラストの雰囲気やシチュエーションだけで人間の作品と区別するのは不可能に近くなりました。

絵柄

これもまた同様です。AI は入力に応じてありとあらゆる絵柄の作品を出力してきます。さらに fine-tuning などの存在によって特定の絵柄に寄せることすらできるので、「このイラストは AI っぽい絵柄だから AI だ」「○○さんの絵柄に似てるから人間の作品だ」などと判断することはできなくなりました。

キャラクターの実在性

AI は実在する（現実に存在するという意味ではない）特定のキャラクターを出力することが可能です。特に有名であればあるほどデータが増えるので容易になります。自分もこれにはなかなか衝撃を受けました。

判断材料

ではどうすればいいかというと、ひたすら細部を見るということに尽きます。今の AI は「全体に雰囲気を持たせる」「ぱっと見崩れていないデッサンの人間を描く」ことは得意ですが、細部に一貫性を持たせることが著しく苦手です。一方、こうした一貫性を持たせることは人間であれば絵の技術に関係なく容易です。したがって、細部における一貫性は人間の絵か AI の絵かを判定する重要な材料となります。

ここでは「絵柄」「雰囲気」「完成度」などは一切考慮せず、ただひたすらに「細部の一貫性」だけを見て AI によるイラストを見抜いていきます。

この記事を書くにあたり様々な自動生成されたイラストを観察してきましたが、人間であればしないようなミスが一つもない、すなわち完全に「欠陥」のないイラストは今のところ一枚も見つかっていません。

以下、特に AI が苦手とする一貫性やよくあるミスなどの例を挙げていきます。

左右の瞳の形状・ハイライトの一貫性

これが最も特徴的であると思います。人間であれば、そのキャラクターが特殊な状況下にいる、その演出によって引き出される効果を期待する、などの特殊な理由がない限り、左右の瞳の形状やハイライトの形・数に一貫性があります。

ところが AI による絵の場合、ほぼ確実に左右の目の塗りやハイライトの入れ方を変えてきます。人間は「左右の目は物理的に同じ形状をしており同じ状況下に置かれているため、当然そこには一貫性がある」ということを理解できますが、AI はこうした「背後にある理論」を理解できません。「目ってよく知らないけどこの辺に配置されてるこういう感じの形をしたやつのことでしょ」という具合にひたすらそれっぽさだけで目を出力してきます。それでも十分にそれっぽいので人間はそれを目として認識できるわけですが、やはり細部には多く欠陥が存在します。

中でも特徴的なのが「瞳に白目が溶け込んで瞳を崩す形で入るハイライト」です。人間は「まず眼球があり、その中に瞳があり、そのうえで周囲の光が反射して光沢を形成している」ことを知っているので「ハイライトによって瞳の一部が遮られることはあっても瞳の形自体が崩れることはない」ことは当たり前のこととして理解できますが、最終的なイラストだけを見て学習した AI は「白目・瞳・ハイライトの論理的な関係性」を一切認識していません。というかできません。データとして与えてないんですから。

瞳が不自然に変形していることも判断材料の一つになります。人間は「瞳は本来正円である」ことを知っていますが、最終的に完成させられたイラストだけを見て鍛えられた AI は「瞳の元来的な形状」を知りません。したがってこのようなミスが生じるわけです。

あとは、左右の目の色を微妙に変えてくることが多いのも AI 絵の特徴です。もちろん瞳の色が左右で違うキャラクターは存在しますが (heterochromia)、そうデザインされたキャラクターは明らかに「違う色をしている」と認識できることがほとんどです。ぱっと見同じような色をしているが、よく見てみると違う、というのは判断材料の一つになります。

ただし、そういうキャラクターがいても別におかしくはないので重要な根拠とはなりません。また、周囲の環境によって左右の目の色が変わって見えたりすることは自然なので間違えないようにしましょう。

左右の目におけるまつ毛の一貫性

人間の描いたイラストでは、顔の中心線に沿って左右対称にまつ毛が描かれていることが多いです。しかし AI が生成したイラストでは、左右の目で出ているまつ毛の本数や場所がバラバラになっていることがほとんどです。

ただし、人間が描いたイラストでもまつ毛の形が左右である程度違うことはままあるため、まつ毛の形が左右で違っていてもそこまで強い判断材料にはなりません。逆に瞳やハイライトと合わせてまつ毛の形まで左右で一貫している場合は、ほぼ間違いなく人間が描いたイラストであると判断できます。

衣装の左右対称性

人間は「多くの服装は左右対称に作られている」ことを知っています。AI はそのことは知りませんが、服のデザインが左と右で似たような形になりがちであることはなんとなくわかっています。結果として次のようなことが起きます。

「ぱっと見左右対称のデザインをした衣装であるが、よく見ると左右のデザインがトポロジーレベルで明らかに異なっている」

トポロジー（＝形の繋がり、個数、……）レベルで異なっているというのが重要で、人間も左右対称なものを完全に左右対称に描くことはできないので、多少の大きさや形の歪みは生じます。しかしそれでも、「本来的に異なっている形」を「それっぽく似せて左右に配置する」ようなことはしないはずです。

注意点として、普通に左右非対称なデザインの衣装は存在するので、そこで引っかからないように注意してください。「この絵の作者は服のデザインを左右対称に見せたかったのか？」を考えるとよいです。

この左右非対称性による判別は、服だけでなく冠や髪飾りといった装飾品についても適用できます。

反復する形状の一貫性

これも大きな判別ポイントとなります。AI はとにかく一貫性について全く分かっていないため、服のボタン一つとっても一貫して同じ形で並べることが大の苦手です。

もちろん人間が描いても多少はずれますし、絵柄によってわざと崩したりすることもあるので一概には言えませんが、少なくとも AI は意図を持って同じ図形を等間隔で並べることができません。これが達成されている部分があれば、人間が描いたイラストであると判断する大きな材料になります。

シンプルな幾何学的形状

これは少し意外かもしれませんが、AI はある程度の大きさを持った直線や正円、綺麗な楕円を描くことが苦手です。これは AI がこれらの図形のイデアを知らないためです。

お絵描きソフトにこそ様々な基本図形の描画ツールはありますが、あれは元々人間が組み込んだルールにプログラムが忠実に従うことで達成されています。一方 AI はそうした図形のルール、本質的な性質が何たるかを知らない（教えていないので当然です）ので、それっぽい物体の出力はできても、正確な作図を行うことは困難です。

こうした単純で明確な図形がしかるべき場所に配置されていれば、人間によるイラストであると判断する材料になります。

ただし、背景に出てくる直線だけはさすがに大量に学習したのか、AI もかなり得意としているようです。建物の縁、パイプなどは真っすぐ描かれていることが多いです。

人工物における機能の一貫性

多くの人工物は「ある目的を達成するため」に設計されており、したがって人工物のパーツは「そこにそれが配置されている意味」「そのパーツが提供するべき機能」を元来的に有しているはずです。しかし AI はこれらを尽く蔑ろにします。メカメカしいイラストであってもただひたすらに「それっぽいパーツが意味もなく配置されているだけ」のものしか描けません。

したがって、特定の機能を提供するために一貫して意味を持ったパーツが集約された人工物が存在していれば、そのイラストを人間が描いたものと判断することができます。

注意すべきは、この一貫性のなさだけをもってイラストを AI が描いたものであると判定してはいけないという点です。なぜなら人間もそういうイラストを意図して描くことがあるためです。あくまで AI が描けないというだけです。

様々な描写において「そこに意図があるかどうか」を考えることは有効ですが、これは手順を機械化できるような単純なものではなく判断が難しいため、できれば明確な特徴に頼りたいところです。

文字

AI は実在する文字をきちんと描くことができません。どこか近未来的な、あるいはまったく異なる文明で発明されたかのような文字を出力することがほとんどです。

これは非常に分かりやすい特徴ではあるのですが、注意すべきはこれをもって AI の描いた絵と判断してはならないことです。見たことのない文字をデザインすることは当然人間にも可能であり、そうしてデザインされた謎の文字が描かれたイラストは多数存在します。

一方で、「然るべき場所に」「きちんとした文字が」描かれている場合は、人間が描いたイラストであると判断する強力な材料になります。そもそも形の整った文字を出力することすら難しいのに、それを正しい場所に配置するなど今の AI にとっては至難の業であるからです。

とはいえ、一部の超巨大モデルを使った画像生成 AI ではきちんと文字が生成されている様子も見られるので、もしかしたら遠くない未来に文字をもって AI によるイラストを見抜くことはできなくなるかもしれません。

線の役割の一貫性

人間が描く絵においては、基本的に一つの線が担う役割は一つのみです。

ある物体の境界を描いていた線が、突然途中から別の物体の境界線に変わることはあり得ません。また線の途中で物体の内部と外部が入れ替わることもあり得ません。だまし絵が描きたかった場合は別ですが……

AI は線の役割に一貫性があるべきことを知らないので、なんとなく線を引きたい場所に他の線の端が近付いてきたら「お、これ使っちゃお」みたいなノリで簡単に線を繋げてきます。

見つかれば分かりやすい判断材料になりますが、かなり注意して見ないと気付くことができません。

溶解・融合・ノイズ

AI で生成したイラストに非常によく見られるポイントです。内部・外部の判定が曖昧になり物体が溶け出したり、他の物体と融合したり、不自然な塗りのノイズが発生したりします。

また、線は綺麗に描かれていても塗りが溶け出す現象もよく見られます。人間も塗りミスをしてしまうことはありますが、それでは説明が付かないレベルである物体の塗りが他の物体に侵食します。

嘘の空洞

髪の毛などで囲われてできた空洞であるはずの空間を周囲と異なるパターンで塗ってしまうことがあります。囲われている空間に何も存在しないのか何かが存在するべきなのか迷った結果、ちょっと他より明るい色で塗っておくみたいなことがよくあります。人間ではまああり得ません。

本来あまり気にしないはずの空洞に意識を向ける必要があるため見つけるのが難しいですが、一度見つかればそれと分かりやすい特徴です。

遮蔽の前後における一貫性

人間は、ある物体が他の物体で遮られても、その下で同じ物体が連続して存在していることを認知できます。AI はこれが苦手です。そのため、髪の毛などによる短い遮断であってもその前後にある物体の連続性が失われることがあります。

また、特に何も遮っていないはずの物体の下から突然何かが生えてくることがよくあります。よくある例として、どう考えてもおかしい場所や方向から髪の毛が生えてくるというのがあります。ただしこの手のミスは人間でも起こり得るので、ミスの程度や周辺の複雑さをよく見て総合的に判断する必要があります。

大きさだけで重要度を判断する

AI が描いた絵全般に言えることですが、小さいものであればあるほど表現が粗末になっていきます。

人間であれば物の大きさとその物の絵における重要度が独立であることを理解できるので、たとえイヤリングやストラップといった小さい物であっても、それが絵にとって重要な要素であるならば丁寧に描き込みます。こうした小物の丁寧な描き込みは人間が描いたイラストであることの大きな判断材料となります。

追記：特徴まとめ

ここまで特に順番を考えず列挙してしまったので、ここで全ての特徴について「人間にどの程度当てはまるか」「AI にどの程度当てはまるか」を整理しておきます。

「人間」の列について、次のような表記を使います。

○	得意とする表現である
△	やや珍しいが、このように描かれることもある
×	わざとでない限り、このように描かれることは滅多にない

「AI」の列についても、同様に次のような表記を使います。

○	頻繁にこうした出力を行う
△	やや珍しいが、このような出力を行うこともある
×	このような出力を行うことは稀である

特徴と傾向の表が以下です。ある特徴の否定は傾向の単純な否定になっていないことに注意してください。

特徴	人間	AI
左右の瞳の塗りパターン・ハイライトが一貫している	○	×
左右の瞳の塗りパターン・ハイライトが一貫していない	×	○
左右の瞳の色が明らかに違う	○	○
左右の瞳の色が微妙に違う	△	○
左右のまつ毛の形が対称である	○	△
左右のまつ毛の形が対称でない	△	○
非自明な衣装のデザインが左右対称になっている	○	△
左右対称であるべき衣装がトポロジーレベルで崩れている	×	○
反復する図形が同じ形で一貫して描かれている	○	×
反復する図形が同じ形で一貫して描かれていない	△	○
シンプルな図形が綺麗に描かれている	○	△
シンプルな図形が崩れている	△	○
機能が明確なパーツが集約された人工物が描かれている	○	×
機能が不明瞭なパーツが集約された人工物が描かれている	△	○
判別可能な文字が然るべき場所に描かれている	○	×
判別可能でない文字が描かれている	△	○
実在する文字が不自然な崩れ方をしている	×	△
一本の線の役割が一貫している	○	○
一本の線の役割が一貫していない	×	○
溶解・融合・ノイズが発生している	×	○
塗りがはみ出している（軽度）	△	○
明らかに塗りの色が間違っている	×	○
明らかな空洞が空洞でない塗られ方をしている	×	○
遮蔽の前後で連続性が途切れる（軽度）	△	○
遮蔽の前後で連続性が途切れる（重度）	×	○
小さな物体の細部を省略する	○	○
小さな物体の細部が丁寧に描き込まれている	○	×

一つの特徴に固執せず、できるだけ多くの特徴を集めて総合的に判断するのが正しい判定を行うコツです。

Human or AI 攻略

以上の点に注意して作品を見れば、ほぼ確実に AI による作品かどうかを見抜くことができます。少なくとも Human or AI, Human or AI 2 で掲載されているイラストについては十分な確度をもってすべて正しく見分けることができます。

判定のコツ

まずイラストを拡大して両目をぐっとにらみます。人間の描いた眼はほぼ確実に左右で特徴が一貫していて、AI の描いた眼はほぼ確実に左右で一貫性が崩れているので、これだけで9割以上は見抜くことができます。片目しか映っていなかったり、小さくてよく分からない場合は難易度が上がります。

次に手足が描かれている場合は手足の構造を見てみます。手足が融解している場合は AI のものと分かります。

その後前髪、肩に落ちる髪など髪を重点的に見ていきます。AI が特に間違えるポイントだからです。ここまででほぼ確信できますが、さらに自信を増やしたい場合は服の模様、装飾品、周囲の人工物などを細かく見ていきます。

以下ネタバレを含みます。未プレイの方はどちらか片方だけでも先に一度挑戦してみることをお勧めします。

また、以降の解説においては、混乱を避けるため「左」「右」という言葉は全て画像における左右の意味で固定します。例えば「左目」と言った場合、キャラクターから見た左目ではなく画像の左側に存在する方の目を指します。

Human or AI 解説

※ 画像は著作権周りが不明瞭なので載せないでおきます。いや冒頭で載せてしまってはいるんですが……

1

左右の目の塗りが一致しません。右の瞳がハイライトによって浸食されているように見えます。顎の下あたりであり得ない方向から髪の毛が生えています。左胸にある結び目の構造が崩壊しています。

2

右目のハイライトが異様に細くなっています。髪飾りの左右対称性が崩れています。リボンの下の方で青の塗りが侵食してきています。

3

瞳の模様は左右で似ていますが、描き込み具合が大きく異なります。瞳の境界上に配置されるハイライトが左右で異なります。右目のまつ毛と髪の毛が融合しています。左目の目尻に向かって髪の毛がまつ毛に吸い込まれて同化しています。耳の下あたりで溶解が発生しています。

4

瞳の左下にあるハイライトが左右で異なります。左膝付近の髪の毛が嘘の空洞を作り、さらに皮膚の塗りがそこに侵食しています。ひまわりの髪飾りの塗りが侵食しています。断裂した毛束が存在します。

これ自体は根拠にはなりませんが、全体を通して造形が非常に「AI らしい」絵です。

5

目の塗り・ハイライトの入る位置・まつ毛のデザインが左右で一貫しています。全ての髪飾りの塗りが一貫しています。リボンの柄が全体を通して一貫しています。ボタンの大きさがそろっており、通間隔で並んでいます。猫の目の塗り・ハイライトも左右で一貫しています。

6

左右の目の塗り・ハイライト・まつ毛の形が左右で一貫しています。イヤリングの各パーツが正しく描かれています。胸のあたりのフリルが一つ一つすべて同じ形になっています。

7

左右の目の塗り・ハイライト・まつ毛に一貫性があります。髪飾りが正しい構造をしています。襟のふちにある半円が規則正しく並んでおり、袖口も同じ構造をしています。

8

左右の目の塗り・ハイライト・まつ毛に一貫性があります。各所に綺麗な直線が引かれており、あらゆる人工物の構造に矛盾がありません。置かれている靴のペアの模様が一貫しています。

9

左右の目の塗り・ハイライト・まつ毛に一貫性があります。結び目やファスナーの構造が正しく描かれています。カップの輪郭に綺麗な直線が使用されています。

10

左右の目の塗り・ハイライト・まつ毛に一貫性があります。服の模様が花柄で一貫しています。一貫した特徴を持つキャラクターが左上・左下・右下に登場します。右上にきちんと読み取れるサインがあります。

11

左右の目の塗り・ハイライト・まつ毛に一貫性があります。リボンの構造に矛盾がありません。花の構造が明快で、かつ矛盾がありません。一貫したボタンが等間隔に描かれています。

12

左右の目の塗り・ハイライト・まつ毛に一貫性があります。あらゆる構造が明確に矛盾なく描かれています。星形、三角といった図形が崩れずに複数出現しています。判別可能な文字が然るべき場所に存在します。

13

左右の目の塗り・ハイライトに一貫性があります。義手の構造が明快であり、矛盾がありません。スマホの縁が綺麗な直線になっています。正しい文字が正しい場所に存在します。

14

左右の目の塗り・ハイライト・まつ毛に一貫性があります。全ての線の役割が明確で、矛盾がありません。

15

左右の目の塗り・ハイライト・まつ毛に一貫性があります。意図の不明な線や塗りの浸食がありません。

16

斜めになっているため分かり辛いですが、少なくとも目の塗り・まつ毛の形が左右で異なる印象は受けません。左右対称にデザインされた衣装がきちんと左右対称になっており、模様の崩れが一切見られません。

17

左右の目の塗り・ハイライト・まつ毛に一貫性があります。服の柄が均質になっています。全ての線の役割が明確で、矛盾がありません。

18

左右の目の塗り・ハイライト・まつ毛に一貫性があります。多少の形の歪みはありますが、左右対称にデザインされた服や装飾品の模様がトポロジーレベルで正しく左右対称に描かれています。腰から下がっている布は明らかに左右非対称にデザインされたものであることが分かります。

19

左右の目の塗り・ハイライト・まつ毛に一貫性があります。イヤリングの構造が正しく描かれています。複雑な花束の内部でも一本一本の線の果たす役割が明確で、矛盾がありません。短い直線で構成される薄い集中線が全体に渡って描かれています。

20

左右の目の塗り・ハイライトに一貫性があります。胸や腕にあるドレスの縁の花の装飾が同じ形で規則正しく並んでいます。役割が不明瞭な線がありません。

21

瞳の塗りが左右で異なります。目元のまつ毛の形が左右で異なります。ボタンの形や大きさに統一感がありません。帽子に描かれている「一見左右対称な」模様が崩れていて、左右対称になっていません。左手人差し指あたりにできている空洞の中の塗りが不自然に明るくなっています。スカートが左下で断絶しています。

22

目の上・口元で溶解が発生しています。意図の不明な線・どのような構造になっているか不明な物体が数多く発見されます。各所で髪の毛と人工物が融合しています。

23

目の塗り・まつ毛の形が左右で異なります。右の瞳だけが角張っています。左耳で遮蔽による連続性の断絶と肌の塗りの浸食が発生しています。左手が溶解しています。

24

目のハイライトが左右で異なります。首元と帯にある結び目の構造がどちらも不自然です。左右の耳で溶解が発生しています。

25

右上で両手が溶解していおり、まつ毛が髪の毛の影響を受けて不自然に変形しています。各所で服と髪の毛と肌が融合しています。

26

瞳の塗りが左右で異なります。ハイライトは同じ位置に入っていますが、左右で形が異なり、瞳を侵食しているように見えます。左目のまつ毛が髪の毛と融合しています。右手が溶解してノイズが入っています。左の鎖骨を表す線がいつの間にか髪の毛と同化しています。

27

解像度が低く、瞳の描き込みを詳細に確認できませんが、少なくともハイライトの入り方が異なっています。顔の後ろに存在する人工物の構造が不明瞭です。手が溶解しています。フリルに一貫性がなく、ほとんどの場所でどのような構造になっているか判断できません。左上の至る所で髪の毛と服が融合しています。

28

左の瞳の形が崩れており、まつ毛にノイズが発生しています。左耳に意図の不明な線が多数描かれています。胸元で髪の毛が皮膚と融合しており、ノイズが発生しています。

29

難しいです。目の塗り・ハイライト・まつ毛の形は概ね左右で統一されているように見えますが、左目のハイライトの位置がやや不自然に下がっています。左下で髪の毛と背景が融合しています。左胸に描かれた服の紐のような線が不自然に途中で消滅しています。中央右下あたりに独立した毛束が存在します。

30

目の塗り・ハイライトの位置と個数が左右で一貫していません。襟の左側あたりで髪の毛と服の模様が融合しています。水平線が髪の毛に引っ張られて変形しています。一番左側にある髪の毛でできた空洞が背景の塗りを変化させています。ボタンの形が歪で一貫していません。リボンの左上に存在する赤い領域と服を分けている境界線が、左肩まで伸びたところで髪の毛の境界線に変化しています。

31

目の中心の塗り・左下のハイライトの形が左右で異なります。右耳の右にある髪の毛でできた空洞が背景の塗りを変化させています。両肩に接触している髪の毛が崩壊しています。カバンの上にある空洞で塗りが不自然に変化しています。

32

目の塗り・ハイライトの形が左右で異なります。髪留めとおでこが融合しています。アルファベットを表したかったと思われる文字が存在しますが、読み取れません。両目の間の髪にノイズが発生しています。首の付近にある髪の毛で囲まれた空洞が背景の塗りを濃くしています。胸のあたりの服の模様に一貫性がありません。首の下に不自然に肌に張り付いた崩れた星形のよく分からないものが存在します。

33

目の塗り・ハイライトの形が左右で異なります。襟の模様に一貫性がありません。左頬のああたりで髪の毛の塗りが侵食されています。首元で髪の毛と肌が融合しています。胸元のアクセサリーの形が不自然に崩れています。

34

難しいです。解像度が低くて目はよく分かりません。右手付近がおかしなことになっていそうですが、解像度が低く判断に困ります。また、右手のすぐ上で何もないはずの場所が不自然に背景を遮断しているようにも見えますが、これも微妙です。しかし、頭上に並ぶ柱は人工物のはずですが高さがバラバラで、足元に並ぶランプは大きさや形に一貫性がなく、左下のランプの柱は不自然に曲がっており、全体的にランプの位置とブルーム（照り返し？）の対応関係が取れていません。ランプの下に存在する構造物も謎です。

35

これも難しいです。左右の目の塗りは一貫しており、ハイライトはありません。しかし、腕に落ちている髪の毛がそのまま袖のシワとなって服に融合しています。左下で髪の毛が不自然に分岐・合流を繰り返しています。左最下部で髪の毛によって生じた遮蔽により背景のビルの明るい面が断絶しています。右眉の右あたりにある髪で囲われた空洞に髪の毛の塗りが侵食しています。

36

目の塗り・ハイライトが左右で異なります。襟が髪の毛の影響を受けて変形しています。左耳の左側に存在する髪で囲われた空洞が背景の色を変化させています。耳にノイズが発生しています。リボンの左下の布の下端を表す線が襟の模様と融合しており、塗りも少し侵食しています。リボンの中央下に存在するV字部分にノイズが生じています。

37

目の塗りとハイライトの形がやや異なります。左目の瞳の輪郭線が下瞼を表す線と融合しています。頭上にある水平の柱が右側で不自然に消失しています。左の髪飾りが前髪を吸い込んで融合しており、その付近に意図の不明な線が複数存在します。左右から伸びた髪がリボンに吸い込まれており、左側ではリボンの色が髪を侵食しています。

38

左右の目でハイライトが異なっており、よく見ると左目に目尻が2つ存在します。胸元に落ちた髪の毛が服と融合しています。首の左下あたりに落ちた髪の毛による遮蔽で服が不連続に描かれています。腰に謎の穴が存在します。

39

左右の目のハイライト・まつ毛の形に一貫性がありません。肩のあたりで服の左右対称性が崩れています。左腋あたりに謎の髪の毛があります。ボタンの形と大きさに一貫性がありません。右手の服と髪の毛が融合しています。スカートの裾にある模様に一貫性がありません。スカートの裾にある白い線が右太ももあたりで布の縁に変化しています。

40

目の塗りとハイライトが左右で少し異なります。手が融合しています。服・髪飾りの期待される左右対称性が随所で壊れています。

髪・服・髪飾りが背景の布と思われる存在に融合していますが、この表現がイラスト全体を通して一貫しているため、この点だけでは判断ができないと思いました。

41

左目にノイズが入っており、ハイライトと皮膚が同化しています。右目のまつ毛の連続性が被さった髪によって絶たれています。ボタンの形・配置間隔に一貫性がありません。胸元に落ちた髪の毛が随所で服に融合しています。

42

両目ともに大変なことになっています。涙と髪の毛が融合しています。右下の手の小指が服の塗りに侵食されています。

43

左右の目のハイライトの形が異なります。服のチェック柄に一貫性がありません。左下で髪が背景と融合しています。

44

左右の目のハイライトの入り方が異なります。両手をまとめている物体の構造が謎です。髪の毛が襟に融合しています。襟の模様の太さが左右で異なります。髪の毛がスカートに融合しています。左端のパイプが途中で髪の毛に変わっています。

珍しくボタンの形がまともですね。位置はちょっと変だけど。

45

左右の目の塗り・ハイライト・まつ毛に一貫性があります。左右対称にデザインされたであろう装飾品や衣装がきちんと左右対称になっています。全ての線の役割が明確で、構造に矛盾がありません。

終了

いかがだったでしょうか。

いくつか難しいものもありましたが、AI が生成したイラストの全てにおいて、人間的には考えられない不自然な点が複数発見されました。

逆に人間のイラストは AI の苦手とする表現をすべてクリアし、かつ人間的に不自然な点が一つも発見されませんでした。

ここまで見抜くことができれば、雰囲気や画風に惑わされることなく全てのケースで自信をもって正解を選ぶことができます。

では次です。

Human or AI 2 解説

難易度が上がったらしいですが、臆することはありません。同様にチェックしていきましょう。

1

左右の目の塗り・ハイライトに一貫性があります。服の襟・袖のデザインが統一されており、きちんと左右対称になっています。ボタンの大きさと配置に一貫性があります。

2

目の塗りが不安定で、ハイライトが左右で異なります。左瞼の線がまつ毛につられて上に流れてしまっています。右腰あたりでフリルと皮膚が融合しています。水着の紐と髪の毛が融合しています。顔のすぐ左にある空洞が背景の色を変えています。背景の山と髪が融合している場所が複数あります。

3

目の塗りが不安定です。左目の左下にノイズが見られます。右目の目尻が二つあります。首周辺の髪の毛の至る所でノイズが発生しています。

一番上のボタンがよく分からない場所に付いていますが、こういう服もなくはなさそうなので判断に困ります。こういう絵柄ではボタンの形が統一されていなくてもそこまで不自然ではありませんね。

4

目の塗り・ハイライト・まつ毛が左右で一貫しています。ボタンの形・間隔に一貫性があり、さらにボタンの穴とも対応関係が取れています。髪の毛が溶け込んでいるような場所は一ヶ所もありません。

5

左右の目の塗り・ハイライト・まつ毛に一貫性があります。瞳にかかった前髪はフェードアウトして消えていますが、この表現からは「髪の毛で瞳を隠したくない」という作者の意思を感じ取ることができます。三つ編みの構造にも崩れはなく、右肩で遮蔽された上下できちんと連続性を保っています。

6

右目の瞳がハイライトによって不自然に変形しています。髪飾りに明らかな塗り残しがあります。胸元の赤い布の塗りが不自然に髪の毛に侵食しています。両肩に落ちた髪の毛を表す線がそのまま両腕を表す線に変化しています。右手首が異常なほどに細いです。

7

難しいです。キャラクターの目は小さすぎてよく分かりません。服装はきちんと左右対称になっているように見えます。左上の缶詰には謎の文字が描いてありますが、よく見ると全ての缶のラベルのデザインに一貫性があります。左下から続く棚に空いている穴が同じ大きさで等間隔に並んでいます。左上で棚の区切れに沿って並んでいる穴も左右対称で同じ大きさかつ等間隔に並んでいます。棚の区切れが上下で全て揃っており、棚の奥の壁が見える場所ではきちんと対応する区切れが描かれています。

これほど丁寧で一貫性があり、全ての対応関係が取れた背景を AI なんかが描けるワケがありません。

8

左右の瞳の塗り・ハイライト・まつ毛に一貫性があります。服の柄と装飾が一貫性の塊です。疑いようがありません。

9

左右の瞳の塗り・ハイライトに一貫性があります。袖の柄の二本線が崩れることなく上から下まで綺麗に続いています。左下に崩れていないサインがあります。役割の不明瞭な線が一つもありません。

10

左右の白目の塗り方に一貫性がありません。左目に入っている一番大きなハイライトが右目にありません。まつ毛の形にも一貫性がありません。左の髪飾りの構造が崩れています。ティアラのような装飾品は左右対称っぽく見えますが、よく見ると左右で形が違うどころかそもそもどのような構造をしているかすら分かりません。ボタンの形に一貫性がありません。耳の下にノイズが発生しています。左下で髪の毛により遮断された木の太さが不連続になっています。背景で木だったものがいつの間にか髪の毛になっている線があります。

11

左右の目の塗り・ハイライト・まつ毛の形に一貫性があります。髪の毛と服が融合していません。肩からかかっている紐は赤みがかっていますが、これを髪の塗りの浸食と間違えないようにしてください（髪の毛からの反射光による色です）。胸のフリルの構造に一貫性があります。

12

瞳の塗り・ハイライトの位置と大きさが左右の目で異なります。まつ毛が明らかに左右で違う形をしています。人工物と思われる装飾の構造が尽く謎です。左下で髪と人工物が融合しています。背景のビルの構造が随所で崩れています。右下だけ不自然に尖った何かが生えています。

13

目は小さくてよく分かりませんが、少なくともハイライトの位置がずれています。頭上の人工物にノイズが見られ、構造も一貫していません。服は左右対称っぽくデザインされていますが、トポロジーレベルで対称性が崩壊しています。背景の人工物が、描き込みの多さに対して不自然なほど各所で崩れています。

14

難しいです。瞳の塗りが独特で分かり辛いですが、よく見ると右の瞳の右端に見られる勾玉のような形の青い塊は左の瞳に全く現れません。左目の目尻で髪の毛が顔に融合しているように見えます。右下で髪の毛と背景の葉っぱが融合しています。顎の輪郭線が、途中から髪の毛を表す線に変化しています。そのすぐ下で、髪の毛だった部分が連続的に皮膚に変化しています。最も左上に膨らんでいる部分の前髪が作る空洞が、上から続いている光の差し込みを不自然に遮断しています。

追記：右下に見られるレンズフレアの線が不自然に曲がっているという点を教えてもらいました。確かに人間であればしないような曲げ方をしています。

15

左右の目の塗り・ハイライト・まつ毛に一貫性があります。服の模様が綺麗に左右対称になっています。不明瞭な働きの線が一つもありません。

16

左右の目の一貫性は微妙なところです。奥歯があり得ない描かれ方をしています。フードと髪の毛が融合しています。ドクロの口にノイズが発生しています。両手ともに指が6本になっています。ベルトの形が左右対称になっていません。

17

左右の目の塗り・ハイライト・まつ毛に一貫性があります。置かれているスマホがきっちり長方形になっています。ソファにかけられている布の柄に等間隔で同じ図形が描かれており、しかも向きに一貫性があります。

18

左右の目の塗り・ハイライト・まつ毛に一貫性があります。左目から出るエフェクトに完璧な直線が使われています。メガネの形が整っており、左右対称です。ボタンはどこにも描かれていません。よく見ると襟の形が左右で異なる気がしますが、人間的に見て不自然な間違え方ではありません。

19

解像度が小さく微妙ですが、目のハイライトは左右で明らかに異なっています。右目の目尻あたりでノイズが発生しているように見えます。左下で髪の毛の線が迷走しており、髪の毛で区切られた空洞が背景の色を明らかに変えています。髪の毛と襟が融合しています。ボタンらしきものがどういう構造をしているのかよく分かりません。左襟に繋がる布が出てくる場所が不自然です。

20

左右の目の塗り・ハイライト・まつ毛に一貫性があります。リボンのチェック柄に一貫性があります。スカートのチェック柄に一貫性があります。途中で途切れてはいますが、「チェック柄に見せようとして規則的に異なる色で線を引いたという意図」を感じ取ることができます。

21

目は小さくてよく分かりませんが、ハイライトが左右で異なっているように見えます。後ろ髪のあたりで線が迷走しており、構造が謎です。こんがらがっている髪の毛がなす空洞が背景の色を不自然に変えているように見えます。左のリボンのなす空洞が背景の色を明らかに明るくしています。

22

左右の目の塗り・ハイライト・まつ毛に一貫性があります。左右対称にデザインされた衣装がきちんと対称になっており、同じ場所のフリルの大きさに一貫性があります。リボンの構造も矛盾なく明確で、黒のリボン・紫のリボンの重なりが正しく描かれています。

23

左右の目でハイライトの強さが異なっており、右の瞳にノイズが発生しています。耳の真下にある、右肩にかかった髪で囲われた小さな空洞から見える皮膚が不自然に明るくなっています。右胸付近の髪の毛の塗りに皮膚の塗りが侵食しています。胸の上あたりの髪の毛の構造が破綻しており、左上の明らかに空洞と思われる箇所で空の色が不自然に明るくなっています。左右の腰で水着の太さが不自然に異なります。

24

左右の目の塗り・ハイライト・まつ毛に一貫性があります。髪飾りの構造が左右対称で、同じ図形が並んでいます。結び目の構造が正しく描かれています。着物の柄それぞれに意味があり、図形が規則性を持って正しく配置されています。小さなストラップの構造が矛盾なく描かれています。

というか HoloMyth を知ってればもうストラップを見た瞬間に分かりますよね。

25

左右の目の塗り・ハイライトが異なります。目の色が微妙に異なっています。背景に描かれている人工物の構造が各所で破綻しています。スカートの右下にある空洞が不自然な色で塗られています。文字盤のアラビア数字が崩壊しています。針もよく分かりません。左耳が髪でできています。

26

左右の目のハイライトが異なります。左右の目の色が微妙に異なっています。首の右側から落ちる髪の毛が服の装飾に融合しています。胸のモチーフは左右でずれていますが、トポロジーレベルでは同一なので判断できません。左右の眉がそのまま前髪の線に変化しています。池の縁にある岩でできた段差が、左端から真ん中にかけていつの間にか水に変化しており、キャラクターの手前に来ています。

27

左右の目の描き込み・ハイライト・まつ毛が一貫しています。ネクタイの模様に一貫性があります。上着のデザインが左右対称に描かれています。役割の不明瞭な線が一つもありません。

28

難しいです。こういうコンセプト的に崩れまくっていてもおかしくない物体がメインに描かれた絵を出力してくるのズルいですよね。それはさておき……

地面にははっきりと影が描かれていますが、光源の位置・背後の物体・キャラクターの立っている場所を考えたときにどう考えても説明のつかない形をしています。キャラクターの右足が人間ではない曲がり方をしており、さらに太ももは空洞になっています。膝の後ろからよく分からない線も伸びています。巨大な存在の頭の左上に一ヶ所だけ不自然に明るい空間が存在します。

追記：左下に描かれているアンテナのようなものが謎である、という点を教えてもらいました。確かに謎です。

このイラストの作者はこの絵を通して何を描きたかったのかがイマイチ伝わってこないとも思いましたが、こういう「人間にも当たり前にはできないこと」を判断材料にすることは危険なので判断材料には含めていません。

29

目の塗り・ハイライトの形が左右で異なっています。右腕のジャージの柄が崩れています。左右の眉を表す線が髪を表す線に変化しています。髪留めの右側から上に伸びる髪がいつの間にか背景になっています。スカートの裾の模様が左端で不自然に消えています。スカートが右下で崩壊しています。左肩で髪の毛が上着に融合しています。

30

目の塗り・ハイライト・まつ毛が左右で一貫しています。腰の結び目の構造が正しく描かれており、正しい形の影が落ちています。複雑な髪の毛の構造が破綻している箇所が一ヶ所もありません。

終了

以上です。

こうしてみると人間の描いたイラストは見れば見るほど完璧であり、逆にAI の描いたイラストは見れば見るほど細部の欠陥がボロボロ出てきます。

最初に自分が試したときは Human or AI で 36/45 という冒涜的なスコアを叩き出してしまったのですが、今こうして見直してみると全てのイラストにおいて間違いようがないほど証拠に溢れていることが分かります。こうした違いを判別できるようになることが「目が良くなる」ということなのだと思っています。

今後 AI による自動生成イラストが世に増えていくと思われる中で、イラストを描く側だけでなく見る側のリテラシーもこうして強化していく必要があるのではないでしょうか。

人々の目が良くなることを願っています。

追記

これまで（限られた前提の下で）イラストが「AI 作」かどうかを見抜くことに絞って話をしてきましたが、「全体の完成度」や「雰囲気」といった重要な要素を丸々無視してきた（正確にはせざるを得なかった）ことからも分かるように、「AI 作かどうか」ということは「それが良い作品であるかどうか」とは全く独立した話です。むしろ多くの人が AI が出力した作品に「良さ」を感じたからこそここまで話題になったのだと思います。そしてそれは間違っていないとも思います。

ここではそうしたイラストの「良さ」については一旦棚上げをした上で、ある意味では機械的に AI による出力を見抜くコツを説明してきました。ですのでその判断結果をイラストの評価に結び付ける必要は全くありません。

ただ、それでも自分はクリエイターとして「人間によって一から描かれた作品」と「完全に AI によって描かれた作品」の判別ができないことに悲しみを覚えたので、こうして特徴をまとめ上げて記事を書くに至りました。もしかしたら将来、さらに AI の進化が進んで「本当に人間の目には区別できなくなる」日が来るかもしれません。そのときは諦めると思います。

追記2

「人間が描いた絵でもこうした特徴が出ることはある」という意見を結構もらっており、人間は何でも描けてしまうので実際これは正しいと思います。一方で、解説に書いてあるように、AIが出力したイラストからはこれらの特徴が一枚のイラストから大量に見つかります。なので、こうした「判定ゲーム」においても、一つの特徴だけで判断することは危険です。特に自分の経験としては、「どうもこの一ヶ所だけが怪しいように思える」というような場合は大抵が誤った思い込みであったので、可能な限り多く特徴を集めて総合的に判断するようにしています。

もう一つ「適当に描いた絵では判断ができないのでは」というコメントも結構ありました。これについては2つあります。

1. すっかり忘れていましたが、恐らく現状の AI は「人間が描くような "適当な絵" を描けない」です（データセットに「適当な絵」がほとんどないから）。なのでどんな作風でも一応はきちんとした作品として仕上げようとしてきます。したがって「適当に描かれてるっぽいな」と思った時点でかなり人間側にシフトしていいと思っています。
2. 「適当に描いた程度では失われない一貫性」も存在します。目の形や服の細かい対称性、反復する図形の一貫性などは確かに損なわれるかもしれませんが、「髪の毛として描いていた線をそのまままつ毛を表す線として綺麗に繋げる」ようなことはしないはずです（もちろんたまたま重なることはあります）。こうした「構造の一貫性」よりも低レイヤにある「線のレベルの一貫性」すら AI は無視してくるので、仮にすごく適当に描いたっぽい絵を AI が出力してきたとしてもほとんどは判別可能なんじゃないかと思います。

「AI によって AI の出力した絵を見抜けるか？」という話題もありました。これについては、恐らく不可能ではないと思う一方、「そんなものを作ったところで無意味である」とも思います。その根拠は二つです。

1. そもそも一般に人間のイラストと AI のイラストを区別することに意義がないから。問題自体が ill-defined なので誤った出力をするケースが多分に存在することは明らかであり、そんなものは人を傷つける道具としてしか使われないと思います。
2. 自動生成されるイラストの質の向上につながる可能性が乏しいから。イラストの自動生成の最終的な目標は「良いイラストを生成すること」であり、「人間のものと区別できないイラストを生成すること」ではないと思っています。「お手本と区別できないようなイラストを生成する」ような仕組みを組んで学習を行うのが GAN ですが、結果として今は敵対的な学習を行わない拡散モデルを使った AI に完全に立場を奪われてしまいました。ここで再び「敵対的な方向」に舵を切ったとして、今後生成されるイラストの質が上がるかどうかは甚だ疑問だと思います。