生成AIを使った神社のXが大炎上 今年3月、芸能の神社として高名な京都の車折神社でネット炎上騒動が起きた。その原因は、神社が生成AIによって出力されたイラストをXのアイコンに採用したためであった。生成AIに反対する人たちが批判的なコメントを書き込み、神社のXは閉鎖に追い込まれた。さらには、神社に対して放火を予告するメールを送る者まで現れた。 【画像】巫女さんから浴衣姿の女子まで……AI絵師「グラハム氏」が出力した可愛すぎるイラストコレクション 7月3日、車折神社に対する脅迫と威力業務妨害の疑いで、滋賀県野洲市の無職の男(38)が逮捕された。男は、車折神社が生成AIを用い、Xなどの公式アカウントの画像を制作したことに腹を立てたのが動機と語り、容疑を認めているという。 脅迫メールが届いた「車折神社」のホームページ 3月に問題になった直後、ネット上では「神社側にも問題がある」「神社側の意見ばかり伝えるマスコミはフェアではない」という意見もあった。しかし、仮にどんなに神社に問題があろうとも、放火予告をするのは許されることではないだろう。 攻撃を受けたのは神社だけではなかった。生成AIを使ったイラストを提供した“AI絵師”のグラハム氏のもとにも、膨大な量の誹謗中傷や人権侵害に等しいコメントが寄せられたのである。しかも、犯人の逮捕が発表された当日にも、グラハム氏には「お前の家を放火する」などのメールが届いたという。 いったいなぜ、生成AIに関する議論は過激化するのだろうか。今回、渦中の人となったAI絵師のグラハム氏に話を聞いた。 逮捕翌日に過激なメールが届く ——車折神社に放火予告をした犯人が逮捕された。一報を聞いてどう思うか。 まずは、犯人が逮捕されてよかったと思います。少なくとも、これで放火という犯罪の可能性は低くなったと思いますから。ところが、せっかく車折神社さんの件が一段落したと思ったら、7月4日、私のところにも「包丁で刺し殺す。家族も同様にな。お前の死体写真を基にAI生成画像を作ってやるよ」と、メールが届きました。 私宛にはこれまでも様々な誹謗中傷のメールが来ていましたが、まさか車折神社さんに放火予告をした犯人が逮捕された翌日に、このような殺害予告のメールが来るとは思いませんでした。警察に相談しようと思っています。 ——そもそもなぜ、車折神社のイラストを描くことになったのか。 私はこれまで、Xに生成AIで生み出した巫女さんの絵を投稿していました。それを見た車折神社さんの関係者から、イラストを使わせてもらえないかと連絡がありました。こんな大きなところから話が来るのは初めてだったので、せっかくなら車折神社さん向けに新しくイラストを作りますよと提案したのです。 依頼を受けてから納品までには3〜4日ほどかかりました。車折神社さんから伝えられた条件をもとに1900枚ほど生成して、よさそうなものを6枚ほど提出しました。 ——生成AIを使ったイラストは、企業や自治体などでも見かける機会が増えた。なぜ、車折神社が炎上したのか。 私がイラストを納品し、車折神社さんがアイコンを変えたところまでは問題なかったと思うのです。ところが、それを見つけた生成AIをよく思わない人たちが拡散していった、という流れだと思います。あと、私自身、フォロワーが多かったので生成AIに批判的な人から目をつけられていた可能性もあります。 私の確認不足で、指の数が多く見えるミスがあったイラストを納品してしまい、そのまま使われてしまったことも炎上の要因になったのかもしれません。炎上を招いてしまい、個人的には本当に申し訳ないという気持ちでいっぱいです。 感情的な議論は避けるべき ——炎上を機に、車折神社には殺害予告や放火予告が届いた。 率直に犯罪だと思います。生成AIについて感想や批判を言うのは構わないと思うのですが、さすがにいきすぎているのではないかと。Xで生成AIに反対する意見をたくさん見たのですが、かなり誹謗中傷が多いです。「神がいなくなった」とか「神社をたたんでしまえ」とか、感情的なコメントが目につきました。 論理的に書いている人ももちろんいましたが、度が過ぎている人がかなりいました。私はそれらをスクリーンショットして車折神社さんに提出しました。生成AIの反対派からも推進派からも、お互いの行動や発言を問題視する声が出ていますが、どちら側にも過激な言動が目につきます。言っていることはあまり変わらないんじゃないか、とすら思います。 ——そもそもなぜ、生成AIを活用しようと考えたのか。 私は生成AIを作って絵を作るのが好きなだけなので、推進しているわけでもないし、反対しているわけでもありません。絵を描くツールはデジタルになり、次のツールとして生成AIが登場してきた。今までは絵を描けなかった人はいっぱいいたと思いますが、生成AIの登場によって自分が思い描いていたものを具現化できるようになりました。これが、私としてはとても嬉しかったんですよね。 絵を描いてみたい、作ってみたい……と思っていたけれど、そこまで至らなかった人にとって、生成AIは素晴らしいツールだと思います。生成AIは無断学習をしていると問題視されます。しかし、人間もいろんなイラストや漫画や絵画を見て、描いてみたいと思って絵柄を習得している。これは学習ですよね。人間が学習するのは良くて、生成AIが学習するのがなぜ問題になるのでしょうか。 反対する気持ちはもちろん理解できます。自分の手で描いてきたものが生成AIの登場によって、自分よりもうまく描かれたりとか、突然ぱっと言葉だけでイラストができたりするのは、絵を描く人たちからすれば、これまでの仕事を否定されているんじゃないかと思うかもしれません。私も絵描きさんと同じ立場だったらそう思っているかもしれない。ただ、私が見ている限りでは、生成AIによって表現の幅が広がっていくようにも感じます。 イラストが生成AIに淘汰されることはない ——生成AIのイラストをどのように生み出しているのか。 私は画像生成AIでイラストを生み出すために、2年前にパソコンを買い替えました。今であれば4Kサイズでも1分ほどで作ることができます。それをずっと生成したままの状態にしておくこともできます。イラストに、いろんな構図やポーズを設定してずっと生成し続けていくことができるのです。 ただ、数は多く作れるのですが、パソコンの性能に左右されるところがあります。パソコンに負荷を与える行為なので、グラフィックボードの性能がかなり良くないとできない。一世代前だと時間がかかり、2世代前だったら、いまと同じようなレベルのイラストは生成できません。 グラフィックボードのメモリーが重要になってくるので、その許容量をオーバーしたときには生成が止まってしまいます。いまの世間は、より高画質で、より高品質なものを求めるようになっているので、機材は最新式のものでないといけません。 ——かなり生成AIのイラストのレベルは上がっている。今後、人間が描くイラストは生成AIによって淘汰されてしまうのか。 生成AIが登場したからといって、手描きがなくなることはないと思います。既存のコンテンツにはそれほどの影響はないと思います。生成AIが登場したことで、いままで買っていた漫画を買わなくなっているかというと、そんなことはない。そっちでいいやとなることは絶対にないし、自分が好きなものだったら買い続けるはずです。 ——しかし、生成AIについては他人の絵を無断使用しているという議論もある。 絵柄やキャラの模倣を言い出したら、コミケなどで頒布されている同人誌はどうなるのでしょうか。生成AIだけ規制して二次創作を残すのか、という議論はなされるべきです。二次創作はほとんどの人が権利者の許可を得ずに描いていますよね。権利者は何も言ってこないからといって、手描きならなぜ二次創作がOKで、生成AIはダメなのでしょうか。 ちなみに、私はいろいろな漫画やアニメの二次創作を生成AIで作っていますが、公式がNGだと言ったら作ることはありません。『BLACK LAGOON』の広江礼威先生が、二次創作はいいけれど、生成AIはダメだとおっしゃいました。したがって、私は『BLACK LAGOON』の二次創作は行いません。 行き過ぎた人が多すぎる ——騒動を振り返ってどう思うか。 反対している人たちのことを悪いとか、嫌うということはないですし、人それぞれの意見や理論はあって当然です。もちろん反対するのは自由だと思います。ただ、行き過ぎた人が多すぎると思います。私自身にも加害者扱いして誹謗中傷してくる人もいますし、私の個人情報に懸賞金をかけた人までいました。やりすぎではないでしょうか。 生成AIが憎い、AI絵師が許せないと感情的になっても、それをネットにわざわざ書き込まなければ今回のような問題にならなかったはずです。心の中においておくべきでしょう。これは小学校の道徳レベルの問題。そして、いくらなんでも、他人に危害を加えるようなことを言ったら犯罪だと思うのですが……。 ただ、私も反省点はたくさんあります。私がちゃんとしていれば、車折神社さんがXを消さなくて済んだのかなと思いました。でも、車折神社さんが私のことを悪く言うことはありませんでした。私は例の炎上事件の後、「アイコンは変えていいですよ」と言ったのですが、車折神社さんは変えませんでした。 むしろ、「そこを変えてしまってはグラハムさんに悪い」とまで仰ってくれたのです。そこまでして使ってくれたことに、本当に感謝しています。 取材・文=山内貴範 デイリー新潮編集部