Version 1.10 by Kai Kuchiki
この作品はクリエイティブ・コモンズ 表示 - 継承 4.0 国際ライセンスの下に提供されています。
本記事の初版は2022年8月30日（火）のお昼すぎの状況をもとに執筆されています。その後急速に情勢の変化がありました（たとえばmimicのβ版サービスが停止されたなど）が、それらについては本記事の趣旨から大きく逸脱するものではないので、そのままとなっています。その点ご承知おきください。
Ver.1.10では、弊社内でのフィードバックにより、論点をよりハッキリとさせるための改訂を行いました。趣旨については特に変わりがありません。また、謝辞を追加しました。引き続きフィードバックをお待ちしております。
こんにちは！ 森中うみちゃんこと、株式会社ガンマ・リバース代表取締役の朽木と申します。普段はTwitterやMastodon、Discordでよくわかんねえことをベラベラ喋ってる人ですが、今回の話は自分の仕事に直結する話なので、真面目に記事を書こうと思っております。長くなると思いますが、お付き合いください。
なるべく話を整理するように努めますが、今回の話っていろんな分野について知ってないと全容が理解できない話だったりするので、相当脱線すると思います。先に謝っときますね。ごめんちょ。
本題に入る前に、自己紹介をしないといけないと思います。立場を明確にしないといけないので。必要なければ適当に飛ばしてください。
株式会社ガンマ・リバースという会社は不思議な会社で、事業の柱を2つ持っています。1つは「作家のエージェント業務」です。今までの作家って、出版社の編集者がついていて、タッグを組んで小説やマンガを出すという形でした。しかし、今はかなり出版社の力が弱くなっています。一方、作家は作品を世に問わなければ何もできません。そのため、出版社の都合で出版できたりできなかったりするような状況は非常に都合が悪いわけです。そのため、作家の作品や作品のタネを預かり、多くの出版社に交渉するという役を行っています。そういう意味での「エージェント」です。現状、諸々の都合でどの作家のエージェント業務をしているというのは対外的には公表しておりませんが、テレビアニメ化経験もあるライトノベル作家の担当などをさせていただいています。
もう1つの柱は「新しいIPを開発する」仕事です。よく「IPってなんだよ、Internet Protocolか？」って言われるのですが、少なくともインターネットは直接関係ありません。直訳すると「知的財産権」なんですが、これでもよくわからないと思います。自分が一般の方に説明する時には「鬼滅の刃やドラゴンクエストや、あるいはクトゥルー神話体系みたいなものを新しく作る仕事です」と言っています……が、これでも伝わらないことが多くて難儀してます。作品名は毎回変えてるんですが、それでもピンとこないみたいです。めんどくさいので、詳しいことを知りたい方はイシイジロウ氏の著書「IPのつくりかたとひろげかた」を読んでみてください。
まとめると、クリエイターを支援し、売り込みを行うのが主な仕事です。また、自分達自身もクリエイターとして、新しい世界を作ることもしています。というわけで、見解としてはそこそこクリエイター寄りになるとは考えています。
一方で、ガンマ・リバースには裏任務があります。それは「クリエイターの仕事をIT化して、作業負担を減らそう」というものです。今まで電話とファックス、対面での打ち合わせが行われていたものを、Slackを使って非同期コミュニケーションにしてみたり、Zoomでの打ち合わせにしてみたりといった感じです。現状では本当に最小限のIT化ですが、クリエイターに合わせてツールを選定し、お試ししてみるというのは今後も続けたいと考えています。というわけで、今回問題になっているコンテンツ生成AIについてもある程度の知見を持っている、という前提は共有させておいてください。
さて、今回の騒動について、自分がわかってる範囲でまとめます。当然ご存知の方も多いと思いますので、知ってるよという人は飛ばしてもらって結構です。
2022年8月29日（月）に株式会社ラディウス・ファイブという会社がmimicというサービスをリリースしました。機械学習型AIに自分のイラストを食わせて、バリエーションを生成するというサービス内容です。教師データを顔イラストに限定することにより、かなり高精度に画風を真似した別の顔イラストを生成してくれるようです。
当然ながらこちらのサービスが炎上しました。朽木としては「当然炎上対策くらいしてるだろう」と思ってたんですが、普通にWeb企業あるあるの見切り発車リリースだったらしく「あちゃー」ということになっており、大変残念だなあと思っています。
炎上なので、イチャモンを付けられた内容は多岐にわたりますし、当然理屈の通らないような非難もあります。が、明らかに問題点となる部分が2つ存在しています。
- ユーザーが投入する教材に関して、本当にそのユーザーが権利を有するものなのかわからない
- 生成された画像に関して、著作権を含む知的財産権は誰に帰属するのか
前者に関しては、当然利用規約で縛りを入れてありますし、教材投入の段階でもチェックボックスで確認されます。が、当然悪意ある利用者はそれらを無視するでしょう。後者に関しては、以前よりAI生成物に関して課題となっていたのが一気に表だったものだと考えています。
今回、この記事で取り扱うのはこの2つの問題に関しての考察です。
その前に、特に技術者サイドの方が知らないようなクリエイターの置かれた立場についてお話しさせてください。この前提をご存知ないと、どうしてmimicが燃えたのか理解していただけないと思われますので。
インターネットの普及により、クリエイターは発表の場が非常に大きく広がりました。特にイラストレーターは個人サイトからtumblrへ、そしてpixivやTwitterと作品発信の場を広げてきました。CLIP STUDIOのような非常に使いやすいツールの登場もあり、間口は大きく広がっています。
一方、イラストがデジタルデータとして流通することになった弊害も現れました。界隈で非常によく見かけられるのは「剽窃」です。他人が作ったイラストを自分のものだとして発表するといった行為です。稚拙なものだとワナビー、特にリテラシーの低い若者が行うことが多いですが、一方で権利文化の違う外国のファンが剽窃したり、権利意識の低い国の企業による組織だった剽窃も行われています。最後のケースは本当に頭の痛い問題で、普通にpixivに発表したちょっとしたイラストが、いつの間にかAmazonでグッズ化されて販売されており、自分には一切の利益が入らないみたいなこともよくみられます。
ちなみに、日本国内の商業イラストレーションについては一度大破壊が行われて多くのクリエイターが撤退を余儀なくされています。その主因は「いらすとや」です。みふねたかしさんの運営する基本無料（利用点数限定）サービスで、同じタッチの豊富なイラストが用意されているサイトです。みなさんも利用されたことがあるのではないでしょうか？ これにより、従来存在した「プレゼン資料やチラシに使うためのちょっとしたイラスト」を発注する需要がほぼ消失しました。ただ、これに関してはみふねさんを恨んでいる方はさほど見かけられず、むしろ彼のビジネスセンスを称賛する声の方が大きかったかな、とは思っています。
こうした事情もあり、分野によってはイラストレーターの作業単価は非常に低くなっています。単価の高い仕事としてはキャラクターデザインやカードゲーム向けの一点ものイラスト、書籍の表紙絵や挿絵などに限られます。隣接分野のアニメーターの作業単価が著しく低いのもご存知の通りです。
こうした状況がありつつも、いまだに新しいイラストレーターが多数登場しているのは何より本人たちのやる気によるところも大きいですが、プロを目指さずファンとしてイラストを描くという、日本の「同人文化」も大きく寄与しています。 彼らは収益を目標とせず、自己の研鑽と満足、さらには自分のお気に入りのコンテンツの布教を目的としてイラストを描いている のです。そこには 利益追求のようなロジックの立った理屈は存在せず、彼らの快楽を得らえるか、あるいは不快と思うかということが大前提として立ちはだかります。 この段落は非常に重要な話なので、これだけでも覚えて帰っていってください。
いよいよ本題です。先述の問題の1つ目にかかわる事項として、mimicユーザーが投入した教材画像をもとにして生成された画像に関するお話をします。
mimicが問題視されてるのは前述した通り、教師データとして投入する画像が本当にmimicユーザー自身が描いた画像かどうか判定不能である、という点にあります。ご存知の通り、現在グラフィックデータのDRM（デジタル・ライツ・マネジメント：複製を制限する仕組み）は一般的に採用されておらず、アマチュアが手を出すのも難しい状況です（プロですら使ってる事例はほぼ聞きません）。一般のユーザーからしてみればDRMがかかったデータは取り扱いが面倒だというのはイヤというほど知っていますし、今までは「皆さんの良識に委ねます」というのが絶妙な落とし所でした。丸々転載であればすぐにわかりますし、限度を超えていれば法的措置を取ることも可能です。実際、Amazonの画像パクりグッズは通報すればたいていbanされる状況にもあります。
ところが、mimicはここに別の可能性を提示しました。「絶妙にこの人の描いたものに似た、そうではない画像を生成できる」のです。画風のパクり、通称絵柄パクについては過去にも度々問題になっています。まとめられた記事としてはpixiv大百科の記事が詳しいです。
今回のmimicが生成できるのは顔イラストだけであり、実際的な問題を起こすことはほぼないでしょう。ただ、他人が勝手に自分の画風を剽窃して新規の絵を生成して利用することは、作者にとっては不快だといえるでしょう。
先述した通り、 多くのアマチュアイラストレーターは利益のためではなく、自分の快楽を追求するために活動しています。逆に、自分の不快な行為が目につくのであれば、躊躇なくそうした行為に対して非難を浴びせます。 これは彼らの行動原理であり、 理屈で説き伏せられるようなことではありません。
また、多くの人々はこうした技術が本格的に使われ始めれば、すぐに洗練されていくことも知っています。現状は顔だけ。しかしそのうち全身イラストを生成できる規模に育って行ったら……？ 「俺の知らない、俺の魂の入っていない俺っぽい絵が、なぜかインターネットで流通している」という不愉快な事象が彼らを襲いつつある のです。
さて、AIが生成した画像は誰に帰属するのでしょうか。現行の著作権法は法的人格を持つ個人と法人のみが著作物を作りうることを前提としています。著作者が法的人格を持たないことは想定されていないため、たとえば風雨が岩を削って自然にできた彫刻的なものは誰の著作物でもない、ただの自然物です。
では、AIが生成したものは誰の著作物でもない、ただの自然物となるのでしょうか？ 直感的には「ならないだろう」と思いますよね。朽木もそう思います。しかし、規定はないのでどう扱われるかは「わからない」としか言えません。
朽木は法律の専門家ではないので、これ以上のことを書くことができません（ 法律で禁止されています 禁止まではされてませんでしたが、具体的なアドバイスはできませんので非常に書きづらいです。この段落はこの程度の記述にとどめさせてください）。少なくとも、この議論には司法資格を持ったオタクが早急に参入することが望まれますし（お前らのことだぞ法クラ）、立法府も早急に対応すべき案件であると思われます。取り急ぎ弁護士ドットコムでニュースとして取り上げてほしいところです。
さて、今回の炎上に対応してか、多くの著名なイラストレーターさんが「自作のイラストを機械学習の教師データとして利用することを禁ずる」と表明されています。これなんですが……、実は、日本は機械学習に関してはパラダイスとも言える国家で、著作権法に機械学習の教師データに関する規定が存在するのです。著作権法旧47条の7（現30条の4）なのですが、
コンピュータ等を用いて情報解析（※）を行うことを目的とする場合には，必要と認められる限度において記録媒体に著作物を複製・翻案することができる。 ただし，情報解析用に広く提供されているデータベースの著作物については，この制限規定は適用されない。 ※情報解析とは，大量の情報から言語，音，映像等を抽出し，比較，分類等の統計的な解析を行うことをいう。
この条文は機械学習を行うために、広くWebクロールなどを行って教師データを取得することを合法化するためのものです。どうやら明示的にこうした条文を持っているのは世界でも日本法だけらしいですよ。まあ、米国ではフェアユース規定があるのでこうした規定自体必要ないのかもしれないですが。
そうしたわけで多くのイラストレーターさんが「自作のイラストを機械学習の教師データとして利用することを禁じる」と声明している件に関しては、著作権法の例外規定により無効化されてしまうのです。困りましたね。
ただ、今回のmimicに関して言えば、大量の情報から（略）統計的な解析を行うことにあたるのかは微妙です。少なくとも教師データとして与えるイラストは大量ではない気がするので。これに関しても法律の専門家の見解待ち、といったところです。
というわけで、何が問題なのかについて紹介しました。しかし 実際技術はすでに存在し、たとえmimicを潰しても別のサービスが出てくることは容易に想像できます。 また、先述の通り技術はすぐ進歩します。 顔イラストにとどまらず、全身画像のミミック（模倣）を作り出すのも時間と計算資源の問題でしょう。
朽木はクリエイター側の立場の人間で、クリエイターの不快を除くにはどうすればいいか、ということを考える仕事をしています。もちろん、単に不快であるということを叫べばどうにかしてくれる世の中ではなく、 不快さを理屈立てて、著作権者の不利益となると言い換えなければいけません。 この記事はその理屈を考えるために存在しています。
現状でAIの生成物に関しては一筋縄ではいかないことがわかりました。究極的には立法府を動かさないとどうにもならないネタであることは間違いありませんが、必ずしもクリエイター有利となるかどうかはわかりません。新しい技術を規制することは、一般的には国民全体にとって不利益になることが多く、その結果として諸外国から置いていかれることもわかっています。さあ、どうするどうする？
一応、こういう攻め方なら世間を説得可能だろうか、という思考実験を行います。
イラストレーターの新規参入者というのはいまだに多いです。普通に絵を描くことが楽しい、みんなに見てもらいたいという基本的な欲求から始まり、上達することによって色々な成果が得られる道が比較的明らかになっているからです。
しかし、多くのイラストが機械で生成された世界になった時、そのモチベーションはどうなるのでしょう？ それでも絵を描く、という人は当然相当数存在すると思いますが、そこまで強い気持ちを持っていないお絵描きマンは、別に機械が生成してくれるなら……ということで興味を失うかもしれません。つまり、単純に新規参入者が減るという筋立てです。
イラストを産業と見たときに、それでも問題ないのだ、ということは可能かもしれません。一方、イラストを文化として見たときに、人間の表現欲求の根本を挫く技術というのは大丈夫そ？ という問題提起は可能、かもしれないなあと思ってます。ただ、これだとまだ弱いのは自分でも理解しています。
もう1つ、今回は画像だったのですごく明快にみんながわかる現象が起きたけれども、別に画像だけが表現物じゃないぞ、という話の道筋もあります。
典型的に言えば文章です。現状、ニュースサイトに掲載される記事の原稿料などしれたもので、書いた文章を無料で掲載してもらってるケースも多々存在します。以前揶揄された100円ライターどころか、無料ライターです。それでも編集者はライターたる人間を管理しなくてはならず、そこにコストが存在します。こうした記事をAIが生成する未来がきたらどうなるか？ というか、これは未来でもなんでもなくて、米国では実際に一部実現しています。日本語はまだスパム記事的なものしか生成できていませんが、決算記事のようなお決まりのフォーマットがあるものはすでに実用化が進んでいます。
これらは事実ベースのものですが、フィクション、つまり小説に関してはどうでしょう？ みなさんが最初に思いつくのはAIのべりすとでしょうか。まあ、これは基本おもちゃなので商品になるわけではありません。しかし、すでにAIが書いた小説が星新一賞で優秀賞を取った事例も存在します。「小説家になろう」で連載されているような小説の中にも、もしかすると機械生成を援用している作品もすでに存在しているのかもしれませんね。
人間はゴッホのひまわりやシェイクスピアのマクベスのような後世に残る立派な作品ばかりを見たり読んだりしてるわけではなく、むしろLINEニュースのくだらない記事や、Twitterで流れてくるアホなシチュエーションの1コママンガを主に摂取していますよね。しかしそうした一般的に「くだらない」とされているコンテンツも、将来立派なコンテンツを作りうる人がシノギとして、あるいは自己研鑽として作っている可能性があって、それらを機械が奪うことによって犠牲が生まれる可能性があるのではないか……？ まだ、弱いですかね？
さて、タイトル回収です。ラッダイト運動についてご存じない方について簡単に説明すると、産業革命の際、自動織機を多数持った資本家の元へ労働者が襲撃し、機械を破壊して回ったという事象です。多くの労働者は家内制手工業で織物を作っていて、自動織機に仕事を奪われると考え（実際に奪われましたが）、襲撃したわけです。その後、IT革命が訪れたときにネオ・ラッダイト運動が起こると提唱していた学者がいましたが、実際にはそうしたことは起こりませんでした。ただ、IT革命に伴い人間はコンピュータに合わせギリギリまで効率化した働きを強制されることになり、多くの人々が疲弊しているというのが現状です。
では、今回のAI革命（と仮に呼びます、なんか言葉としては違うなと思ってますが）は新たなラッダイト運動のきっかけとなりうるのでしょうか？
朽木の個人的な考えとしては、それはないかなと思っています。そもそも、今回のAI革命に関してはビッグテック（日本的に言えばGAFAM）が占有しているものではなく、オープンソースとして誰でも使えるようになった結果として発生していると認識しています。むしろ、ビッグテックはこれらの技術がクリエイターの仕事を奪うことを恐れ、今まで封印していたというのが実情のようです。
オープンソース、つまりちょっとしたゲーミングPCさえあれば君でも僕でも使える（若干の技術力は必要だけど）ものであるとすれば、クリエイターは打ち壊しする先がありません。行うとすれば全てのオープンソース技術に対して反抗するくらいですが、そもそもほとんどのクリエイターがすでにそれらの技術に頼りながら創作をしているのが実情です。OSもそうですし（Windowsもオープンソースを取り入れた部分が多分にあります）、CLIP STUDIOだってそうですし、そもそも画像流通フォーマットであるJPEGやPNGだってオープンソースの産物です。それを全て打ち壊すとなると、完全にアナログの世界に戻ってしまうわけで、今さらそんな環境に耐えられる人は多くないでしょう。
むしろクリエイターはこうしたツールも器用に使いこなし、新たな創作をすることを推奨されている……とテクノロジージャンキーたちは言ってるんですが、感情的にそれを許せるかどうかというところが難しい。乗りこなせないものは淘汰されてしまうという北斗の拳的世界観に乗っかるか、もっとソフトランディングの道を探るのか。みなさんのご意見を伺いたいと思います。
と、論自体は予定通りクリエイター寄りになりましたが、みなさんには以下のことが伝われば、今回の記事は100点かなと思っております。
- エンジニアの皆さんへ：クリエイターは理屈ではなく、快・不快といった感情で自分を駆動している。今回の騒動は不快であるという表明であるため、彼らの快に持って行けるような工夫が必要である。
- クリエイターの皆さんへ：技術は決して後戻りしないし、不快であると駄々をこねていても世界は進んでいく。積極的に馴染んでいくのか、ある程度の妥協を選ぶのか、それともひたすら我が道をいくのかの選択を迫られてるのが現状である。
もちろん、これは朽木個人の考えですし、異論が出るとは思っております。今回の騒動を機に、みなさんも色々考えていただけるとありがたいです。
この文章はCC-BY-SA 4.0のライセンスで公開いたします。この記事を読んでもうちょっと噛み砕いた話にしてほしいとか、新しい記事を依頼したいという方は弊社問い合わせ窓口までお願いします（それなりの原稿料いただければホイホイ書きますよ）。
以上、最後までお読みいただきありがとうございました！
ご協力いただいた以下の方々に感謝いたします。
- にじさんじDiscord部 雑談チャンネルで議論に参加してくださった皆様
- 今回、チャットログとしてではなく、記事としてまとめないといけないと気が付かせていただいた方々です。
- グルドンの皆さん、およびbackspace.fmを主宰するドリキンさん、松尾さん他
- 特にドリキンさんと清水さんによるAIドリフトで得られた知見を多く参考としています。
- 査読にご協力いただいたメンバー
- 弊社も入っているコワーキングスペース co-ba CHOFUを利用されているハルプログラムの浜田氏にはAI関連についておかしな記述がないか確認をいただきました。
- そのほか、身内Slackで「査読して！」とブン投げてフィードバックをくれた謎のメンバーたちにも感謝。
- 株式会社ガンマ・リバースSlackのメンバー
あざっす！ 資料見た上で現行法も引いて見たんですが、なんかこれ条文おかしくないか？ とちょっと悩んでいた部分でした。
ドラフトの段階で査読出しといてよかったー。修正します！