NovelAIのリークで何が終わったのか?

10月6日、NovelAIのGitHubとかのプライベートリポジトリに第三者が侵入して、AIモデルやソースコードを丸っと盗んで流出させた。

[Announcement: Proprietary Software & Source Code Leaks]

Greetings, NovelAI Community.
On 10/6/2022, we experienced an unauthorized breach in the company's GitHub and secondary repositories.

The leak contained proprietary software and source code for the services we provide.

— NovelAI (@novelaiofficial) October 7, 2022

そのリーク情報が出回って、昨日の10月7日はそこらじゅうで祭りになっていた。

衝撃を受けた私は、とりあえずツイートした。

どうやらNovelAIのサーバがハッキングされてモデルやら何もかもリークされてばら撒かれたらしい。ハイ、何かもう、終わりましたね。全部が

— 海行プログラム (@kaigyoPG) October 7, 2022

このツイートに対して、「何が終わったんですか?」みたいな引用ツイがあったので、何が終わったのかサクッと書いてみる。

■しかくNovelAIという巨悪(?)企業との戦いが終わった?

まず、9/7頃に公開されたWaifu Diffusion(v1.2)を開発したHaru氏という方がいる。

the final checkpoint has been released! it can be downloaded here: https://t.co/ypECB2gn13
documentation and release notes coming soon… pic.twitter.com/i2O73IA4YL

— haru (@haruu1367) October 6, 2022

DanbooruでファインチューニングしたWaifu Diffusionとやらが公開したぽい #StableDiffusion

GitHub – harubaru/waifu-diffusion: future repo for waifu diffusion https://t.co/VAuYMszbV8

— まじかる☆しげぽん@VRoid (@m_sigepon) September 7, 2022

まず、WDはDanbooruからスクレイピング(収集)した画像でAIを追加学習させたみたいだけど、それってどうなの?だってDanbooruって無断転載画像じゃん。という話は前のブログ記事でも触れた。

だからWDは全然善の者とかそういう事ではないという前提がある。素性が良くない。まあチンピラみたいなもんかもしれない。
だが、Haru氏はAI追加学習を自費で行い、その成果物であるソースコードやAIモデル(WD)はすべてオープンで公開している。
どうしてHaru氏がそんな事をしているか?というと、本人曰く"奇妙な趣味"だそうだ。
趣味でAI学習を行い、その成果をオープンで公開する。オープンAIがもたらす素晴らしい世界を信じている人だという事だろう。

そんな中、NovelAIが、なにやら超クオリティのアニメキャラが描けるAIを開発している事を匂わせ始めた。

This is what too many A100s do to a man. Yes these are generated images. @novelaiofficial pic.twitter.com/UMmzDG1YHP

— Eren Doğan (@kurumuz) September 20, 2022

NovelAIはもともと、Anlatanという企業が提供する、AIが小説を書いてくれるというサービスだった。
そこに、AIでアニメキャラの画像生成ができるサービスを追加するという事らしい。
まあ、おおむねAIのべりすとがやってる事の後追いという感じだ。

ちなみに、Anlatanはアメリカのデラウェア州に本社を置いてるものの、それは税の優遇のためにペーパーカンパニー的に設置してるだけで、オーナー兼主任開発者兼研究責任者のkurumuz氏はトルコ人らしい。社員にはドイツ人やブラジル人もいて、要するにかなりグローバルな企業であって、中身は全然アメリカ企業じゃないらしい。

ノベライはアメリカ人ではない。オーナーはトルコ人、コミュニティマネージャーはドイツ人、そしてチームにはブラジル人もいるはずです。英語を話せるからと言って、アメリカ人とは限らない。

— Papaya La Parupa (@PapayaLaParupa) October 5, 2022

さて、上のkurumuz氏のツイを見ると、NovelAIが生成するイラストのクオリティはハンパなさそうな事が見て取れる。
WD1.2はDanbooruの画像を5万2千枚食わせたのに対して、NovelAIはDanbooruの全画像、500万枚を食わせたらしい!
その圧倒的な学習量によってこのクオリティが達成されてるわけだ。

だがちょっと待って欲しい。
Danbooruの画像はpixivやtwitterで描かれた絵を無断転載したものだ。WDもDanbooruを食わせてはいるものの、無料、オープンソースで提供しているが、NovelAIはDanbooruの画像を勝手に食わせた挙句、クローズドで課金して画像生成させるって?

みんなが描いたイラストを勝手に使って金儲け?さすがにどうなのよ?

こうなると、一気に巨悪企業という感じが出てくる。

ここで登場するのがD氏(仮名)だ。
D氏はHaru氏達とつるんでSDにエッチな追加学習とかさせてた人だが、NovelAIがクローズドAIで金儲けする事を許せない!と考えたようだ。
D氏は、「NovelAIはWDのソースをフォークして改造しやがった!」と信じ込んでしまったらしい。
そして、「我々オープン勢で結託して、NovelAIのクローズドAIを撃退しよう!」とか言い出した。
このD氏の動きにより、Waifu DiffusionとUnstable Diffusion(これまたエッチな画像AIを開発してるディスコ鯖)はパートナーシップを結び、WDはUDから資金提供してもらえた。

これにより、WDの新しいバージョン、1.3は当初は30万枚を学習させるはずが、60万枚までスケールアップする事ができた。このAI学習には多額のコスト(数十万円)がかかるはずだが、UDの資金援助によって可能になった。

さらに、WD1.3がリリースされ次第、次の1.4に着手するそうだ。1.4ではNovelAIと同様にDanbooruの全画像、500万枚を学習させるらしい。つまり、NovelAIに対抗できるレベルのAIになるかもしれない。

https://gist.github.com/harubaru/313eec09026bb4090f4939d01f79a7e7

だが、D氏は"虚偽の情報を流布した罪"でWDのディスコから(つまりHaru氏によって)バンされてしまった。恐らく、「NovelAIがWDのフォークだ」というのがデマだったんじゃなかろうか。実際はNovelAIはマルチアス比トレーニングや入力トークン数の増加など、色々な独自技術でAI学習を行っているようだ。むしろHaru氏の方がこれらの手法をWD1.4に取り入れようとしている。
この辺の話はディスコ上の噂しか残ってないので、断片をツギハギして想像せざるを得ないので、正確な情報は分からない。

とにかくD氏はWD対NovelAIを煽りまくってたわけだが、Haru氏は過熱する対立ムードを嫌ったようだ。Haru氏は「WDは元々NovelAIと関係なく始まったプロジェクトであり、あくまで自分がたのしいからやってるだけ」というような声明をあらためて出した。WDでの対立ムードはトーンダウンしたと言える。

ちなみに私もD氏と同様に、頭の中で完全にオープンWD対クローズNovelAIの戦いが勃発していて、Haru氏を支援するために少額ながらPatreonで支援したりもした。
なんちゅうか、WD自体もチンピラみたいなもんなのに、NovelAIが巨悪すぎるせいで、相対的にWDが正義みたいに見えてくるわけだ。どっちもDanbooruの他人の絵を勝手に利用してるけど、クローズドのNovelAIよりはオープンなWDの方がマシっちゃマシだろう。

そういう盛り上がりがある中で、ついに10月3日、NovelAIが画像生成サービスを公開した!

NovelAI's Image Generation, #NovelAIDiffusion is live on https://t.co/UTsnpZKa6W now!

NovelAI Diffusion Anime image generation is uniquely tailored to give you a creative tool to visualize your visions without limitations, allowing you to paint the stories of your imagination. pic.twitter.com/WZEpQ5idgI

— NovelAI (@novelaiofficial) October 3, 2022

公開された途端、私も含めみんな一斉に試し始めたわけだが、予想されていた通り、段違いのクオリティの品質で絵を描いてくれる。

#NovelAIDiffusion #novelAI がリリースされました6
無加筆無編集出力まま 背景もかなりのものを出してくれて一枚絵としてやばい pic.twitter.com/0ID31FZTP3

— 852話 (@8co28) October 3, 2022

#NovelAIDiffusion #novelAI がリリースされました4
いやとにかくやばいが何よりやばいのは今まで以上にこれ......癖と趣向が......バレて アレですね......は〜 小さい女の子強すぎる これは...... pic.twitter.com/Q02rchIYq6

— 852話 (@8co28) October 3, 2022

ハッキリ言って、もう人間が描く絵と遜色ない...というよりも、神絵師が描く絵とさえ遜色ないかもしれない。
これには世間も驚いた。「今度こそイラストレーターの仕事がAIに奪われる!」
5ちゃんねるではNovelAIスレが2日間で30スレまで伸びたらしい。

また、AIが生成した画像である事を伏せたイラストが3000RTを超えたという事件が起きたというウワサもあるほどだ。

噂の絵描きAIで人狼ゲーム始まってるの草
俺たちの日常にはもうバケモノが紛れ込んでるのかもしれない... pic.twitter.com/5GYn5T9mYO

— パイン (@pine_gwpad) October 4, 2022

これが本当なら、画像AIは人々のチューリングテストをいよいよ突破した事になる。

(とは言え、AIである事を伏せる事が何が問題なのか、理屈から言ってよく分からない。今まではAIの描く絵は人間より劣っていたからわざわざ「AIが描きました」と言う事で、「ふ〜ん、AIにしてはすごいね」って話だったが、AIの方が人間より上手くなれば、むしろ人間の方が「人間が描きました」とわざわざ言う形になるだけじゃないだろうか。現在でも、写真と見間違えるような絵を描く人が「自分の手で描いた絵です」とわざわざ言ったりしている)

しかし、脅威はこれだけでは終わらなかった...。
その後、NovelAIでなんとエロ絵が描けてしまうという事実が発覚する!

NovelAIで普通にエロ画像作れたってツイ見て、そんなわきゃないじゃんって思って貼ってくれてた呪文入れたらマジでガチのエロ絵が出た!モデルをキュレーテッドじゃなくてフル版にするのがポイント。うせや...うせやうせやうせや!って声に出ちゃったけど現実です。もう止められないぞ...AIの暴走は...。

— 海行プログラム (@kaigyoPG) October 5, 2022

乳首も描けちゃうし、それどころかセックスも普通に描ける。さらに結合部も無修正だ。
誰でも神絵師クオリティの無修正エロ絵が無限生成できるという事態に突入した!

その翌日に起きた事と言えば、AIに描かせた有料エロCG集の乱立である。

〝イラスト毎に目の色が違う・差分はないのに基本CG枚数はやたら多い・サンプルだけでも一枚一枚のイラストの雰囲気が違いすぎる・サークル運営開始がここ数日以内〟
イラストAI発表からたった数日でそんな感じのCG集がDLsiteに乱立してるので、もうマジで終わりだよ。 pic.twitter.com/SygeHhIkx7

— 蟹紅茶 (@kanikoucha) October 6, 2022

わい(AI画像CG集か...。AIを活用すればカラーCG集製作期間を大幅に短縮できるのではなかろうか。だがimg2imgで差分を作成したりストーリーと台詞つけたり生成が難しいポーズは手描きするしかないが...)

AICG集「マシュの画像100枚生成したんで詰め合わせて100円で売るンゴ〜^^」

わい「ぐえー!」

— あぶぶ@健全 (@abubu_newnanka) October 6, 2022

はや!世界の終わりか!?パンドラの箱がガバガバか!?

こんなんさすがにマズいよね?という事で、草の根でNovelAIを批判して、巨悪と戦おう!という運動も見られ始めた。

Novel AIは絶対に許せないという方は、Novel AIの画像を投稿している方ではなく、あるふさんのように、Novel AIに対してコメントされることをおすすめします。

日本語で意見を書いて、DeepLで翻訳して投稿で問題ありません! https://t.co/BYELo5M2qP

— いかすみ (@k_ikasumipowder) October 3, 2022

あるふ氏は、NovelAIに対抗できるもっと凄いAIを作るぞ!という事も始められている。

ストレートに言いましょう。NovelAIDiffusionを越えるには採算度外視な改良型Imagen を使います。1枚目がLatent Diffusion の限界で、2枚目が普通のImagenの中途半端版です。これだけの差があります。Google が公開しない理由がわかりますか?本質的にやばいんですよ。 pic.twitter.com/8wyN8CHfJy

— あるふ (@alfredplpl) October 4, 2022

要するに、ここに来て、我々やHaru氏達オープンAI連合含めて、みんなでNovelAIに立ち向かおうぜ!という包囲戦の様相を呈し始め、さあ反撃だ!と気合を入れたところだった。

そこにきて、よりによってNovelAIのリークである。

私はなんかアホらしくなってヘナヘナと脱力してしまった。
全てちゃぶ台がひっくり返ってしまった。
戦う前から全部終わってしまった。

NovelAIのソースコードもAIモデルも全てが流出して、世界中にばら撒かれてしまった。
「拡散されちゃったってか?Diffusionだけに?」とかなんか上手い事言ってる人もいたが。

我々はこの振り上げた拳をどこに降ろせばいいねん!
まあ、そうは言っても別にこの事でNovelAIが潰れるみたいな事はないだろうけど。NovelAIの本業はあくまで小説の生成で、画像生成は新しく始めたオマケのようなものに過ぎない(とはいえAI学習にはメッチャメチャ金かかっただろうけど)
それに、NovelAIには技術とノウハウが残ってるんだから、次は2倍のクオリティで描けるAIを作ってバージョンアップすればいい話だ。

だが、神絵師レベルの画像AIがみんなの手元に行き渡ってしまい、これらはもう二度と回収も規制もできないという事も事実である。
クローズドの巨悪企業だったはずのNovelAIがリークによって強制的にオープンにされてしまうとは...なんかもう、気の毒というか、哀れというか。間抜けすぎて戦う気も失せてしまうというものだ。

ところで、SDを触ってる人なら大抵お世話になってるWebUIの開発者のAUTOMATIC氏という人がいる。毎日凄まじい勢いで新機能の追加を行っており、もはやSDアプリの筆頭開発者と言っていい存在だ。

彼が、NovelAIのリーク後1日も経たないうちに、リークされたNovelAIモデルをWebUIに読み込める機能を追加した。(NovelAIモデルにはVAEのファインチューニングやハイパーネットワークだか何だかといった特殊なモジュールがある)

さすがの開発力だと言いたいところだが、AUTOMATIC氏はこの機能追加の罪を問われて、SD公式ディスコでのロールを剥奪されてしまったらしい。(その後、結局SDディスコからバンされた。今ではUnstable Diffusioのディスコにいるらしい)
この辺の話は情報ソースが4chanの書き込みで真偽が怪しいのだが、何やらSDの運営はAUTOMATIC氏に対して、「この機能追加はリークされたコードを参考にしないと書けないもんだから、そういうのは良くないから機能を削除して欲しい」と圧力をかけたとの事だ。

ところでこれは偏見だが、オープンソース界隈で活躍する人達は、アナーキストが多いような気がする。政府だの企業だのの権力なんかクソくらえ!自由最高!オープン最高!みたいな感じだ。
まあ言うたらNovelAIをリークした人物もアナーキストだったのかもしれないし、AUTOMATIC氏がリークに同調して機能追加したのも同じ類いの人間という事かもしれない。

いずれにせよ、AUTOMATIC氏は圧力に屈する事を拒否して、WebUIの機能はそのままになっている。そしてAUTOMATIC氏はバンされたわけだ。

ところで、この話の流れってなんかおかしくないか?
SD運営が圧力をかけたのは、NovelAIが公式にリークを認める発表をするより前である。
どうしてSD運営はリークが本物だと知っていたのか?(リークがウソだったらAUTOMATIC氏の更迭もへったくれもない)

これまたディスコやRedditの噂だが、NovelAIのkurumuz氏がStability.aiのEmad氏に頼んで圧力をかけてもらったらしい。
というのも、kurumuz氏とEmad氏はかなり仲良しの友達だとかなんとか。

んん〜?本当だとすると、それはそれで変じゃないか?あんだけ「オープンソース最高!」って言ってたEmad氏が、SDを追加学習してクローズドAIサービスにしたkurumuz氏とつるんでるの?

本来、Stable Diffusionをオープンソースで公開して、GoogleやOpenAIのAI独占に立ち向かうぞ!とか言ってたEmad氏はアナーキスト側の立場のはずである。
その彼が、AUTOMATIC氏に対しては権力側に立って政治的圧力を振るってしまうのか?
無論、前提として「リークされたモデルの読み込みをサポートするってどうなの?」という話はありつつも、本当だったらEmad氏はNovelAIが強制オープンされた事をむしろ喜んでもいい立場ではないだろうか。だってGoogleとかのAI独占企業に対しても「オープンにせえよ!」って言ってたワケだし。

何かちょっと話が違ってきてないかなあ。
なんとなく流れにキナ臭さを感じるのは私の考え過ぎだろうか?

■しかく今までの世界が終わった

というわけで、表面上の出来事を追いかけるとこういう流れだったわけだが、それで、これらの出来事は結局何を意味するんだろう?

ポイント・オブ・ノー・リターンという言葉を知っているだろうか?"引き返し不可能地点"というような意味だ。その地点を超えると、もはや元の場所に引き返す事が不可能になるポイントと言う事だ。

私は、NovelAIのリークは世界が画像AIが出てくる以前の世界に引き返せなくなるポイントオブノーリターンを超えてしまったんじゃないかと考える。

OpenAIはDALL-Eという画像AIを発表し、GoogleはImagenを発表したわけだが、彼らはAIモデルを配布したりはしなかった。AIをバラ撒くと世界が大変なことになると分かっていたからだ。

その後、Midjourneyが出現して、AIモデル自体は独占されているものの、誰でも課金する事によってAI画像生成する事ができるようになった。

だが、この時点では世界はポイントオブノーリターンには達してなかった。
結局、企業がAI独占してるだけなら、人々はAIについて議論してから、「よくないよね」となれば法律で画像AIを禁止する事もできる。そうすれば、DALL-EやMidjourneyがサービス終了して、それで終わりだ。世界はAI以前に戻る事ができる。

だが、GoogleやOpenAIはAIを開放しないで我慢はしたものの、自慢する事はやめられなかった。論文に堂々とアルゴリズムを書いて公開した。「アルゴリズムを公開したって、AIで一番大変なのは大規模な学習をさせるコストだ。所詮、我々のような一流企業じゃなければAIを持てないのさ」とタカをくくっていたのかもしれない。

だがStability.aiはいきなり出てきて大金かけてStable Diffusionの大規模AI学習をやってのけて、あろう事かそのAIモデルをオープンソースで世界中にばら撒いてしまった!

この時点で、一つ目のポイントオブノーリターンを超えてしまった。
みんなの手元にAIが行き渡ってしまい、ちょっとしたGPUを積んであるPCならガンガン画像生成できてしまうようになった。
もはや、AIを法律で禁止するとかしないとかいう話は無意味になった。みんなが手元でAIを使う事をどうやって禁止できるというのか?AIを使って生成した画像を公開したとしても、それがAIによるものだと証明する事なんてできやしない。こっそりAI使ったりする事は誰にも抑止できなくなった。

とはいえ、まあそうは言っても、ぶっちゃけSDが出たからと言って、ただちに誰かの仕事を奪うというレベルでも無くない?というムードはあったかもしれない。

素のSDが出力する絵は、まあAIが描いたと言われたらたしかに凄いけど、でもまだ違和感があるし、人間の方が上手いよねって感じだった。

Anime/manga style from the 90's – 00's#stablediffusion pic.twitter.com/mNc0QOP0Gm

— Higurama enthusiast (@contraflecha_) August 17, 2022

というのも、そもそもSDはお絵描きAIでは無い。汎用の画像AIであり、ネット上のあらゆる画像を学習しているので、絵が上手く描けるように学習されているわけではない。

だから、SDは拡散されちゃったものの、まだ今からでも法律で画像AIを禁止すれば、これ以上の世界のダメージは抑えられるという段階だった。

そんななか登場してしまったのが、Waifu Diffusion(1.2)だ。
WDは、160ドルほどのコストで5万2千枚の画像を食わせて、一晩程度追加学習させただけで、生成する絵の画力は格段にブチ上がってしまった。

waifu diffusion使ってみたけど数枚回してこの出力はつよつよすぎる...
あと猫耳をしっかりつけてくれるの最高なんよ#stablediffusion #waifudiffusion #AIart pic.twitter.com/VAnAb1eHDz

— 画狂老人AI (@KitKat_english) September 8, 2022

噂のファインチューニング版waifu-diffusionのモデルが公開され1111版webuiで動かせるようになったのでテスト。キャラクター名だけでここまでとは、やるやん。#StableDiffusionKawaii #waifudiffusion pic.twitter.com/H4w0CGxiOk

— 大谷屋 (@dew_dew) September 8, 2022

同様の試みはtrinartでも行われている。

民族衣装や刺繍飾りの入ったウエディングドレス(とりんさまV2) #trinart pic.twitter.com/hW88eOFGID

— ろくじょ🍜 (@Phact_00) September 13, 2022

つまり、SDはイラストに特化させてちょちょっと追加学習させれば画力がブチ上がるという事実が発覚してしまった!

じゃあもっと沢山のイラストを学習させるとどうなるんだ?神絵師AIが生まれてしまうのか?

実際にそれをやったのがAIのべりすとのtrinartキャラクターズモデルやNovelAIというわけだ。
trinartキャラクターズは1920万枚、NovelAIは500万枚のイラストを学習している。

【TrinArt】
約1920万枚+αで訓練を行った、キャラクター特化モデルのテスト版をリリースしましたッ!

他のモデルとは全く使えるプロンプトの内容が異なりますので、慣れるまで大変かもしれませんが、アニメ・マンガ特有のあらゆる表現が通るモデルです。ぜひお試しください。#ainovel #trinart pic.twitter.com/NDC7G9zlxW

— Bit192 Labs 【AIのべりすと / Tone Sphere】 (@_bit192) September 9, 2022

NovelAI's Image Generation, #NovelAIDiffusion is live on https://t.co/UTsnpZKa6W now!

NovelAI Diffusion Anime image generation is uniquely tailored to give you a creative tool to visualize your visions without limitations, allowing you to paint the stories of your imagination. pic.twitter.com/WZEpQ5idgI

— NovelAI (@novelaiofficial) October 3, 2022

これらのAIは神絵師と遜色ない絵を描いてしまう。
とんでもねえ事になったな...とは思ったものの、結局企業の独占AIは、ポイントオブノーリターンを超えてはいない。法律で禁止すれば取り返しが付くという事だ。

本当に取り返しが付かない致命的なポイントオブノーリターンは、trinartキャラクターズやNovelAIクラスの、人間と遜色ない、人間より上手い絵が描けるAIが拡散してしまった時だと言える。

私は、世界がそのポイントに達してしまうのは、WDの1.4がNovelAIと同等のクオリティに達した時だと思っていて、それまでに法律だか何だかで画像AIを止めれば、ギリギリ世界が引き返せる可能性は残っていると思っていた。

そんな時に何が起こったのか?そう、NovelAIのリーク事件だ。

これによって、一瞬にしてNovelAIの神絵師AIが世界中に拡散されてしまった。
世界は完全に第二のポイントオブノーリターンを超えてしまった。もはや引き返す事は不可能になってしまった。

世界はAIを止める事は出来なくなったという事だ。

■しかくこれからどうなるのか?

世界はAI以前に引き返す事は不可能になってしまった。
そうなれば、もはやAIの侵攻をどうやって食い止めるか?なんて言っててもしょうがないので、諦めてAIとどうやって共存していけばいいのか、"ウィズAI"戦略を考えていく事に集中してくしかないだろう。

AIがビミョーな絵を描いてた頃から、たった2カ月程度で神絵師レベルまで到達してしまった。
この先に起きる事は、AIが人間を超越した絵を描き始める事が予想される。

「AIは所詮人間が描いた絵を学習してるだけなんだから、人間を超えられるわけないじゃん」という意見もあるかもしれない。

だが、AIはプロンプトに"傑作(masterpiece)”と入れれば絵が上手くなるし、ネガティブプロンプトに"手がヘタクソ(poorly drawn hands)"と入れれば手を上手く描いてくれるような、かなり単細胞なヤツである。
要するにベクトルの問題に過ぎない。案外、”傑作”のベクトルを強調しまくるみたいなだけの事で、人間を超えてしまったりする可能性もあるかもしれない。