こんにちは。
このところ、生成AIを触っています。特に、クラウドAIではなくローカルAIを。
ローカルAIというのは、ネットに繋がずにPCのスペックで勝負するAI…とでもいいましょうか、車で例えるならば、クラウドAI(GTP,Gemini)は最新スペックのオートマ車。ローカルAIは型落ちのマニュアル車+改造歴ありです。
そう聞くと、どう考えてもクラウドの方が良いわけですが、このマニュアル車+改造というところが最大の利点でして、例えばクラウドAIはワンクリックでそれなりのものを出してくれますが、ここをこうしたかったんだけどなぁ。。が付き纏います。しかし、ローカルAIはほぼ全てをコントロール可能なのです。（ほぼです、ほぼ）
ただ、残念なことにPCスペックに大きく左右されるうえ、導入のハードルが高いです。
たとえば、先日発表されたMac Studio M5 Ultraの512GB RAMという意味不明な最強スペックのPCを購入しても、AIツールによっては環境構築自体ができなかったり、大型AIモデルの読み込み自体はできても、生成時間や画像・動画生成の速度は、より低価格のNVIDIAのグラボに負けてしまったりする可能性がでてきます。
おまけに、OS選択から試合は始まっていて「Mac<Windows<<<Linux」であったり、GPUは「Apple Silicon≒AMD<<<NVIDIA」の順に最適化されています。
なので、AI PCと謳われているPCを購入しても、実際はローカルAIは動かせず、クラウドAIが使えるだけの型落ちPCをつかまされる可能性もゼロではないので、購入の際は自分のやりたいAIが本当に使えるのかどうかをシビアに見極める必要があります。
なんて書きつつ、自分もまだ生成AI業界のはじっこのはじっこを見ているだけなので、上を見ればキリがなく、どこまで進化していくのかなーと、新しいAIが出てはスペックで追いかけられる限り追いかけている…という状況です。
私のPC環境ですが、
iMac2020 i7 64GB RAM 5500XT 8GB VRAM
に、eGPU6800XT 16GB VRAMを接続。BootCampでWindowsを起動。
知る人ぞ知る、非Apple Siliconである最後のIntel Mac。
なんだintel Macかよと思われるかもしれませんが、Apple Siliconは生成AIの対応状況と速度が芳しくなく、ローカル生成AIを使う場合は極力Windows、できればLinuxを使う必要があります。
IntelMacなら、BootCampというWindowsをネイティブで動かす機能が備わっており、AMDグラボでAIを高速で動かすROCmが使えますが、このアドバンテージがデカいです。本当はNVIDIAのグラボを使いたいのですが、接続してもIntel MacのMacOSはNVIDIAに非対応な上、AMDのグラボが内蔵されているので、eGPUをMacOSでも使いつつWindowsのドライバ相性問題のことも考えるとROCm推奨かなと。。
…と言いつつ、本来BootCampでeGPUは動かないので、込み入ったPCハックが必要なのです。もはや絶滅危惧種だと思いますが、手順はざっくりこんな感じです。
① BootCampアシスタントでWin10(20H2_v2)をインストール。② EFI領域のルートにあるWindowsブートデータと外部から落としたApple set os loderをリネームして置き替える。③ eGPUを刺した状態でBootCampDrivers.comの2024Blueを上書きインストール。④ Windowsでスリープ復帰後eGPUの電源をオンオフで認識完了。
しかしながら、最近これらのデータをインストール先から確認してみたら、中身に若干の改変があったようで、うまくいきませんでした。(バックアップ取っておいてよかった…)導入する方はいまや絶滅危惧種だとは思いますが、トライする場合は自己責任でお願いします…！希望があれば詳しく書いてみようかな？なんて思いますが、まあいないでしょう…。
さてさて、ここからは、生成AIで主にこれを使っていると言うものを記載。今回は3つほどメジャーどころを。
① LM Studio
GPTやGeminiなど、クラウドAIは情報流出するので、機密事項であったり、そもそも内容が規制されていてチャットが続けられない時に使用。オフラインなので一応安全です。(あくまでも一応なので本当に大事なことは記入しないほうがいいですが…)
また、システムプロンプトといって、「あなたは〇〇のプロフェッショナルです。〇〇について教えてください。これを参照してください…」などといった調教が可能なので、自分や偉人の情報を読み込ませて擬似的に対話してみたり、論文を読み込ませてその道の教授になってもらえたりします。やばいですよね。
AIモデルは無数にあり、自分の好きなものが選べます(性格や得意分野が違うと言うべきか)。Qwenほか色々と使いましたが、自分はGemma4をチョイス。流石Googleと言うべきか、日本語が素敵で使い勝手も良いです。画像認識など、クラウドAIでは当然の行為がローカルAIではできないことが多いのですが、Gemma4はその辺りをクリアしていてお気に入りです。
なお、iMac2020は内蔵で5500XTや5700XTなどのグラボを搭載しているのですが、VulkanでeGPUと同時に認識させることでVRAMを合算したような挙動を実現できます。このPCは5500XTの8GBと6800XTの16GBのVRAMなので、合計VRAM24GB。
Gemma4 26Bはかなり質が良いうえ、24GBVRAMなのでサクサク動きます。
② RVC
これはボイチェンAIです。声帯変更とでも言うべきか、自分が喋っているのに別人が喋っているように聴こえる驚くべき変換能力を誇るローカルAIです（声帯のモデルを作るには、相当数のボイスサンプルが必要です）。デジタルっぽい、いわゆるケロケロボイスになりがちなので注意です。自分のやり方ですが、まず3回原稿を録音し、それをRVCで変換して3つ用意。Logicで3つ並べ、ケロケロしていない部分を切り貼りし、ついでに音圧やLUFSの調整。その後、RXシリーズでノイズ周りを整音しています。自分の使い方のせいかもしれませんが、声を張ったり裏返したり小さく喋っても、変換すると全てスルーされて均一にのっぺりするので、細かい表現は対応してくれないようです。モデルの学習次第なのかな？いまはまだ途上な感じがしますが、クラウドAIの変換精度を思うと、やがてはとんでもないことになる気しかしません。なお、これはDirectMLで動かしています。
③ ComfyUI
言わずと知れた生成AIの金字塔。画像生成・動画生成なんでもござれです。余談ですが、生成AIのモデルやノード群は実は全てオープンソース…つまり無料なのですが、それをいち早く試せるのがこのComfyUIです。巷に転がる有料AIツールの内実は、実質この無料で組み上がったノードマップを有料パッケージで売りつけているだけで（おっと…
さて、このようなノードマップを自分でカチカチ作り上げ、このような画像(SDXL)を生成できるのですが、先の自分の環境だと1024×1024サイズを1枚あたり約15〜30秒程度で生成することができます。最新GPUだと多分5秒ぐらいで出るのではないでしょうか。脅威です。
クラウドAIであるGPTやGemminiでも画像が出せますが、あくまでも言葉での指示のみ。ローカルAIでは、Check Point(絵師)ControlNet(構図指定)LoRA(キャラや画風指定)など、どんなイラストにするかをガチガチに固定することができるため、表現の幅が広がります(最近、SNSなどで急に出回り始めた有名キャラの神作画イラストは、既存のキャラ画像を学習させたLoRAで生成されているわけです)。自分は主に、画像生成(Stable Diffusion)のほかに、AnimateDiff(動画生成)LivePortrait(画像に表情を加える)あたりをメインに使用しています。動画ですとWAN,LTXなど最新モデルはちょい重めで、生成に時間がかかるので見送り中でしたが、最近は低スペック向けのものもたくさん出てきたので、気が向いたらノードを組んでみようかなと画策中です。
なお、画像のキャラは現在作成中の- 森ノ音 -の新キャラです。これからLoRAも作成して冒険の動画を作りたいと思っていますが、AI動画って本当に人気がないですし規制まっしぐらなので、触るだけ触って公開は見送りになるかもしれません。。（-森ノ音-3rdも超不評でしたしネ…）
なお、生成AI全般そうですが、NVIDIAでないと導入は困難を極めます。ComfyUIも漏れなくNVIDIA CUDAに最適化されているため、AMDのグラボでROCmのComfyUIをゼロから組もうとすると壁にぶち当たって数日溶ける上、結局低速なDirectML版になりがちなので、最近登場したROCmプレビュー版でのインストールをお勧めします。基盤の理解があれば超簡単です。導入予定の方は調べてトライしてみてください。
④ クラウドAI
最後にクラウドAI。。AnimateDiffのsdxl生成は10分程度ですが、このクオリティの動画生成はできません。またできたとしても本当に重い…というか無理な可能性がでてくるので、結局クラウドAIを併用。この動画はもともとComfyUIの画像生成(SDXL)で生成した静止画でしたが、25分程度でこんな感じの5秒ほどの動画にしてくれます。なんとかローカルで実現できないか、引き続き試行錯誤。望み薄ですが。。
ここまで長々と書いてきましたが、きっと1年後ぐらいには全然違う事を書いている気がします。本当に進化が早すぎるんですAIは。しかし、そんな振り返る時を楽しみに待つために、とりあえず現状を書いてみた次第でした。
なお、iMac2020にeGPU6800XTをつけた理由は、Intel Macで使えるeGPUの最高スペックが6000シリーズまでだったことと、そもそもUnreal Engine 5(UE5)というゲーム制作ソフトの勉強のためでした。しかし、UE5は出た当初はWindowsでないと使えない機能が盛りだくさんだったため、ややこしいハックをしてまでBootCampでeGPUを認識させたのでした。そんなPCが、数年ほど経った今になって偶然にも生成AI用のPCとして現役復帰(？)したと言うわけです。
正確な発色ができる最高峰の27インチ5Kディスプレイを持つ1台で(StudioDisplayと同等性能!!)、eGPU6800XTによってハイスペックなMacとWindowsを両方起動できるオールインワンなロマン構成！…ですが、もし今から新規で買うなら素直に4K有機ELディスプレイに自作PCとMacMiniで行くと思います(笑
生成AIについては、今後もちょいちょいこのブログで発信していきたいなと思います。それにしても、もう脳みその部分…AIモデルはほぼ完成していて、あとはソフトウェアとハードウェアの進化が待たれている…そんな状況だなと感じます。
ソフトウェアはもちろん進化を続けていますが、今年の年始の中国のロボットパフォーマンス、そしてこの夏のロボットオリンピックを見ると、ハードウェアの進化も凄まじいなと思ってしまいます。期待と恐怖が隣り合わせです。
ではでは。。
