NovelAI 5ch Wiki

• ゲーミングノートパソコンは絶対に買うな

ノーパソ用はでかいPC用のグラボと型番がすごい似てたりするけど性能は全然違うで。
同じ型番でもデスクトップPC用より低性能でコスパが悪いので、GPUぶん回す用途はデスクトップPC一択や。

(2024/12/27追記)
ただしRTX4060に限りノート用LAPTOP版とデスクトップ用の性能差がほぼ無い。ノート用で機能制限されるのは4060のTDPだけなので消費電力が大きいゲーミングノートならデスクトップ版と差が出ない。
PCを一から買いそろえる際にゲーミングデスクトップにモニタや周辺機器を買いそろえるなら15万円前後で購入できる4060のゲーミングノートは一式そろっているので
スペースの問題などもあれば選択肢には入る。
ノート用では4070以上はデスクトップとの性能差が大きい割に価格も割高で置き場の問題などよっぽどの事情が無ければ推奨できない。
デスクトップPCを購入しモニタが無ければ最悪TVに繋いでも良いが
ただし生成AIでぶん回すとファンなどが高回転で回り続けるため相当五月蠅くなる。デスクトップの方が筐体サイズに余裕があるのでトレードオフになる。
ただ4060はVRAM8GB版しかないのでforge系列で基本的な生成がメインとなるので入門の入門なら悪くない。
（一旦追記終わり）

• 適当にRTX4090とか勧めるな

PC触ったことないやつが何十万もするグラボ買うのは常識的ではないで。4万円の4060はまだしも30万円の4090を素人に勧めるのはおかしいと思う。
(ワイは仮想通貨が流行ったときに、専門家も立ち入らないような魔境取引所ににわか一般人が入り込んで草コインがどうのこうので爆死していったのを見たから同じことを繰り返してほしくないから書いてるで)
他人の意見に左右されず自分の環境にあったグラボ/PCを買おうな(=もちろん90番台のグラボがベストなニキもいるってことや)。

• 迷ったらRTX 3060 12GBを買え？

万人向けのGPU。5万円程で比較的安価ながら、12GBのメモリを搭載していてそこそこの性能でAI用途ではコスパ最高。
もちろんゲームもFHDなら快適やで。

(2024/12/27追記）
3060(12GB)はもうほとんど手に入らなくなりました。売っているのはこんな値段で誰が買うんだというようなもののみ。
ついでに言うと4090ももう売ってません。中古で30万とかの世界に・・・年明けに5090が出るのでもう作ってないらしいです。
代わりは4060Ti(16GB版)だがゲーマーから不人気（コアとVRAMのバランスが悪い）な上に価格が7万円前後と価格的に救世主とは言えない状態
まぁゲームもやるしと言う層にもゲーマー的評価が低く微妙な存在。生成AI全振り？nVidiaがお情けで出しているとも
4060(8GB)4万＜4060Ti(16GB)7万＜4070S(12GB)11万＜4070TiS(16GB)14万＜4080S(16GB)18万＜4090(24GB)（完売）<5090(32GB)40万(1月30日発売)
4090は筆者の記憶の限りでは発売日30万その後最安26万、今年夏からものがなくなり40万超えに高騰し現在どこにも在庫無しのまま5090の発売待ち
店頭在庫はほとんど中国人に買いあさられた模様。
正直性能的には4070TiSがベストとはいえ14万はそれなりに辛い金額。まぁ飽きたときのリセールが良いのとゲーム性能も高いのでつぶしはきく。
5070とかミドル帯が年明けすぐなのかしばらく経ってから出るのかリセールがどうなるかは神のみぞ知る
結局は予算次第だがRTX 50シリーズは記録的な円安のため国内価格が不安視されていたけど、思ったより価格を抑えたようだ。

そもそもnVidiaは同じGPUでもVRAMガン盛りにしてHシリーズで売れば数十倍の値段で売れるのでコンシューマー向けにVRAMあまり多くは積みたくないと言われてる
（もともとSEGAの下請けだったのにね・・・マイニングからAIの流れでなんかもういろいろおかしくなってしまった）

・中古グラボについて
RTX3xxxシリーズの中古はマイニングで酷使されたものが多くおすすめできない。マイニング対策されたLHR版でさえもマイニングに使われていた場合もある。
（注）また、RTX4090シリーズの動作不可や動作未確認ジャンク品（見た目は非常にきれい）はコアとVRAMが実装されていないものが出回っているため注意。中国への輸出規制で中国国内へチップが入荷できず実装できなかったものが基盤とクーラーだけで出回っている模様。動作確認していませんは基本的に詐欺。動かないものをもしかしたら動くかもと期待を持たせるための常套句。
どうしてもというのなら信頼できる友人知人や中古ショップでも保証が手厚いところから買うしか無いが中古をおすすめできる環境では無い

・AMDとIntelのGPUについて
個人向け生成AIではCUDAを利用できるnVidiaのRTXシリーズ一強だったが2024年12月現在では他の選択肢も出てきてはいる

・AMD Radeonシリーズ
ZULDAというAMD向けのCUDAコンバーター（みたいなもの）が出ており、現行のRX7xxxシリーズと一部前世代のRX6xxxシリーズに対応。インストールに手間が増える＆初回に時間がかかるがそれ以外は普通にWebUIやComfyUIも使える
筆者がRX7800XT(VRAM16GB)で試したところ4070にちょっと届かないぐらいかなぐらいで普通に使えた
ただし、ZULDAがライセンス的にまずいっぽいのでAMDのバックアップが無くなり、AMD純正のROCｍは一般ユーザー向けでは無いため注意が必要
nVidiaに比べるとVRAMが豊富な機種が今ならまぁまぁ安価で手に入りゲーム性能もAMFM2などで頑張ってはいる。
詳しい導入方法はとしあきに任せた（わかりやすいドキュメントがとしあきのところにあるが直リン禁止のため）
新機種発売前のためかRX7800XTが実質価格ながら7万円前後で買えるためわかっていて買うならあり
生成AIのために初心者が買うのはおすすめは出来ない

・Intel ARCシリーズ
i740以降うん十年ぶりに外付けGPUを発売。最初のAシリーズはドライバもひどくゲーム側からも対応してもらえず株価対策と言われたAI性能も発揮できずと散々だった
スペックだけなら4070並のはずなのにどうして・・・と言わ続け何度も特価品で話題になりついにはフラッグシップのA770(16GB)が3万円ちょいで投げ売られる羽目に
（買った筆者は当初は窓から投げ捨てる勢いだった。今年の12月のドライバでそれなりにはなった）
ずっとIntelHD,UHD,Xeと内蔵グラフィックは作り続けていたので一から作った訳では無いはずだが2Dやエンコデコードメインだったししゃーない
生成AIではIPEXというArcシリーズでつかえるPytorch向けの純正ライブラリを公開しており生成AI対応はやっている
A770でUbuntu+SDXLで生成してみたところ3070〜4060よいちょい速ぐらいの性能は出ていたが1000＊1000を超え画像が生成できないバグがある
ところが12月に後継のBシリーズの第一弾B580(12GB)が発売され北米では250ドルというバーゲンプライス（シェアをとるためのほぼ赤字と言われているが）ゲーム的な性能も12月のドライバで一気にそれなりに（前がひどすぎたとも言うが）さらにBシリーズはAよりかなり性能アップしており生成AIもそつなくこなしAにあったバグも解消しているとのこと
海外では売れに売れて転売ヤーまで現れているが国内では5万円超、アスクドル200円相当なため注目はされているようだがあまり買った人の話を聞かない
みな投げ売りをした先代のことを覚えてるからだろうか
IPEXのインストールはまぁ結構手間な上にあまりWindows向けでは無いが今後B770(16GB)などが安価に出てきて生成環境が安定してくれば選択肢には入るのかも
B580の生成AI速度はガチで4070ぐらいはあるらしい


（追記終わり）

補助電源コネクタの異常発熱により融解することがある
NVIDIA公式の調査結果によると、コネクタが完全に挿入されていないことが原因
購入者はコネクタをしっかり差し込み、確認すべき

PC一般の知識ではあるが、同じ型番でもメーカー・モデルによって性能が異なる。
例えば、底辺のRTX4090だと最上位のRTX4080より低いベンチマークスコアを出すこともある。
特に組み立て済みPCでメーカー・モデルが明示されていない場合、一番安上がりのグラボを押し付けられる可能性が高い。
そもそも自作とBTOの差が縮まってきているとはいえ、それでも最上位だと10万以上上乗せされている。
ハイエンドほど自作推奨だが、どうしても組み立て済みPCを買う場合は、特にグラボについてはよく調べてから選んだほうがよい。

パラメータ数がSD1と比較して約3倍(0.86B->2.6B)になった影響でメモリ(メインメモリとビデオメモリの両方)の使用量も3倍近く増えた。
よってRTX 3060(12GB)以上かつメインメモリ32GB以上がおすすめ。ちなみに、FP8かmedvramを利用するとVRAM消費が大幅に減って8GBでもすんなり動く。

基本的にGPUの世代が新しく、メモリ帯域幅が多いほど生成が速くなる。
なお、メモリ容量やシェーダー数が多いからと言って速いわけではない(RTX3060が最たる例)。

RTX 2060 6GB以上を推奨。理由はFP16演算が速いから。
ベンチマークの結果もここで3倍程度の壁が出来ている。

学習は、処理速度もVRAMもあればあるだけ良い。
VRAM 8GBでも学習できるが解像度が欲しくなる。3060 12GBは評価が高い。

Radeon、Intel Arc、Macでも動作はするが新規購入はお勧めしない。
ケチるんならGeForce GTX 1000番台の中古。ただしRTX系のGPUより数倍遅いし、学習も厳しい。

ちなみにGeForce GTX 600番台(一部の780番等も該当)のKeplerやそれ以前のFermi世代はCUDAがサポート対象外で、LinuxでTorchを手動でビルド(エラーが発生しやすい)しないと使えないので注意。(誰もいないとは思うが...)

検証記事 【Stable Diffusion】AIイラストにおすすめなグラボをガチで検証【GPU別の生成速度】

モデルのマージ、WSL2、学習のいずれかに手を出すなら32GB以上が推奨。SDXLの学習は最低でも32GB必要。
速度はそこまでシビアではない。
RamDisk(仮想メモリ,スワップ領域)はほぼ意味ないが、SuperMergerのためにメモリを余分に(モデル3つ分くらい)積むのはアリ。また、RAMが少ないPCで発生するフリーズし続ける状況を一応回避できる。

生成だけならモデルの容量を小さくすることで節約が可能だし、無料Colabを使ってモデルを小さくする便利なNotebookもある。

生成だけなら8GBでもギリギリ動作するが、モデルデータの読み込み時や初回起動時にPCが一瞬か一定時間フリーズする。

上位のGPUではCPUがボトルネックになる。
下位はSandyおじさんでも動いてるが多少遅い。DDR3世代だから？
推定12it/sまでは出せるのでGPUの性能ぎりぎり間に合ってるけど、次の生成開始に時間がかかってるのかも。

よほど古くない限り、Intel/AMDどちらでも問題ない。どっちでも何も変わらない。

GPU性能をフルに発揮し、処理中に他の作業がしたいなら、
iGPUつきのCPUにして、ブラウザ等はiGPUに割り振るのがおすすめ。
デスクトップCPUはIntelであれば末尾にFがついてないもの、AMDは末尾にGがついてるもの、Ryzen 7000シリーズ以降と末尾にFがついてないものがiGPUを搭載している。

GPUの性能が高いほどシングルスレッド性能によるボトルネックが出やすくなる
目安としてCinebench R23のシングルコアのスコア×0.0176でそのCPUの最大速度がわかる

1111の起動時間が気になるなら出来るだけ速いNVMeのSSDがおすすめ。
待ってもいいならSATA SSDでも支障はない。
消耗はそこまで問題にならなくなったはず。
総書込量(TBW)を使い切る前に経年劣化で壊れるほうが多い。

バックアップを兼ねて2つ目のストレージを持っておくと安心。
コスパ的なおすすめは6〜8TBくらいのHDD。USBの外付けとかでもいいと思う。
速度重視のためにSSDオンリーにするのもいい。
モデルとデータセットについてはHuggingFace🤗が受け入れてくれる。※privateリポジトリは容量制限がある
(プロバイダーによっては大容量アップロードで警告が来るらしいので注意？)

中華製品に抵抗がないなら、いわゆる「蝉族」がおすすめ。

ガチでやるならLinuxは良い。
Windowsで普段使いするならWSL2も良い。
なお、Linuxだからといって劇的に速くなるわけではない。

生成はローカル、学習はクラウドという構成もアリ

• LoraとHNの学習結果は容量が少ないのでクラウドからダウンロードしやすい
• 学習中は生成もゲームも出来なくなるし電気代もかかるのでクラウド化は合理的
• GPU買う前にまず無料Colabを試してみよう ローカルの学習入門

VRAM搭載量の違いから選択

現行モデル

現在おすすめできないグラボ

6GBではSD1.5が精一杯でSDXLと重量級ゲームは厳しい。
RTX 4060を買いましょう。