TrainLoraNode - ComfyUI Built-in Node Documentation

Complete documentation for the TrainLoraNode node in ComfyUI. Learn its inputs, outputs, parameters and usage.

このドキュメントは AI によって生成されました。エラーを見つけた場合や改善のご提案がある場合は、ぜひ貢献してください！ GitHub で編集

TrainLoraNodeは、提供された潜在変数と条件付けデータを使用して、拡散モデル上でLoRA（低ランク適応）モデルを作成し、トレーニングします。カスタムトレーニングパラメータ、オプティマイザ、損失関数を使用してモデルをファインチューニングできます。このノードは、トレーニングされたLoRA重み、損失履歴マップ、および完了した総トレーニングステップ数を出力します。

​

入力

パラメータ	データ型	必須	範囲	説明
モデル	MODEL	はい	-	LoRAをトレーニングするモデル。
潜在変数	LATENT	はい	-	トレーニングに使用する潜在変数。モデルのデータセット/入力として機能します。
ポジティブ条件付け	CONDITIONING	はい	-	トレーニングに使用するポジティブ条件付け。
バッチサイズ	INT	はい	1-10000	トレーニングに使用するバッチサイズ（デフォルト: 1）。
勾配蓄積ステップ数	INT	はい	1-1024	トレーニングに使用する勾配蓄積ステップ数（デフォルト: 1）。
ステップ数	INT	はい	1-100000	LoRAをトレーニングするステップ数（デフォルト: 16）。
学習率	FLOAT	はい	0.0000001-1.0	トレーニングに使用する学習率（デフォルト: 0.0005）。
ランク	INT	はい	1-128	LoRAレイヤーのランク（デフォルト: 8）。
オプティマイザ	COMBO	はい	”AdamW" "Adam" "SGD" "RMSprop”	トレーニングに使用するオプティマイザ（デフォルト: “AdamW”）。
損失関数	COMBO	はい	”MSE" "L1" "Huber" "SmoothL1”	トレーニングに使用する損失関数（デフォルト: “MSE”）。
シード	INT	はい	0-18446744073709551615	トレーニングに使用するシード（LoRA重み初期化とノイズサンプリング用のジェネレータで使用）（デフォルト: 0）。
training_dtype	COMBO	はい	”bf16" "fp32" "none”	トレーニングに使用するデータ型。‘none’はモデルのネイティブ計算データ型を保持し、上書きしません。fp16モデルの場合、GradScalerが自動的に有効になります（デフォルト: “bf16”）。
lora_dtype	COMBO	はい	”bf16" "fp32”	LoRAに使用するデータ型（デフォルト: “bf16”）。
quantized_backward	BOOLEAN	はい	-	training_dtypeが’none’で量子化モデルをトレーニングする場合、有効にすると逆伝播で量子化行列乗算を使用します（デフォルト: False）。
algorithm	COMBO	はい	複数のオプションが利用可能	トレーニングに使用するアルゴリズム。
gradient_checkpointing	BOOLEAN	はい	-	トレーニングに勾配チェックポイントを使用するかどうか（デフォルト: True）。
チェックポイント深度	INT	はい	1-5	勾配チェックポイントの深さレベル（デフォルト: 1）。
オフロード	BOOLEAN	はい	-	トレーニング中にモデル重みをCPUにオフロードしてGPUメモリを節約するかどうか（デフォルト: False）。
existing_lora	COMBO	はい	複数のオプションが利用可能	追加する既存のLoRA。新しいLoRAの場合はNoneに設定します（デフォルト: “[None]”）。
バケットモード	BOOLEAN	はい	-	解像度バケットモードを有効にします。有効にすると、ResolutionBucketノードから事前にバケット化された潜在変数を期待します（デフォルト: False）。
bypass_mode	BOOLEAN	はい	-	トレーニングのバイパスモードを有効にします。有効にすると、アダプターは重み変更ではなくフォワードフックを介して適用されます。重みを直接変更できない量子化モデルに役立ちます（デフォルト: False）。

注記: ポジティブ条件付け入力の数は、潜在画像の数と一致する必要があります。複数の画像に対して1つのポジティブ条件付けのみが提供された場合、すべての画像に対して自動的に繰り返されます。

training_dtypeに関する注記: “none”に設定すると、モデルのネイティブ計算データ型が保持されます。fp16モデルの場合、勾配計算中のアンダーフローを防ぐためにGradScalerが自動的に有効になります。fp16_accumulationも有効になっている場合（--fastフラグ経由）、この組み合わせは数値的に不安定になり、NaN値を引き起こす可能性があります。

quantized_backwardに関する注記: このパラメータは、training_dtypeが”none”に設定され、モデルが量子化モデルである場合にのみ関連します。逆伝播中に量子化行列乗算を有効にします。

bypass_modeに関する注記: 有効にすると、アダプターはモデル重みを直接変更するのではなく、フォワードフックを介して適用されます。これは、重みを直接変更できない量子化モデルに特に役立ちます。

​

出力

出力名	データ型	説明
損失マップ	LORA_MODEL	トレーニングされたLoRA重み。保存したり、他のモデルに適用したりできます。
ステップ数	LOSS_MAP	時間経過に伴うトレーニング損失値を含む辞書。
ステップ数	INT	完了したトレーニングステップの総数（既存のLoRAからの以前のステップを含む）。

---

Source fingerprint (SHA-256): df315ef416ff3ce81e6a526af2c4e5115980e6c35830825967e7189d4f8541d8