実験管理
SoR（記録システム）モデルトレーニング
5行のコードでMLモデルを追跡、比較、可視化
数行をスクリプトに追加して実験管理を素早く簡単に実施し、結果の記録を開始。弊社の軽量統合は、あらゆるPythonスクリプトで動作します。
LIVE NOTEBOOKを試す
# Flexible integration for any Python script
import wandb
# 1. Start a W&B run
wandb.init(project='gpt3')
# 2. Save model inputs and hyperparameters
config = wandb.config
config.learning_rate = 0.01
# Model training here
# 3. Log metrics over time to visualize performance
wandb.log({"loss": loss})
import wandb
# 1. Start a W&B run
wandb.init(project='gpt3')
# 2. Save model inputs and hyperparameters
config = wandb.config
config.learning_rate = 0.01
# Model training here
# 3. Log metrics over time to visualize performance
with tf.Session() as sess:
# ...
wandb.tensorflow.log(tf.summary.merge_all())
import wandb
# 1. Start a new run
wandb.init(project="gpt-3")
# 2. Save model inputs and hyperparameters
config = wandb.config
config.learning_rate = 0.01
# 3. Log gradients and model parameters
wandb.watch(model)
for batch_idx, (data, target) in
enumerate(train_loader):
if batch_idx % args.log_interval == 0:
# 4. Log metrics to visualize performance
wandb.log({"loss": loss})
import wandb
from wandb.keras import WandbCallback
# 1. Start a new run
wandb.init(project="gpt-3")
# 2. Save model inputs and hyperparameters
config = wandb.config
config.learning_rate = 0.01
... Define a model
# 3. Log layer dimensions and metrics over time
model.fit(X_train, y_train, validation_data=(X_test, y_test),
callbacks=[WandbCallback()])
import wandb
wandb.init(project="visualize-sklearn")
# Model training here
# Log classifier visualizations
wandb.sklearn.plot_classifier(clf, X_train, X_test, y_train, y_test, y_pred, y_probas, labels, model_name='SVC', feature_names=None)
# Log regression visualizations
wandb.sklearn.plot_regressor(reg, X_train, X_test, y_train, y_test, model_name='Ridge')
# Log clustering visualizations
wandb.sklearn.plot_clusterer(kmeans, X_train, cluster_labels, labels=None, model_name='KMeans')
# 1. Import wandb and login
import wandb
wandb.login()
wandb.login()
# 2. Define which wandb project to log to and name your run
wandb.init(project="gpt-3", run_name='gpt-3-base-high-lr')
# 3. Add wandb in your Hugging Face `TrainingArguments`
args = TrainingArguments(... , report_to='wandb')
# 4. W&B logging will begin automatically when your start training your Trainer
trainer = Trainer(... , args=args)
trainer.train()
trainer.train()
import wandb
# 1. Start a new run
wandb.init(project="visualize-models", name="xgboost")
# 2. Add the callback
bst = xgboost.train(param, xg_train, num_round, watchlist, callbacks=[wandb.xgboost.wandb_callback()])
# Get predictions
pred = bst.predict(xg_test)
あらゆる実験を可視化、比較
モデルメトリクスの流れが、インタラクティブなグラフとテーブルに瞬時に表示されます。モデルを学習している場所は関係なく、最新のMLモデルのパフォーマンスを以前の実験と比較して、簡単に確認することができます。
以前のモデルチェックポイントを素早く見つけて再実行
W&Bの実験トラッキングは、モデルを後で再現するために必要なもの、すなわち、最新のgit commit、ハイパーパラメーター、モデル重量、さらにサンプルテスト予測などをすべて保存します。実験ファイルとデータセットをW&Bに直接保存したり、ポインターを自分のストレージに保存したりすることもできます。
import wandb
from transformers import DebertaV2ForQuestionAnswering
from transformers import DebertaV2ForQuestionAnswering
# 1. Create a wandb run
run = wandb.init(project='turkish-qa')
# 2. Connect to the model checkpoint you want on W&B
wandb_model = run.use_artifact('sally/turkish-qa/deberta-v2:v5')
# 3. Download the model files to a directory
model_dir = wandb_model.download()
# 4. Load your model
model = DebertaV2ForQuestionAnswering.from_pretrained(model_dir)
「When Inception-ResNet-V2 is too slow」 （Stacey Svetlichnaya）より
CPUとGPU使用率をモニターする
GPU使用率などのメトリクスを可視化して、学習のボトルネックを特定し、高額なリソースの浪費を回避します。
リアルタイムにパフォーマンスをデバッグ
学習中にモデルのパフォーマンスを確認し、問題領域を特定します。画像、ビデオ、オーディオ、および3Dオブジェクトを含むリッチメディアをサポートします
複合体N3のCOVID-19メインプロテアーゼ（左）および複合体のCOVID-19メインプロテアーゼとZ31792168（右）： 「Visualizing Molecular Structure with Weights & Biases」 （Nicholas Bardy）
重複した100GB空きストレージによるデータセットバージョン管理
バックグラウンドで、「diff」コマンドを使い、Weights & Biasesによって処理された重複により、記録されたデータセットを自動的にバージョン管理します。
どこでもアクセス可能
デスクトップとモバイルで、最新の学習モデルと結果を確認します。共同でホストされるプロジェクトを使って、チーム全体で調整できます。
「Science of Debugging」とW&Bレポート
Sarah Jane著（Latent Space）
私たちは、結果と学習を共有するための手段としてWeights & Biasesを駆使します。これにより、お互いの作業内容の上に構築していくことができます。W&Bレポート機能は、非常に重要な要素の1つです...
レポートを見る
複数プロジェクトにわたる進捗をシームレスに共有
軽量SoR（記録システム）でチームプロジェクトを管理。全ての実験が自動的に適切に文書化され、中央で保存されるため、プロジェクトを簡単に引き継ぐことができます。