2023-04-03から1日間の記事一覧

foreach関数によるoptimizerの高速化。実装例コード有り。

foreach関数とは PyTorchには、torch._foreach_addやtorch._foreach_expといった、foreachの接頭辞を持つ関数が存在する。このforeach関数とは、テンソルのリストを引数として受け取り、その関数の名に含まれる処理をそのリスト内の各テンソルに施す関数であ…