2022-11-01から1ヶ月間の記事一覧

PyTorchのBatch Normalizationがパラメータを固定しても変動する問題の解決法

起こった問題 大規模データセットで学習済みのResNetを用いて転移学習を行うと、ResNetの全てのパラメータに対してrequires_grad = Falseとしているにも関わらず、転移学習の前後でResNetの出力が変化する問題が生じました。 原因 調べると、PyTorchのBatch …