問題 No.776
ディープラーニングモデルをモバイル端末などに組み込む際、計算量やメモリ消費を抑える必要がある。モデルの構造自体を削除するのではなく、ニューラルネットワークの巨大な重み行列を、複数のより小さな次元の行列の掛け算に近似して置き換えることで、精度低下を抑えつつパラメータ数を削減する数学的手法はどれか。
【正解の解説】
テンソル分解
テンソル分解は、巨大な行列を小さな複数の行列の積に分解することで、計算負荷を減らしつつ元の行列の特徴を維持する数学的手法です。
スポンサーリンク
【その他の選択肢の解説】
フェデレーション学習
フェデレーション学習は、データを中央に集めず、各端末で分散して学習を行い、学習結果(モデルの更新値)のみを共有するプライバシー保護に適した手法です。
量子化
量子化は、モデルのパラメータ数値を、高精度なものから低精度なもの(例: 32bitから8bit)へ置き換えることで、軽量化を図る手法です。
プルーニング
プルーニングは、重要度の低い結合やニューロンを削除してネットワークを小さくする手法です。