問題 No.734
エッジ端末において、限られた計算リソースとメモリで深層学習モデルを高速に推論させたい。推論精度への影響を最小限に抑えつつ、モデルのパラメータを浮動小数点数から整数などに変換してデータサイズを圧縮する技術はどれか。
【正解の解説】
量子化
量子化とは、32ビットの浮動小数点数で計算されているパラメータを、より少ないビット数（8ビット整数など）に変換することで、モデルのサイズを劇的に減らし計算を高速化する技術です。
スポンサーリンク
【その他の選択肢の解説】
蒸留
知識蒸留は、大きなモデル（先生）の知識を小さなモデル（生徒）に移す手法です。パラメータを減らして軽量化を図りますが、ご質問の「型変換による圧縮」とは異なります。
枝刈り
プルーニングは、重要度の低いニューロンや結合を削除することで、モデルを疎（スカスカ）にしてサイズを減らす手法です。
マルチタスク
マルチタスク学習は、一つのモデルに複数のタスクを同時に学習させることで、情報の共有を促し性能を高める手法です。