量子化モデルの性能を比較する
性能向上を理解するには、精度だけでなく推論速度にも注目する必要があります。量子化（モデルの軽量化）されたモデルは推論時間が短くなることが多く、これはデプロイ時に大きな利点となります。ここでは、元のモデルと量子化モデルがテストセットを処理するのにかかる時間を測定します。
measure_time() 関数はあらかじめ定義されています。この関数はモデルを評価モードに設定し、データローダー内のすべてのバッチに対して順伝播を実行して、所要時間を返します。
model（元のモデル）と model_quantized（量子化後のモデル）は、test_loader とともにすでに読み込まれています。
この演習はコースの一部です
PyTorch Lightning によるスケーラブルな AI モデルの構築
演習の手順
- 元のモデルと量子化モデルの推論時間を計算します。
- 両方の時間を小数点以下2桁に丸めて出力します。
実践的なインタラクティブ演習
このサンプルコードを完成させて、この演習に挑戦してみましょう。
# Measure inference time of the original model
original_time = measure_time(____)
# Measure inference time of the quantized model
quant_time = measure_time(____)
# Print results
print(f"Original Model Time: {____}s")
print(f"Quantized Model Time: {____}s")