AI・機械学習 INT8・INT4量子化で精度はどう変わる？FashionMNIST 1万枚でfake quantization 環境: RTX 5070 Ti / WSL2 / PyTorch 2.13.0+cu130FashionMNISTのCNNの重みをINT8・INT4相当に丸め、予測がどれくらい変わるか調べました。INT4では、層全体を同じ縮尺で丸めると正解... 2026.08.24 AI・機械学習
AI・機械学習