AI・機械学習 ONNXのCNNを実際にINT8量子化したら速くなる？精度・容量・CPU推論を比較
English version重みを丸める実験に続いて、今度はONNX RuntimeでINT8のモデルを作り、CPUで実行しました。ファイルは約72%小さくなりましたが、推論は試した3種類のバッチサイズすべてで遅くなりました。正解率は86...
PyTorch
AI・機械学習 AI・機械学習 PyTorch学習が遅いのはDataLoaderかGPUか？profilerで待ち時間を切り分ける
English versionDataLoaderの並列数を変えると学習が速くなったので、torch.profilerで処理の内訳を見ました。画像に切り抜きと回転を加えた条件では、num_workers=0の学習ループは次の画像群を受け取る...
AI・機械学習 NV-TesseractはWSL2＋RTX 5070 Tiで動く？時系列予測と異常検知を実測
実験機: Core i7-14700F、RTX 5070 Ti 16 GB、RAM 32 GB環境: Windows 11、WSL 2、Ubuntu 26.04 LTS、Python 3.12.14、PyTorch 2.12.1+cu130...
AI・機械学習 INT8・INT4量子化で精度はどう変わる？FashionMNIST 1万枚でfake quantization
環境: RTX 5070 Ti / WSL2 / PyTorch 2.13.0+cu130FashionMNISTのCNNの重みをINT8・INT4相当に丸め、予測がどれくらい変わるか調べました。INT4では、層全体を同じ縮尺で丸めると正解...
AI・機械学習 PyTorchをONNXへ変換して本当に同じ？FashionMNIST 1万枚と速度を実測
環境: RTX 5070 Ti / WSL2 / PyTorch 2.13.0+cu130 / ONNX 1.22.0 / ONNX Runtime 1.29.0FashionMNISTのCNNをONNXへ変換し、PyTorchとONNX ...
AI・機械学習 HOG+SVMはCNNに勝てる？FashionMNIST 60,000枚で精度・速度・誤りを比較
English versionCPU: Core i7-14700F / GPU: RTX 5070 Ti / WSL2FashionMNISTで、HOGとLinear SVMを組み合わせた分類を試しました。正解率は88.85%で、同じ画像...
AI・機械学習 PyTorch DataLoaderは何workerが速い？WSL2でnum_workers・pin_memoryを実測
PyTorch 2.13.0+cu130CPU: Core i7-14700F（28 論理CPU）/ GPU: RTX 5070 Ti / WSL2FashionMNISTのCNNは、DataLoaderの設定だけでも学習時間がかなり変わり...
AI・機械学習 batch sizeは大きいほど速い？RTX 5070 Tiでthroughput・VRAM・CUDA OOMまで実測
PyTorch 2.13.0+cu130GPU: RTX 5070 Ti 16 GB / WSL2 Ubuntu 26.04FashionMNISTのCNNで、一度に学習させる画像の枚数を32枚から8192枚まで増やしました。速くなったのは...
AI・機械学習 PyTorch混合精度は常に速い？RTX 5070 TiでFP32・TF32・FP16・BF16を各5回比較
PyTorch 2.13.0+cu130GPU: NVIDIA GeForce RTX 5070 Ti 16 GB / WSL2 Ubuntu 26.04FashionMNISTのCNNに混合精度学習のAMPを入れてみました。このモデルでは...
AI・機械学習 FashionMNISTのCNNをCPUとRTX 5070 Tiで学習する：小さいNNでは負けたGPUが逆転するまで
PyTorch 2.13.0+cu130CPU: Core i7-14700F / GPU: RTX 5070 Ti 16 GBDigitsの小さなネットワークではGPUのほうが遅かったので、FashionMNISTのCNNでも試しました。...