AI・機械学習 INT8・INT4量子化で精度はどう変わる？FashionMNIST 1万枚でfake quantization
実験日: 2026-08-24環境: RTX 5070 Ti / WSL2 / PyTorch 2.13.0+cu130量子化はmodelを小さく高速にできる手法として紹介されます。しかし「4 bitならFP32の1/8」という容量計算だけ...
FashionMNIST
AI・機械学習 AI・機械学習 PyTorchをONNXへ変換して本当に同じ？FashionMNIST 1万枚と速度を実測
実験日: 2026-08-24環境: RTX 5070 Ti / WSL2 / PyTorch 2.13.0+cu130 / ONNX 1.22.0 / ONNX Runtime 1.29.0PyTorchで学習したmodelを別のrunt...
AI・機械学習 HOG+SVMはCNNに勝てる？FashionMNIST 60,000枚で精度・速度・誤りを比較
実験日: 2026-08-24CPU: Core i7-14700F / GPU: RTX 5070 Ti / WSL2画像分類と聞くと、最初からCNNやVision Transformerを選びたくなるかもしれません。しかし小さな画像と限...
AI・機械学習 PyTorch DataLoaderは何workerが速い？WSL2でnum_workers・pin_memoryを実測
実験日: 2026-08-24 / PyTorch 2.13.0+cu130CPU: Core i7-14700F（28 logical CPU）/ GPU: RTX 5070 Ti / WSL2GPU学習が遅いとき、原因がGPUとは限りま...
AI・機械学習 batch sizeは大きいほど速い？RTX 5070 Tiでthroughput・VRAM・CUDA OOMまで実測
実験日: 2026-08-24 / PyTorch 2.13.0+cu130GPU: RTX 5070 Ti 16 GB / WSL2 Ubuntu 26.04ニューラルネットの学習では、データを1枚ずつではなくbatchにまとめます。では...
AI・機械学習 PyTorch混合精度は常に速い？RTX 5070 TiでFP32・TF32・FP16・BF16を各5回比較
実験日: 2026-08-24 / PyTorch 2.13.0+cu130GPU: NVIDIA GeForce RTX 5070 Ti 16 GB / WSL2 Ubuntu 26.04「GPU学習ではFP16を使えば速くなる」と覚えて...
AI・機械学習 FashionMNISTのCNNをCPUとRTX 5070 Tiで学習する：小さいNNでは負けたGPUが逆転するまで
実験日: 2026-08-24 / PyTorch 2.13.0+cu130CPU: Core i7-14700F / GPU: RTX 5070 Ti 16 GB前回、4,810パラメータの2層ニューラルネットをCPUとGPUで実行したと...