AI・機械学習 Q4とQ8はどちらを選ぶ?Gemma 3 4Bを容量・VRAM・速度・96回答で比較 実験日: 2026-08-24GPU: RTX 5070 Ti 16GB / WSL2 / Ollama 0.32.15同じ4Bモデルでも、OllamaにはQ4、Q8、FP16など複数の量子化variantがあります。数字が大きいQ8を選べ... 2026.08.24 AI・機械学習
AI・機械学習 VRAM 16GBでローカルLLMは何Bまで動く?Ollamaの4B・8B・12Bを実測 実験日: 2026-08-24GPU: NVIDIA GeForce RTX 5070 Ti 16GB / WSL2 Ubuntu / Ollama 0.32.15「VRAM 16GBなら何BのLLMまで動かせるのか」を、モデルファイルの容... 2026.08.24 AI・機械学習
AI・機械学習 HOG+SVMはCNNに勝てる?FashionMNIST 60,000枚で精度・速度・誤りを比較 実験日: 2026-08-24CPU: Core i7-14700F / GPU: RTX 5070 Ti / WSL2画像分類と聞くと、最初からCNNやVision Transformerを選びたくなるかもしれません。しかし小さな画像と限... 2026.08.24 AI・機械学習
AI・機械学習 PyTorch DataLoaderは何workerが速い?WSL2でnum_workers・pin_memoryを実測 実験日: 2026-08-24 / PyTorch 2.13.0+cu130CPU: Core i7-14700F(28 logical CPU)/ GPU: RTX 5070 Ti / WSL2GPU学習が遅いとき、原因がGPUとは限りま... 2026.08.24 AI・機械学習
AI・機械学習 batch sizeは大きいほど速い?RTX 5070 Tiでthroughput・VRAM・CUDA OOMまで実測 実験日: 2026-08-24 / PyTorch 2.13.0+cu130GPU: RTX 5070 Ti 16 GB / WSL2 Ubuntu 26.04ニューラルネットの学習では、データを1枚ずつではなくbatchにまとめます。では... 2026.08.24 AI・機械学習
AI・機械学習 PyTorch混合精度は常に速い?RTX 5070 TiでFP32・TF32・FP16・BF16を各5回比較 実験日: 2026-08-24 / PyTorch 2.13.0+cu130GPU: NVIDIA GeForce RTX 5070 Ti 16 GB / WSL2 Ubuntu 26.04「GPU学習ではFP16を使えば速くなる」と覚えて... 2026.08.24 AI・機械学習
AI・機械学習 FashionMNISTのCNNをCPUとRTX 5070 Tiで学習する:小さいNNでは負けたGPUが逆転するまで 実験日: 2026-08-24 / PyTorch 2.13.0+cu130CPU: Core i7-14700F / GPU: RTX 5070 Ti 16 GB前回、4,810パラメータの2層ニューラルネットをCPUとGPUで実行したと... 2026.08.24 AI・機械学習
AI・機械学習 NumPy製ニューラルネットをPyTorchへ移植する:自動微分の一致とCPU・GPU速度を実測 実験日: 2026-08-24 / PyTorch 2.13.0+cu130CPU: Core i7-14700F / GPU: RTX 5070 Ti 16 GB前回、NumPyだけで64→64→10のニューラルネットを作り、逆伝播を有限... 2026.08.24 AI・機械学習
AI・機械学習 NumPyだけで2層ニューラルネットを作る:逆伝播を勾配チェックしてDigitsを96.44%分類 実験日: 2026-08-24 / Python 3.14.4 / NumPy 2.5.2自動微分・深層学習フレームワーク不使用PyTorchなら数行でニューラルネットを学習できます。しかし、loss.backward()の内側で何が起きて... 2026.08.24 AI・機械学習
AI・機械学習 scikit-learnのDigitsでロジスティック回帰とSVMを比較する:正解率だけで決めない機械学習入門 実験日: 2026-08-24 / Python 3.14.4 / scikit-learn 1.9.0データ: 8×8手書き数字1,797枚、10クラス機械学習の入門では「データを分けて、学習して、正解率を出す」ところまで簡単に進めます。... 2026.08.24 AI・機械学習