エンジニアの作業環境ラボ

Windows・WSL、GPU、ネットワーク、FPGAで試したことをまとめています。設定の手順だけでなく、実行結果や、うまくいかなかった条件も記事に残しています。

ローカルAI用PCはVRAM 16GB・メモリ32GBで足りるか:Ollamaで試した4B・8B・12Bは、Q4_K_M・コンテキスト4,096で全層をGPUに載せられました。一方、StrataではRAM 32GBをほぼ使い切りました。

主な検証環境

OS Windows 11、WSL 2(Ubuntu 26.04 LTS)
CPU Core i7-14700F
GPU RTX 5070 Ti、VRAM 16GB
メモリ 32GB

ソフトウェアの版や測定条件は記事ごとに記載しています。FPGAの記事では、KR260やAlveo U50も扱っています。

最近の検証

技術記事を新しい順に見る

PyTorchを動かす・学習の詰まりを調べる

  • WSL 2のPyTorchからRTX 5070 Tiを使う:Windows側のドライバーから順に認識を確認。4096×4096のFP32行列積はCPU 177.845 ms、GPU 4.262 msでした(生成・転送を除く計算部分)。
  • CNNをCPUとGPUで学習する:FashionMNIST 6万枚・3エポックの学習はCPU 12.68秒、RTX 5070 Ti 6.29秒。データ読込と転送も含む処理全体で約2倍でした。
  • empty_cacheしてもGPUメモリが減らない:リストに参照が残ると、変数をdelしても256 MiBのテンソルは解放されませんでした。参照の削除とキャッシュの解放を分けて確認しています。
  • 学習が遅い場所をprofilerで見る:画像の切り抜き・回転を加えた条件で、前処理を0→4ワーカーにすると待ちが短縮。profilerを外した計測は約9,798→42,921 images/sでした。

分類方法や推論の形式を比べる

  • FashionMNISTでHOG+SVMとCNNを比較:テスト1万枚ではCPUのHOG+SVMが88.85%、GPUのCNN(3エポック)が87.00%。正解率はHOG+SVMが上でしたが、処理時間はCNNが短くなりました。
  • ONNXのCNNをINT8量子化する:ファイルは小さくなりましたが、この実験ではCPU推論は遅くなりました。

AI・機械学習の記事一覧

Windows・Linuxとネットワーク

ネットワークの記事一覧

Vivado・Kria・FPGA

FPGAの記事一覧

よく読まれている記事

過去30日間によく読まれた記事を、アクセス数の多い順に紹介します。

ipsendwinで「wpcap.dllがない」。Wireshark導入後の対処記録
KR260の回路図・XDC・データシートを探す:K26 SOMの資料まとめ
VRAM 16GBでローカルLLMは何Bまで動く?Ollamaの4B・8B・12Bを実測
Windows 11+WSL 2でPyTorchからRTX 5070 Tiを使う:CUDA確認からCPU/GPU実測まで
RTX 5070 TiでOllamaを動かしたらGPUを認識しない:0xc0000005の切り分けとCPU実測

コードを手元で試す

CNN学習、HOG+SVM比較、ONNXのINT8量子化、profiler、GPUメモリの実験コードをGitHubで公開しています。 準備と実行方法はREADMEから確認できます。

English

English articles include troubleshooting guides and selected experiment write-ups.