AI・機械学習 RTX 5070 Tiでローカル画像生成：SD-Turboを1・2・4・8 stepで実測
環境: RTX 5070 Ti 16GB / WSL2 / PyTorch 2.13.0+cu130 / Diffusers 0.40.0SD-TurboをRTX 5070 Tiで動かしました。512×512画像の生成は、読み込みとウォーム...
2026-08
AI・機械学習 AI・機械学習 INT8・INT4量子化で精度はどう変わる？FashionMNIST 1万枚でfake quantization
環境: RTX 5070 Ti / WSL2 / PyTorch 2.13.0+cu130FashionMNISTのCNNの重みをINT8・INT4相当に丸め、予測がどれくらい変わるか調べました。INT4では、層全体を同じ縮尺で丸めると正解...
AI・機械学習 PyTorchをONNXへ変換して本当に同じ？FashionMNIST 1万枚と速度を実測
環境: RTX 5070 Ti / WSL2 / PyTorch 2.13.0+cu130 / ONNX 1.22.0 / ONNX Runtime 1.29.0FashionMNISTのCNNをONNXへ変換し、PyTorchとONNX ...
AI・機械学習 埋め込み検索はTF-IDFより強い？日本語RAG 20問をEmbeddingGemmaで実測
環境: RTX 5070 Ti 16GB / WSL2 / Ollama 0.32.15 / EmbeddingGemma / Qwen 3 8B記事13本を検索するRAGの検索部分を、TF-IDFからEmbeddingGemmaへ替えてみ...
AI・機械学習 ローカルRAGは本当に効く？自作13記事をQwen 3 8Bへ検索させ20問で検証
環境: RTX 5070 Ti 16GB / WSL2 / Ollama 0.32.15 / Qwen 3 8B Q4このPCで測った速度やVRAMの値をQwen 3 8Bへ尋ねても、当然ながら、その実験の記録を渡さなければ答えられません。...
AI・機械学習 ローカルLLMのPythonコードは動く？4B・8B・12Bをpytest 30回で実測
環境: RTX 5070 Ti 16GB / WSL2 / Ollama 0.32.15 / Python 3.13 / pytest 8.4.1ローカルLLMにPythonの関数を10個書かせ、pytestで動かしました。Gemma 3 ...
AI・機械学習 小型ローカルLLMは嘘を見抜ける？TruthfulQAで4B・8B・12Bを444回答テスト
GPU: RTX 5070 Ti 16GB / WSL2 / Ollama 0.32.15Gemma 3 4B、Qwen 3 8B、Gemma 3 12Bに、TruthfulQAの二択問題を解かせました。正解をAへ置いたときとBへ置いたとき...
AI・機械学習 Ollamaのcontext 4K・8K・16Kで何が変わる？長文検索・待ち時間・VRAMを実測
GPU: RTX 5070 Ti 16GB / WSL2 / Ollama 0.32.15Model: Gemma 3 4B Q4_K_MGemma 3 4Bに長い架空の研究ログを渡し、その中へ埋めた文字列を探させました。Ollamaのコン...
AI・機械学習 Q4とQ8はどちらを選ぶ？Gemma 3 4Bを容量・VRAM・速度・96回答で比較
GPU: RTX 5070 Ti 16GB / WSL2 / Ollama 0.32.15Gemma 3 4BのQ4_K_MとQ8_0を、同じPCで動かして比べました。Q8にするとGPU使用量が約1.5 GiB増え、生成速度は180.6から...
AI・機械学習 VRAM 16GBでローカルLLMは何Bまで動く？Ollamaの4B・8B・12Bを実測
GPU: NVIDIA GeForce RTX 5070 Ti 16GB / WSL2 Ubuntu / Ollama 0.32.15RTX 5070 Tiの16 GBで、Gemma 3 4B、Qwen 3 8B、Gemma 3 12Bを動...