AI・機械学習 RTX 5070 Tiでローカル画像生成:SD-Turboを1・2・4・8 stepで実測 実験日: 2026-08-24環境: RTX 5070 Ti 16GB / WSL2 / PyTorch 2.13.0+cu130 / Diffusers 0.40.0生成AIを理解するには、promptをweb serviceへ入力するだ... 2026.08.24 AI・機械学習
AI・機械学習 INT8・INT4量子化で精度はどう変わる?FashionMNIST 1万枚でfake quantization 実験日: 2026-08-24環境: RTX 5070 Ti / WSL2 / PyTorch 2.13.0+cu130量子化はmodelを小さく高速にできる手法として紹介されます。しかし「4 bitならFP32の1/8」という容量計算だけ... 2026.08.24 AI・機械学習
AI・機械学習 PyTorchをONNXへ変換して本当に同じ?FashionMNIST 1万枚と速度を実測 実験日: 2026-08-24環境: RTX 5070 Ti / WSL2 / PyTorch 2.13.0+cu130 / ONNX 1.22.0 / ONNX Runtime 1.29.0PyTorchで学習したmodelを別のrunt... 2026.08.24 AI・機械学習
AI・機械学習 埋め込み検索はTF-IDFより強い?日本語RAG 20問をEmbeddingGemmaで実測 実験日: 2026-08-24環境: RTX 5070 Ti 16GB / WSL2 / Ollama 0.32.15 / EmbeddingGemma / Qwen 3 8BRAGを作るとき、「TF-IDFは古い、embeddingなら意... 2026.08.24 AI・機械学習
AI・機械学習 ローカルRAGは本当に効く?自作13記事をQwen 3 8Bへ検索させ20問で検証 実験日: 2026-08-24環境: RTX 5070 Ti 16GB / WSL2 / Ollama 0.32.15 / Qwen 3 8B Q4RAGを使うとLLMが賢くなる、と説明されることがあります。しかし検索が外れれば、LLMへ正... 2026.08.24 AI・機械学習
AI・機械学習 ローカルLLMのPythonコードは動く?4B・8B・12Bをpytest 30回で実測 実験日: 2026-08-24環境: RTX 5070 Ti 16GB / WSL2 / Ollama 0.32.15 / Python 3.13 / pytest 8.4.1LLMが返したコードは、見た目が自然でも正しいとは限りません。そ... 2026.08.24 AI・機械学習
AI・機械学習 小型ローカルLLMは嘘を見抜ける?TruthfulQAで4B・8B・12Bを444回答テスト 実験日: 2026-08-24GPU: RTX 5070 Ti 16GB / WSL2 / Ollama 0.32.15LLMは流暢に話すため、誤答も正しそうに見えます。「何問か聞いて違和感がなかった」では事実性を評価できません。正解ref... 2026.08.24 AI・機械学習
AI・機械学習 Ollamaのcontext 4K・8K・16Kで何が変わる?長文検索・待ち時間・VRAMを実測 実験日: 2026-08-24GPU: RTX 5070 Ti 16GB / WSL2 / Ollama 0.32.15Model: Gemma 3 4B Q4_K_MOllamaのnum_ctxを大きくすると、長い論文やcodeを一度に読... 2026.08.24 AI・機械学習
AI・機械学習 Q4とQ8はどちらを選ぶ?Gemma 3 4Bを容量・VRAM・速度・96回答で比較 実験日: 2026-08-24GPU: RTX 5070 Ti 16GB / WSL2 / Ollama 0.32.15同じ4Bモデルでも、OllamaにはQ4、Q8、FP16など複数の量子化variantがあります。数字が大きいQ8を選べ... 2026.08.24 AI・機械学習
AI・機械学習 VRAM 16GBでローカルLLMは何Bまで動く?Ollamaの4B・8B・12Bを実測 実験日: 2026-08-24GPU: NVIDIA GeForce RTX 5070 Ti 16GB / WSL2 Ubuntu / Ollama 0.32.15「VRAM 16GBなら何BのLLMまで動かせるのか」を、モデルファイルの容... 2026.08.24 AI・機械学習