AI・機械学習 ローカルRAGは本当に効く？自作13記事をQwen 3 8Bへ検索させ20問で検証
実験日: 2026-08-24環境: RTX 5070 Ti 16GB / WSL2 / Ollama 0.32.15 / Qwen 3 8B Q4RAGを使うとLLMが賢くなる、と説明されることがあります。しかし検索が外れれば、LLMへ正...
ローカルLLM
AI・機械学習 AI・機械学習 ローカルLLMのPythonコードは動く？4B・8B・12Bをpytest 30回で実測
実験日: 2026-08-24環境: RTX 5070 Ti 16GB / WSL2 / Ollama 0.32.15 / Python 3.13 / pytest 8.4.1LLMが返したコードは、見た目が自然でも正しいとは限りません。そ...
AI・機械学習 小型ローカルLLMは嘘を見抜ける？TruthfulQAで4B・8B・12Bを444回答テスト
実験日: 2026-08-24GPU: RTX 5070 Ti 16GB / WSL2 / Ollama 0.32.15LLMは流暢に話すため、誤答も正しそうに見えます。「何問か聞いて違和感がなかった」では事実性を評価できません。正解ref...
AI・機械学習 Ollamaのcontext 4K・8K・16Kで何が変わる？長文検索・待ち時間・VRAMを実測
実験日: 2026-08-24GPU: RTX 5070 Ti 16GB / WSL2 / Ollama 0.32.15Model: Gemma 3 4B Q4_K_MOllamaのnum_ctxを大きくすると、長い論文やcodeを一度に読...
AI・機械学習 Q4とQ8はどちらを選ぶ？Gemma 3 4Bを容量・VRAM・速度・96回答で比較
実験日: 2026-08-24GPU: RTX 5070 Ti 16GB / WSL2 / Ollama 0.32.15同じ4Bモデルでも、OllamaにはQ4、Q8、FP16など複数の量子化variantがあります。数字が大きいQ8を選べ...
AI・機械学習 VRAM 16GBでローカルLLMは何Bまで動く？Ollamaの4B・8B・12Bを実測
実験日: 2026-08-24GPU: NVIDIA GeForce RTX 5070 Ti 16GB / WSL2 Ubuntu / Ollama 0.32.15「VRAM 16GBなら何BのLLMまで動かせるのか」を、モデルファイルの容...