今週はオープンソース・ローカルLLM周辺で、モデルそのものだけでなく「使い方」を広げる動きが目立った。Mistralはドキュメントを自律的に読み解く新機能を、Alibabaは無料の高性能モデルを、そしてLM Studioはサーバー運用への道を開いた。ここでは直近1〜数週間の主要トピックを、出典付きで整理する。

Mistralの「Agentic Search」——ドキュメントを自分で読みに行くAI
Mistral AIは8月20日、新しい検索レイヤー「Agentic Search」を発表した。従来のRAG(検索拡張生成)が一度だけチャンクを取得して終わるのに対し、Agentic Searchはモデル自身が検索・オープン・ナビゲート・読解・grepという5つの操作を繰り返し、表や脚注を含む複雑な文書の中を能動的に探索する。
財務諸表を対象にしたFinanceBenchでは正解率が26.7%から86%まで向上し、表を多く含む複数文書の質問応答ベンチマーク「OfficeQA Pro」でも6.3%から51.9%へと大幅に改善したという。Mistral Search Toolkitを通じて、Libraries・Studio・Vibeなど既存製品に統合されている。
出典: Mistral AI公式発表
Qwen3.8-27B、Apache 2.0で無料公開——3日で300万ダウンロード
AlibabaのQwenチームは8月14日、稠密(dense)モデル「Qwen3.8-27B」の重みをHugging FaceとModelScopeで公開した。パラメータ数270億、Apache 2.0ライセンスで商用利用も無料。ネイティブで262,144トークンのコンテキストに対応し、YaRN法を使えば最大100万トークンまで拡張できる。画像・動画・文書を扱うビジョン言語理解も備え、コンシューマー向けGPU1枚での実行を想定した設計になっている。公開から3日でダウンロード数は300万件を超えた。
出典: Cybernews

主要オープンモデルの比較
| モデル | パラメータ規模 | コンテキスト長 | ライセンス | 特徴 |
|---|---|---|---|---|
| Qwen3.8-27B | 270億(dense) | 26万(最大100万) | Apache 2.0 | ビジョン言語対応、コーディングに強い |
| Gemma 4 | E2B〜31B(5サイズ) | 25.6万 | Apache 2.0 | 画像・音声ネイティブ対応、140言語以上 |
| Llama 4 Scout | MoE(高効率) | 1000万 | Llama利用規約 | GPU1枚で動作、超長文コンテキスト |
Ollamaが「ChatGPT Desktop」連携に対応、Gemma 4のMLX画像・音声対応も
Ollamaは8月下旬から9月上旬にかけて立て続けにアップデートし、v0.33.0ではClaude Desktop向けのゲートウェイ設定に対応、v0.33.3ではApple SiliconのMLXエンジン上でGemma 4が画像・音声入力に対応した。さらに9月5日公開のプレリリースv0.34.0では、ChatGPT Desktopから直接Ollamaのローカルモデルを呼び出せる連携機能が追加され、OpenAI互換のツール検索サポートも強化されている。
LM Studio 0.4が「ヘッドレス化」——GUIなしでサーバー運用
LM Studioはバージョン0.4.0で、GUIから core機能を切り離した新デーモン「llmster」を導入した。これによりLinuxサーバーやクラウドVM、CIパイプライン上でもcurlコマンド一つでLM Studioをヘッドレス配備できるようになった。あわせてllama.cpp 2.0.0ベースの連続バッチ処理による並列リクエスト対応、MCP対応のステートフルな/v1/chat REST APIエンドポイントも追加されている。
出典: LM Studio公式ブログ
量子化・推論最適化の潮流——6bit量子化とKV cache fp8
ローカルLLMの実行効率を高める量子化技術も進化を続けている。8bitより高精度を保ちつつ4bitより高速化できる「6bit量子化」が、精度と効率のバランスが良い手法として注目され始めている。標準的な推論サーバーとして定着したvLLMでは、KVキャッシュをfp8精度に量子化することで、品質への影響をほぼ抑えたままメモリ使用量を削減する手法が普及。GPTQやAWQといった活性化値の再構成誤差を最小化する量子化アルゴリズムと組み合わせることで、推論コストを60〜80%削減できるとする報告もある。
主な情報源
- Mistral AI: Introducing Agentic Search
- Cybernews: Qwen3.8-27B arrives free
- Hugging Face: Qwen/Qwen3.8-27B
- Ollama Release Notes (GitHub)
- LM Studio Blog: Introducing LM Studio 0.4.0
- Google DeepMind: Gemma 4
- NVIDIA: Optimizing LLMs with Post-Training Quantization
各サービスは提供元の規約に従ってご利用ください。情報は各情報源の公開時点のものです。収集・要約はAI、公開判断は人。