Unsloth Desktopの「Auto Compaction」──古い会話を消さずに検索可能なアーカイブへ逃がす設計

3行まとめ

1. ローカルAI実行アプリUnsloth Desktopはv0.1.801-beta（2026年8月20日）で、コンテキスト上限を超えても会話を続けられるAuto Compaction（実験的）と、外部サービスを経由しないRemote & LAN Access（プレビュー）を追加した。
2. リモートアクセスの手段は今回で2つ目。v0.1.702-beta（2026年8月13日）で先に実装されていたCloudflare HTTPSトンネル経由の方式と、今回のLAN直接接続が併存する構成になった。
3. 同時公開のUnsloth Dynamic v3.0は「他社比top-1精度10%超」を謳うが、公式ドキュメントを読むと測定指標は独自定義の「Divergence-300 @32」（DeepSWEやTerminal Benchなど300件の未見プロンプト集合でのKLダイバージェンス）で、標準的な公開ベンチマークでの数値ではない。

ローカルでAIモデルを動かすデスクトップアプリ「Unsloth Desktop」が、v0.1.801-beta（2026年8月20日公開）で長い会話への対処法と、ネットワーク越しのアクセス手段を同時に追加した。公式リリースノートは「200以上のPRをマージした」と述べており、その中の目玉として挙げているのがAuto CompactionとRemote & LAN Accessの2つだ。

コンテキスト上限を超えても会話を続けられるAuto Compaction

ローカルLLMを使い続けていると、モデルのコンテキストウィンドウ（一度に扱える文章量の上限）に会話全体が収まらなくなる場面に必ず突き当たる。Auto Compaction（実験的機能）は、この壁を越えて会話を継続できるようにする機能だ。公式リリースノートはこう説明している。

"You can now do long chats and surpass a model's context limit, with evicted turns remaining searchable." "Long local chats can continue past the context limit by rolling older turns out of active context." "Auto compaction creates fresh context epochs instead of permanently trimming replies." "Evicted conversations remain searchable, with improved fact recall."

（コンテキスト上限を超えて長い会話ができるようになった。追い出されたターン（発言）は引き続き検索可能なまま残る。長いローカル会話は、古いターンをアクティブなコンテキストから外していくことで、上限を超えても継続できる。Auto compactionは、返信を恒久的に切り詰めるのではなく、新しいコンテキストの「エポック（区切り）」を作る。追い出された会話は検索可能なまま残り、事実の想起精度も向上している）

ポイントは「消す」のではなく「外に出す」という設計だ。「How it works」というセクションには、より具体的な仕組みが書かれている。

"Entire oldest turns are removed only when needed, never mid-message. The saved transcript stays unchanged." "Evicted turns are indexed into a per-thread searchable archive using Unsloth's existing RAG pipeline (store, chunker, embedder, retrieval). Lexical search is prioritized because chat recall is usually exact matches like names, numbers, or IDs." "A recall is forced during eviction instead of relying on the model to search itself. Later retrieval uses search_conversation." "The archive persists across epochs, allowing future compactions to recover previously evicted context." "No summarization: it showed little benefit and added ~190s per compaction."

（最も古いターン全体だけが、必要な時にのみ削除される。メッセージの途中で削除されることはない。保存済みのトランスクリプト（記録）自体は変わらない。追い出されたターンは、Unslothの既存RAGパイプライン（ストア・チャンカー・エンベッダー・検索）を使って、スレッドごとに検索可能なアーカイブへとインデックス化される。チャットの想起は名前・数字・IDのような完全一致検索が多いため、字句検索（lexical search）を優先している。モデル自身に検索させるのではなく、追い出しのタイミングで強制的にリコール（想起）を行う。以降の検索はsearch_conversationを使う。アーカイブはエポックをまたいで永続化され、以降のcompactionで過去に追い出されたコンテキストを復元できる。要約は行わない：要約は効果がほとんど無く、compactionのたびに約190秒を追加していた）

最後の1文は正直な報告だ。「要約」という選択肢を試した上で、効果が薄くコストだけがかかると判断して不採用にした、と明記している。

CloudflareリンクなしでLAN内からアクセスできるRemote & LAN Access

もう1つの目玉機能は、同一ネットワーク内の別デバイスからUnslothにアクセスできるRemote & LAN Access（プレビュー）だ。

"Access Unsloth from another device on your network, managed from settings." "New dedicated Settings section for remote access." "Enable or disable LAN access without restarting." "Supports connection addresses, QR codes, and optional auto-start." "LAN access is disabled by default and requires changing the generated admin password."

（同じネットワーク上の別デバイスからUnslothにアクセスできる。設定画面から管理する。リモートアクセス専用の新しい設定セクションを用意した。再起動なしでLANアクセスを有効化・無効化できる。接続アドレス・QRコード・任意の自動起動に対応する。LANアクセスはデフォルトで無効になっており、自動生成された管理者パスワードの変更が必須となる）

これまでのUnsloth Desktopは、リモートアクセスにCloudflareのHTTPSトンネルリンクを使う方法（v0.1.702-beta、2026年8月13日公開のリリースノートに「Access Unsloth remotely through Cloudflare HTTPS」と明記されているのを実際に確認した）が中心だった。今回のLAN Accessは、それとは別に、外部サービスを経由しない同一ネットワーク内での直接アクセスを可能にする選択肢を追加した形だ。「デフォルトで無効」「生成された管理者パスワードの変更を必須にする」という2つの安全策が明記されている点は、ローカルネットワークとはいえ第三者に開放されるリスクへの配慮とみられる。公式ドキュメント（unsloth.ai/docs/desktop）には両者の起動方法が並記されており、Cloudflare経由は「free Cloudflare tunnel」を開く方式、LAN Accessは-H 0.0.0.0フラグでアプリをネットワークにバインドするか、設定画面のLAN accessカードで「Start」を押す方式だと書かれている。両者は排他ではなく、どちらも同じ-H 0.0.0.0起点の仕組みの上に構築されているとみられる。

2つのリモートアクセス手段を比較すると次のようになる。

出典: unsloth.ai/docs/desktop.md、GitHub Releases v0.1.702-beta/v0.1.801-beta

同時に入った他の変更

このリリースには、他にも実務上見逃せない変更が含まれている。

• カスタムllama.cppビルド対応（Cache RAM・Mmap・Mlock・Checkpoints・投機的デコードのKVキャッシュ・Vision On/Offのトグル）
• Unsloth Dynamic v3.0の公開（リリースノートによれば「New Qwen3.8-27B Dynamic v3.0 GGUFs deliver >10% higher top-1 accuracy compared to everyone else」＝Qwen3.8-27BのDynamic v3.0 GGUFが、他社比でtop-1精度10%超の向上を謳う）
• Intel XPUサポートの追加
• edit_fileツールの追加（ファイルの部分編集向け）

Dynamic v3.0の測定方法についても、リンク先の公式ドキュメント（unsloth.ai/docs/basics/dynamic-3.0-ggufs）を直接確認した。単純なtop-1精度（1トークン先の予測が一致するか）だけでなく、「Divergence-300 @32」という独自指標を使っており、これはDeepSWEやTerminal Benchなど複数のソースから集めた300件の未見プロンプトに対して、量子化モデルの出力分布が32トークン先までBF16（フル精度）モデルとどれだけ乖離するかをKLダイバージェンスで測るというものだと説明されている。ドキュメントは「通常のtop-1精度は1トークンのargmaxにすぎず、実際の推論品質を測るには不十分」と述べ、標準的なWikipediaベースの校正データセットではなくCalibration_v3/Calibration_v5という独自データセットを使っている理由も、チャットテンプレート付きのinstructモデルでの過学習を避けるためだと説明している。つまり「他社比10%超」は、業界標準のMMLUやGSM8Kのような公開ベンチマークではなく、Unslothが独自に設計した評価軸での数値だ。

リリースノートは読んだが、実機検証はしていない

筆者は今回、v0.1.801-betaと702-betaのリリースノートをGitHub API経由で取得し、desktop.mdとdynamic-3.0-ggufs.mdの2つの公式ドキュメントページも直接取得して、Auto Compaction・LAN Access・Dynamic v3.0の説明文が実際に本文中に存在することを確認した。ただし手元の環境にUnsloth Desktopをインストールしての動作検証までは行っていない。特にAuto Compactionが「実際に何ターンを超えたら発火するか」「検索精度がどの程度実用的か」、LAN Accessの接続レイテンシがCloudflare経由と比べてどの程度違うかは、公式文書の説明を読んだだけでは判断できない部分であり、実機での検証が必要な領域だと考えている。

「Divergence-300 @32」の実際のサンプル数までは追えていない

Dynamic v3.0の測定指標が「Divergence-300 @32」という独自定義であることは公式ドキュメントで確認できたが、この指標がQwen3.8-27Bに対して具体的にどのプロンプトで実行され、何回の試行で「10%超」という数値が出たのかという生ログは公開されておらず、確認できなかった。Auto Compactionの「約190秒」という要約コストの数値も、どのモデル・どのハードウェアでの計測かという条件は明記されていない。また、Cloudflare経由とLAN Accessの2つのリモートアクセス手段を同時に有効化できるかどうかについても、今回確認した2つのドキュメントの範囲では明確な記載を見つけられなかった。

関連記事

• ローカルLLMとは何か──自分のPCでAIを動かす仕組み・利点・始め方を解説
• ローカルLLMおすすめモデル10選──無料で動かせるAI【2026年版】
• Qwen3.8-27BはどのMacで動くか──GGUF量子化ファイルの実サイズから積算した