LocalBrain:把 Mac 變成私有 AI 盒子
黑粉科技 · 實測記錄

LocalBrain:把 Mac 變成私有 AI 盒子

16 分鐘
分類:
標籤:
摘要

把 Mac 變成私有 AI 盒子:本機轉寫、配音、生圖、影片和 MCP 工具一站管理。

目前公開發行

版本、功能變化和安裝平台統一取自公開發行記錄。

方寸智匣 LocalBrain

把 Mac 變成私有 AI 盒子:本機轉寫、配音、生圖、影片和 MCP 工具一站管理。

最新版本 1.8.0更新說明 ↗
最新變化

本轮公开 Apple Silicon Mac 安装包。聊天模型现在可通过同一代理按需调用已集成的语音、转写、图像、图片编辑、音乐和视频工具,并把实际产物交给下一项工具继续处理。

查看公開下載與更新 ↗

把 Mac 變成 私有 AI 盒子

不是再造一個聊天網頁,而是把本機模型、多媒體、文件和 Agent 工具收進同一個 Mac 工作台。

提示 黑粉科技 HyphenTech · LocalBrain 1.4.8 · 2026-09-30 · 本頁另有简体中文與 English 版本(標題下方切換)


我做 LocalBrain,不是因為本機模型已經能打贏雲端。同一個複雜任務,頂級雲端模型通常還是更聰明、更穩。真正讓我頭大的,是模型在一個目錄,MLX 在一個終端機,GGUF 又要另一套服務;轉寫、配音、生圖、影片和文件還各有自己的執行方式。

所以目標一直沒變:不造一個更聰明的大腦,而是造一個更省心的本機 AI 總開關。 這一版是 1.4.8。下面按頁面走一遍,圖都是 1.4.6 的真實介面(1.4.7、1.4.8 在此基礎上又加了幾樣,見文末「1.4.8 新增」「1.4.7 新增」):任務過程全透明、產生的檔案和快取可以指定位置並徹底清理、完整的三種介面語言。

提示 LocalBrain 的定位不是取代 Codex、Claude Code 或 OpenCode,而是給它們和內建對話提供一組可控、按需啟動、盡量留在本機的模型與工具。

▍首頁:一屏看清這台機器的記憶體帳

打開軟體,首頁先回答三個問題:這台機器是什麼配置,現在誰在佔記憶體,還能再開什麼。下圖是我的 M5 Pro(64 GB 統一記憶體),正在跑 Qwen3.6-35B-A3B 的 Splash 版本。

# 首頁:晶片、統一記憶體、可用磁碟,記憶體條拆成「系統」和「AI 模型」兩段;執行中的服務標明預計佔用。

  • 記憶體條拆兩段:系統佔多少、AI 模型佔多少、還剩多少,直接寫出來。模型卡片上的「預估佔用」來自模型體積,Splash 按體積的 1.1 倍估算。
  • 啟動前先仲裁:記憶體仲裁會把已執行的後端和待啟動的模型放在一起算,資源不夠就明確拒絕,而不是先把系統撐爆再報錯。
  • 三種引擎一套開關:MLX、llama.cpp(GGUF)和 Splash 用同樣的方式啟停。Splash 自帶草稿模型做推測解碼,能看圖的模型會單獨標出來。
  • 多媒體後端按需啟動:語音轉寫、語音合成(含聲音克隆)、影像產生、影像編輯、影片產生、音樂產生各佔一張卡;閒置一段時間或記憶體吃緊時自動釋放。

※ 這不是「記憶體越大就一定更快」的承諾。能不能開、開多大,最後以首頁和探索頁依本機算出來的數字為準。


▍探索:下載之前就知道能不能跑

大模型動輒幾十 GB,下完才發現跑不動是最貴的試錯。探索頁的每張卡片把這件事提前了。

# 探索頁:能力標籤、官方基準原始數字、量化檔位與依本機算出的最低 / 建議記憶體,都在下載按鈕之前。

  • 精選目錄 40 多條:語言、視覺、語音、影像、影片和音樂模型,依加入時間排列。卡片寫明能力標籤、官方基準的原始數字和出處(比如上圖 Qwen3.8 2B 蒸餾版的 MMLU-CoT 0.283→0.548),以及每個量化檔位的體積。
  • 記憶體依本機算:「最低 / 建議統一記憶體」不是抄模型卡,是結合本機記憶體和模型結構算出來的。
  • 授權放在下載按鈕之前:禁止商用這類比通常更嚴的限制會提前標出,並附原文連結,不留到下完才發現。
  • 下載來源測速:ModelScope、HF-Mirror 和 Hugging Face 官方之間一鍵測速,選當次最快的;下載結束再做 SHA-256 校驗,「體積看著對」但內容損壞的檔案不會被當成成功。
  • 已有模型不用搬家:選中已經下載好的目錄即可掛載,自動識別引擎、類別與上下文能力,不複製權重、不改動來源目錄。
  • 登記前先核對身分(1.4.4 新增):用卡片上的「使用現有」選資料夾時,會先辨識資料夾裡到底是什麼模型。確定對不上的直接拒絕,比如把影片模型包登記成圖像編輯模型;只是名稱或類別看起來不一致,就把辨識結果列出來請你確認,改過名的資料夾照樣能匯入。我自己的機器上就查出過一條:圖像編輯模型 Mage-Flow 的登記,指向的是一個 MiniMax H3 影片包的目錄,而那個目錄早就不在了。這種指向已不存在目錄的舊登記,以前會被悄悄略過,現在首頁的「失效的模型登記」會列出來,一鍵移除,只刪登記、不碰模型檔案。

提示 識別到不等於一定能啟動。 格式、模型架構、視覺投影檔案和目前執行環境都會影響相容性;軟體會盡量給出具體原因,不把「掃到了」包裝成「肯定能跑」。


▍對話:從回答一句話,到交付一個檔案

內建對話支援串流輸出、附件、停止、會話保存和本機工具。但我更在意的是:你讓它改一個網頁、做一份表格,它能不能真的交付,而且過程經得起檢查。

# 對話頁(示範資料):自檢報錯 → 只改一行判空 → 再自檢通過;完成摘要給出 8 輪、9 次工具、2 次失敗和四段耗時。

上圖是一段示範對話,但每一種顯示都是 1.4.6 的真實介面:

  • 每一步都擺出來:讀檔案、列目錄、聯網檢索、寫檔案、逐處編輯、網頁自檢,各自顯示目標和耗時;複雜任務會先列計畫,計畫卡片註明「模型自記,非獨立驗收」。
  • 失敗不藏:同一工具的重複呼叫合併成「頁面自檢 ×2」,但「1 次失敗」照樣寫在旁邊。圖裡模型第一次自檢拿到頁面報錯,只改了一行判空,再自檢才通過。
  • 自檢是真跑:產生的網頁會在無頭瀏覽器裡檢查畫布是否存在、動畫影格是否推進、主控台有沒有錯誤,不靠模型自己說「我檢查過了」。
  • 時間去哪了:任務結束給出總用時、輪數、工具次數、失敗次數,並把時間拆成預填、思考、輸出、工具四段。
  • 長任務不卡介面:1.3.27 修掉了快模型長輸出時介面卡死的問題,串流刷新和計量都做了節流。

文件任務還能直接交付 DOCX、PPTX、XLSX 或 PDF。沒有真實產生檔案時,零產物閘門會拒絕把任務報成「已完成」。


▍儲存與清理:1.4 的主角

用了一個多月,我自己的機器上積了一堆看不見的東西:檢查截圖、任務檢查點、日誌、早期版本寫進暫存目錄的圖片和配音。1.4.0 把它們全部擺到了設定裡。

# 設定 · 儲存與清理:產物目錄和快取目錄都能換位置;依類別顯示檔案數與佔用,勾選即可清理。

  • 兩個目錄都能換位置:「產物目錄」放產生的文件、圖片、配音、影片、音樂和網路素材;「快取目錄」放日誌、任務檢查點、檢查截圖和暫存檔案。都可以改到外接硬碟。
  • 換位置自動搬家:同一顆硬碟直接移動;跨硬碟先複製、核對無誤,再把舊的移到垃圾桶。
  • 預設移到垃圾桶:勾選清理時預設移到垃圾桶,也可以選永久刪除;移到垃圾桶的資料夾名稱帶著來源目錄,一眼認得出是哪一類。
  • 自動收斂:日誌總量、檢查點天數、暫存檔天數各有門檻,由程式在背景定時執行,視窗沒開也照常清理。

圖裡的數字是我這台機器的實測:系統輸出 13.3 MB、204 個檔案,網頁檢查截圖 27.9 MB、262 個檔案。裝上 1.4.0 後第一次自動收斂,移走了 145 個任務檢查點和 35 組舊檢查截圖。我對照應用程式保存的會話清單逐個核對過,那 145 個檢查點沒有一個屬於還在的會話。


▍接入:把本機能力交給別的 Agent

# 整合頁:本機 MCP 工具一鍵寫入各客戶端設定,本機模型透過 OpenAI 相容介面對外提供。

  • 本機 MCP 工具:文件處理、語音轉寫、語音合成、影像、影片和聯網研究,一鍵寫入 Claude Code、OpenCode、Codex、DeepSeek Harness 的設定。只增改 localbrain-* 這幾項,不動你的模型設定和其他 MCP;需要時一鍵恢復到寫入前的原樣。
  • 本機模型當腦:OpenCode、ScreenLex、DeepSeek Harness 可以透過 127.0.0.1:11434/v1 這個 OpenAI 相容介面直接用本機模型,不需要 API key。
  • MCP 自檢:檢查協定與工具發現是否正常,不載入模型、不佔額外記憶體。

Codex 和 Claude Code 更穩的用法,是保留它們的雲端推理模型,只透過 MCP 呼叫 LocalBrain 的本機工具。LocalBrain 能提供介面和工具,但不能替第三方客戶端解除它自身的模型或工具限制。


▍三種介面語言,這次是真的補齊了

1.2.70 起就有簡體中文、繁體中文和英文三種介面。但做這組截圖時,我讓截圖台把英文介面上實際出現的中文逐條列出來,結果查出幾十處漏網:模型目錄裡 26 條沒有譯文,確認框、數字和單位的拼接也有問題。這些之前的自動檢查全是綠的,因為它們只認一種寫法。

1.4.3 把這些補齊了,並把三類漏譯方式加進了測試。1.4.4 又把約 1400 條英文逐條審校了一遍,改掉機翻腔和前後不統一的用詞;思考檔位、相容性表、附件處理狀態這類由程式拼出來的標籤,在英文和繁體介面裡也不再漏出簡體。切換語言只翻譯介面,不改對話、模型回答、程式碼和檔案路徑。


▍「私有」的邊界:哪些留在 Mac,哪些仍然會聯網

本機推理、轉寫和媒體產生可以留在 Mac 上,對話也只保存在這台電腦裡。但「本機 AI」不等於「所有操作永遠斷網」:下載模型會存取模型來源,聯網檢索會把查詢送到搜尋引擎,Codex 或 Claude Code 如果用雲端模型,推理也不在本機。

檔案工具預設只能讀取你允許的目錄。執行專案命令的能力預設關閉,打開後每次執行前都會跳出確認,並寫明「工作目錄限制不等於系統沙箱」。1.4.7 新增的「存取網路裝置」同樣預設關閉,開啟後模型才能發 HTTP 請求或用 SSH 連你 ~/.ssh/config 裡的裝置,變更類操作每次也先請你確認。私有不是一個標籤,而是你能看清資料去向、授權目錄和後端生命週期。

如果你是這種情況 我的建議
本機已散落多套 MLX、GGUF、語音或媒體模型 適合,統一目錄引用、啟停、資源管理和清理
想讓 OpenCode 或雲端 Agent 呼叫本機多媒體工具 適合,用整合頁一鍵寫入或複製設定
只有一兩個 Ollama 模型,偶爾問幾句 未必需要再加一層管理
期待本機小模型在所有任務上取代頂級雲端模型 不適合,本機的優勢是控制、隱私和可重複使用,不是所有能力都更強

▍四步上手

  • 從 GitHub Releases 下載最新 DMG,把 LocalBrain.app 拖進「應用程式」。

  • 在「設定」安裝需要的執行環境,選好介面語言、模型目錄和下載來源。

  • 在「探索」下載一個適合本機的模型,或把已有模型目錄掛載進來。

  • 回首頁啟動模型,用內建對話測一次;需要外部 Agent 時再去「整合」寫入設定。

▍1.4.8 新增:第二個本機影片引擎 LTX-2.5

寫一句帶引號的台詞,影片裡的人會把它說出來。 LTX-2.5 是和 MiniMax H3 並列的第二個影片引擎:文字、首幀、首尾幀都能產生帶同步立體聲的影片。它和 H3 共用同一套影片介面——時長同樣是 1~30 秒,單次最長 10 秒,更長的自動分段接力(下一段以上一段的最後一幀作首幀,接縫處畫面連續);提示詞模板、分段拼接和 MCP generate_video 都照常可用,模板在 LTX 上另有一套實測結論。參考機(M5 Pro 64GB)上 1024×576 的 4 秒約 2 分鐘、10 秒約 6 分鐘、20 秒約 12 分鐘;峰值記憶體文字生成約 25 GB,帶首幀或接力的 10 秒一段約 37 GB,放不下時自動逐塊載入。參考圖還是要用 MiniMax H3 REF2VA。

# 影片生成面板選中 LTX-2.5:時長拉到 20 秒自動接力兩段,提示寫明單次 10 秒與接力時的台詞重複;預估按段累加。

探索頁一鍵下載,中國大陸直連。 43.4 GB,檔案和 mlx-community 發布的一字不差;選 ModelScope 來源即可直連——Hugging Face 上這兩個倉庫是 Xet 儲存,hf-mirror 只轉發、不快取。影片執行環境 ltx-2-mlx 在首次啟動時自動安裝,約 404 MB。從 ModelScope 下載的模型現在也逐檔核對 SHA-256,之前只比大小。

執行環境預設的 54 GB 峰值,壓到了 25 GB。 同一段 4 秒影片,執行環境預設參數下行程峰值 54 GB:它的 Gemma 編碼器把快取上限拉到記憶體的 90%,解碼又從不分塊。方寸智匣把快取鉗在 2 GiB、解碼每塊 5 個潛幀,峰值降到 25 GB,耗時不變。

▍1.4.7 新增:文件能出八種格式,以及「存取網路裝置」

文件不再只有 DOCX 和 PDF。 讓模型「寫一份文件」時,現在還能直接產出 Markdown、HTML、TXT、RTF、ODT 和 EPUB。更要緊的是所有格式都先過一道清洗:模型寫來的內容裡那些 {"type":"markdown", ...} 包裝、被轉義的換行、零寬字元會先被拆掉、還原、清掉,再變成真正的標題、(能巢狀、能帶勾選框的)清單、表格和程式碼區塊——不是把一段原始 JSON 塞進 Word。這修的是一個真實翻車:一份讓它「寫一個瀏覽器三維飛行遊戲」的需求,因為其中一句「建立階段 0 文件」被整個派給了文件工具,結果幾百行原始碼被塞進八個內容沒清洗的 DOCX。現在這類寫程式、做工程的活會交給能真正寫工程檔案的通用代理,除非你點名要 DOCX、PDF、EPUB 這樣的檔案格式。

遇到難點能聯網查、能 SSH 設定別的機器。 新增的「存取網路裝置」開關預設關;打開後,模型能發 HTTP 請求呼叫 API 或讀取端點、用 SSH 在你 ~/.ssh/config 裡的裝置上執行命令和傳檔案、檢查連通性與 TLS 憑證、查看本機網路狀態。SSH 只用金鑰登入,方寸智匣不碰也不儲存密碼。權限按對話來:查看類操作直接放行,會變更的(重啟服務、改設定、上傳檔案、POST/PUT 之類)每次先請你確認,你也可以在某個對話裡開啟完全信任,之後不再逐次打斷。它和「聯網檢索」是兩件事、各自獨立——那一項是查網頁,這一項是操作別的機器;掃連接埠、抓封包這類對別人網路做探測的能力,沒有做。


LocalBrain 1.4.8

方寸智匣:把 Mac 上的本機模型、多媒體、文件和 MCP 工具收進同一個工作台。

提示 平台 macOS 13.0+ / Apple Silicon · Windows 為 1.4.4 · 安裝包 LocalBrain_1.4.8_aarch64.dmg

目前安裝包的 SHA-256 是 1416f07243136206755892071810ab6cac661245b73182714fde7a1dc74bc143。它使用開發簽章,尚未完成 Apple 公證;第一次打開被 Gatekeeper 攔下時,先確認下載來源和雜湊,再用下面的命令移除隔離屬性。

xattr -dr com.apple.quarantine /Applications/LocalBrain.app

只對從官方 Releases 下載且已核對雜湊的安裝包使用。

如果它幫上了忙,側欄「關注黑粉科技」裡的「贊助」可以看到微信贊助碼;贊助完全自願,不影響任何功能。

// 雲端模型負責把複雜問題想明白,本機工具負責把你的檔案、模型和工作流程握在自己手裡。這兩件事不衝突。


提示 最後的選擇很簡單

如果你的本機模型和工具已經多到開始反過來管理你,LocalBrain 能省下的就不只是幾條命令,而是每次重啟、換模型、換任務、清快取時重複折騰的時間。如果你只需要偶爾聊幾句,保持現在的簡單工具就好。

自製軟體

版本、功能變化和安裝平台統一取自公開發行記錄。

黑粉盒子 HyphenBox

免費大模型 API 雷達與本機統一路由:持續複測可用性,Key 只存本機。

最新版本 1.0.0更新說明 ↗
最新變化

保留私有签名目录、本地密钥保险箱、模型实测和本机兼容路由的现有能力;AMD Radeon Cloud、Ollama 云服务和 Vercel AI Gateway 的官方条件已在。

查看公開下載與更新 ↗

黑粉錄屏 HyphenScreen

錄屏與剪輯一體:達芬奇式時間軸、自動打碼、匯出前做成片體檢。

最新版本 1.5.2更新說明 ↗
最新變化

修复编辑时切换抠图、模糊、自定义背景后摄像头消失的问题。 实际macOS桌面已验证全片原画/抠图/模糊/自定义图片切换、播放和片段独立模糊;独立原生导出涵盖原画、抠图、模糊、自定义纯色/渐变/图片,共144帧完整解码。真实新组件对照复现并修复三个模式的迟到结果空白问题。

查看公開下載與更新 ↗
分享到:

留言

正在載入留言…