實用教學|iPhone運行私密 AI?LM Studio LM Link 設定與深入評測

重視資料私隱嘅用戶,好多時會選擇喺電腦本地運行 AI 模型。LM Studio 最近為旗下 Locally 應用程式推出全新「LM Link」功能,用家可以直接用 iPhone 遙距連接 Mac,使用強大嘅本地 LLM(大型語言模型)。整個系統採用 Tailscale VPN 技術進行端到端加密,毋須將電腦暴露於公用網絡。本文將詳細教學如何設定 LM Link,並深入分析功能優點與注意事項。

實用教學|iPhone運行私密 AI?LM Studio LM Link 設定與深入評測
實用教學|iPhone運行私密 AI?LM Studio LM Link 設定與深入評測

人工智能(AI)發展迅速,但隨住企業與個人對資料私隱嘅要求日益提高,將敏感資料上傳至雲端(例如 ChatGPT 或 Claude)未必係最安全嘅選項。因此,越來越多專業用戶選擇使用 LM Studio 呢類工具,喺自己部 Mac 電腦上面本地運行大型語言模型(LLM)。LM Studio 擁有強大嘅模型搜尋功能,可以協助用戶根據電腦硬件(例如配備 16GB 記憶體嘅 M2 Pro MacBook Pro)尋找合適嘅 AI 模型,並提供容易上手嘅效能調整工具。

不過,一直以嚟本地 AI 都有一個痛點:缺乏流動性。如果想喺手機上面運行 AI 模型,會受到手機記憶體與晶片運算能力嘅極大限制。為解決呢個問題,LM Studio 收購咗 iOS 應用程式 Locally AI,並正式推出全新功能「LM Link」。呢項功能完美打破硬件限制,用家可以透過 iPhone 直接遙距存取安裝喺 Mac 上面嘅模型,將繁重嘅運算工作交畀電腦處理,同時喺手機端享受流暢嘅問答體驗。

LM Link 嘅核心概念,係將用家嘅個人裝置連結成一個專屬且私密嘅 AI 網絡。以下係呢項功能嘅幾個核心特點:

功能特點 詳細說明
端到端加密連線 採用自訂 Tailscale 網狀 VPN 架構,確保所有數據與通訊絕對私密。
高安全性設計 裝置毋須暴露於公眾互聯網(Public Internet),大幅降低被黑客攻擊嘅風險。
獨立 VPN 運作 官方表明 LM Link 嘅 Tailscale VPN 原語係完全獨立運作,唔會同用家現有嘅 Tailscale VPN 產生衝突。
支援多種模型 支援所有安裝喺 Mac 上面嘅模型,包括 120 億參數嘅 Gemma 4,甚至內建嘅 Apple Intelligence 基礎模型。
收費模式 目前處於預覽(Preview)階段,期間完全免費。未來會推出包含免費計劃與付費計劃嘅不同層級選項。

要成功建立屬於自己嘅私人 AI 網絡,需要喺電腦同手機兩端進行設定。以下係具體嘅操作步驟:

步驟一:準備 Mac 電腦端

  1. 下載並更新 LM Studio:首先,前往 LM Studio 官方網站下載最新版本嘅 Mac 應用程式。如果你本身已經安裝,請確保更新至支援 LM Link 嘅最新版本。
  2. 建立及登入帳號:打開軟件後,系統會要求你建立一個 LM Studio 帳號。完成註冊並登入。
  3. 下載合適嘅 LLM 模型:透過內建嘅搜尋功能,下載適合你電腦硬件嘅模型。如果電腦擁有 16GB 或以上記憶體,可以嘗試下載 Google 最新推出嘅 120 億參數 Gemma 4 模型。
  4. 啟動 LM Link 服務:喺軟件介面中搵到 LM Link 選項,點擊啟動並授權網絡連接,令 Mac 處於準備接收連接嘅狀態。

步驟二:準備 iPhone 手機端

  1. 安裝 Locally 應用程式:前往 Apple App Store 搜尋並下載「Locally AI」應用程式(現已由 LM Studio 官方營運)。
  2. 登入相同帳號:打開應用程式,使用與 Mac 端相同嘅 LM Studio 帳號進行登入。系統需要確認兩部裝置屬於同一帳號,先可以建立安全連線。
下載「Locally AI」應用程式(現已由 LM Studio 官方營運)。
下載「Locally AI」應用程式(現已由 LM Studio 官方營運)。

步驟三:建立加密連線與載入模型

  1. 配對裝置:當兩端都登入後,喺 iPhone 嘅 Locally 應用程式內選擇啟用 LM Link。系統會自動透過 Tailscale 技術尋找並連接你嘅 Mac 電腦。
  2. 選擇遠端模型:連接成功後,應用程式嘅模型載入器(Model Loader)會顯示 Mac 上面已經安裝嘅模型清單。
  3. 開始對話:點選你想使用嘅模型,就可以直接喺 iPhone 上面輸入提示詞(Prompt)。問題會經過加密傳送到 Mac 進行運算,再將結果回傳至手機,操作體驗與本地運行完全無異。

功能與設計上嘅注意事項

雖然 LM Link 提供咗極大嘅便利,但實際使用時仍然有幾個技術與操作上嘅細節需要留意:

  1. 背景運作嘅斷線問題:根據測試觀察,當 Locally 應用程式切換到背景(例如你離開對話去尋找文件,或者進行網頁搜尋)一段短時間後,連線好容易會中斷。開發團隊表示,呢個情況係由於建立安全加密連線嘅機制所衍生嘅副作用。團隊目前正致力改善延遲問題,期望未來可以實現更快嘅重新連線速度,並將連線保持得更耐。
  2. Mac 電腦必須保持運作:因為實際運算係由 Mac 電腦負責,所以當你喺街上或者公司使用 iPhone 存取模型時,屋企或者辦公室嘅 Mac 必須保持開機狀態,而且需要連接互聯網。如果電腦進入深度休眠模式,連線就會失效。
  3. 視乎電腦硬件效能:手機端獲得回覆嘅速度,完全取決於 Mac 嘅晶片運算能力與記憶體大小,以及當時網絡嘅穩定程度。如果 Mac 正在處理其他繁重工作,AI 嘅回應速度亦會相應減慢。

比較與觀點:三種 AI 模型運作方式對比

為咗令大家更清晰了解 LM Link 嘅定位,以下整理咗三種常見 AI 運作方式嘅比較:

比較項目 雲端 AI 模型 (如 ChatGPT) 純本地運行 (單一 Mac) LM Link 遙距本地運行
資料私隱與安全性 較低(資料需上傳至第三方伺服器) 極高(資料完全留喺本地) 極高(端到端加密,運算留喺自家電腦)
流動性與便利性 極高(任何裝置只要上網就可以用) 較低(只能喺安裝軟件嘅電腦上使用) 高(可以喺街上透過 iPhone 使用電腦算力)
硬件要求 極低(依賴雲端伺服器) 高(需要強大嘅 CPU/GPU 與大量記憶體) 分散處理(Mac 需高效能,iPhone 要求低)
適用場景 一般問題解答、無敏感資料嘅文字處理 處理公司內部機密文件、敏感代碼分析 外出開會時需要查閱或分析敏感資料

透過上述表格可以見到,LM Link 結合咗雲端 AI 嘅便利性與本地 AI 嘅極高私隱度,為需要處理敏感資料但又需要經常外出嘅專業人士,提供咗一個非常實用嘅折衷方案。

1. 咩係 LM Link?

LM Link 係 LM Studio 推出嘅一項新功能,可以將用家嘅 iPhone(透過 Locally 應用程式)與安裝咗 LM Studio 嘅 Mac 電腦連接,令用戶可以喺手機上遙距使用電腦強大嘅本地 AI 模型。

2. 使用 LM Link 會唔會將電腦暴露喺公用網絡?

絕對唔會。LM Link 係建基於自訂嘅 Tailscale 網狀 VPN 架構之上,採用端到端加密技術,所有資料傳輸都非常安全,裝置亦唔會暴露於公眾互聯網之中。

3. LM Link 需唔需要收費?

目前 LM Link 處於預覽(Preview)階段,用家可以免費使用。官方表示未來將會推出包含免費計劃及付費計劃嘅選項,具體細節有待公佈。

4. 如果我本身已經用緊 Tailscale VPN,會唔會有衝突?

唔會。官方強調 LM Link 嘅 Tailscale VPN 原語係完全獨立且自我封閉嘅運作機制,唔會干擾用家原本設定好嘅 Tailscale VPN。

5. LM Link 支援咩 AI 模型?

只要係能夠喺你部 Mac 嘅 LM Studio 上面安裝並運行嘅模型,LM Link 都可以支援。例子包括 120 億參數嘅 Gemma 4 或者內建嘅 Apple Intelligence 基礎模型。

6. 資料傳輸過程會唔會外洩?

因為採用端到端加密網絡技術,所有通訊資料只會喺你嘅 iPhone 同 Mac 之間傳輸,連 LM Studio 官方亦無法讀取你嘅對話內容,私隱度極高。

7. 點解當 Locally 應用程式轉去背景之後會斷線?

呢個係目前安全連線機制嘅一個副產品。當 iPhone 系統暫停背景應用程式時,連線就會中斷。開發團隊已經意識到呢個問題,並正在努力改善延遲情況及延長連線壽命。

8. 運作時 Mac 電腦需唔需要保持開機狀態?

需要。因為所有實際嘅 AI 運算都係由 Mac 處理,所以電腦必須保持開機、唔可以進入斷網嘅休眠狀態,並且需要連接互聯網先可以接收到手機傳來嘅請求。

9. LM Link 適合咩類型嘅用家?

非常適合對資料私隱有極高要求、擁有高效能 Mac 電腦,並且希望喺外出時都能夠隨時使用個人 AI 模型嘅專業人士或開發者。

10. 既然過程需要上網,點解唔直接用 ChatGPT?

直接使用 ChatGPT 意味住你需要將提示詞同資料上傳到 OpenAI 嘅伺服器;而使用 LM Link,資料只會傳送到你自己嘅電腦進行運算,對於處理公司機密、個人財務數據或者未經公開嘅代碼時,能夠提供不可取代嘅安全保障。

總結

綜合以上分析,LM Studio 今次推出嘅 LM Link 功能,確切解決咗本地 AI 模型缺乏流動性嘅一大痛點。透過 Tailscale 嘅加密技術,用戶可以安心將敏感資料交畀自己嘅電腦進行運算,同時享受 iPhone 帶來嘅便利。雖然目前喺背景連線穩定性方面仍有改善空間,但作為一個免費嘅預覽版功能,已經展現出相當高嘅實用價值。如果你本身已經有一部效能唔錯嘅 Mac,並且對資料私隱有一定要求,呢項功能絕對值得花時間去設定同體驗。