如果你已經使用 ChatGPT 或其他基於雲端的 AI 工具一段時間了，你可能想知道，如果能將類似的工具直接安裝在你的 Windows PC 上，無需支付月費，無需依賴外部伺服器，也無需洩露任何對話內容，那會怎麼樣？這正是 OpenAI 的全新開放模式gpt-oss-20b 和 gpt-oss-120b所能實現的。
接下來，我們將詳細介紹如何在 Windows 系統上安裝 GPT-OSS，所需的硬體配置，兩個版本之間的區別，以及如何將其與Ollama和LM Studio配合使用。我也會解釋它的日常用途，在標準 PC 上的預期效能，以及如果系統效能不足會遇到的問題。
什麼是 GPT-OSS？它能為你做什麼？
GPT-OSS 是 OpenAI 的一系列開源模型，旨在讓任何人都能下載並在自己的裝置上運行，包括電腦、工作站，甚至一些高性能手機。其名稱源自 Generative Pretrained Transformer – Open Source Series（生成式預訓練 Transformer – 開源系列），指的是一系列採用 Apache 2.0 授權的開源生成式文字模型。
使用 GPT-OSS，您可以執行與雲端助理幾乎相同的任務：產生各種文字（電子郵件、社群媒體貼文、腳本、故事、詩歌…）、總結長文件、重寫段落、改進寫作，或將語氣調整為更正式或更平易近人的風格。
它還可以處理更專業的技術任務：解釋代碼、檢測編程錯誤、推薦不同語言的更優方案、幫助你學習編程，或為你解決邏輯和數學問題提供提示。它雖然無法直接存取互聯網，但它能夠很好地進行逐步推理，並引導你完成許多複雜的流程。
就個人效率而言，GPT-OSS 在專案管理、腦力激盪、創建工作大綱、產生待辦事項清單、回答各種主題的問題以及幫助你撰寫報告和學術論文方面表現出色。如果你是學生、自由工作者、內容創作者或開發者，在本地運行它就能讓你受益匪淺。
在 Windows 系統上本機使用 GPT-OSS 的優缺點
GPT-OSS 與 ChatGPT、Gemini 或 Claude 等模型的主要區別在於它不依賴遠端伺服器。該模型運行在您自己的 Windows PC 上，這具有明顯的優勢，但也存在一些缺點，您在安裝前應該了解這些缺點。
首要優勢在於資料的絕對隱私性。您發送給模型的每個對話、每個文件或每個問題都保留在您的電腦上，任何公司都無法利用這些資訊來訓練更多模型、分析您的個人資訊或向您投放廣告。如果您需要處理敏感文件、合約、公司內部資料或個人信息，這一點至關重要。
與此密切相關的是安全性：由於沒有任何資料傳送到雲端，因此不會產生流向第三方的資料流量，從而大幅減少了與外部服務相關的攻擊面。當然，您仍然需要保護自己電腦的安全，但至少消除了雲端服務供應商的因素。
另一個優勢是財務自由。商業服務通常採用月度訂閱模式（例如 ChatGPT Plus、Gemini Advanced 等）或透過 API 按使用付費。而 GPT-OSS 則完全免費：只需下載一次，安裝即可，無需任何後續費用或人為的訊息數量限制。
此外，作為一種開放模式，它提供了封閉式服務所不具備的控制和客製化能力。您可以調整參數、更改預設行為、將其整合到您自己的應用程式中、使用腳本自動執行任務，或透過執行在您電腦上的 API 將其連接到本機工具。
不太吸引人的方面在於硬體要求和複雜性。運行這樣的模型對電腦來說是一項艱鉅的任務，反應時間很大程度取決於你的CPU、GPU和記憶體。在高效能電腦上，反應速度會非常流暢；而在配置較低的筆記型電腦上，你會發現它需要一些時間。
你還需要承擔一些技術責任：你需要負責安裝、設定、更新和維護整個系統的安全。雖然有了 Ollama 或 LM Studio 之類的工具，這並不太複雜，但仍然比直接打開網站開始編寫程式碼要複雜得多。
gpt-oss-20b 和 gpt-oss-120b 之間的區別
GPT-OSS 系列主要有兩種型號：gpt-oss-20b 和 gpt-oss-120b。雖然名稱相似，但它們在功能，尤其是硬體要求方面，卻截然不同。
gpt-oss-120b 是尺寸較大的型號，專為資料中心、配備多 GPU 的工作站或高階機器而設計。它的效能接近 OpenAI o4-mini 等商業型號，但作為回報，它至少需要60 GB 的顯存或統一記憶體。這幾乎將所有家用電腦排除在外。
價格較親民的是中階型號gpt-oss-20b ，它的功能與 o3-mini 等型號類似。這款產品專為消費級系統設計：它需要16 GB 的記憶體或統一記憶體才能流暢運行，可以在遊戲桌上型電腦、許多配備獨立顯示卡的筆記型電腦以及部分搭載 Apple Silicon 晶片的Mac 電腦上運行。
實際上，如果您打算在家中或辦公室的 Windows 電腦上安裝 GPT-OSS，那麼gpt-oss-20b 是更合適的選擇。 120b 版本則專用於配備多塊顯示卡或專業工作站的特定配置。
在 Windows 上安裝 GPT-OSS 的建議最低系統需求
在開始下載和安裝之前，最好先了解GPT-OSS 在 Windows 系統上正常運作所需的設定。好消息是，對於 20b 型號來說，其配置要求對於現代 PC 來說並不算高，但對於舊筆記型電腦來說可能略顯吃力。
關於作業系統，您需要64 位元Windows 10 或Windows 11。32位元版本完全不適用，原因既有記憶體限制，也有與我們將要使用的工具的兼容性問題。
記憶體是關鍵因素之一。對於 gpt-oss-20b 系統，建議至少配備16 GB 內存，以確保足夠的運行空間和系統穩定性。雖然理論上它可以在 8 GB 記憶體的系統上啟動，但體驗會非常有限，您需要關閉幾乎所有其他程式以避免效能瓶頸。
如果說的是 gpt-oss-120b，情況就大不相同了：至少需要 32 GB 的內存，理想情況下需要更多，還需要大量的顯存，因此實際上，在普通的 Windows PC 上安裝它通常是不可行的。
至於處理器，你不需要最新的，但也不需要舊古董。建議使用第四代英特爾酷睿i5或更新的處理器，或AMD Ryzen 3或更高等級的處理器作為基礎配置。如果沒有獨立顯示卡，CPU也可以獨立運行模型，但文字產生速度會明顯變慢。
儲存方面，請注意這些分割表模型佔用空間較大，因此最好預留一些可用空間，以免 Windows 系統不堪負荷。少於配備500 GB 可用空間的固態硬碟 (SSD) 將為 GPT-OSS 和其他分區表模型提供充足的空間。作為參考，gpt-oss-20b 分區表大小約為 12-13 GB，而 gpt-oss-120b 分區表大小則根據版本不同，最高可達 70 GB。
加速這一代電腦的關鍵組件是顯示卡（GPU）。為了獲得流暢的效能，NVIDIA GeForce RTX 3060 或更高版本，或 AMD Radeon RX 6700 或更高版本是理想之選。較舊的型號雖然也能運行，但每秒處理的令牌數會減少，響應速度也會變慢。
如果沒有獨立顯示卡，GPT-OSS 也可以只使用 CPU 和記憶體運行，但速度會慢很多。整合式顯示卡能帶來一些效能提升，但遠不及現代獨立顯示卡。
最後，您只需要連接網路即可下載模型。下載安裝完成後，它完全可以離線運行，因此您可以斷開網線或 Wi-Fi，並像往常一樣繼續使用 AI。
如何使用 Ollama（圖形介面和命令列）在 Windows 上安裝 GPT-OSS
為了避免直接處理程式碼行和原始配置，最簡單的方法是使用專為管理語言模型而設計的工具。無論您喜歡圖形介面還是終端，Ollama 都是 Windows 使用者最簡單、最完善的選擇之一。
Ollama 是一款本地 LLM 模型「啟動器」：它能夠下載、儲存並運行 GPT-OSS（以及其他模型，例如 LLaMA、Gemma 或 Qwen），並提供相當完善的安裝指導。它是免費開源的，適用於 Windows、macOS 和Linux 系統。
首先造訪 Ollama 官方網站並下載 Windows 安裝程序，通常是一個名為OllamaSetup.exe之類的檔案。儲存檔案並執行，然後按照安裝任何桌面程式的典型步驟操作：接受條款和條件，如果需要更改安裝資料夾，請選擇一個，然後等待安裝完成。
安裝前，請確保您的系統符合最低配置要求：64 位元 Windows 10/11 作業系統、至少 8 GB 記憶體（GPT-OSS 分割表建議使用 16 GB 記憶體），以及至少四核心 x86 處理器（例如第四代 Intel Core i5/i7 或 AMD Ryzen 3/5/7）。獨立顯示卡並非必需，但強烈建議使用以獲得更流暢的體驗。
首次開啟 Ollama 時，你會看到一個類似聊天介面的介面。在介面中央，程式圖示下方有一個方塊，你可以在其中選擇要使用的模型。展開此方框，即可查看雲端和本地可用的模型清單。
其中你會看到gpt-oss:20b 和 gpt-oss:120b這兩個選項。如果你使用的是家用電腦，請選擇 gpt-oss:20b，它是中等大小的模型。選擇後，只需在文字方塊中輸入任意資訊（例如簡單的「你好」），然後將其發送給 Ollama，即可開始自動下載模型。
下載時間可能從幾秒鐘到幾分鐘不等，具體取決於您的網路連接，因為檔案大小約為12,8-13 GB。下載完成後，模板載入完畢，您就可以像使用 ChatGPT 一樣開始與 GPT-OSS 聊天，而無需離開您的電腦。
如果您喜歡使用命令列而不是圖形介面，Ollama 也支援這種工作流程。在PowerShell或 Windows 終端機中，您可以使用類似「ollama pull gpt-oss:20b」的命令下載模型，然後使用「ollama run gpt-oss:20b」啟動模型並開始聊天。對於更大的模型，只需將其重新命名為 gpt-oss:120b 即可。
使用 LM Studio 在 Windows 上安裝並使用 GPT-OSS
如果您想要一個功能更全面、參數更可調的環境，可以試試LM Studio。它是一款允許您在本機下載、管理和運行 AI 模型的工具，並且支援 Windows、macOS 和 Linux 系統。可以說，Ollama 的介面更加簡潔直觀，而 LM Studio 則提供了更美觀的介面和更多附加選項。
至於系統需求，Windows 版 LM Studio 建議使用支援 AVX2 指令集的 64 位元 CPU，16 GB 記憶體以便流暢處理 7-8 億位元模型，如果想要提升處理速度，建議配備 GPU。 8 GB 記憶體雖然也能處理 3-4 億位元的小型模型和較短的上下文，但對於像 gpt-oss-20b 這樣大小的模型，記憶體充足才是最佳選擇。
就儲存空間而言，每個模型佔用空間在 2 GB 到 20 GB 以上不等，不過 gpt-oss-20b 也存在一些變體，其體積會根據量化方式的不同而顯著增大。理想情況下，如果您打算下載多個模型並嘗試不同的版本，則應至少預留 100 GB 的可用空間。
要安裝 LM Studio，請造訪其官方網站，選擇 Windows 版本，然後下載可執行檔（通常約為 500-600 MB）。雙擊該文件，選擇目標資料夾（應用程式本身需要約 1,7 GB 的空間），然後按一下「安裝」。安裝完成後，您將看到其主介面，即可使用。
下一步是點擊左側邊欄的放大鏡圖標，即可開啟模型搜尋。在這裡，您可以瀏覽所有與本地執行相容的模型，包括 GPT-OSS 的 20 位元版本。
在清單中找到 gpt-oss-20b（路徑可能顯示為 openai/gpt-oss-20b 或類似路徑），然後按一下「下載」。 LM Studio 將開始下載模型；下載時間取決於您的網路連線速度和所選版本的大小。
下載完成後，請前往左側欄的「聊天」部分。在那裡，您會看到一個下拉式選單，標題類似於「選擇要載入的模型」。選擇 gpt-oss-20b，然後會開啟初始設定介面，其中包含幾個滑桿和選項。
這裡最重要的兩個參數是上下文長度和卸載到 GPU 的層數。上下文決定了模型在對話中能夠記住多少個詞元（簡單來說就是單字和詞段）。設定得越高，模型消耗的記憶體就越多，每個詞元需要進行的運算也越多，這意味著更高的 RAM/VRAM 使用率，如果硬體效能不足，則可能會出現錯誤。
「卸載到 GPU」選項定義了模型中有多少層直接在顯示卡上執行。載入到 GPU 的層數越多，產生文字的速度就越快，但也會消耗更多的顯存。如果過度增加顯存，效能會急劇下降，甚至模型可能無法啟動。因此，建議逐步增加設置，直到找到最佳平衡點。
完成這些細節調整後，點擊「載入模型」，LM Studio 將開啟一個與 ChatGPT 非常相似的聊天窗口，您可以在其中寫下您的問題、貼上文字以進行總結，或尋求程式碼方面的幫助。
可從 Hugging Face 或 GitHub 下載 GPT-OSS，以及其他使用方式。
雖然 Ollama 或 LM Studio 對大多數 Windows 使用者來說是最方便的選擇，但 OpenAI 也提供從 Hugging Face 和 GitHub 等程式庫直接下載 GPT-OSS 的功能。這主要面向希望完全掌控整合過程的開發者和高級用戶。
在 Hugging Face 網站上，您可以找到各種版本的 gpt-oss-20b 和 gpt-oss-120b，其中包含社群針對不同硬體和函式庫進行適配和優化的版本。每個版本的大小（20b 版本的大小從大約 11 GB 到超過 40 GB 不等）和效能各不相同，具體取決於所使用的量化類型。
另一個官方下載點是 GitHub，OpenAI 在那裡發布了使用 GPT-OSS 所需的所有資源，包括使用範例、腳本以及將其整合到專案中的文件。如果您想建立比簡單的本機聊天更複雜的系統，可以參考 GitHub 上的資源來準備特定的環境、容器或自訂流程。
除了在PC上運行之外，還可以使用第三方應用程式在Android和iOS行動裝置上測試GPT-OSS。雖然OpenAI沒有推薦任何特定的應用程序，但PocketPal AI是一個比較受歡迎的選擇，它允許你添加來自Hugging Face的模型，並在一些中高端手機上本地運行它們。
通常情況下，安裝應用程式後，進入模型部分，選擇“從 Hugging Face 新增”，搜尋 gpt-oss 或 gpt-oss-20b，然後下載最適合您裝置儲存空間和記憶體的版本。然而，在行動裝置上，模型大小和性能之間的平衡非常微妙，因此選擇較小的版本以確保流暢運行的情況並不少見。
在 Windows PC 上使用 GPT-OSS 可以做什麼？
一旦您使用 Ollama 或 LM Studio 安裝並運行了 GPT-OSS，您就可以在日常生活中利用其廣泛的實用功能，並且完全不必擔心所有內容都保留在您的電腦上。
在文字處理方面，它非常適合撰寫文章、摘要、電子郵件、腳本和社交媒體貼文。您可以輸入PDF或純文字格式的長文檔，讓它提取關鍵資訊、針對不同受眾進行調整、改進語氣，或用幾句話概括結論。
它也可以作為學習和工作助手，非常實用：解釋概念、生成主題大綱、創建記憶卡片、批改論文或設定練習問題。結合其分析拖入程式視窗的文件功能，它就成為管理報告、學術論文或技術文件的強大工具。
在開發領域，GPT-OSS 可以作為離線程式設計助手。它可以審查程式碼片段、標記錯誤、提出重構建議、產生輔助函數，或逐行解釋腳本的功能。它雖然不能取代整合開發環境 (IDE) 或調試器，但確實可以節省大量搜尋時間，並在你遇到難題時提供想法。
此外，借助 Ollama 等工具公開的本機 API，您可以將 GPT-OSS 整合到您自己的應用程式中，自動執行任務，或建立回應您自己的資料的小型自訂助手，而無需依賴外部服務。
主要限制在於該模型無法取得即時資訊。它所掌握的所有資訊都來自先前的訓練，因此並非查詢突發新聞、最新法律變更或不斷變化的資料的最佳選擇。對於這類需求，您仍然需要使用連網模型或傳統搜尋方法。
就效能而言，GPT-OSS 的速度比託管在配備大量 GPU 的資料中心中的 ChatGPT 慢是正常的。上下文越長、任務越複雜，回應時間就越長，尤其是在 GPU 或記憶體效能不足的情況下。使用此模型時，關閉開啟過多標籤頁的瀏覽器或資源密集型程序有助於提升運行流暢度。
有了這些功能，GPT-OSS 就成了你 Windows 電腦上的「副駕駛」：免費、私密、高度可自訂，甚至可以離線使用。只要花點時間耐心完成初始設定和一些硬體調整，你就能擁有一個強大的助手，無需離開電腦就能進行寫作、編程、學習和生成式人工智慧實驗。
對字節世界和一般技術充滿熱情的作家。我喜歡透過寫作分享我的知識，這就是我在這個部落格中要做的，向您展示有關小工具、軟體、硬體、技術趨勢等的所有最有趣的事情。我的目標是幫助您以簡單有趣的方式暢遊數位世界。