?? 資源分類(lèi)：辦公學(xué)習(xí)

?? 更新日期：2026-01-01

?? 存儲(chǔ)平臺(tái)：夸克網(wǎng)盤(pán)

標(biāo)題：AI模型語(yǔ)言交互 LM Studio v0.3.36-1｜本地大語(yǔ)言模型部署神器

軟件介紹

LM Studio 是一款專為本地大語(yǔ)言模型（LLM）打造的桌面級(jí) AI 交互軟件，基于高性能 llama.cpp 引擎開(kāi)發(fā)，提供零命令行、全圖形界面的大模型本地部署解決方案。無(wú)需聯(lián)網(wǎng)、無(wú)需云端，即可在 Windows/macOS/Linux 上安全運(yùn)行 Llama-2、Mistral、CodeLlama 等主流 GGUF 模型，是開(kāi)發(fā)者與研究者進(jìn)行本地 AI 模型訓(xùn)練、推理、調(diào)試的首選 LLM 工具。

軟件截圖

（優(yōu)化關(guān)鍵詞：LM Studio 下載、LM Studio 使用教程、本地大語(yǔ)言模型運(yùn)行截圖）

模型管理

? 一鍵拉取 Hugging Face Hub 熱門(mén) GGUF 模型，支持離線緩存與版本回溯

? 內(nèi)置模型搜索引擎，可按參數(shù)規(guī)模、量化精度、AI 任務(wù)類(lèi)型（對(duì)話/代碼/embedding）快速篩選

? 模型導(dǎo)入導(dǎo)出向?qū)В? 分鐘完成私有模型倉(cāng)庫(kù)搭建

硬件協(xié)同優(yōu)化

? GPU 卸載：自動(dòng)識(shí)別 NVIDIA RTX 30/40 系列顯卡，動(dòng)態(tài)分配層到 VRAM，顯存不足時(shí)無(wú)縫回退至內(nèi)存+磁盤(pán)，8G 顯存亦可運(yùn)行 70B 量化模型

? 內(nèi)存量化：支持 Q4_K_M、Q5_K_S、Q8_0 等 GGUF 量化方案，內(nèi)存占用最高降低 75%，低速硬盤(pán)也能流暢推理

? CPU 多線程：適配 Apple Silicon、Intel、AMD 平臺(tái)，ARM NEON / AVX2 指令集加速，推理速度提升 2.3×

參數(shù)調(diào)控

? 溫度（Temperature）：0.1–2.0 滑動(dòng)調(diào)節(jié)，精準(zhǔn)控制文本創(chuàng)造性

? 重復(fù)懲罰（Repeat Penalty）：1.0–1.5 范圍抑制車(chē)轱轆話，提升技術(shù)文檔、代碼生成專業(yè)度

? Top-p、Top-k、Max Tokens 等高級(jí)選項(xiàng)一鍵展開(kāi)，滿足科研級(jí)微調(diào)需求

文本嵌入強(qiáng)化檢索（RAG）

? 內(nèi)置 POST /v1/embeddings 兼容端點(diǎn)，毫秒級(jí)生成 768/1024/4096 維向量

? 無(wú)縫對(duì)接 LangChain、LlamaIndex 等 RAG 框架，本地 PDF、Markdown、Excel 知識(shí)庫(kù)秒變對(duì)話式搜索引擎

? 支持向量緩存與增量更新，百萬(wàn)級(jí)文檔檢索延遲 <300 ms

內(nèi)置兼容 OpenAI 的本地服務(wù)器

? 零配置啟動(dòng) 127.0.0.1:1234，提供與 OpenAI API 100% 兼容的 /v1/chat/completions 接口

? 原有基于 openai-python、axios、curl 的代碼無(wú)需修改一行即可切換至本地 LLM，開(kāi)發(fā)成本降至 0

? 提供 Docker 鏡像與 systemd 腳本，服務(wù)器批量部署一鍵完成

?? 下載地址

?? 資源鏈接：https://pan.quark.cn/s/c9cd365b7081

?? 溫馨提示：

• 資源需要轉(zhuǎn)存到自己網(wǎng)盤(pán)后方可下載
• 推薦使用夸克APP