专业编程教程与实战项目分享平台

网站首页 > 技术文章 正文

我把大模型锁进本地!本地AI编程开发环境搭建记录及避坑指南

ins518 2025-06-30 16:36:07 技术文章 1 ℃ 0 评论

这篇文章,其实是给自己做个记录,也希望能帮到正在探索本地大模型接入 VSCode 的朋友们。

起因很简单:我想在自己的开发环境里接入本地大模型,用它写写代码、看看报错、改改函数,最好还能分析下项目结构。但我有个底线——不能联网,模型必须跑在自己机器上,数据一个字都不能出门。

听起来是个“接口填一下”的小事,结果真干起来,坑还挺多。


起手尝试 Cursor:结果403直接把我劝退

第一个试的是 Cursor。设置里可以改 OpenAI 的 API 地址,我一度以为这不就是为本地服务量身定制的嘛?

结果接口都填好,验证也通过了,一发请求直接403。
反复排查后才发现——Cursor 会先把 Prompt 发回它自己服务器加工,然后再转发给你配置的接口。

也就是说,你得把模型服务暴露到公网,它才能连得上。

对我这种执着于“数据不能离开本地”的使用场景,Cursor就此出局。功能再全也用不了。


再试 Windsurf 和通义灵码,依旧不合适

转头去试了 Windsurf,一看设置页面,压根没地方填 API 地址,走的是纯封闭模式。

通义灵码倒是号称支持本地模型,我兴冲冲下了试试。结果是这样的:

  • 模型运行跟插件强绑定;
  • 权重要下载放到特定路径;
  • 用的是内置的推理框架,不走标准 API;
  • 想调试、拓展、打日志?不存在的。

换句话说,它确实不联网了,但你也没法接别的工具链,跟 LangChain、MCP 一类的方案更是对不上。
典型的“离线但封闭”,用起来很像黑盒。


真正让我满意的,是 Cline 和 Continue

这两个插件,终于把“自主接入模型”这件事做对了。

你可以自由填写模型地址(Base URL)、API Key、模型名称,不绕弯、不中转,请求就是从 VSCode 发给你本地跑的模型服务,干干净净。

我用 Ollama 起了一个 Qwen 模型服务,拿 Continue 一接,秒通。响应速度也不错,小几百 token 的对话毫无压力,完全满足日常开发的需要。

整个调用链路自己可控,数据全程本地,心理踏实多了。


Continue vs Cline:我最后留下了 Continue

两个插件都挺优秀,但我个人更喜欢 Continue 的交互体验。

它的对话、编辑、命令提示全整合在一个界面里,操作流畅,不跳页面、不切窗口。比如你选中一段代码,直接右键输入“优化这段”或“解释逻辑”,操作直接生效,很顺手。

Cline 功能也很全,就是菜单和配置项比较散,上手稍微绕一点。


但目前Continue还不能跑Agent模式

我一开始以为 Continue 只能做“问答 + 代码编辑”这类轻量助手,后来才发现它其实也支持 Agent 调用——但前提是你的模型要支持生成符合规范的“任务计划”结构。

也就是像这样的 JSON 输出:

{
  "plan": [
    {"action": "edit_file", "path": "src/main.py", "content": "..."},
    {"action": "run_command", "command": "pytest tests/"}
  ]
}

Continue 在配置文件中只要写上:

"capabilities": ["agents", "codebase"]

它就会自动启用 Agent 模式,内置的本地执行引擎可以对接 edit_file、run_command 等工具,不需要额外部署什么中间层服务。

但目前我用的 Qwen3 模型,**默认还没有完全支持这类结构化任务输出。**Continue 的官方文档也明确写了,Agent 功能在 Claude、GPT-4o、Gemini 上效果最稳定,本地模型就得靠自己“调教”。


我接下来的计划

目前我准备继续试试 Qwen-AGI 或微调 prompt 模板的方式,看看能不能让 Qwen 模型跑通任务计划输出。
一旦能稳定输出结构化指令,Continue 的 Agent 功能就能跑起来,到时候就能实现:

  • 自动打开/编辑文件;
  • 执行终端命令;
  • 多步骤任务拆解与执行;
  • 更进一步的人机协作开发体验。

如果我这套折腾下来走通了,会把全过程整理成一份完整教程,专门写一篇《Continue+本地模型玩转Agent能力实录》。


写在最后

如果你也在找一个能稳定调用本地大模型、不绕弯子、不偷数据的编码助手,Continue 值得一试。

它不会替你决定用什么模型,更不会拦你去接自己的接口。它的定位就是“干净的前端接入层”,你想怎么玩,全靠你自己控制。

我现在的日常开发已经离不开它:查错、改结构、加注释……模型都能帮忙,最关键的是心里有底,不怕它背地里上传什么乱七八糟的数据。


如果你对 Continue + 本地 Agent 整合方案感兴趣,欢迎留言交流。
我会继续挖这条路,踩的坑都会分享出来,希望对你也有用。我们下篇见!

#大模型##程序开发##AI编程##代码安全#

本文暂时没有评论,来添加一个吧(●'◡'●)

欢迎 发表评论:

最近发表
标签列表