AI 产品与动态AI 应用

Copilot CLI 发现本地模型后怎么用?检查端点与当前会话

模型出现在列表里,不代表已经安装、已添加或正在处理当前请求。GitHub 10 月 7 日新增的 Copilot CLI 本地发现流程,减少了选择模型时的来回配置,但仍需要确认提供方、端点与会话状态。这里用一份不含私密数据的样例,把这些状态拆开验收。

显示程序代码的电脑屏幕与开发工作台
配图:Ilya Pavlov · Unsplash License

先明确任务与结果

在支持该功能的 CLI 中用 /model 发现正在运行的本地 Ollama 模型,核对提供方与端点后决定添加并用于当前会话,或只添加。选择本地模型不会自动开启离线模式;还要核对 provider 地址、网络与工具权限。

先确认这次更新做了什么

10 月 7 日的官方更新从 CLI 1.0.94-0 起提供 /model 本地发现:Ollama 和模型需已安装并运行,流程不会安装运行时或下载模型。选择发现的模型后,可确认 Add and use for this session,或 Add without switching。

提供方配置文档要求模型支持 tool calling 与 streaming。普通聊天能回答一句话,不能证明它满足智能体流程的要求。本文不指定一个万能模型,也不声称已在你的设备上测试性能。

把四种状态分别记下来

列表条目与实际执行之间的检查点
状态可以确认仍不能确认
模型已存在本地服务里有该模型CLI 已经连接它
已发现选择器找到候选提供方候选已加入配置
已添加已确认模型条目当前会话已切换
用于当前会话明确选择了本次使用模型任务正确、工具受限或完全离线

准备一个边界明确的试用环境

编辑建议:用单独的样例目录和虚构文本,不放密钥、客户资料或生产代码。先记录 CLI 版本、服务是否运行、模型标识与端点。若提供方连接失败,保留选择器中的说明,优先定位服务状态和地址,不通过关闭组织限制来“修好”。

本地推理与文件、网络权限是不同问题。可参考Windows 智能体权限边界核对可访问范围;本文不会替你配置 MXC,也不把本地模型当作沙盒本身。

  1. 在已安装且兼容的 Copilot CLI 会话中输入 /model,查看正在运行的 Ollama 候选。
  2. 检查 provider 与 endpoint 是否属于你准备的服务,避免仅凭熟悉的模型名称确认。
  3. 需要立即试用时选择 Add and use for this session;只保存配置时选择 Add without switching,并记录当前会话仍用什么模型。
  4. 运行下面的样例,核对响应和实际会话状态。若工具能力不满足要求,记录为不兼容或待验证,不将文本回复当成完整 agent 验收。

用一条可人工核对的请求验证路线

以下为自编请求与验收规则,并非一次模型实测。输入明确指定逐行输出,不需要联网、写文件或运行 shell。若客户端额外调用工具,检查其原因与权限记录;不要仅凭回复中的“我在本地运行”判断实际提供方。

不含敏感数据的试用请求

Read only the three supplied rows. Do not use tools, browse, run commands, or write files.
Rows:
A01 | ready
A02 | pending
A03 | ready
Return ready IDs in source order, one per line. Do not add other text.
编辑预期为两行 A01、A03。该规则用于人工对照,不是已运行的模型成绩。

若响应多出 A02、漏掉 A03 或改了顺序,保留完整输出,再缩小输入定位问题。文字正确也不证明端点正确;两项需要独立证据。

本地选择与离线运行不是同一个开关

官方发布说明指出,本地选择不会自动开启离线模式或关闭 GitHub telemetry;CLI 的离线选择是 COPILOT_OFFLINE=true。提供方文档还说明,即使选择离线模式,远程 provider 仍会通过网络接收提示和代码上下文。

编辑建议是为每次试用记录实际端点和允许的连接,而不是只记录模型名。端点改为远程、工具主动联网或另一个会话恢复旧配置,都可能改变任务边界。需要受控环境时,与当前组织规则和网络证据一起核对,不在文章中承诺绝对断网。

三种结果该怎样报告

回复正确,端点不明

文字样例通过;执行提供方尚未核实。

端点明确,回复错误

连接路线已确认;任务验收未通过。

文本与路线均通过

这份样例通过;不外推到长文或所有工具任务。

保存可重试的会话记录

记录时间、CLI 与模型版本、添加方式、当前选择、端点和样例输出。换模型或服务后重跑同一份样例,让差异可以比较。官方另提到智能路由的公告,但本地发现并不能证明该路由在当前账号或设备已开放。

多步骤工作流还需检查输入是否真正处理、结果是否可追溯。可以继续参考完成状态与资料覆盖验收的原则;那篇描述的是另一产品,不代表 Copilot 具备同样 API。

本次试用的完成条件

  • 提供方与端点已明确。
  • 添加模型与切换当前会话分别记录。
  • 样例输出与原始三行对照通过。
  • 离线设置、网络边界与工具权限没有混为一谈。

常见问题

发现列表会替我下载 Ollama 模型吗?

不会。官方流程要求 Ollama 和模型已经安装、服务正在运行;发现与添加不执行运行时安装或模型下载。

只添加后为什么响应仍来自原来的模型?

Add without switching 用于添加配置,不等于切换当前会话。检查当前选择,必要时明确选择用于这次会话。

选择本地模型是否保证完全离线?

不能保证。需要显式离线设置,并核对 provider 地址和网络行为;远程端点仍会接收输入,本地选择也不自动关闭 telemetry。

参考资料与延伸阅读

这个主题的后续文章

沿着同一主题,继续阅读引用了本文的新文章。

继续阅读