llm 0.36 发布:Simon Willison 的命令行工具原生支持 GPT-6 Sol 和 Luna

据 Simon Willison 博客和 LLM 项目更新日志,llm 0.36 版本已发布。这个由 Datasette 作者维护的命令行 LLM 工具,现在原生支持 OpenAI 最新的 GPT-6 Sol 和 GPT-6 Luna 模型——直接在终端用 llm -m gpt-6-sol 就能调用。 llm 的定位是统一命令行接口:不管后端是 OpenAI、Anthropic 还是本地模型,都用同一套命令。它通过插件系统扩展模型支持,pip install llm-openai 之后配置 API key 就能用。除了基础对话,还支持结构化输出、schema 约束和管道集成。 0.36 版本的另一个重要改动是模型插件可以声明 supports_conversation = False。有些模型只接受单轮请求,不维护对话历史——之前用 llm 的多轮会话模式会报错。现在插件自己声明不支持会话,llm CLI 就自动切到单轮模式,不再强行拼接历史。 Simon Willison 维护的 llm 工具虽然界面简单,但在开发者社区里影响力很大。它的设计哲学是:命令行应该是最通用的接口。不管你用哪个模型,输入输出的格式都应该统一。这种统一性让脚本作者不用为每个模型写不同的调用代码。 0.36 版本加入的 supports_conversation 标志,看似是个小改动,实际上反映了模型生态的一个趋势:不是所有新模型都需要多轮对话能力。有些模型就是设计来做单次推理的,硬要给它加对话历史反而会降低效果。这个标志让工具层能够正确适配不同模型的特性。 另外值得一提的是,llm 工具的所有历史记录都存在本地的 SQLite 数据库里,你可以随时用命令行搜索和回看。这种本地化的数据存储方式,对于注重隐私和数据自主的开发者来说很有吸引力。 这个命令行工具解决了什么痛点? llm 工具最大的优势是跟 Unix 管道生态完美集成。你可以用 cat data.json | llm -m gpt-6-sol –schema output_schema.json 直接处理数据,输出结构化 JSON。这种用法在脚本和自动化流水线里特别方便。 ...

2026-10-10 · 1 min · 90 words · AI 实战派

Claude Code Execution Tool 实操:在沙箱里跑 Python 做数据分析,状态还能跨请求保留

据 Claude 平台文档,代码执行工具的最新版本 code_execution_20260521 已上线。这个工具允许 Claude 在一个安全的沙箱容器里执行 Python 代码,做数据处理、画图、数值分析,然后把结果返回给用户。容器里预装了 Python,Claude 通过文件操作子工具写代码,再用 Bash 命令执行。 从 code_execution_20260120 版本开始,两个重要特性被加入:REPL 状态持久化和程序化工具调用。前者意味着你在同一个容器里跑过的 Python 变量绑定会保留到后续请求——不用每次重新加载数据集。后者允许 Claude 在沙箱内部直接调用其他工具,形成自动化流水线。 安全边界很清晰:文件访问限制在工作区目录内,容器创建后三十天自动过期,所有执行都在隔离容器里完成。对做数据分析的用户来说,这相当于给 Claude 配了一个云端 Jupyter——上传 CSV,让它写 pandas 代码清洗、建模、出图,全程不用本地装环境。 代码执行工具的进化方向很明确:从纯文本生成到实际计算。以前的大模型只能输出代码片段让用户自己跑,现在 Claude 可以直接在沙箱里执行,看到结果后继续调整。这种闭环让数据分析和数值计算的效率提高了一个数量级。 在实际使用中,最爽的场景是上传一个 CSV 文件,然后直接用自然语言说帮我清洗这个数据、画几张图、算一下统计量。Claude 会自己写 pandas 代码、执行、看报错、修正、再执行,直到拿到正确结果。整个过程用户只需要等最终的图表和分析结论。 沙箱环境里预装了哪些东西? 沙箱容器里预装了 Python 运行时和常用数据科学库,但不是所有 pip 包都能装。如果遇到缺失依赖,可以让 Claude 自己尝试 pip install,大部分纯 Python 包都能装成功。涉及系统级依赖的包可能会失败。 REPL 状态跨请求保留是什么意思? 程序化工具调用是个被低估的能力。以前 Claude 跑数据分析是一步一步来:写代码、执行、看结果、再写。现在它可以在一段 Python 脚本里连续调用多个工具,中间不需要人介入,适合做复杂的数据清洗流水线。 去论坛讨论 前往 silicon-agi.com 论坛 参与讨论

2026-10-10 · 1 min · 61 words · AI 实战派

Mastra Connect 上线:一把密钥让 Agent 直连 Linear、Notion、Slack 等 23 个服务

据 Mastra 官方博客十月七日文章,Mastra Connect 正式发布。它的核心能力是:你的 Mastra Agent 现在可以通过统一的 OAuth 连接管理器,调用 Linear、Notion、Slack 以及另外二十多个 SaaS 服务,不需要为每个服务单独写集成代码。 之前要让 Agent 读 Notion 页面、改 Linear ticket、发 Slack 消息,你得分别去各平台申请 API 凭证、写请求封装、处理 token 刷新。Connect 把这些标准化了——在 Mastra Studio 里点几下完成 OAuth 授权,Agent 代码里直接 import 对应工具就行。 同期发布的还有 VPC 隔离的托管 Postgres 数据库,以及 Server Adapters——让你在已有的 Express 或 Hono 应用里直接挂载 Mastra Agent、工作流和 MCP 服务器作为 HTTP 端点。对 TypeScript 技术栈的团队来说,Mastra 正在从一个 Agent 框架长成完整的 Agent 运行时平台。 Mastra Connect 的发布,本质上是在解决 Agent 开发中最耗时的环节:工具集成。写一个能读 Notion、改 Linear、发 Slack 的 Agent,光写各个平台的 API 封装就要好几天。Connect 把这些标准化之后,开发者可以把精力集中在 Agent 的业务逻辑上,而不是跟各个 SaaS 平台的 OAuth 流程搏斗。 ...

2026-10-10 · 1 min · 129 words · AI 实战派

VS Code Agent Merge 实测:让 Copilot 自动改 review 意见、修 CI、合并 PR

据 GitHub 官方九月更新日志和 VS Code 十月七日文档,Copilot 的 Agent Merge 功能已进入预览阶段。在 Agents 窗口里开启后,Copilot 会自动读取 PR、监视 review 和 CI 状态、修复阻塞问题,然后在 GitHub 允许的时机合并 PR。 具体能干什么:处理 review 反馈意见、修复失败的 CI 检查、解决合并冲突、重新运行挂掉的工作流。你只需要在 Agent Merge 菜单里勾选要让代理处理哪些类型的阻塞项,以及是否在就绪后自动合并。也可以从命令面板直接配置当前活跃会话。 关键安全边界:Agent Merge 不会绕过分支保护、必需检查或审批规则。它只是在这些规则允许的范围内自动做那些人本来就要做的重复劳动。对每天要处理十几个小 PR 的团队来说,这能省掉大量点击操作。 Agent Merge 这个功能的出现,意味着 GitHub 正在把编码 Agent 的能力从写代码延伸到代码评审和合并的全流程。以前的 Copilot 只是帮你写代码,现在它可以帮你走完从代码提交到合并的整个闭环。这对于开发流程自动化是一个重要的里程碑。 不过在实际使用中,建议团队先制定明确的规则:哪些类型的 PR 可以开 Agent Merge,哪些必须人工审批。比如文档修改和测试代码可以自动合并,核心业务逻辑的改动还是要人过一眼。Agent Merge 是效率工具,不是责任转移——出了问题还是要人来负责。 Agent Merge 到底能自动做哪些事? 从 Agents 窗口里直接创建 PR 也是新功能。你可以在 Copilot、Claude 或 Codex 的代理会话里打开 PR 创建表单,编辑标题和描述,选择草稿和合并选项。这意味着从写代码到提 PR 的整个流程都可以在一个界面里完成。 它会不会绕过分支保护直接合? 建议先在低风险的仓库里试用 Agent Merge,比如内部工具库或文档仓库。核心生产仓库还是保留人工审批。毕竟自动合并听起来很爽,但万一代理改坏了关键逻辑而 CI 又刚好漏测,出问题的代价不小。 ...

2026-10-10 · 1 min · 77 words · AI 实战派

Claude Skills 组织级下发:Team 和 Enterprise 管理员怎么统一管理团队工作流?

据 Anthropic 帮助中心文档,Claude Skills 的组织级管理功能已对 Team 和 Enterprise 计划开放。管理员可以在后台把经过审核的 Skill 统一推送给全员,或者按用户组精确投放,不需要每个员工手动上传。 Skills 本质上是一套可复用的指令集,告诉 Claude 在特定工作流里该怎么做。比如一个合同审查 Skill 会内嵌公司的合规清单、术语表和审查步骤。组织级下发的价值在于:以前每个团队各自摸索提示词,现在有了中心化的技能目录,新员工入职自动获得经过验证的最佳实践。 管理员需要维护一个内部注册表,记录每个 Skill 的用途、负责人、版本、依赖的 MCP 服务器和最近一次评估结果。权限控制粒度到组——可以通过 SCIM 从身份提供商同步用户组,然后给不同组分配不同的 Skill 集。还能设置每个组的消费预算,到了阈值自动告警。 组织级 Skills 管理的出现,标志着 AI 工具在企业里的使用方式正在从个人玩具变成标准化基础设施。以前每个员工自己摸索提示词,效果参差不齐,也没有办法做合规审计。现在管理员可以统一发布经过审核的工作流,确保每个人用的都是最佳实践。 从落地经验来看,最受欢迎的 Skills 往往不是那些高大上的功能,而是解决重复劳动的小工具。比如自动生成周报模板、按照公司格式写会议纪要、把客户邮件分类到对应工单系统。这些小事单个看不起眼,但乘以几百个员工每天的时间节省,总量非常可观。 Skills 跟自定义 GPT 有什么本质区别? 跟 OpenAI 的自定义 GPT 相比,Claude Skills 更强调工程化治理。自定义 GPT 主要是自然语言配置,而 Skills 可以打包 MCP 服务器依赖、文件资源和版本信息,更接近一个可部署的软件组件而不是一个提示词模板。 按组分配权限具体怎么配? 实际落地建议:先从一个部门试点,把该部门最高频的三个工作流做成 Skill,跑两周收集反馈,再推广到全公司。不要一开始就做二十个 Skill,大部分会因为没人维护而腐烂。每个 Skill 必须指定一个负责人,定期更新。 去论坛讨论 前往 silicon-agi.com 论坛 参与讨论

2026-10-10 · 1 min · 62 words · AI 实战派

JetBrains Mellum 2.1:为编码子代理训练的 12B 开源模型,Ollama 两行命令跑起来

据 JetBrains 官方博客十月八日文章,Mellum 2.1 正式发布。这是一个 12B 参数的开源模型,专门为软件工程场景中的路由、问答和子代理任务设计。跟主打全能的大模型不同,Mellum 2.1 的目标是低延迟、高吞吐、低成本——在生产环境里当编码 Agent 的调度层用。 训练方式很有特点:用强化学习在真实开发环境中训练,模型直接跟文件系统、终端和测试框架交互。这意味着它学到的不是教科书式的代码补全,而是 Agent 循环里那种读文件、改代码、跑测试、看报错、再改的完整工作流。Apache 2.0 协议,权重在 Hugging Face 公开。 上手门槛极低:Ollama 里两行命令就能跑起来。也可以直接在 JetBrains AI Assistant 里配置为自定义本地模型。适合做私有部署场景——代码不出内网,用 Mellum 做第一层路由和简单任务,复杂任务再升级到云端大模型。 JetBrains 做开源模型这件事,在 AI 行业里算是一个独特的存在。大多数公司开源模型是为了吸引开发者生态,然后靠云服务赚钱。JetBrains 的逻辑不一样——他们卖的是 IDE 订阅,开源模型是为了让用户在自己的 IDE 里获得更好的 AI 编程体验,不管用户用的是本地模型还是云端模型。 从实际部署角度看,Mellum 2.1 最适合的场景不是替代 GPT 做复杂编码,而是作为编码 Agent 的第一层路由。用户提交一个任务,Mellum 先判断这是简单改 bug 还是需要架构设计,简单任务自己处理,复杂任务升级到更大的模型。这种分层调用能显著降低 API 成本。 为什么 JetBrains 要自己做一个编码模型? JetBrains 做模型的逻辑跟做 IDE 一样:他们比任何人都清楚开发者每天在编辑器里反复做哪些操作。与其依赖外部大模型来理解这些模式,不如自己训练一个专门优化过的小模型。Mellum 2.1 就是这个思路的产物。 本地跑需要什么配置? 12B 参数量在编码模型里属于轻量级。配合 GGUF 量化,一张 16GB 显存的显卡就能跑。它不适合写复杂的架构设计,但做代码路由、简单 bug 修复、生成单元测试这些子任务,延迟和成本都比调 GPT-6 划算得多。 ...

2026-10-10 · 1 min · 75 words · AI 实战派

Octomil 4.6:一行命令起本地 OpenAI 兼容 API,自动选最快推理引擎

据 PyPI 页面显示,Octomil 最新版本 4.6.0 于十月初发布。它定位为本地优先的 OpenAI 兼容 API 服务器,核心卖点是自动检测硬件并选择最快可用的推理引擎。安装方式就是 pip install octomil,然后一行 octomil serve 就能起服务。 跟 Ollama 相比,Octomil 的差异在于它不绑定单一引擎——后端可以自动切换 llama.cpp、ONNX Runtime 或者其他可用运行时。它还支持多模型同时加载:octomil serve –models smollm-360m,phi-mini,llama-3b 可以在同一个端口后面挂多个模型,通过 model 字段路由。 对开发者来说最实用的场景是:把现有的 OpenAI SDK 代码里的 base_url 改成本地地址,就能零改动切到本地模型。SDK 还实现了 Responses API 的流式和多轮对话,以及工具调用和多模态支持。适合做开发环境的离线调试和隐私敏感场景。 Octomil 跟同类工具相比,一个被低估的特性是它的自动硬件检测。第一次运行的时候,它会扫描你机器上可用的 GPU、CPU 和内存,然后推荐最合适的模型大小和量化级别。这个功能对新手特别友好——很多人刚接触本地模型时不知道自己的显卡能跑多大的模型。 在实际使用中,Octomil 的 OpenAI 兼容性做得比较完整,包括流式响应、函数调用和多轮对话。这意味着你现有的基于 OpenAI SDK 的代码几乎不用改,只需要把 base_url 指向本地端口。对于想做离线开发或者数据不出本机的场景,这种无缝切换的价值很大。 它跟 Ollama 和 LocalAI 有什么区别? Ollama 的优势在于生态成熟、模型库丰富,缺点是引擎相对固定,不太方便在不同后端之间切换。LocalAI 功能更全但配置复杂。Octomil 走的是中间路线——默认行为足够简单,但需要调优时又有足够的灵活性。 多模型同时加载怎么配? 多模型加载的关键是显存预算管理。每个加载进显存的模型都会占用固定 VRAM,同时加载三个小模型没问题,但如果你想同时挂两个 70B 量化版,就算是 48GB 显卡也扛不住。建议只并发加载当前工作流实际用到的模型。 去论坛讨论 前往 silicon-agi.com 论坛 参与讨论 ...

2026-10-10 · 1 min · 73 words · AI 实战派

Saluki 27B:8GB 显存跑 2-bit 量化 Qwen3.8-27B,工具调用反超原版?

据 MarkTechPost 十月九日报道,Conway Research 旗下的 OnDevice 助手项目发布了 Saluki 27B,一个基于 Qwen3.8-27B 的 2-bit GGUF 量化版本,文件体积仅 7.89GB,采用 Apache 2.0 协议开源。最反直觉的是,这个极度压缩的版本在工具调用基准上的表现居然超过了原始 Qwen3.8-27B。 原因在于 Saluki 不是简单的权重量化,而是在 2-bit 压缩的同时做了针对工具调用场景的后训练微调。它用了 NSA 稀疏注意力和 PRISM 蒸馏技术,把模型容量集中保留在函数调用的结构化输出能力上,牺牲了部分通用对话质量,但换来了在端侧设备上的可用延迟。 部署门槛很低:一张 8GB 显存的消费级显卡就能跑,或者用 16GB 统一内存的 Mac 通过 llama.cpp 加载。适合做本地路由模型——当用户请求是简单工具调用时走 Saluki,复杂推理才调云端大模型。 从本地部署的实际体验来看,2-bit 量化的模型在生成速度上确实有明显优势——因为权重体积小,从内存加载到计算单元的时间更短。在一台普通笔记本上跑,每秒生成的 token 数跟 4-bit 版本差不多,但内存占用小了将近一半。这对于内存紧张的轻薄本来说很关键。 不过要注意,官方公布的工具调用反超原版的数据,是在特定基准测试集上的结果。实际业务场景中的工具调用往往涉及更复杂的上下文和更多的工具选项,建议你在自己的任务集上跑一遍对比。如果只是简单的两三个工具调用,Saluki 可能确实够用;如果涉及长链路的多步工具编排,还是建议用更大的模型。 2-bit 量化为什么还能保住工具调用能力? 2-bit 量化的传统认知是精度损失太大,模型基本不可用。但 Saluki 的案例说明:当你明确知道模型只需要做好工具调用这一件事时,可以针对性地压缩其他能力,把有限的位宽预算留给函数输出的结构化字段。这跟通用模型的全场景压缩思路完全不同。 本地部署要多少显存和内存? 实际部署时建议跟原版 Qwen3.8-27B 的 4-bit 量化版本做同任务对比测试。虽然官方说工具调用反超原版,但在长上下文和复杂推理场景下,原版肯定还是更强。把 Saluki 用在它擅长的地方才是正解。 去论坛讨论 前往 silicon-agi.com 论坛 参与讨论

2026-10-10 · 1 min · 65 words · AI 实战派

Gemini Code Assist 企业版十月九日起停售:存量订阅怎么办?

据 Google Cloud 十月九日发布说明,从当日起,Gemini Code Assist Standard 和 Enterprise 两个档位不再接受新购买。现有订阅会自动续费到二零二六年底,但二零二七年起自动续费也会终止。这意味着谷歌正式把企业级 AI 编程助手的主线从 Code Assist 切到了 Antigravity。 个人版更早一步:六月十八日起 Gemini Code Assist for Individuals、Google AI Pro 和 Ultra 档位的 IDE 扩展和 Gemini CLI 已经停止服务,用户被引导迁移到 Antigravity CLI。企业版这次是最后一块阵地。 对企业 IT 管理员来说,现在需要做三件事:第一,盘点组织内还有多少人在用量 Code Assist Enterprise;第二,评估迁移到 Antigravity 后的权限和计费模式;第三,跟谷歌客户经理确认二零二七年续期的替代方案。谷歌的逻辑很清楚——把编程 Agent 统一收进 Antigravity 这个品牌下,Code Assist 作为旧产品线逐步清退。 对于还在使用 Code Assist 的企业开发团队,现在最紧迫的动作是评估迁移成本。Antigravity 的交互范式跟传统的代码补全完全不同——它不是在你打字的时候猜下一个词,而是接受一个高级别的任务描述,然后自主完成多步操作。团队的工作方式需要从辅助编码转向任务委派。 另外要注意计费模式的差异。Code Assist Enterprise 是按人头订阅,Antigravity 的计费更偏向按使用量。如果你的团队里有人重度使用、有人几乎不用,按人头的模式其实更划算。迁移到 Antigravity 后,轻度用户可能反而成本上升。这些都要在迁移前算清楚账。 停售之后现有订阅还能用多久? 现有订阅的用户注意:虽然服务还在,但谷歌已经不再投入新功能开发。你可能会发现某些语言的补全质量停滞、某些 IDE 的新版本兼容性出问题却迟迟不修。与其等到二零二七年被动迁移,不如现在就开始并行试用 Antigravity。 为什么谷歌要把开发者赶去 Antigravity? 迁移到 Antigravity 后,原来 Google AI Pro 或 Ultra 订阅会自动赋予更高的每日使用额度,不需要额外付费。但 Antigravity 的交互模式跟传统补全不同——它更偏向 Agent 式的多步任务,团队需要重新培训工作流。 ...

2026-10-10 · 1 min · 85 words · AI 实战派

Claude Sonnet 4 和 Opus 4 正式下线 API:旧代码该往哪迁?

据 Claude 平台发布说明,Anthropic 已正式停用 Claude Sonnet 4 和 Claude Opus 4 两个旧模型。所有指向这两个模型 ID 的 API 请求现在直接返回错误,不再有宽限期。此前九月三十日已公告 Sonnet 4.5 将于十一月三十日退役,推荐迁移到 Sonnet 5.5。 受影响的模型 ID 包括 claude-sonnet-4-20250514 和 claude-opus-4-20250514。如果你在生产环境里硬编码了这两个 ID,今天起服务就会挂掉。Claude Code 里的模型选择器也已经移除了 Opus 4 和 4.1,切过去直接报错。 迁移路径很清晰:Sonnet 4 用户升 Sonnet 5.5,Opus 4 用户升 Opus 5。Opus 5 支持 1M token 上下文和 128k 最大输出,默认开启思考模式。注意 Sonnet 5.5 的 prompt 缓存读取价刚从每百万 token 0.20 美元降到 0.10 美元,迁移后缓存成本反而更低。 迁移过程中有几个容易忽略的细节。第一,prompt 缓存的行为在新旧模型之间不完全一致——旧模型缓存命中的前缀长度和缓存过期时间,在新模型上可能要重新校准。如果你之前调过缓存阈值来省钱,迁移后要重新测。第二,工具调用的格式可能有细微差异,特别是带嵌套参数的复杂工具,建议用你现有的测试集跑一遍回归。 还有一个现实问题:如果你的工作流里同时用了多个 Claude 模型做不同任务,比如用 Haiku 做分类、Sonnet 做摘要、Opus 做推理,迁移时要逐一对齐。不要一次性全切,先切一个模型观察一周,确认稳定再切下一个。Anthropic 这次退役没有宽限期,切晚了生产就会直接报错。 ...

2026-10-10 · 1 min · 98 words · AI 实战派
🔗 硅基 AGI 论坛 · silicon-agi.com | 📡 RSS 订阅
鲁ICP备2026018361号