大家好,我是晓凡。 很多小伙伴装好 WorkBuddy 的第一反应,就是赶紧丢个任务进去,看它干活利不利索。 我一开始也这样,用了小半个月,总觉得不对劲:任务跑着跑着就断了、文件不知道存哪儿了、总感觉不够聪明,回复又臭又长,口吻还特别官方。 后来才发现有一堆基础设置,我压根没设置好。 今天把这些设置 ...
《一文搞懂 Agent 工具机制:从 Schema 到 Tool Calling》 一、什么是 Agent Tool? 在 Agent 系统中,Tool(工具)是大模型与外部环境交互的桥梁,让原本主要负责理解和生成文本的 LLM,能够读取文件、执行代码、搜索信息,甚至操作其他软件。 例如,用户要求: ...
作为 InBrief 作者,我说明它如何把新闻、大厂博客和社媒社区讨论收进一个按时间排列的列表,每2小时更新,追踪370多个信息源,经LLM过滤、打分和去重,输出中英双语摘要,以减少重复、转述失真和碎片化。文章也交代了它的限制与不适合的人。 ...
MemT-1.0 把记忆做成前向传播里一块固定大小的矩阵状态:Nano 为 10 层×16 通道×256×256 ≈ 10.5M 元素,FP32 约 40 MiB,且与历史长度无关。33/66/130 倍不是压缩技术升级,而是同一份 40 MiB 除以随 token 线性增长的 KV cache——... ...
一、变更管理的老问题:不是没人审批,而是审批没内容 IT 变更出事,很少是因为"没人签字"。真正的问题在于签字那一刻,审批人手里只有一句"升级数据库版本,预计 30 分钟"——影响范围多大、谁受影响、失败了怎么退,全靠口头补充。 很多企业里变更单就是一个自由文本框,提交人写多写少全凭自觉。审批人不是 ...
用 AI 写代码的晚上,常常出现两种截然不同的结果。一种是我一口气做出好几个功能,代码跑通了,但回头一看,其中一半我说不清是怎么实现的。另一种是我花几个小时卡在一个小问题上,最后学到的东西反而比前面一整晚都多。两次都算有产出,两次都得到了能跑的代码,但真正留下的东西完全不同。
我几乎每天都在用 AI... ...
本文针对生产环境下 LLM Tool Use 与 Function Calling 出现的 JSON 幻觉、结构破损、工具超时及下游限流等极端故障,设计并落地了一套基于 Java 17 与 Spring Boot 3.x 的生产级自愈容错架构。核心包含 Self-Correction 智能修复机制... ...
看到不同模型的架构表时,大家通常先问“哪个更强”。但我读这一节时更强烈的感觉是:架构其实是一组工程取舍,表达能力、训练稳定性、推理速度、显存和长上下文,很难同时做到极致。 先看解码器模型的骨架 自回归语言模型通常堆叠多层 Transformer 解码器。每层用因果自注意力读取已出现的 token,再 ...
大模型&算法备案指导报价一览表 大模型备案 大模型备案4w,每增加一个模态+1.5w 单个大模型备案4万,不区分模态类型 大模型登记 大模型登记2.5w,每增加一个模态+1w 单个大模型上线登记2.5万,不区分模态类型 算法备案 算法备案6000,每增加一个模态1000 算法备案一个6千,加一个模态 ...
痛点:AI 短剧的工作流是散的 做过 AI 短剧的人都懂:写剧本用一个工具,生图用 ComfyUI,角色设定存在网盘,提示词散落在聊天记录里。换一集,前面所有设定的"一致性"就全靠人肉 remember。人物一多,画风、服装、脸就开始漂移。 市面上有在线平台能做,但要么按量收费,要么数据全在别人服务 ...
当工业大数据攒了几年,企业却发现:数据躺在数据库里,既喂不活黑盒模型,也撑不起生产和经营决策。问题不在数据量,而在工具,需要能从历史数据里直接提炼出可解释公式的方法。 ...
2026年10月19日,Inception发布Mercury 3,官方给出NVIDIA GPU上1,068 tok/s、100万token上下文、每百万token输入$0.20/输出$0.70(发布期五折)。其总参数量是Mercury 1的40倍以上,速度却基本未降。文章拆解块扩散与块级KV缓存等机... ...
一文搞懂 Git Worktree:多个 AI Agent 同时改代码,如何避免互相打架? 一、为什么 Agent Teams 还需要 Worktree? 上一篇文章介绍了 Agent Teams:通过组建多个 Agent,让它们分工协作、并行执行任务,并通过消息机制互相沟通。 但这里有一个问题:多 ...
看着 GPT 一口气写出一大段话,很容易以为它先在脑中拟好了完整答案。实际上,它通常是在已有上下文上预测下一个 Token,选出来以后追加到上下文,再继续预测下一个。 上下文 -> 预测下一个 Token -> 追加 Token -> 新上下文 -> 再预测 预训练把大量文本转成 token 序列, ...
一个系统集成项目做到收尾,技术活儿基本都验完了,卡住的往往是材料。甲方要的交付物清单摊开有几十项:设备清单、拓扑图、配置基线、测试报告、培训记录、操作手册、验收单……每一项都要有版本、有签字、有对应的实物或截图。 客观来说,验收延期很少是因为系统跑不起来,而是因为"东西交了,但证据不全"。这篇文章聊 ...
把大模型智能体直接接到生产Iceberg湖仓上,最先暴露的问题往往不是回答不准,而是账单和权限。一张50TB以上的表,模型若生成未分区或多路交叉连接的SQL,几秒内就能触发数百美元的扫描费用。更隐蔽的是,Iceberg把逻辑表结构与物理分区规格分开管理,静态提示词里的模式信息很快过时,模型会编造不存... ...
一文搞懂 Agent Teams:如何让多个 AI 组队协作完成任务? 一、为什么需要 Agent Teams? 上一篇文章我们介绍了 SubAgent(子智能体)。 它的核心思路很简单:主 Agent 将任务交给子 Agent,子 Agent 在独立的上下文中完成工作,再把核心的结果返回给主 Ag ...
合规下通用AI Agent 产品架构假设你正在开发企业知识库、AI 编程助手、智能客服或 AI Agent 产品,架构如下重点实现四项能力:模型解耦: 业务代码不直接绑定某一家模型供应商的专有接口。能力路由: 根据任务、成本、延迟和数据敏感等级选择模型。降级切换: 当模型不可用或不再满足客户要求时, ...
从系统视角区分权重编码、计算类型、激活、KV cache 和文件容器,说明为什么一个 Q4 标签无法决定速度与质量。 ...
InBrief 是一个 AI 资讯聚合工具,作者用它把每天查看 AI 动态压缩到十分钟。它追踪 370+ 信源,覆盖 RSS、Hacker News、Reddit、X、YouTube 字幕、GitHub Trending 和 Hugging Face 论文榜,每 2 小时更新一次,并用 SimHas... ...