近几年, 大模型行业竞争基本围绕参数规模, 围绕推理能力, 围绕榜单排名展开, 谁家模型更具智慧, 谁家就能吸引更多开发者, 吸引更多企业客户；然而随着AI Agent进入实际生产环境, 越来越多公司发觉: 模型即便强大至极, 倘若成本无法加以控制, 最终也极难成为一门具备可持续性的生意。
近期, 有这么一家名为Lindy的创业公司, 它是从事AI Agent领域的, 就在公开场合进行了展示, 展示的内容是这样一种变化:
宣布者为其创始人兼CEO Flo Crivello, 公司已将生产环境中的全部模型流量从Anthropic切换至DeepSeek V4, 据其说法, 这一决定不仅为公司节省了达数百万美元的推理成本, 且在部分核心业务场景里, 模型表现甚至于出现了提升。
消息一出，很快在 AI 圈引发热议。
一个被推理成本逼出来的决定
大致说一下, Lindy是个平台, 它专门聚焦于AI Agent, 用户不用去编写代码, 能生成出属于自己的AI助手, 这个助手能够去独立自主地完成像邮件处理、会议安排、CRM录入、客户跟进以及数据整理等各类办公任务。
Flo Crivello作为其创始人, 并非首次投身创业领域。于创办Lindy之前, 他在Uber供职, 担当工程师以及产品负责人这两个角色。而后, 他创立了远程办公平台Teamflow。该平台曾幸运地成功融资5200万美元。在2023年, 生成式AI浪潮蓬勃兴起之际, 他毅然决然地把业务方向调整为AI Agent, 进而推出了Lindy。
同诸多AI应用情形一样, Lindy的关键成本并非是服务器, 并非是办公场地, 亦并非是市场营销, 而是模型推理产生的费用。今年4月, Crivello于X上公然宣称, 推理成本已然成为公司最为庞大的支出项目, 甚至已然超越了员工薪资的总额。
对一家依靠AI持续运转的产品来讲来讲, 这个问题明显着实严峻。而实际上, 相同情形正在整个行业扩散:
没过多久呀, GitHub宣称改动Copilot订阅模式, 把一部分服务从不固定月费转变为按使用量计费。鉴于Agent式编程越发普遍, 用户一次触发的推理请求数量急剧增多, 原本的订阅价格已然没办法涵盖成本了。
在Uber内部, 也面临着类似的困扰, 因为大量用了Anthropic旗下Claude Code等AI工具, 公司原本给2026年规划好的AI预算, 仅仅四个月就快要用尽了, 甚至还引发了管理层对于投入产出比的重新议论。
为了这个事情, 近期, Linux基金会联合谷歌、微软、IBM、Salesforce等企业, 成立了Tokenomics基金会, 期望推动构建一个统一的AI Token成本标准。
DeepSeek 并不是 Lindy 的第一个选择
尽管面对着推理成本方面的难题, 然而不管怎样, Lindy最终做出选择选中DeepSeek, 可绝不是一时冲动之下的呢。
依据Crivello所述, 团队事实上针对此次切换模型筹备了许久: “我们始终在寻觅替代办法, 并且对各类开源模型予以评估, 大概历经了6至9个月。”。
在过去的一年当中, 开源模型的发展速率, 使得众多创业公司, 重新去思索自身的技术路线了。
要是把时间调回到2024年, 好多企业针对开源模型的评价依旧是“差距显著”, 可是到了2025年末以至于2026年, 情形已然产生极大改变, DeepSeek、Kimi、GLM等一众中国模型不断刷新性能记录开云手机入口app下载，然而推理成本却远比OpenAI和Anthropic等闭源模型低。
Crivello曾讲过, Lindy起初有那么一阵子想把月之暗面的Kimi当作默认模型, 往后又郑重地评估过智谱AI推出的GLM系列模型。而到了最终, 他们将眼光聚焦在了今年4月发布预览版的DeepSeek V4上。相较于此前备受瞩目的DeepSeek R1, V4进一步提高了通用能力以及Agent任务表现, 并且持续维持极具竞争力的价格优势。
今年6月初的时候, Lindy完成了内部测试, 这时一个结果出现了, 这个结果让团队颇为意外, 那就是: 成本更低, 而且在某些关键业务场景当中, DeepSeek的表现甚至超过了Anthropic。
比预想多出了“100 倍工作量”
然而, 从Anthropic迁移到DeepSeek, 可不是像修改几行API代码那般轻易, Crivello后来在X上感慨道, 整个过程最终比我们一开始预想的工作量足足多出了100倍。
不少人瞅见这儿, 兴许会纳闷, 既是全都是大模型接口, 缘何迁移会这般复杂呢?
企业生产环境之内的AI系统实则属于相当庞大且诸要素紧密关联耦合成一体的工程体系；模型背后与Prompt工程相连, 和自动化评测系统有所关联, 同用户反馈机制相互连接, 跟监控与观测平台搭上关系, 和路由调度逻辑存在联系, 乃至涵盖安全与合规流程那些内容；然而一旦更换模型之后, 这些环节常常都需要再一次去进行适配。
Crivello透露, 团队开展了相当多的线上评测, 团队开展了相当多的线下的评测, 与此同时, 团队还进行了那叫做“Vibe Eval”的评测, 这“Vibe Eval”, 是凭借真人主观去判断输出结果是不是契合预期, 进而验证DeepSeek是不是真的能够在真实生产环境里达成甚至超过Anthropic的表现。
我们开展了诸多评估工作, 之后渐渐加大数量开放上线, 留意对用户留存状况的所产生影响, 与此同时还要持续地进行调整 Prompt 用来适配新型模型。
顺带一提, 有一个重要方面需要留意的是, Lindy并未选取自行去开展DeepSeek的部署工作。他们所运用的乃是由美国的推理服务供应商Atlas Cloud所给予的DeepSeek V4服务。如此一来, 既得以保持成本方面所具备的优势所在, 又能够防止去承受建立自有推理基础设施而引发的带来额外复杂性。
因而就结果而言, Lindy实际投入的成本并非仅仅是模型迁移, 而是一场底层AI基础设施的升级。
所以，DeepSeek 赢在哪里？
按Crivello所透露的讯息, 当下, Lindy最为关键的业务里面, 有一项是邮件处理。
系统要去阅读用户收件箱里的内容, 要理解其中上下文的关系, 还得依照用户过往的表达习惯自动生成回复草稿。恰恰就在这些频率高的任务方面, DeepSeek给出了超出人们预期的表现, Crivello表示: “我们在一些核心用例上看到了让人惊讶的性能提升。”。
不过, 他同样着重指出, DeepSeek并非在各方面都占据领先地位。在复杂的基于工作流自动化的任务领域, Anthropic旗下的Claude Sonnet目前依旧展现出更为强劲的实力: 其描述宛如这般, “就工作流自动化这个层面而言, DeepSeek的表现逊于Sonnet。然而呢, 此种领域并非是我们最为关键的业务所涉及的场景。”。
因此, 即便Lindy已将生产流量一概转移至DeepSeek, 然而Anthropic并未全然脱离其技术栈:
首先, Lindy的内部员工当中, 仍有大量人员在使用Claude呢这个情况, 是因为Anthropic所提供的那份具备Max订阅计划的性价比它依旧是相当之高的。然后呢这个Crivello真诚坦白说道, “倘若是没有那份堪称具备Max订阅计划的情况，那么我们极有可能也是要把Claude给替换掉换成别的哩！”。
其次, 当面临复杂任务之际，Anthropic能够充任“保险丝”的角色。在这之前，存在有用户进行询问: 未来Lindy有没有可能再度回归到Anthropic?Crivello给出的回答是: “在系统检测到任务失败之际, 我们大概率依旧会升级调用Opus。”然而, 他与此同时强调: 这种情形仅仅占据极小的比例。
曾经Anthropic是过去Lindy的默认选择, 现在却成了备用模型, 不过Crivello补充说, 要是 Anthropic未来推出更强且大幅降价的新模型, 他会重新成为客户, 他还表示“要是Anthropic下一代模型有足够竞争力, 很可能我们会再次使用其产品”。
省下的钱开云app在线入口，究竟值不值得？
一直到现在这个时候, Crivello都还没有把具体节省下来的金额给公开出来, 仅仅只是说了一句“节省了数百万美元”。
不过, 对于一家AI创业公司而言, 这家公司的推理成本已经超过了工资支出, 即便只是节省30%-50%的模型费用, 这也会是一笔可观的资金了。
要是把Lindy的决定置于一个行业背景当中去进行观察, 就会发觉它实际上代表着一种愈发明显的趋势, 是这样的: 在过去的几年时间里, 大模型市场基本上是被OpenAI以及Anthropic主导着的, 企业在选择模型的时候会更加注重能力的上限；然而随着模型之间的差距持续不断地缩小, 成本开始变成新的决策因素了。
数据显示, 这些数据来自Vercel AI Gateway, 在2026年5月呈现出这样的情况。仅一个月时间内, DeepSeek在平台中的占比出现了变化。在平台Token调用量所占比重方面, 从不足1%疾速飙升至17%。然而, 其对应的收入占比却仅有约1%。原因是什么呢? 原因很简单: DeepSeek太便宜了。
于是世界杯直播，一种新的市场结构开始形成：
一者可谓OpenAI、Anthropic等闲之于此类, 于旗舰模型范畴以内, 赋予具最强性能、达最高价格, 这般状呈显现而出。
DeepSeek、GLM、Kimi等开放权重模型, 在另一边, 其性能正越来越趋于接近, 然而价格却要低出许多。
对于Lindy这类每日消耗数量巨大的Token的公司而言, 问题最终变得极为实际: 要是能够用更低的成本取得80%至90%的成效, 那么为剩余的那一部分能力支付好多倍的价钱还算不算得上合理呢?
对此，Crivello 给出的答案非常直接：
对于公司而言, 像我们这般消耗大量Token, 100%得必须得这么去做, 不然的话就是不尽责担当。
在他的认知当中, 好多企业之所以尚未展开行动, 仅仅是由于它们更为惯于去信赖那些具有知名度的品牌。然而在未来的几年时间里, 也许企业会越发不在意模型源自何处, 而是更加在意最终所呈现的效果以及成本支出。
参考链接：
https://runtimewire.com/article/lindy-deepseek-v4-anthropic-production-switch
https://thenewstack.io/lindy-deepseek-anthropic-switch/
标签： AIAgent 模型成本 DeepSeek 推理费用 创业公司
还木有评论哦，快来抢沙发吧~