跳到主内容
← 全部标签
Tag / 标签

Agent

6 篇文章 · 1 条分享

文章

我想给企业的大模型做一个调度员

2026-10-09

企业部署了好几个大模型,可算力总是有限的。我想做一套算力分配机制:先判断这次请求是什么、要多少能力,再结合业务规则、模型能力和实时负载,把有限的算力自动、合理地分给每一次请求,并且说清楚为什么这么分。

JEV-27B-VL:Agent 里那些其实不用认真思考的事情

2026-10-07

JEV-27B-VL 把快速概率判断和深度推理放进同一个模型。真正值得关注的不是又一个 27B 模型,而是 Agent 执行链路里可能被拆出来的那一层:Decision Layer。

算力有限时,企业 AI 该先追求质量还是覆盖面?聊聊模型路由这笔账

2026-10-07

企业 AI 推广初期,同样的算力可以让少数人用最好的模型,也可以让更多人先用起来。我倾向于后者:把模型路由当成算力预算管理,追求的不是单次质量最高,而是整体价值面积最大。

把 JEV / Laya 放到模型前面:模型路由也许应该先学会“判断”

2026-10-07

与其用大模型判断该调哪个大模型,不如让几十毫秒的决策模型坐在所有模型前面:结合任务特征、SLA 与实时算力状态,做企业 AI 的请求分流。

智能体平台还有一条很容易被忽略的链路:沙箱

2026-10-06

从 DeepSeek 公开的 DSec 沙箱基础设施出发,聊聊企业智能体平台里那条容易被忽略的链路——Sandbox:它的启动风暴、并发口径、隔离边界,以及我们现在该怎么测。

企业AI上线前到底应该测什么?我理解的AI测试体系

2026-08-05

AI测试最难的地方,不是多了多少新的测试技术,而是原来习惯的“功能对不对”已经不足以回答“这个系统能不能上线”。把测试拆成功能、模型质量、RAG、Agent、性能、安全、稳定性七个部分,串成一张能落到测试方案和准出判断上的地图。

知识分享