AIO —— 开发与使用分离的 AI 工程化平台实践
主要负责腾讯音乐榜、腾讯音乐发行平台、腾讯音乐人平台等业务的架构设计及日常研发管理工作。从业15年互联网后端架构经验的资深架构师,兼具顶层系统架构设计与前沿智能Agent工程化落地的专长:
●系统架构:长期深耕高复杂、高并发业务场景,在架构先进性与工程可行性之间寻求最优平衡。曾主导10W+QPS、千万级DAU系统的架构设计与落地实施。面对极端业务复杂度,擅长系统化解耦。在高并发与高可用保障上,形成完整实践体系,系统可用性提升至99.99%。
●智能 Agent:近2年专注 AI 落地,自研ReAct Agent的Java运行时框架,针对性解决生产化核心痛点:实现人机协同机制、AgentState持久化及中断无感恢复、上下文分层压缩,有效支撑多轮长程任务。同时建立起端到端Agent评测体系,确保复杂业务中的可控性与可信度。
始终秉持“架构随业务生长”的理念,既保持对前沿技术的敏锐度,更注重经得起真实流量考验的稳健交付。近年来主导的智能化系统已在集团内部广泛落地,持续推动AI从技术探索向规模化价值创造转化。
议题背景:
一个 AI Agent 平台,往往要同时服务三类角色:开发者需要按需开发和持续调优能力,运营需要日常提效的工具,终端用户需要的是拿来即用的服务。这三类诉求如果混在同一条链路里满足,链路会越来越重,性能也会跟着劣化。
这场分享会介绍我们自建的 AIO 平台如何用 A/B/C 三面架构,把三类角色的诉求分开满足:A 面给开发者按需开发调优,B/C 面给运营和终端用户即开即用、无感知底层实现。
具体会拆解三个核心工程模块——Skill 开发/安装(5 分钟脚手架、30 秒安装、异常隔离)、灰度发布(稳定哈希、自动回滚)、Context Engineering(Token 消耗降低 62%、信噪比提升 123%)——并串讲用户画像、内容匹配、数据处理三个业务引擎如何协同工作。
内容大纲:
1. 为什么要分离
1.1 一个 Agent 平台天然要满足开发者 / 运营 / 用户三类诉求
1.2 诉求挤在一起会带来的产品代价与工程代价
1.3 核心理念:A / B / C 三面架构,及其客户端落地形态
2. 整体架构总览
2.1 AIO 整体架构图:客户端层 → 服务层 → 业务底座 → Agent 底座
2.2 三层职责速览
3. 三个重点工程模块
3.1 Skill 开发/安装:skill-creator 元能力自举、四源统一安装管线、异常隔离机制
3.2 灰度发布:租户/百分比/白名单/版本四维策略、稳定哈希算法、自动回滚机制
3.3 Context Engineering:Token 精简与信噪比提升、渐进式披露、噪音过滤与语义缓存
4. 业务底座实战
4.1 以"一次内容发布请求"为例,串讲用户画像引擎、内容匹配引擎、数据处理引擎如何接力协同
5. 工程配套速览
5.1 远程调试、Skills 热加载、Resource 文件资源管理、多端接入与租户隔离
6. 总结与展望
6.1 跨模块设计哲学:元数据驱动、异常隔离贯穿、灰度思维复用、渐进式披露范式
6.2 落地收益数据总结
6.3 未来规划与 Q&A
听众收益:
1. 一套经过验证的"开发与使用分离"平台架构思路(A/B/C 三面模型)
2. Skill 插件化系统的完整工程实现(开发脚手架 + 安全安装 + 热加载)
3. 灰度发布与自动回滚的具体工程方案(可直接复用的哈希算法与规则 Schema)
4. Context Engineering 的实战优化手段与量化收益(Token ↓62%)
5. 多引擎协同的业务架构案例(用户画像 × 内容匹配 × 数据处理)