AI工程化:实践与优化之路
王显君
现任无界AI服务端架构师,负责无界AI的架构设计、工程落地、技术优化等。 主导了无界AI项目从0到1的开发,并在后续不断地迭代优化,使无界AI在稳定性、通用性、高可用性等方面成为AI绘画行业领先项目。 深耕服务端多年,负责过大型支付系统、行情系统等的架构和研发工作,在服务端大数据、高可用、高并发领域经验丰富。
无界AI 服务端架构师

AI工程化:实践与优化之路

议题介绍

目前AIGC大模型和多模态引领的AI浪潮空前浩大,除了AIGC本身的发展,将AI的成果快速工程化并高效应用到产品中也是非常关键的,算力和资源的管理也很重要。如何设计稳定、高效、高可用的AI工程化架构,以及更合理、更高效地管理好算力和资源将是本次的主题。


内容大纲 

1. 工程化基础架构
    1.1 基础架构和框架概述
    1.2 详解统一调度和回调平台设计
    1.3 队列和预估时间的实现
    1.4 任务及资源的监控保障
2. 算力和资源管理
    2.1 算力的动态分配和伸缩
    2.2 模型的动态加载和切换
    2.3 AI相关资源在GPU上的同步
3. 未来展望
    3.1 更高效的算力资源利用
    3.2 更灵活的任务调度
    3.3 更精确的时间预估 

SECon组委会是由业界多位资深技术专家发起,负责组织技术指导委员会,并和委员会的专家一起挖掘全球软件工程领域的创新技术,同时依托智盟创课国内领先的人才能力提升服务供应商,组织专业的会务服务团队,全面推进会议的顺利落地,保证参会者体验。
商务合作:木子  15122643988
票务联系:丽媛  18600050529
E-mail:speaker@secon.com.cn 
关注SECon公众号
添加SECon小助手,获取
会议最新资讯