专题出品人:成宇
Protagolabs Inc. 的合伙人和Chief Research Officer,曾任微软雷德蒙德研究院的首席研究员
目前是Protagolabs Inc. 的合伙人和Chief Research Officer。他曾经在2018年到2023年担任微软雷德蒙德研究院的首席研究员。在加入微软之前,他是IBM Research & MIT-IBM Watson AI Lab 的研究员。他的研究涵盖深度学习,特别关注模型压缩和效率、深度生成模型等。在微软期间,他曾经和OpenAI团队合作推动大语言/生成模型在微软产品中的落地,例如Github Copilot,DALL-E-2和GPT-4等。成宇博士担任(或曾经担任)各大AI顶会如CVPR、NeurIPS、AAAI、IJCAI、ACMMM、WACV 和 ECCV 的高级领域主席和领域主席。
专题:人工智能算法与应用
近几年来,随着大语言模型技术的不断演进,相关的产品正在深入地影响着科研,产业以及普通人的生活。最近出现的类似于ChatGPT和GPT-4这样的爆款产品更是在互联网上兴起了巨大的浪潮。作为一直在背后支撑大语言模型相关产品的技术团队,我们对相关产品的技术框架,用户需求和落地解决方案等有深入的了解。在本次分享中,我们将会从模型的效率,鲁棒性,和用户对接和隐私保护等方面分析大语言模型在实际应用中的挑战,并提供我们之前常用的一些技术方案和框架;同时我们也会借助GPT相关的产品作为案例来讲解相关大模型的一些技术精要;最后,我们会对该领域的前景和挑战作出预测并且提出相应的解决方案。
成宇
Protagolabs Inc. 的合伙人和Chief Research Officer,曾任微软雷德蒙德研究院的首席研究员
从ChatGPT分析大语言模型落地的技术挑战
目前是Protagolabs Inc. 的合伙人和Chief Research Officer。他曾经在2018年到2023年担任微软雷德蒙德研究院的首席研究员。在加入微软之前,他是IBM Research & MIT-IBM Watson AI Lab 的研究员。他的研究涵盖深度学习,特别关注模型压缩和效率、深度生成模型等。在微软期间,他曾经和OpenAI团队合作推动大语言/生成模型在微软产品中的落地,例如Github Copilot,DALL-E-2和GPT-4等。成宇博士担任(或曾经担任)各大AI顶会如CVPR、NeurIPS、AAAI、IJCAI、ACMMM、WACV 和 ECCV 的高级领域主席和领域主席。
随着人工智能技术的快速发展,eBay内部越来越多的业务应用机器学习来最大化其商业价值。机器学习的核心是训练出有效的模型并应用到业务场景中进行预测,这就需要一个能处理不同场景需求的高可用,可扩展的推理平台。本议题通过介绍eBay 机器学习平台在推理上的演化之路,来阐述eBay在推理上的架构思考, 包括模型生命周期管理,统一模型推理服务架构,模型优化,模型反馈回路以及模型特征监控等。
吴忠远
eBay 机器学习推理平台技术负责人
eBay 机器学习推理平台架构实践
1. 机器学习生命周期和模型推理
    1.1 机器学习生命周期
    1.2 模型推理平台及核心功能
2. 模型推理在eBay 的架构演化
    2.1 CPU 推理架构
    2.2 GPU 推理架构
3. eBay 统一机器学习推理平台
    3.1 统一推理平台架构
    3.2 模型生命周期管理
    3.3 模型部署和推理
    3.4 模型feedback loop
    3.5 模型特征监控和分析
4. 模型优化实践
    3.1 服务优化
    3.2 GPU 利用率优化
5. 未来展望
 
2011 年硕士毕业于西安交通大学计算机系,先后就职于摩根士丹利、蚂蚁金服、Intel 和 eBay,从事业务系统、框架和平台研发工作。在 AI 领域有近七年的研发经历。先后从事过开源深度学习框架项目研发,基于编译优化的 AI 训练及推理加速项目,以及机器学习平台项目。在eBay 先后参与了模型训练平台的研发,新一代特征工程管理平台的架构研发以及统一模型推理平台的架构。目前负责eBay机器学习推理平台的技术工作。
内容大纲
本次分享将深入探讨如何应用机器学习算法和运筹优化等技术,实现换电站的错峰充电管理和大规模电网互动的智能化决策。 我们将展示如何利用DCN等深度学习算法更好地预测用户需求,并利用随机规划等优化算法在不确定条件下制定智能充电策略,通过控制电池的充电过程,来降低成本、提高效率,并保证用户的正常换电体验。 同时,我们还将展示如何通过云端实时算法调度,让换电站参与电网的削峰填谷活动,从而获取额外收益并保证电网稳定。
章光辉
蔚来 主任算法工程师
蔚来在智能充电和电网协同的人工智能算法实践
1. 蔚来电网互动业务场景
2. 错峰充电:多目标优化策略的实现 
3. 电网互动:大规模换电站的实时调度 
4. 未来展望
1. 了解电网互动业务场景,以及电动车企作为用电侧参与电网调节的机遇和挑战。
2. 了解不确定性优化决策在工业界落地案例。  
长期从事充换电设施的仿真和优化算法工作,有着丰富的工业界算法落地经验,对于云边端协同与AI的深度融合有着深入理解。曾负责仿真决策平台、算法平台等基础设置建设,致力于通过算法赋能业务,实现降本、增效、创收。
内容大纲
听众收益
随着ChatGPT火爆全球,人工智能领域再次迎来了爆发。作为一家智能出行公司,哈啰所有业务中都蕴含着人工智能的应用,从智能调度、智能司乘匹配到智能营销。AI平台是构建AI应用的关键,但开发和运维模型需要耗费大量的时间和精力。为了提高算法开发和优化的效率,我们极力探索了AutoML技术。虽然AutoML技术的探索和应用具有一定的难度,但哈啰在场景化的实践中积累了一些经验和成果。在此,我们愿意分享我们的探索和实践,与业界一起推动人工智能技术的发展。


任天兵
哈啰 高级后端开发专家
AI平台AutoML在哈啰的探索与实践
1. 哈啰智能业务场景
2. 哈啰一站式AI平台架构介绍
3. 自动化训练(EasyML)在哈啰的实践
4. 未来展望和计划
 

10余年搜索与推荐工程研发经验,算法平台域架构师,哈啰人工智能&地图平台算法工程引擎团队技术负责人,持续关注并实践技术架构的更新迭代,在搜索和推荐领域有自己的心得和见解。曾就职于阿里淘宝搜索负责并重构手机淘宝搜索大型在线系统,后入职哈啰并基于ElasticSearch从0到1搭建了哈啰搜索平台,实现了秒级的数据更新,并赋能顺风车司乘匹配、地图在线服务等核心场景。目前致力于AI平台的工程架构演进,推进AI平台往自动化和实时化方向发展,赋能哈啰业务场景中的算法能力,通过技术驱动业务,带来业务效果的提升,并降低模型研发的门槛。
内容大纲
SECon组委会是由业界多位资深技术专家发起,负责组织技术指导委员会,并和委员会的专家一起挖掘全球软件工程领域的创新技术,同时依托智盟创课国内领先的人才能力提升服务供应商,组织专业的会务服务团队,全面推进会议的顺利落地,保证参会者体验。
商务合作:木子  15122643988
票务联系:丽媛  18600050529
E-mail:speaker@secon.com.cn 
关注SECon公众号
添加SECon小助手,获取
会议最新资讯