eBay生成式AI - 平台架构与AI能力输出实践
本科、硕士均毕业于上海交通大学,现为eBay机器学习平台技术专家,负责公司智能预估平台模型部署效率、在线性能、用户迭代体验等优化工作,同时也负责生成式AI能力在eBay业务场景落地的后端架构设计和研发,与业务团队合作快速推动了生成式AI在商品推荐、营销等场景落地。曾就职于百度,先后负责大商业模型工程、联盟检索端、知识图谱等工作,对高并发、大数据背景下的在离线架构设计和服务治理都有丰富经验。
在生成式AI高速发展的今天,eBay也在积极探索这股创新热潮,旨在为电商场景注入新的活力。无论是在个性化购物推荐、还是精准营销策略场景,eBay机器学习平台都积极与业务团队合作,共同打造从基础服务到业务服务的架构通路,提速生成式应用的落地上市时间(Time To Market)。
本次主题演讲,我们将从生成式AI 落地场景的产品需求出发,详细描述我们基于LLM RAG 技术思路提供的平台解决方案(AI Service) 和业务层面加速产品迭代的框架能力(Module Orchestration),以及新型模型场景(LLM/Stable Diffusion/Agent)下的平台架构支撑(模型存储、部署和推理服务及优化)。这些工作几乎支持了eBay所有生成式AI应用场景,为公司在电商体验探索中打下了坚实的基础。
听众收益
产品落地:了解eBay最新的生成式AI落地成果
平台架构:了解eBay机器学习平台在支持LLM/Stable Diffusion以及Agent应用方面的平台升级
业务架构:了解eBay机器学习平台在整合基础能力输出、对接业务所打造的在离线服务架构实践