whoami
Hello, I’m chenxueqiang。
软件工程师,现居广州。
从事过3年的DevOps平台开发工作,对云原生、k8s、支撑大规模业务上云有丰富的经验。
近2年从事AIGC工作,负责AI绘图平台、机器学习平台的落地,持续探索AI的能力边界。
欢迎交流学习~
联系方式
Email: xueqiangch@gmail.com
工作经历
2021-至今 机器学习平台和AI生图平台的开发和维护
对 webui、comfyui 进行二次开发,拆分webui的单体架构使之能分布式运行,支持300+ 卡A30和4090 GPU资源调度
工程架构优化:重构后端架构,采用长短队列分离、共享独占算力池、模型缓存等多种手段,满足100QPS 出图吞吐,模型缓存命中率≥80%
GPU推理优化:集成onediff/blade等推理优化能力,建立benchmark评估不同推理框架、不同显卡在绘图场景下的性能
API解决方案:作为平台输出SaaS能力,为游戏内嵌玩法、营销玩法提供API支持。开发自助接入平台,实现一键部署API到公有云的能力,单API交付成本从7.5人缩短至0.5人天
AI Infra平台维护:掌握KubeFlow + KServe框架上的二次开发,实现基于混合云架构的算力池和云上缓存加速
2018-2021 DevOps平台的开发和维护
todo
教育经历
广东工业大学
控制科学与控制工程,硕士
经历:todo
赣南师范大学
电气工程及其自动化,本科
经历:xx
评论区