侧边栏壁纸
博主头像
ahamoment 博主等级

行动起来,活在当下

  • 累计撰写 3 篇文章
  • 累计创建 2 个标签
  • 累计收到 0 条评论

目 录CONTENT

文章目录

关于

之乎者也
2024-12-15 / 0 评论 / 10 阅读 / 0 字

whoami

Hello, I’m chenxueqiang。

软件工程师,现居广州。

从事过3年的DevOps平台开发工作,对云原生、k8s、支撑大规模业务上云有丰富的经验。

近2年从事AIGC工作,负责AI绘图平台、机器学习平台的落地,持续探索AI的能力边界。

欢迎交流学习~

联系方式

工作经历

2021-至今 机器学习平台和AI生图平台的开发和维护

  1. 对 webui、comfyui 进行二次开发,拆分webui的单体架构使之能分布式运行,支持300+ 卡A30和4090 GPU资源调度

  2. 工程架构优化:重构后端架构,采用长短队列分离、共享独占算力池、模型缓存等多种手段,满足100QPS 出图吞吐,模型缓存命中率≥80%

  3. GPU推理优化:集成onediff/blade等推理优化能力,建立benchmark评估不同推理框架、不同显卡在绘图场景下的性能

  4. API解决方案:作为平台输出SaaS能力,为游戏内嵌玩法、营销玩法提供API支持。开发自助接入平台,实现一键部署API到公有云的能力,单API交付成本从7.5人缩短至0.5人天

  5. AI Infra平台维护:掌握KubeFlow + KServe框架上的二次开发,实现基于混合云架构的算力池和云上缓存加速

  6. 外部资料:网易游戏机器学习云平台助力AI应用落地实践

2018-2021 DevOps平台的开发和维护

  1. todo

教育经历

广东工业大学

控制科学与控制工程,硕士

经历:todo

赣南师范大学

电气工程及其自动化,本科

经历:xx

评论区