UP简历小U

+86 138-XXXX-XXXX|xiaou.resume@example.com|北京

个人总结

资深AI框架开发工程师，在高性能计算、分布式系统和AI编译器优化领域拥有5年以上经验。精通PyTorch、TensorFlow等主流深度学习框架的底层机制与优化，具备从零构建高效AI推理引擎及提升模型训练效率的实战能力。擅长C++、Python编程，熟悉CUDA、OpenMP等并行计算技术。致力于通过技术创新，驱动AI产品性能突破与商业价值实现。

工作经历

高级AI框架开发工程师

字节跳动

2022-08 - 2024-07

主导自研AI推理引擎的研发与优化，针对Transformer模型进行深度优化，使其在T4 GPU上推理速度提升30%，内存占用降低15%，支撑千万级用户流量的短视频推荐系统。
负责模型量化与剪枝工具链的开发，实现INT8量化精度损失控制在1%以内，部署后模型大小减小4倍，降低线上推理成本20%。
参与设计并实现分布式训练框架的关键模块，支持千亿参数模型的并行训练，集群训练效率提升25%，有效缩短模型迭代周期。
与算法团队紧密协作，提供AI模型部署与优化的技术支持，解决线上推理延迟和吞吐量瓶颈问题，累计优化了10+个核心业务模型。

AI框架开发工程师

百度

2020-07 - 2022-07

参与PaddlePaddle深度学习框架的算子库开发与优化，贡献了5+个高性能CUDA算子，显著提升CV模型训练速度10%。
负责模型编译优化器的研发，通过图优化、内存优化等技术，使模型首次加载时间缩短40%，推理延迟降低18%。
协助构建自动化测试与性能评测平台，确保框架迭代的稳定性和性能指标，累计发现并修复20+个性能瓶颈问题。
为内部AI产品团队提供技术咨询和支持，协助其在文心一言等产品中高效集成和部署AI模型。

项目经历

基于TVM的深度学习编译器优化项目

个人项目

2023-01 - 2023-06

项目背景：针对现有深度学习框架在多硬件平台部署时的性能瓶颈，研究并实现基于TVM的统一优化方案。
个人角色：独立负责项目设计、开发与测试。
项目内容：
- 设计并实现特定硬件加速器的TVM后端，支持自定义指令集映射。
- 开发图级优化算法，包括算子融合、内存重排等，优化模型计算图。
- 在ResNet-50模型上进行测试，相比原始框架，在Jetson Nano平台上推理速度提升2.5倍，功耗降低30%。
项目价值：验证了TVM在异构硬件上实现高性能AI推理的潜力，为边缘AI部署提供了有效解决方案。

高性能神经网络推理引擎（C++）

硕士毕业设计

2019-03 - 2020-06

项目背景：针对移动端和嵌入式设备AI推理性能受限问题，设计并实现一个轻量级、高效的神经网络推理引擎。
个人角色：项目负责人，独立完成核心架构设计与实现。
项目内容：
- 采用C++语言，结合SIMD指令集和多线程并行计算，优化卷积、全连接等核心算子。
- 实现内存池管理和计算图优化，减少内存分配开销和不必要的计算。
- 在MobileNetV2模型上，与主流开源框架相比，在ARM Cortex-A72处理器上推理速度提升1.8倍，内存占用减少20%。
项目价值：为资源受限设备上的AI应用提供了高性能推理能力，相关成果已应用于某智能穿戴设备原型机。