字节跳动校招·· 5 天前AI 评分56
字节跳动Data语音团队招聘大模型推理优化实习生
大模型推理优化实习生 - Data语音
AI 导读
字节跳动Data语音团队招聘大模型推理优化实习生,工作地点为北京、上海、杭州、深圳,属日常实习,为期3个月及以上。岗位负责构建大模型推理引擎,优化多模态语音理解/生成模型在GPU集群上的推理性能,涉及CUDA/Triton算子开发、vLLM/SGLang框架升级、分布式推理、量化/稀疏化等方向。
正文
日常实习:面向全体在校生,为符合岗位要求的同学提供为期3个月及以上的项目实践机会。
- 负责构建新一代大模型推理引擎,优化多模态语音理解/语音生成等多模态生成大模型在GPU集群上的推理性能,实现低延迟、高吞吐的工业级部署;
- 主导模型推理性能优化,涵盖CUDA/Triton算子开发、vLLM/SGLang框架升级、分布式推理策略优化、量化/稀疏化等模型效率加速优化等;
- 研发GPU推理加速技术栈,考虑最佳分布式通算结合方案,PCIe通信与高并发推理架构;
- 负责高性能方案前瞻性建设,构建基于C++/Python研发的高性能推理系统;
- 与上下游部门深度合作,分析性能瓶颈,通过软硬结合提升模型训推效率,优化和部署语音大模型,支持AI工具链和技术生态建设,推动字节跳动AI关键业务发展;
- 负责语音多模态场景下高性能推理系统的开发,支撑各业务场景下的性能优化需求并推动业务落地。职位要求1、硕士及以上学位在读,计算机、软件工程等相关专业优先;
- 精通Python,熟悉C++特性,具备高性能代码开发能力和相关经验;
- 至少具备以下一个领域经验:GPU编程(CUDA/Triton/AscendC/TileLang开发)、模型量化/稀疏化/蒸馏、基于vLLM的框架研发,并行计算的通算结合(多卡/多机推理优化);
- 符合以下条件者优先:大规模推理系统经验,vLLM/SGLang开发,Tilelang/Tritton开发,深入了解Transformer架构,有量化/稀疏化等相关技术落地或者论文发表等相关经验。投递相关职位语音大模型后端开发实习生-Seed 北京研发 - 基础架构校招职位 ID:A23458A 后端开发实习生-数据库北京研发 - 基础架构校招职位 ID:A90305音频多模态推理工程师-Seed大模型人才校招北京研发 - 基础架构校招职位 ID:A223212广告场景下的生成式搜广推大模型技术研究-Global Ads Infra(北京/上海)北京研发 - 基础架构校招职位 ID:A190724A 高性能计算研发实习生 - Data语音北京、上海、杭州研发 - 基础架构校招职位 ID:A218949联系我们 相关网站 候选人反馈平台官网使用体验反馈字节跳动社会招聘全球招聘字节跳动 Seed 团队校园招聘 --> --> 你的 AI 求职搭子来了政策流程不了解、岗位不知道怎么选,一个入口全搞定线上咨询政策、流程随时问,回答迅速又靠谱个性化荐岗上传简历、表达意向,秒懂并推荐你适合的岗位
来源:字节跳动校招 · jobs.bytedance.com