职位描述
岗位职责:1、参与国产芯片接入深度学习训练与推理框架的开发工作2、运用编译、融合算子等多种技术手段,加速国产芯片上的大模型推理3、其他相关前沿技术的调研与运用岗位要求:1、具有良好的编程习惯,熟练使用Python/C++ 语言,有较强的debug能力;2、熟悉大模型推理算法,熟悉一种或者多种推理框架(vllm, lmdeploy, sglang, lightllm等)3、对深度学习框架有较深理解与实践(包含不限于深度学习框架:Pytorch,TF,JAX)4、较强的自驱动力,对先进技术有浓厚兴趣;5、有较强的团队精神和沟通交流能力;加分项1、熟悉英伟达或者国产硬件的编程模式2、对深度学习编译器有较深理解以及拥有实际场景中的应用经验(torch.compile, triton,XLA,MLIR,TVM,Mojo等等)
企业介绍
上海人工智能实验室作为新型研发机构,于2020年7月在世界人工智能大会正式揭牌。实验室面向上海科创中心建设需求,开展战略性、原创性、前瞻性的科学研究与技术攻关,突破人工智能的重要基础理论和关键核心技术,支撑我国人工智能产业实现跨越式发展,目标建成国际一流的人工智能实验室,成为享誉全球的人工智能原创理论和技术的策源地。牵头科学家为汤晓鸥、姚期智、陈杰等人工智能领域世界知名学者。