岗位职责:
负责京东零售九数算法平台模型推理(LLM/SD/CV/NLP/CTR)的工程化建设和性能优化,包括面向多场景的在线推理引擎、LLM大语言模型推理、
模型编译优化以及CPU/GPU/NPU高性能计算等,支撑京东内部多样化的算法场景和业务需求。
在这里,你将会面对一系列机器学习相关的工程化挑战,接触到各种新兴算法在工业届落地的技术难题。
岗位要求:
1.计算机、数学、电子工程、通信等相关专业,本科及以上学历;
2.熟悉Linux下的C++编程,对数据结构和算法设计有较为深刻的理解;
3.2年及以上工作经验,具备优秀的编码能力及系统设计能力;
4.学习能力强,有强烈的求知欲和自我驱动能力,良好的沟通能力和团队协作能力;
5.有以下任一经验者优先:
(1)熟悉Nvidia Triton、TF-Serving等开源推理方案优先;
(2)有算子开发、图优化等模型加速经验优先
(3)熟悉 cuda/cudnn/cutlass/onednn/国产昇腾Ascend C,有并行计算、异构计算经验优先
(4)熟悉Tensorflow/Pytorch等深度学习框架,有机器学习平台开发经验者优先;
(5)熟悉TensorRT/MLIR/TVM/OpenAI Triton等,有相关编译器开发经验者优先;