崗位方向：

1、軟硬件結(jié)合的推理性能優(yōu)化（推理引擎+融合算子+國(guó)產(chǎn)GPU）

2、大模型訓(xùn)推并行計(jì)算優(yōu)化（EP、PP、TP、DP等）

職位描述：

1）負(fù)責(zé)大模型訓(xùn)練和推理過(guò)程的性能優(yōu)化，通過(guò)量化、蒸餾、剪枝、軟硬件（TPU、GPU）、并行計(jì)算設(shè)計(jì)等方式提升性能，節(jié)省成本。

2）設(shè)計(jì)和開(kāi)發(fā)深度學(xué)習(xí)模型，專注于卷積神經(jīng)網(wǎng)絡(luò)（CNN）、循環(huán)神經(jīng)網(wǎng)絡(luò)（RNN）、Transformer等架構(gòu)，使用TensorFlow、PyTorch等框架進(jìn)行大語(yǔ)言模型和多模態(tài)模型開(kāi)發(fā)、訓(xùn)練和調(diào)優(yōu)，提升訓(xùn)練和推理效率。

3）結(jié)合深度學(xué)習(xí)技術(shù)及大語(yǔ)言模型、多模態(tài)技術(shù)，設(shè)計(jì)和優(yōu)化AI應(yīng)用效果和效率。

崗位要求：

1）碩士及以上學(xué)歷，計(jì)算機(jī)科學(xué)、人工智能相關(guān)專業(yè)。

2）熟悉主流ML框架（TensorFlow、Keras、PyTorch、scikit-learn等），深入理解深度學(xué)習(xí)原理，精通深度學(xué)習(xí)框架（TensorFlow、PyTorch），有一定的NLP、CV或強(qiáng)化學(xué)習(xí)領(lǐng)域的實(shí)踐經(jīng)驗(yàn)。熟悉分布式訓(xùn)練技術(shù)，如DeepSpeed、Megatron、TensorFlowDistributed、PyTorchDistributed。精通AI推理引擎（vLLM、LM-Deploy、TensorRT-LLM、TensorFlowServing、TorchServe、ONNXRuntime等）。

3）熟悉模型優(yōu)化技巧，能夠在多種硬件平臺(tái)（CPU、GPU、TPU等）上調(diào)優(yōu)模型。熟悉生成模型（如GPT、LLaMA、Qwen）和強(qiáng)化學(xué)習(xí)，有實(shí)際的生成模型微調(diào)經(jīng)驗(yàn)，對(duì)多模態(tài)模型在訓(xùn)練和推理過(guò)程中的資源優(yōu)化有深入理解，確保多模態(tài)模型在業(yè)務(wù)場(chǎng)景中的高效應(yīng)用。

4）熟悉常用的多模態(tài)模型（如CLIP、Blip等）的原理和應(yīng)用，能夠在文本、圖像、音頻等多種數(shù)據(jù)源之間進(jìn)行融合和生成。具備多模態(tài)數(shù)據(jù)的處理和特征提取能力，能夠根據(jù)業(yè)務(wù)需求進(jìn)行數(shù)據(jù)預(yù)處理、嵌入和模型微調(diào)。熟悉向量檢索技術(shù)，能夠支持跨模態(tài)的內(nèi)容檢索和匹配，為多模態(tài)AI應(yīng)用提供技術(shù)支持。

加分項(xiàng)：

1）熟悉推理加速技術(shù)（vLLM、TensorRT、OpenVINO、CUDA）。

2）熟悉Docker、Kubernetes等容器技術(shù)者優(yōu)先。