崗位職責:
1、負責AI推理框架開發,充分挖掘后端硬件的算力,構建AI框架
2、適配各業務算法模型,落地到服務器及端側設備上
3、將AI技術有效結合并應用到業務場景,實現低成本、高效率,提高核心競爭力
崗位要求:
1、具備扎實的Python編程基礎,熟悉Pandas、NumPy、pytorch、Matplotlib、TensorFlow等科學計算庫和python常見模塊,能夠獨立部署端到端的python項目,熟悉緩存中間件(Redis等) ,了解AI生態的RAG框架
2、熟悉業界開源框架設計實現,包含TFLite、MNN、MindSpore Lite、TVM等,具有框架開發經驗更佳
3、熟悉自然語言模型結構,具備模型部署的調試調優能力,了解各種量化、剪枝、稀疏壓縮等模型小型化技術,以及算子融合、圖優化、訪存優化等優化技術
4、熟悉CPU、GPU等通用硬件架構,以及相應指令集和算子庫,了解一款主流NPU硬件架構和工具鏈,比如HTP、APU等
5、熟悉微服務及運維相關技術,如aws、sagemaker或其他CI/CD工具、Docker、K8s生態,對網絡架構有一定了解
6、具有較強的學習和解決問題的能力,擁有良好的團隊合作和溝通能力