职位描述
负责大模型安全风控算法&大模型原生安全对齐,端对端保证安全性。
开发高效的舆情收集和自动化红蓝对抗系统,快速迭代系统安全能力。
构建领先业界的系统级别的安全Reward Model。
阅读和理解最新相关大模型研究论文,跟踪业界最新训练,调优,安全性以及效果的最新进展
职位要求
对数据结构和算法设计有较为深刻的理解、具有较好自然语言处理或机器学习基础。
在NLP领域至少2年以上经验研究生或一年以上经验的博士,包括文本生成,理解,对话,搜索算法等方向
熟悉NLP,典型深度学习算法,熟练掌握深度学习开发框架,例如tensorflow/Pytorch等
熟悉linux的开发环境,熟练使用C++ 、python语言,具备分析问题和解决问题的能力
具备NLP大模型SFT和强化学习对齐相关经验优先,熟悉SFT&RLHF技术,有实战经验优先
具备文本安全审核,或者多模态安全审核算法的工作经验