大模型算法实习生工作内容

一、工作职责
1、参与构建领域大模型，包括数据建设、预训练、指令微调、偏好对齐等模型优化工作；
2、参与领域大模型的技术验证、模型训练、效果调优和性能测试
3、定期关注人工智能领域的*新研究动态，包括但不限于深度学习、自然语言处理、大模型等，持续跟进前沿技术的发展；
4、基于公司业务需求，尝试将开源模型整合应用到实际场景中；
5、配合完成相关项目文档编写，与团队成员紧密合作，共同解决在模型开发过程中遇到的技术问题。
二、任职资格
1、专业背景：计算机科学或相关领域NLP/对话方向的本科及以上学历，有大模型微调经验者优先；
2、扎实的代码编写能力，熟悉python、Pytorch/Tensorflow等框架；
3、熟悉transformer based主流模型，了解大模型训练、微调相关技术；
4、良好的论文阅读和新技术追踪能力，了解LLM*新学术和社区发展动态。

同学，你们好。很希望能加入我们云泥科技，让我来介绍一下，让你们更好的了解我们：
云泥科技专注于AI娱乐领域的发展和创新。目前，已获得腾讯创始人曾李青先生创立的德迅环球数百万美元的天使轮投资。
公司的创始团队来自清华、北大、斯坦福、伯克利等海内外知名高校，且先后都在腾讯、小红书、IDEA等知名企业任职。同时，拥有各类大厂和高校的资深技术专家与产品经理组成的顾问团队。团队年轻活力，沟通顺畅，氛围好。
产品阶段：准备推出AI互动小说创作工具。致力于给互动小说领域带来全新的变革，使得创作过程更加高效、有趣和个性化。
NLP/LLM实习生岗位职责：
1. 参与人工智能对话模型的研发与优化，如对话数据处理、模型架构设计、训练及调优等。
2. 收集和整理语料、数据，参与对话模型的评估和测试。
3. 基于对话基座模型进行进阶应用和功能的开发。
4. 基于公司目前业务场景进行NLP相关研发工作。
4. 参与前沿算法研究。
职位需求:
1. 自然语言处理、机器学习、深度学习及相关专业。
2. 较强的算法开发能力，熟悉C++、python、cuda等一种或多种编程语言。
3. 掌握传统NLP、深度学习NLP相关算法。
4. 熟练使用 Pytorch, transformers, lightning等深度学习框架。
5. 对深度学习、语言模型预训练有一定深度的理解和经验, 有语言模型预训练经验者优先。
6. 发表过高质量期刊如: ACL，EMNLP，COLING，NAACL作者优先。