国家大学生就业服务平台提醒您:请仔细甄别招聘信息真伪,警惕各类求职诈骗与违规招聘。针对扣押证件、收取财物、诱导购物(转账)、集资入股、安排异地入职或异地培训、违规滥用简历、诱导点击陌生链接、下载陌生软件APP等行为提高防范。请勿随意泄露银行卡、验证码等重要个人敏感信息。投递简历前请核实企业资质与岗位真实性,遇到相关情形,请立即举报,并保留证据,维护自己的合法权益。
  • (27届 ASP)LLM-大模型预训练算法工程师
  • [全职]
  • ——
  • Shopee AI Star Program 顶尖技术人才招募正式启动!
  • 收藏
  • 取消
  • 举报
  • 分享给朋友
    分享
  • 0k-99k
  • |
  • 硕士及以上
  • |
  • 招聘 3人
  • 10-19 12:00 更新
计算机科学与技术,数据计算及应用,信息管理与信息系统,数据科学与大数据技术(工学),计算机软件与理论,计算机系统结构,计算机应用技术,大数据科学与工程,信息安全,软件工程
来源: 中国人民大学
tjrlgdblel3ujwaefn45toqx23zgaenc
  • 上海市市辖区

职位详情

岗位职责 模型结构设计与优化: 深入研究并优化大语言模型的基础架构(如 Transformer 及其变体,MoE 等),探索高效的 Attention 机制、位置编码及新型网络结构,突破模型长上下文(Long-context)和推理效率的瓶颈。 预训练策略与 Scaling 研究: 负责超大规模参数模型的预训练工作,研究 Scaling Laws 并指导算力与数据规模的最优分配;探索并落地前沿的训练策略(如 Curriculum Learning、优化器改进、学习率调度等),持续提升模型基础能力。 预训练数据策略: 深入分析海量多模态/多语言预训练数据分布特征,设计科学的数据混合(Data Mix)与采样算法;探索数据质量与模型能力之间的关联,针对性提升模型在逻辑推理、代码编写、数学计算等核心领域的表现。 分布式训练与稳定性保障: 基于大规模算力集群(千卡/万卡级别),联合系统工程团队优化分布式训练框架(如 DeepSpeed、Megatron-LM),解决训练过程中的 Loss Spike(梯度爆炸/不收敛)问题,保障大规模训练的高效性与极高稳定性。

深圳虾皮信息科技有限公司

-

  • 涉及领域 --
  • 公司规模 --
  • 公司网址 --
  • 所在地址

看了该职位的人还会看 更多

    投诉
    举报

    意见
    反馈

    false
    false
    false
    false