快讯
蚂蚁、人大在2025外滩大会发布行业首个原生MoE扩散语言模型
2025-09-14 20:06  来源:星元科技

在2025Inclusion·外滩大会上,蚂蚁集团与中国人民大学联合发布业界首个原生MoE架构的扩散语言模型“LLaDA-MoE”,中国人民大学高瓴人工智能学院副教授李崇轩,蚂蚁集团通用人工智能研究中心主任、西湖大学特聘研究员、西湖心辰创始人蓝振忠参与了发布仪式。

据介绍,这款新模型通过非自回归的掩码扩散机制,首次通过原生训练的MoE在大规模语言模型中实现了与Qwen2.5相当的语言智能,挑战了“语言模型必须自回归”的主流认知。

您可能感兴趣的...
  • 年收入12万以下基本无需缴税
  • 2025-07-28分享热度:91...
  • 国家税务总局副局长蔡自力介绍,从2021-2024年度个税申报数据看,年收入居前10%的群体,缴纳的个税占比...
王自如:在格力工资是以前几分之一
  • 美国取消中国小额包裹豁免
  • 2025-02-05分享热度:440...
  • 美国海关和边境保护局发布通知,自中国进口、价值低于800美元的商品的“小额豁免”被取消。
外交部回应X不被允许在中国运营
  • 支付宝回应京东接入
  • 2024-10-30分享热度:229...
  • #支付宝回应京东接入#京东商城目前已开通支付宝支付,一些用户已经顺利完成了支付。
发表评论
0评