新闻
曝字节训10亿参数大模型,或超Mythos 5,张一鸣、梁汝波先后发声
1 分钟阅读
来源:zhidx.com
智东西 作者 | 王涵 编辑 | 云鹏 智东西8月7日报道,今天,英国《金融时报》援引知情人士报道,字节跳动正在训练一个参数量 高达10万亿 的AI模型。而这一数字,在昨日晚间的晚点 LatePost独家报道中还是 “超5万亿” 。 即使是5万亿,这一模型的规模也已经 超过目前中国已发布的最大模型Kimi K3 ,接近Anthropic的Fable 5;如果是10万亿,那字节的新模型规模将 超越约有8万亿参数的Mythos 5 。 截至文章发表前,字节跳动未对此发表回应。 ▲英国《金融时报》报道 据外媒报道,其中一位知情人士透露,字节的这一模型还处于早期阶段,目前正在进行为期3到6个月的预训练,如果一切顺利,之后会进行微调并发布,具体的模型尺寸将在后期阶段才能确定。 另据晚点 LatePost报道,字节的新模型将由 Seed Foundation负责人项亮 主导,与 大语言模型预训练数据负责人沈科 合作。 字节这一“巨无霸”大模型的爆料,引起了不少外网网友的关注。 有网友化用了漫威电影《蜘蛛侠》中的经典台词“With great power comes great responsibility.(能力越大责任越大)”,说“能力越大,竞争越大。(AI)走到这一步并不让人意外,如果他们的模型能像Kimi K3那样持续进化,那就会逼着所有人都得加速追赶,否则只能出局。” ▲网友评论(来源:X) 还有网友认为:“10万亿参数(的模型)还没正式推出,就已经改写了推理的算账逻辑。” ▲网友评论(来源:X) 此前,字节跳动将飞书团队一分为二,产品团队并入豆包,销售线划归火山引擎。对这一拆分决