TAG标签
超级权重 大模型承重墙 去掉了就开始摆烂!苹果给出了

超级权重 大模型承重墙 去掉了就开始摆烂!苹果给出了

机器之心报道,蛋酱、佳琪大模型的参数量越来越大,越来越聪明,但它们也越来越奇怪了,两年前,有研究者发现了一些古怪之处,在大模型中,有一小部分特别重要的特征,称之为,超权重,,它们虽然数量不多,但对模型...

智子引擎开源多模态MoE大模型 可高效扩展模型容量

智子引擎开源多模态MoE大模型 可高效扩展模型容量

随着多模态大模型的快速发展,当前主流多模态大模型具备完成多种任务的能力,图文描述、视觉问答、文字识别、图标理解、目标检测等,但是,这些不同的多模态任务往往具有完全不同的数据分布,导致在模型训练过程中遇...

Law的大模型路线已遇瓶颈 依赖Scaling 传神语联何恩培

Law的大模型路线已遇瓶颈 依赖Scaling 传神语联何恩培

11月19日消息,近日,传神语联推出,任度数推分离大模型,,模型采用双网络架构实现数推分离,把推理网络与数据学习网络分开,据介绍,可将其理解为两个协同联动的大脑,一个是客户数据学习网络大脑,专注于数据...

国产大模型独角兽 困在光环里

国产大模型独角兽 困在光环里

智东西ZeR0漠影11月16日,月之暗面举办了一场临时组织的媒体沟通会,说是特意选在Kimi开放一周年纪念日,结果意料之外,啪,发了款数学模型,还跟OpenAIo1系列、GPT,4o、Anthropi...

困在光环里 国产大模型独角兽

困在光环里 国产大模型独角兽

智东西ZeR0漠影11月16日,月之暗面举办了一场临时组织的媒体沟通会,说是特意选在Kimi开放一周年纪念日,结果意料之外,啪,发了款数学模型,还跟OpenAIo1系列、GPT,4o、Anthropi...

具身智能GPT

具身智能GPT

,蛋酱近日,关于OpenAI被投企业PhysicalIntelligence,PI,的一系列报道,让人们关注到具身智能大模型引发的机器人时代变革,目光转回国内,我们同样在中国公司中发现了这场变革浪潮的...