TAG标签
超级权重 大模型承重墙 去掉了就开始摆烂!苹果给出了

超级权重 大模型承重墙 去掉了就开始摆烂!苹果给出了

机器之心报道,蛋酱、佳琪大模型的参数量越来越大,越来越聪明,但它们也越来越奇怪了,两年前,有研究者发现了一些古怪之处,在大模型中,有一小部分特别重要的特征,称之为,超权重,,它们虽然数量不多,但对模型...

吸收新数据更高效 EMNLP24 免训练大模型知识

吸收新数据更高效 EMNLP24 免训练大模型知识

让大模型能快速、准确、高效地吸收新知识!被EMNLP2024收录的一项新研究,提出了一种检索增强的连续提示学习新方法,可以提高知识终身学习的和推理效率,模型旨在纠正大语言模型中过时或错误的知识,同时不...

1页 3