马斯克点赞Kimi新研究 Kimi幽默回应“你的火箭也不错”

【CNMO科技消息】近日，特斯拉CEO埃隆·马斯克公开对中国AI公司Kimi的最新研究成果表示赞赏，之后，Kimi官方账号于3月17日，以一种诙谐的语气作出回应：“你的火箭造得也挺好！”。

就CNMO所了解的情况而言，事件之初在于3月16日，月之暗面（Kimi）公布了一条有关大模型基础架构的研究内容，于其中提出“ ”（注意力残差）这样一种机制的情况，然后是它针对深度学习范畴内沿用了将近十年时间的残差连接展开了重新设计的情况。传统方式的残差连接施行的是固定且均匀的累加形式，然而Kimi的全新方法致使每一层都能够进行选择性地去关注在此之前各层的输出的行为，以此达成训练效率得以提升的结果。按照Kimi官方所披露的信息来看，在具备48B参数的模型之上，该机制达成了让训练效率提升了1.25倍的成效。

该项研究很快就引发了学界以及业界的关注，马斯克于社交平台X上转发并作出评论表达“work from Kimi”（意即Kimi这项研究做得相当出色），随后，先前的研究科学家也发布文章声称，该研究切实地践行了“is All You Need”的理念，被誉为“推理模型之父”的前研究副总裁Jerry更是直接表明“深度学习2.0来了”，这些源自全球顶尖AI专家的认可，突显了Kimi此次技术突破的重要程度。

相关标签： # 科技 # AI # 研究 # 马斯克 # Kimi