新算法问世!AI 系统能耗或降低高达 95%

来源:互联网 更新时间2024-10-08 09:42:39 点击数:

最近,BitEnergy AI 的研究团队开发出一种名为 “线性复杂度乘法”(L-Mul)的新算法,这个新方法可以显著降低人工智能系统的能耗。

具体来说,这种算法通过将复杂的浮点乘法替换为更简单的整数加法,预计能在多个领域内实现高达95% 的能耗削减。这项研究的标题为 “只需加法即可实现节能的语言模型”,显示了 L-Mul 在节能方面的巨大潜力。

微信图片_20230809104207.jpg

图源备注:图片由AI生成,图片授权服务商Midjourney

研究团队在多种任务上进行了测试,包括语言理解、结构推理、数学计算和常识问答等,结果表明,L-Mul 方法在这些任务中的表现都非常不错。他们发现,L-Mul 可以直接应用于现代语言模型的核心部分 —— 注意力机制,而对模型性能的影响几乎可以忽略不计。大家都知道,注意力机制在 GPT-4等现代语言模型中扮演着关键角色。

BitEnergy AI 的团队表示,L-Mul 不仅可以帮助提高学术和经济竞争力,还能增强 AI 的自主性。他们认为,这项技术能够帮助大企业更快、更经济地开发自定义的 AI 模型。

未来,他们计划将 L-Mul 算法应用到硬件层面,并开发用于高层模型设计的编程接口,旨在优化文本、符号和多模态生成 AI 模型,以适应 L-Mul 原生硬件。

这项创新的算法不仅有望大幅减少能耗,还有助于推动 AI 技术的进一步发展。随着对环保和节能要求的日益提高,L-Mul 的出现无疑人工智能领域带来了新的希望。


首页 AI对话 资讯 我的