韩国村
科技

研发出比ChatGPT更智能、功耗更低的AI专用芯片

韩国科学技术院(KAIST)与HyperAccel公司共同开发出一种高性能、低功耗的神经处理单元(NPU)核心技术,与最新的GPU相比,功耗降低约44%,同时生成式人工智能(AI)模型的推理性能平均提高60%以上。

据4日消息,KAIST计算机系教授朴钟世的研究团队与HyperAccel公司(由KAIST电子与电气工程系教授金周荣创办)共同开发了这项针对ChatGPT等生成式AI云计算平台优化的NPU核心技术。NPU是一种专门用于快速处理人工神经网络的AI专用芯片。

OpenAI的ChatGPT 4、谷歌的Gemini 2.5等最新的生成式AI模型需要巨大的内存带宽和内存容量。微软、谷歌等生成式AI云计算运营商大量采购英伟达GPU(数十万张)正是基于此原因。

研究团队注意到,现有的基于GPU的AI基础设施需要大量的GPU设备,因此开发了可以替代GPU的技术。通过减少运行生成式AI模型时使用的临时存储空间的数据量,该技术使得仅用少量NPU就能构建AI基础设施。同时,该技术还结合了为此优化的硬件设计。使用比最新GPU具有更好性价比和能效的NPU来构建AI云平台,预计可以大幅降低运营成本。

朴钟世教授表示:“这项技术使我们实现了性能平均提高60%以上的NPU,优于最新的GPU。它不仅在AI云数据中心中发挥重要作用,而且在以‘Agent AI’为代表的主动执行型AI等AI大变革(AX)环境中也具有重要意义。”

这项研究成果于今年6月在日本东京举行的“2025国际计算机结构研讨会(ISCA)”上发布。国际计算机结构研讨会是计算机架构领域最权威的国际学术会议。

发表评论