韩国科学技术院（KAIST）与HyperAccel公司共同开发出一种高性能、低功耗的神经处理单元（NPU）核心技术，与最新的GPU相比，功耗降低约44%，同时生成式人工智能（AI）模型的推理性能平均提高60%以上。
据4日消息，KAIST计算机系教授朴钟世的研究团队与HyperAccel公司（由KAIST电子与电气工程系教授金周荣创办）共同开发了这项针对ChatGPT等生成式AI云计算平台优化的NPU核心技术。NPU是一种专门用于快速处理人工神经网络的AI专用芯片。
OpenAI的ChatGPT 4、谷歌的Gemini 2.5等最新的生成式AI模型需要巨大的内存带宽和内存容量。微软、谷歌等生成式AI云计算运营商大量采购英伟达GPU（数十万张）正是基于此原因。
研究团队注意到，现有的基于GPU的AI基础设施需要大量的GPU设备，因此开发了可以替代GPU的技术。通过减少运行生成式AI模型时使用的临时存储空间的数据量，该技术使得仅用少量NPU就能构建AI基础设施。同时，该技术还结合了为此优化的硬件设计。使用比最新GPU具有更好性价比和能效的NPU来构建AI云平台，预计可以大幅降低运营成本。
朴钟世教授表示：“这项技术使我们实现了性能平均提高60%以上的NPU，优于最新的GPU。它不仅在AI云数据中心中发挥重要作用，而且在以‘Agent AI’为代表的主动执行型AI等AI大变革（AX）环境中也具有重要意义。”
这项研究成果于今年6月在日本东京举行的“2025国际计算机结构研讨会（ISCA）”上发布。国际计算机结构研讨会是计算机架构领域最权威的国际学术会议。