韩国研究人员声称功耗降低了 625 倍,体积缩小了 41 倍,让 Nvidia 蒙羞
来自韩国科学技术院 (KAIST) 的科学家团队在最近的 2024 年国际固态电路会议 (ISSCC) 上详细介绍了他们的“互补变压器”人工智能芯片。 据该公司介绍,C-Transformer芯片是首款可以处理大型语言模型(LLM)的超低功耗人工智能加速器芯片。
在最近的一份新闻稿中,研究人员声称他们的 C-Transformer GPU 比 Nvidia 的 A100 张量核心 GPU 小 625 倍,功耗低 41 倍,令 Nvidia 蒙羞。 研究人员还透露,三星制造的芯片的成就很大程度上归功于完善的神经形态计算机技术。
尽管我们被告知 KAIST C Transformer 芯片能够通过强大的显卡执行与 Nvidia A100 GPU 相同的 LLM 任务,但会议材料和我们看到的新闻稿都没有包含任何性能比较。 这是一项非常重要的统计数据,但却明显缺失。 愤世嫉俗者可能会得出这样的结论:C-Transformer 并没有从性能比较中受益。
来源和详细信息:
https://www.tomshardware.com/tech-industry/artificial-intelligence/korean-researchers-power-shame-nvidia-with-new-neural-ai-chip-claim-625-times-less-power-41-times-smaller