美国科技公司Groq引发行业震动，推出了一款新型的人工智能计算单元——Language Processing Unit（LPU）语言处理单元，直接对标并有潜力取代市场上知名的英伟达A100和H100芯片。
Groq Inc声称创造了第一个LPU来运行模型，而不是现在我们通常用于运行AI模型的昂贵且稀缺的GPU。
这款LPU在最新的基准测试中展现出了惊人的性能，据报告显示，Groq LPU的处理速度可以达到每秒500个TOKEN，这一速度比市场上顶尖运营商的处理速度高出18倍，表现令人瞩目。
在与当前最先进的人工智能模型GPT-4进行比较时，Groq LPU所展现出的性能优势尤为明显。测试结果表明，在相同的提示性能下，Groq的输出速度为每秒达到476个TOKEN，而GPT-4的输出速度则仅为每秒20个TOKEN，这意味着Groq的速度几乎是GPT-4的25倍。
超越速度的同时，Groq还成功实现了毫秒级的响应速度，这一突破性的进展预示着在高速数据处理领域，Groq将可能成为新的行业标准。通过一系列严格的测试，Groq的响应速度证实已经达到毫秒级水平，这对于需要快速反馈的AI应用来说是一个巨大的优势。
一位在AI开发领域工作的用户称Groq对于需要低延迟的产品是一个“游戏规则改变者”。另一位用户表示，Groq的LPU可能为未来AI应用的需求提供GPU的“巨大改进”，并可能成为Nvidia生产的高性能A100和H100芯片的良好替代品。
目前，主要AI开发商正在寻求开发内部芯片，以避免依赖Nvidia的模型。
Groq的API已经开始进行公开测试，面向申请者提供了10天内高达100万TOKEN的免费试用额度，只需填写电子邮箱地址，便可以申请免费的API权限。
