英伟达与芯片初创企业 Groq 就其人工智能推理技术达成了一项非排他性协议，将 Groq 的首席执行官乔纳森·罗斯及核心员工纳入了英伟达的体系。Groq的“语言处理单元”芯片使用嵌入式内存，比传统GPU更快地实现部署，并降低能耗。此笔交易之前，me ta（以 140 亿美元收购 Scale AI）和谷歌也采取了类似的举措Character.AI），以及微软（Inflection AI）。

• Groq公司今年 9 月的估值为 69 亿美元，背后有贝莱德、思科和三星等企业的支持。GroqCloud将在新任CEO西蒙·爱德华兹的领导下独立运营，而罗斯则在英伟达整合技术。Groq在北美使用三星作为合作伙伴设计和制造芯片。

• 随着日常人工智能应用的规模不断扩大，推理需求正呈爆炸式增长。虽然GPU在训练中占主导地位，但每当有人向ChatGPT提问时，推理就会发生。Groq的架构针对推理方面的特定需求进行了优化，并具备更高的能源效率——这一点在人工智能应用消耗量不断增长的情况下显得尤为重要。

• 罗斯在2016年创立Groq之前，曾开发过谷歌的TPU。这些雇佣信号表明，即使OpenAI和me ta等大客户设计自己的定制芯片，英伟达也在获取专业的推理专业知识。

🤔为什么重要: 尽管英伟达在人工智能芯片领域占据主导地位（年初至今增长 35%，为全球市值最高企业），但仍选择授权使用 Groq 技术，此举表明推断优化具有战略意义。随着客户制造定制芯片，谷歌/亚马逊直接竞争，英伟达的投注推理工作负载需要不同的架构，而不是培训——他们正在授权，而不是在内部构建一切。

阅读更多→

推荐学习书籍 《CDA一级教材》适合CDA一级考生备考，也适合业务及数据分析岗位的从业者提升自我。完整电子版已上线CDA网校，累计已有10万+在读~ !

免费加入阅读：https://edu.cda.cn/goods/show/3151?targetId=5147&preview=0