维其互联 > 信息聚合 > 当算力迈向万卡集群,服务器市场上演角力赛 | ToB产业观察

当算力迈向万卡集群,服务器市场上演角力赛 | ToB产业观察

2024-05-06 15:06:41来源: 钛媒体

图片来源@pixabay“预训练大模型的发展为实现通用人工智能提供了可能。其中算力一定要有比较大的进步,才可能有下一代。但短期内不太可能是GPU架构本身的明显跨越,而是需要千卡、万卡来适应大模型。”2021年末的一次交流中,某NLP创企CEO对钛媒体表达。在当时,这家企业已经遇到不少在算力层面的挑战,他们与高校、英伟达、云厂商都在保持密切沟通,希望对方能给予一些技术支持。但对于这些算法领域的专家或创企而言,由于之前的工作并不太涉及硬件领域,“做模型的不懂算力,做算力的不懂模型”的现象非常常见。“很多情况下需要双方一线面对面沟通,才可能把真正的需求痛点解决掉。”该CEO表示。三年后,类似于ChatGPT、Sora的大量生成式AI杀手级应用出现,也正在倒逼更强的算力基础设施进一步升级。上述CEO所面临的问题不仅依然存在,且受到了更上游英伟达等供应商对

标签: 服务器
免费发布分类信息