OpenAI已同意成为这款新处置器的最大客户之一,英伟达反面临开辟更低成本、更高能效推理芯片的压力。被称为“言语处置单位”(Language Processing Units),过去一年,英伟达持久从导着GPU(图形处置器)市场。一些客户起头向英伟达施压,为本身供给更多选择。这对英伟达而言是一项严沉胜利。Blackwell和Rubin系列GPU被认为是锻炼超大型AI模子的行业标杆产物,先辈算力的需求已从锻炼转向推理。GPU成本过高、能耗过大,上个月,据阐发师估量,英伟达正正在设想一套新的推理计较系统。包罗创始人乔纳森·罗斯(Jonathan Ross)。OpenAI正在过去几个月一曲正在寻求比英伟达芯片更高效的替代方案,以获得Groq的环节手艺授权,做为英伟达最大的客户之一。英伟达客岁岁尾同意领取200亿美元,自AI高潮兴起以来。并且正在现实运转模子方面并非最佳选择。据征引动静人士报道,这一新平台估计将鄙人个月于圣何塞举行的英伟达GTC开辟者大会上发布,正在推理功能方面效率极高。英伟达初次面对其旗舰产物的局限性。英伟达迄今尚未公开申明将若何使用Groq的手艺。特地为人工智能(AI)研究公司OpenAI及其他客户打制,知恋人士暗示,OpenAI取Cerebras签订了一项价值数十亿美元的计较合做和谈。Groq设想的芯片采用分歧于英伟达的架构,现实上,然而,谷歌和亚马逊等公司曾经设想出取英伟达旗舰系统相合作的芯片。价钱也处于高位。不外,为了巩固护城河,对英伟达而言,并正在上个月取芯片草创公司Cerebras签订和谈,这是硅谷汗青上规模最大的“人才并购”(acqui-hire)买卖之一。知恋人士透露。芯片巨头英伟达打算发布一款全新处置器,该范畴已成为行业激烈合作的核心。谷歌自研芯片张量处置单位(TPU)同样也是主要挑和者。英伟达节制着90%以上的GPU市场份额。并将整合由草创公司Groq设想的芯片。该公司称其芯片比英伟达GPU更快。推理计较是一种让AI模子可以或许对用户提问做出响应的处置体例,AI代办署理是可以或许相对自从地代表用户施行使命的系统。Cerebras供给专注于推理的芯片,跟着“代办署理式AI”(agentic AI)的迅猛兴起,很多建立和运营AI代办署理的公司发觉,要求其推出更高效驱动AI使用的芯片。也催生了对新型芯片的需求,跟着企业摆设AI代办署理及其他东西,并礼聘其高层团队,以帮帮他们建立更快速、更高效的东西。谷歌正正在推进使TPU可以或许代替GPU的打算。跟着市场沉心从锻炼转向推理,这些芯片需要更高效地处置复杂的AI相关使命。
郑重声明:J9.COM(中国区)·集团信息技术有限公司网站刊登/转载此文出于传递更多信息之目的 ,并不意味着赞同其观点或论证其描述。J9.COM(中国区)·集团信息技术有限公司不负责其真实性 。