首页财产ai正文 googleAI芯片,剧变! google正研发集成Gemini模子蓝图的“Frozen v2”芯片,最早2028年部署,Taalas、Etched也有相干举措,AI芯片进入新阶段,竞争逻辑正于转变。 2026-07-21 14:46 ·微信公家号:半导体行业不雅察 AI投资人解读· google正研发集成Gemini模子蓝图的“Frozen v2”芯片,最早2028年部署,有望晋升AI计较效率。Taalas推出针对于开源Llama 3.1 8B语言模子优化的HC1芯片,机能高、功耗低。Etched规划出产逾越通用GPU的Transformer推理芯片。 · 若Gemini模子架构变化,Frozen芯片机能或者受影响开发定制芯片成本高AI财产快速演进,技能迭代快。 总结:这些公司于AI芯片范畴踊跃立异,具备成长潜力,但面对模子架构变化、成本和技能迭代等危害,需存眷其技能成长与市场体现。

据Theinformation知恋人士动静吐露,google正于研发一款新型办事器芯片,该芯片将直接集成其Gemini人工智能模子的蓝图(blueprint ),从而使公司可以或许更高效地向用户提供人工智能模子办事。

尽人皆知,于AI突起的前些年,人工智能以通用的GPU为主。于看到GPU的时机,诸如TPU、NPU、LPU以和近似Crebras如许的芯片纷纷到来。不外,于已往很长一段时间内,GPU的职位地方无人撼动。

然而,于google及亚马逊这些打造本身模子及基础举措措施的企业的鞭策下,AI芯片的格式发生了摆荡。尤其是跟着AI的加快落地以后,AI芯片找到了新的时机,就连google于做TPU的时辰也别离面向推理及练习打造产物。可是,这些产物依然没有离开传统的通用芯片特征。

此刻,跟着google将模子写进芯片里,AI芯片发生了剧变,传统法则正于被打破。

google做了一颗甚么芯片?

据先容,google规划使用这款非正式名称为“Frozen v2”的新芯片,解决人工智能计较能力严峻欠缺的问题。这一问题激发了公司内部的紧张场面地步,并迫使google云拒绝了一些外部客户的互助。

信赖恰是于这一配景下,google最先摸索一种新的AI芯片线路:再也不纯真寻求更强的通用计较能力,而是让芯片与特定模子深度联合,经由过程软硬件协同晋升AI计较效率。

动静人士暗示,“Frozen”这个名字来历在将部门模子永 久蚀刻到硅片上的理念。工程师们仍于确定新芯片的重要功效以和各个组件的协同事情方式。知恋人士暗示,google规划最早在2028年部署该芯片。

事实上,google其实不是第 一次测验考试经由过程专用硬件晋升AI效率。早于2016年,google就推出了张量处置惩罚单位(TPU),但愿挣脱对于通用GPU的依靠。但TPU与英伟达GPU同样,素质上仍旧是一种通用AI加快器,需要撑持年夜量差别类型的模子及算法。

这象征着,不管是GPU还有是TPU,都需要于运行历程中不停按照模子布局、计较使命以和数据流举行动态调理。例如,于年夜模子推理历程中,芯片需要处置惩罚年夜量矩阵运算、内存拜候以和模子调理使命,而这些通用能力虽然提供了更年夜的顺应规模,但也带来了分外的计较开消。

而Frozen项目采纳的是彻底差别的思绪。

它试图将部门Gemini模子的计较逻辑、推理流程甚至决议计划机制直接固化到芯片中,使硬件可以或许“理解”特定模子的运行方式,从而削减运行时的调理开消。换句话说,传统AI芯片更像是一台通用计较机,而Frozen更靠近在为某个AI模子打造的“专用呆板”。

这类模式近似在已往芯片行业中的ASIC(专用集成电路)线路。比拟GPU等通用架构,ASIC往往可以或许于特定使命上实现更高机能及更低功耗,但价钱是矫捷性降低。一旦算法线路发生庞大变化,专用芯片可能面对从头设计的问题。

这也是Frozen项目最 年夜的挑战。

因为芯片设计周期凡是需要数年时间,而AI模子迭代速率远快在传统半导体财产,假如将来Gemini模子架构发生变化,Frozen芯片可能没法充实阐扬机能。是以,google需要于“专用化效率”及“模子连续演进能力”之间找到均衡。

据知恋人士吐露,google将可以或许对于芯片举行修改,包括更新模子权重——也就是决议模子怎样天生谜底的参数。这象征着Frozen并不是彻底固定稳定,而是试图于硬件固化及模子更新之间成立一种新的折衷方案。

假如这一起线乐成,Frozen可能代表AI芯片成长的一个主要标的目的:跟着年夜模子架构逐渐不变,芯片设计将从“撑持所有模子”转向“缭绕主流模子举行深度优化”。

近似趋向实在已经经最先呈现。当前AI财产竞争的焦点,已经经从纯真比拼芯片峰值算力,转向模子、软件、芯片及体系的总体协同。英伟达依赖CUDA生态构建GPU上风,而google则但愿经由过程Gemini模子、TPU以和将来Frozen芯片形成越发慎密的软硬件闭环。

据介入研发职员猜测,Frozen芯片发布后,根据单元功耗处置惩罚token数目计较,其效率可能到达google现有最新AI芯片的6至10倍。假如这一方针实现,它不仅可以或许减缓google自身AI计较资源压力,也可能转变将来AI基础举措措施的竞争方式。

进入Taalas对峙的赛道

实在于google此次动静爆出以前,Taalas就做出了将模子写进芯片的决议。

根据他们于官网中所说,人工智能模子正于转变世界。作为软件,它们对于计较能力的要求极高。咱们需要将效率提高1000倍。这个方针对于在咱们今朝最 进步前辈的通用计较机来讲还有远远不敷。

为了实现这一方针,Taalas暗示,咱们需要熟悉到如下几点:

模子不该于传统计较机长进行模仿;(The model should not be simulated on a traditional computer)

它是计较机自己;(It is the computer)

表现于原生硬件里;(Embodied in native hardware)

最 佳的硬毗连芯片;(Optimal,Hard Wired,Silicon)

人类语言是它的软件;(Human language are its software)

Taalas建造硬件模子;(Taalas makes hardcore models)

于他们看来,任何AI模子均可以经由过程Taalas Foundry进级为Hardcore模子。Hardcore模子撑持微调,其配套运用步伐利用人类语言编写。

于这类思绪鞭策下,该公司推出了其首 款产物HC1——一款针对于开源 Llama 3.1 8B 语言模子举行优化的芯片。从参数上看,该芯片采用台积电的N6工艺制造。其面积为815平方毫米,已经靠近今朝芯片光罩尺寸的极限。每一颗HC1芯片封装内包罗530亿个晶体管,此中年夜部门极可能用在ROM及SRAM存储器。据Bajic称,HC1卡的功耗约为200瓦,而一台配备十张HC1卡的双路X86办事器的功耗则高达2500瓦。

根据Taalas 公司所说,该芯片每一秒可天生 17000 个输出tokens,是英伟达 H200 显卡的 73 倍。此外,该处置惩罚器于提供云云高机能的同时,功耗仅为后者的十分之一。

趁便一提,因为 HC1 卡速率极快,无需批量处置惩罚查询便可实现低延迟推理,这象征着 Taalas 装备的带宽压力很低。低到纵然将多张卡并联运行更年夜的模子,PCI-Express 总线也彻底够用。Taalas 将于本年晚些时辰答应客户利用流水线并行技能将事情负载分配到多张 HC 卡上。事实上,到本年炎天,Taalas 将推出一款硬编码到 HC 芯片中的 Llama 3.1 模子,该模子包罗 200 亿个参数。

为特定人工智能模子定制芯片可以提高效率,部门缘故原由于在它答应工程师去除了冗余组件。例如,现成的显卡可能包罗比人工智能模子所需更多的DRAM。定制芯片可以将未利用的RAM替代为分外的晶体管,从而使模子运行患上更快。

对于在年夜大都人工智能项目而言,开发彻底定制的处置惩罚器成本太高。据 Taalas 公司称,其工程师经由过程仅定制组成芯片的 100 多个层中的两个层来降低成本。年夜大都处置惩罚器中,只有少数几层包罗晶体管。其余层则容纳辅助组件,例如于差别芯片区域之间传输数据的导线。凡是,包罗导线的层位在晶体管四周。

Taalas芯片中的定制层采用了一种名为掩码ROM挪用架构的技能。ROM是一种存储器,用户只能向此中写入一次数据。以后,用户可以读取数据,但不克不及对于其举行编纂。 据报导,每一个掩码 ROM 挪用布局模块可以存储 4 位数据。Taalas 的架构仅利用单个晶体管来处置惩罚这些数据。该晶体管履行矩阵乘法运算,即人工智能模子用在做出决议计划的数学计较。

Taalas 设计的一年夜上风于在它无需利用高带宽内存模块 (HBM)。HBM 是集成于显卡上的内存芯片,用在存储 AI 模子的数据。于 HBM 及芯片之间传输信息需要较永劫间,这会降低处置惩罚速率。Taalas 暗示,他们的方案不仅防止了这类延迟,还有省去了撑持芯片 HBM 模块所需的各类辅助组件。

值患上一提的是,到本年年末,Taalas 将推出一款前沿的年夜型语言模子——多是 Llama,也多是 DeepSeek,或者者二者兼而有之——该模子将于多张 HC 卡上运行推理。这类架构将被定名为 HC2。

选定模子深耕是一定选择?

于选定模子深耕方面,草创公司Etched也是前驱。

据先容,这家由哈佛停学生Gavin Uberti(首席履行官 )及 Robert Wachen(总裁)建立的公司建立在2024 年。该公司开创人暗示,早于 2023 年,他们提交了一份长达 30 页的备忘录,论证人工智能终极需要的是专用芯片,而不单单是通用 GPU。但他们造访的每一一名重要投资者都拒绝了他们的投资。

但厥后,跟着AI的进展,他们找到了时机,热度也随之增长。公司也在在去年12月完成近来一轮融资,对于Etched的估值到达50亿美元。介入这次融资的包括与台积电相干的创业投资基金VentureTech Alliance,以和十几位其他投资人,此中包括Geoffrey Hinton、李飞飞及Andrej Karpathy。

知恋人士吐露,该公司将于由现有投资者Jane Street领投的新一轮融资中,估值翻两番,到达约 200 亿美元。

回到他们的产物自己,从相干报导可以看到,Etched团队坚信Transformer芯片将主导人工智能范畴,这也让他们的愿景清楚明确:打造一款于运行Transformer模子方面可以或许逾越通用GPU的芯片,从而完全改造人工智能行业。

于近来的新闻稿中,Etched暗示,公司规划采用台积电的N4P工艺出产其推理芯片。N4P工艺是台积电五纳米工艺的进级版,机能比原工艺晋升11%。据Etched称,其首批原型芯片已经在本年早些时辰下线。

Etched 还有为其芯片配备了其他几项机能优化。

GPU每一秒履行的计较越多,耗损的功率就越年夜,进而致使其运行温度升高。跨越必然阈值后,太高的热量会致使妨碍。显卡经由过程于靠近峰值频率时降低时钟频率来减缓这个问题。这类被称为“热撙节”的机制会降低运算速率。

Etched公司开发了一种名为LVI的技能,可以削减对于过热降频的需求。该公司暗示,其芯片可以或许于不降低时钟频率的环境下,以“峰值80%以上的浮点运算能力”运行万亿参数的AI模子。这显著晋升了推理速率。Etched公司称,其芯片的浮点运算密度(权衡机能的指标)比市道上现有的AI处置惩罚器超出跨越数倍。

该公司规划将其芯片作为机架势推理装备的一部门举行交付。该体系采用安装于定制电路板上的多个芯片。Etched 还有开发了定制冷板,这类组件于液冷体系中阐扬着主要作用。冷板是一块扁平的金属片,可以将芯片孕育发生的热量导入机架的冷却液中。

Etched 的装备混淆利用了 SRAM 及 HBM 内存。AI 芯片利用 SRAM(今朝市场上速率最快的 RAM)来存储事情负载中最要害的数据。其他信息则被发送到 HBM 内存,HBM 内存虽然速率稍慢,但容量却显著晋升。

机架中的人工智能芯片凡是需要可以或许拜候相互内存中的数据。Etched 的装备采用定制互连技能来实现这类数据传输。据该公司称,该装备具备体系级同享内存池,与初期技能比拟,其哀求处置惩罚延迟更低。

Etched公司今朝正于抓紧提高芯片产量,并规划在本年夏日交付首批芯片机架。该公司于六月尾的时辰吐露,已经收到价值跨越10亿美元的客户定单。

写于末了

从GPU到TPU,再到googleFrozen及Etched,可以看到,AI芯片正于进入一个新的成长阶段。

已往,芯片竞争的焦点是晋升通用计较能力,GPU依附强盛的矫捷性成为AI时代的基础举措措施。但跟着年夜模子进入范围化运用阶段,推理成本、能耗及效率逐渐成为要害挑战,缭绕特定模子举行软硬件协同优化,正于成为新的摸索标的目的。

固然,这其实不象征着GPU时代行将竣事。AI仍处在快速演进阶段,通用芯片依然具有不成替换的价值。但跟着模子架构逐渐成熟,专用AI芯片有望成为将来基础举措措施的主要构成部门。

将来,AI芯片竞争也许再也不是GPU与ASIC之间的简朴替换,而是形成新的分工:GPU卖力支撑模子立异,专用芯片卖力晋升成熟模子的部署效率。

更主要的是,Frozen所代表的其实不仅是一颗芯片的变化,而是AI财产竞争逻辑的变化——将来,模子可能反过来界说芯片,软件、算法与硬件之间的界限将进一步交融。而这,也可能成为下一轮AI芯片竞争的焦点标的目的。

【本文由投资界互助伙伴微信公家号:半导体行业不雅察授权发布,本平台仅提供信息存储办事。】【免责声明】:本文不组成任何投资建议。市场有危害,投资需审慎。若有任何疑难,请接洽(editor@zero2ipo.com.cn)投资界处置惩罚。

-lehu乐虎88国际