
A |

B | 该芯片计划将Gemini模型部分架构直接集成到芯片中,通过减少运行过程中的计算决策和数据搬运,提升AI推理效率。 知情人士透露,谷歌工程师预估,按照单位功耗能够输出的Token数量计算,Frozen v2的效率可能达到谷歌最新自研AI芯片的6至10倍。

C |
根据克里姆林宫网站发布的消息,普京在视频讲话中称,艾哈迈德·卡德罗夫的名字被载入史册。他还对艾哈迈德·卡德罗夫的勇敢等品质进行了称赞。

D | 这款芯片在谷歌内部被非正式地称为“Frozen v2”。“我记得我们之间的会面和谈话。知情人士称,谷歌希望借此缓解严重的AI算力短缺问题。

E | 我也记得他解释自己为什么决定当车臣共和国领导人。他当时说,‘今天,我们需要那些随时准备为人民奉献一切,必要时献出生命的人’。

F | ”普京补充称。

G | 算力紧张已经在谷歌内部引发矛盾,还迫使谷歌云拒绝部分外部客户的订单。俄新社报道称,谈及杀害艾哈迈德·卡德罗夫的行为,普京称,这是“卑鄙无耻的罪行”,“不能被原谅,也不能被忘记”。 知情人士还透露,谷歌最快可能于2028年部署这款芯片,但该公司目前仍在确定Frozen v2的主要功能、各部分的协同方式,以及究竟要将多少模型信息固化在芯片中。据俄媒报道,艾哈迈德·卡德罗夫出生于1951年8月23日,于2004年5月9日在车臣共和国首府格罗兹尼发生的一起爆炸事件中身亡。 The Information还提到,Frozen v2并非谷歌首次探索模型专用芯片。

H | 此前,谷歌DeepMind首席科学家杰夫·迪恩(Jeff Dean)曾计划将模型权重直接固化到芯片中,但由于该方案的芯片只能适配特定版本模型、生命周期过短,最终被搁置。 一、把Gemini部分逻辑写入芯片,减少芯片数据搬运 当前主流AI芯片大多强调通用性和可编程能力,如英伟达GPU能够支持多种AI模型和计算任务。这类芯片需要支持多种不同AI模型,因此在运行过程中需要根据模型需求完成大量计算调度和决策。

I | 据知情人士透露,谷歌目前仍在决定Frozen v2中应该固定多少模型信息,以平衡性能提升和未来兼容能力。谷歌发言人在一份声明中称,研究团队一直在研究和试验新的技术,以提高面向用户和客户的系统性能与效率,并非所有研究项目都会投入生产,但这些探索是谷歌全栈技术路线的重要组成部分。 二、推理芯片竞赛升温,初代Frozen方案曾被搁置 过去几年,AI基础设施竞争围绕训练展开。大规模模型训练需要大量GPU集群,英伟达凭借GPU生态占据主导地位。The Information去年12月报道,英伟达去年12月通过一笔价值200亿美元(约合人民币1353亿元)的交易,获得了AI推理芯片创企Groq的相关技术授权。

J | 包括SambaNova、d-Matrix、OpenAI和微软在内,多家公司都在开发AI推理芯片。这些公司的共同目标,是以比英伟达GPU更高的效率运行AI模型,缓解算力短缺并降低成本。 与此同时,加拿大芯片创企Taalas也采取了谷歌类似思路,将特定AI模型直接硬编码进芯片。Taalas目前已经获得超过2亿美元(约合人民币13.5亿元)融资,投资方包括Quiet Capital和富达投资。 据The Information透露,Frozen v2此前还有一个更激进的版本。

K | 由谷歌DeepMind首席科学家杰夫·迪恩主导的初代Frozen方案,曾计划直接将模型权重固化到芯片中。

L | 但这种设计会让芯片只能运行某个特定版本的Gemini。

M | 一旦模型更新,芯片便可能迅速失去使用价值。由于预期生命周期过短,谷歌最终搁置了初代方案。 据知情人士透露,Frozen v2不再固化完整模型权重。但谷歌目前仍在评估应该锁定多少模型信息,以平衡灵活性与运行效率。 三、Frozen v2并非取代TPU,谷歌先将其作为技术试验 虽然Frozen v2受到关注,但知情人士透露,谷歌并没有计划用它替代TPU。据报道,Frozen项目旨在建立一条区别于TPU的新型自研芯片路线。 今年,谷歌发布了第八代TPU,并开始直接向谷歌云客户推销这款芯片,挑战英伟达在AI芯片市场的主导地位。此外,谷歌还与Meta签署了价值数十亿美元的TPU租赁协议,并在尝试向其他云服务商销售TPU。 ▲第八代TPU实物,左手为推理芯片TPU 8i、右手为训练芯片TPU 8t(图源:谷歌) The Information称,相比单纯依赖英伟达GPU,谷歌自研TPU已经帮助其降低Gemini模型运行成本。因为,谷歌在开发TPU时也考虑了Gemini的需求,只是TPU集成的模型信息远少于Frozen v2。Frozen v2面向Gemini进行更深度的定制,但适用范围也比TPU更窄。 据知情人士透露,谷歌目前没有计划让Frozen v2的产量达到TPU的规模。因为,较小的生产规模可以使谷歌在推出大型产品之前,更晚地引入外部芯片设计和制造合作伙伴。该知情人士还称,谷歌将这一代产品部分视为技术试验,并希望从中积累开发专用AI芯片的经验。 结语:用部分通用性换取更高推理效率 Frozen v2并不是TPU的替代品,而是谷歌针对Gemini开辟的一条专用芯片路线。谷歌希望通过将部分模型架构和计算决策固化到硬件中,以减少推理过程中的计算步骤和数据搬运,从而以更低功耗处理更多用户请求。

N | 不过,更高的专用化程度也意味着芯片与模型架构绑定得更紧。Frozen v2最快要到2028年才能部署,届时Gemini底层架构能否保持稳定,以及6至10倍的预期能效提升能否在实际应用中实现,将成为决定这一项目价值的关键。 来源:The Information。

o |
Current article:http://zcg8x2.mengruanpianchengji.cyou/h7zdzq1/n0bg59p.html
Published on:07:49:45