据两位知情人士透露,OpenAI正与博通(AVGO.US)合作开发一种用于AI模型推理过程的新的人工智能芯片。知情人士表示,这家人工智能初创公司和芯片制造商还在与全球最大的芯片合同制造商台积电(TSM.US)进行磋商。OpenAI已经***定制芯片,并在一年左右的时间里致力于该技术的此类用途,但讨论仍处于早期阶段。
OpenAI拒绝置评。博通的一位代表没有回应置评请求。外媒曾在周二报道了OpenAI与博通和台积电正在进行的谈判。今年6月,The Information报道称,博通曾讨论过为OpenAI制造人工智能芯片。
OpenAI已经研究了一系列使芯片供应多样化和降低成本的选择。OpenAI曾考虑在公司内部建造一切并为一项昂贵的***筹集资金,以建立一个被称为芯片制造“代工厂”的工厂网络。但据此前外媒援引消息人士透露,由于建设工厂网络所需的成本和时间,该公司目前已经放弃了雄心勃勃的晶圆代工***,并***专注于内部芯片设计工作。
该公司的战略突显了这家初创公司如何利用行业合作伙伴关系,以及结合内部和外部方法以确保芯片供应和管理成本,如同其更大的竞争对手亚马逊(AMZN.US)、Meta(META.US)、谷歌(GOOGL.US)和微软(M***T.US)。作为最大的芯片买家之一,OpenAI决定在开发定制芯片的同时,从不同的芯片制造商处***购,这可能会对科技行业产生更广泛的影响。
一名知情人士表示,OpenAI可能会继续研究建立自己的晶圆代工厂网络,但这家初创公司已经意识到,就目前而言,与合作伙伴合作开发定制芯片是一条更快、更可行的道路。
芯片从设计到生产的过程漫长而昂贵。OpenAI不太关注图形处理单元(GPU),即用于训练和构建生成式人工智能模型的芯片,且这个市场一直被英伟达(NVDA.US)垄断。相反,OpenAI正在寻找一种能够运行软件并响应用户请求的专用芯片,这一过程被称为推理。投资者和分析师预计,随着越来越多的科技公司使用人工智能模型来处理更复杂的任务,对支持推理的芯片需求只会增长。
博通股价周二美股收涨4.2%,至179.24美元。在最近一次上涨之前,该股今年就已上涨了54%。台积电美股收涨逾1%。
博通是最大的专用集成电路设计商,该集成电路是为满足客户指定的单一用途而设计的芯片。该公司在该领域的最大客户是Alphabet旗下谷歌。此外,博通还与Meta和字节跳动合作。
据了解,博通帮助包括谷歌在内的公司微调用于制造的芯片设计并提供部分设计以帮助信息快速进出芯片。成千上万的芯片串在一起协同工作,因此这在人工智能系统中很重要。
据消息人士透露,OpenAI已经与博通合作了几个月,以构建其首款专注于推理的人工智能芯片。目前对训练芯片的需求更大,但分析师预测,随着更多人工智能应用的部署,对推理芯片的需求或将超越它们。
上个月,当被问及其业务是否有新客户时,鉴于对人工智能培训的巨大需求,博通首席执行官Hock Tan表示,只有当项目达到批量出货时才会增加客户名单。他在财报电话会议上表示:“这不是一款易于被任何客户部署的产品,因此我们不认为概念即证明量产。”
据了解,OpenAI已经组建了一个大约20人的芯片团队,由曾在谷歌制造过张量处理单元(TPU)的顶级工程师领导,包括托马斯·诺里(Thomas Norrie )和理查德·何(Richard Ho)。消息人士称,通过博通,OpenAI已从台积电处获得制造能力,将于2026年生产其首款定制设计的芯片,但时间表仍可能改变。
OpenAI的服务需要大量算力以开发和运行,其中大部分来自英伟达的芯片。目前,英伟达的GPU占据了超80%的市场份额。但短缺和不断上涨的成本导致微软、Meta和OpenAI等主要客户开始探索内部或外部替代方案。
据此前报道,OpenAI***通过微软的Azure使用AMD的芯片,这表明AMD的新型MI300X芯片正试图从由英伟达主导的市场中分一杯羹。AMD预计,在2023年第四季度推出人工智能芯片后,2024年该芯片的销售额将达到45亿美元。
OpenAI也在积极规划在数据中心的投资和合作。这家初创公司的领导层已经向美国***宣传了建立更多大规模数据中心的必要性,首席执行官萨姆·奥特曼(Sam Altman)已经向包括中东在内的全球投资者寻求融资。
OpenAI首席财务官Sarah Friar周一表示:“这绝对是一种延伸。从资本的角度延伸,也是我自己的学习。坦率地说,我们都在这个领域认识到:基础设施决定命运。”