OpenAI与Cerebras达成100亿美元协议,加速AI推理算力发展
OpenAI与Cerebras公司签订了一份价值高达100亿美元的协议,旨在采购750兆瓦的推理算力。Cerebras公司专门设计了一套系统,用于加速AI模型长时间输出,其独特之处在于将大规模计算、内存和带宽集成到单个巨型芯片上,从而消除了传统硬件上推理速度的瓶颈。
将Cerebras纳入OpenAI的算力解决方案中,目的是显著提升AI的响应速度。无论是解决难题、生成代码、创建图像还是运行AI代理,背后都存在一个循环:用户发送请求,模型进行“思考”,然后返回结果。当AI能够实时响应时,用户可以完成更多任务,停留更长时间,并运行更高价值的工作负载。
OpenAI将分阶段将这种低延迟能力集成到其推理堆栈中,以覆盖更多的工作负载。OpenAI的Sachin Katti表示:“我们的算力策略是构建一个有韧性的组合,将合适的系统匹配到合适的工作负载。Cerebras为我们的平台增加了专用的低延迟推理解决方案。这意味着更快的响应、更自然的交互,以及将实时AI扩展到更多人群的更坚实基础。”
Cerebras联合创始人兼CEO Andrew Feldman表示:“我们很高兴与OpenAI合作,将世界领先的AI模型带到世界上最快的AI处理器上。就像宽带改变了互联网一样,实时推理将改变AI,使构建和与AI模型互动的方式焕然一新。”
这些算力将在2028年前分批陆续上线。此次合作标志着AI处理能力的重大突破,预示着AI应用将变得更加高效和便捷。
评论已关闭