01NVIDIA +1OpenAI推出GPT-6 Astra Ultrafast,依托NVIDIA Blackwell GPU提速8倍
OpenAI近日正式发布GPT-6 Astra Ultrafast模式,该模式运行于NVIDIA最新一代Blackwell GPU之上,并结合OpenAI针对Blackwell架构定制的推理优化技术,将token生成速度提升至Astra Standard模式的最高8倍。这是OpenAI首次将Blackwell GPU作为主力推理硬件大规模接入产品线,也意味着其底层计算平台从Hopper架构向Blackwell架构完成关键迁移。Ultrafast模式目前已在OpenAI API中上线,同时向符合条件的ChatGPT Work及Codex用户开放,开发者可直接调用以构建低延迟应用。对企业用户而言,响应速度的显著提升将直接改善代码补全、对话交互和实时内容生成等场景的使用体验;对OpenAI自身而言,该模式进一步拉大了其在推理侧的性能差距,同时也巩固了NVIDIA在大模型推理硬件市场的主导地位,显示出AI算力产业链上下游协同优化的趋势仍在加速。
OpenAI ↗NVIDIA ↗