新榜讯 近日，全球知名的开源解决方案提供商红帽公司宣称正式启动新开源项目 llm-d。此项目旨在满足生成式 AI 大规模推理需求，由红帽公司与创始贡献者 CoreWeave、Google Cloud、IBM Research 以及 NVIDIA 携手打造。该项目能够借助突破性的大规模生成式 AI 推理技术，使大语言模型（LLM）推理云达成最为严苛的生产服务级目标（SLO）。（新浪科技）