据 IT 之家 9 月 19 日报道,AI 软件公司 Anyscale 周一宣布将英伟达 AI 引入 Ray 开源和 Anyscale 平台中。英伟达 AI 还将在 Anyscale Endpoints 中运行,该服务可帮助应用程序开发人员使用流行的开源模型(如 Code Llama、Falcon、Llama 2、SDXL 等)嵌入 LLMs 到其应用程序中。 据悉,英伟达 Triton Interence Server 软件支持在 GPU、CPU 和其他处理器上跨云、数据中心、边缘和嵌入式设备进行推理。当与 Ray 集成时,开发人员可以提高来自各种框架的 AI 模型(包括 TensorRT、TensorFlow、PyTorch、ONNX、OpenVINO 等)的效率。 Anyscale 首席执行官兼联合创始人 Robert Nishihara 在一份声明中表示:“我们与英伟达的合作将为 Anyscale 的产品组合带来更多性能和效率,以便开发人员随处创建具有前所未有速度和效率的 LLMs 和生成 AI 应用程序。” 原文链接 —- 编译者/作者:东寻 玩币族申明:玩币族作为开放的资讯翻译/分享平台,所提供的所有资讯仅代表作者个人观点,与玩币族平台立场无关,且不构成任何投资理财建议。文章版权归原作者所有。 |
英伟达与 Anyscale 合作,提高大型语言模型和生成式 AI 应用的开发效率
2023-09-19 东寻 来源:区块链网络
LOADING...
相关阅读:
- Suno AI 推出文本到音乐模型 Chirp v1,可根据风格和歌词生成音乐2023-09-18
- 一周AIGC丨Databricks 再获融资,估值达到 430 亿美元,周鸿祎称大模型以后2023-09-18
- 工信部:优先开展“元宇宙 + 工业制造”等行业应用标准研制2023-09-18
- 盛天网络推出 AI 音乐社交新品“给麦”2023-09-18
- 分析师绘制各个国别 Top30 GenAI 流量分布图:Huggingface 中国访问量第一2023-09-18