Rune · AI智算平台

RUNE 是企业级的 AI 训推一体化平台,广泛用于 AI 场景下的模型开发、训练、模型推理、智能体全流程。

产品特性介绍

为企业提供覆盖模型开发、训练、推理、部署的全流程能力

AI 云原生架构

云原生架构,支持英伟达、华为等国产GPU,兼容异构GPU资源池管理,多维度调度,满足多云算力中心集中接入和治理。支持虚拟化能力,灵活匹配不同任务的差异化需求。
AI 云原生架构

模型工程管理

内置丰富AI开发,调优和数据管理工具,提供集成IDE和桌面仿真环境。满足用户一键开发、训练、调优、推理、部署全流程需求
模型工程管理

高性能模型推理

基于分布式并行推理,计算与存储分离、PD分离实现请求的智能调度与算力动态扩容,确保高并发下仍能提供低延迟服务,保障用户体验与业务连续性。推理实例实施监控,异常告警。
高性能模型推理

多租户运营

租户资源隔离,支持算力、模型、存储的多维配额定制,可为租户设定独立的资源、规格配额,并提供按资源与时长等灵活计费模式,实现精细化运营。
多租户运营

优势

为什么选择 Rune?

基础架构可扩展

随着业务需求的增长,灵活可扩展的基础设施能够兼顾AI 模型训练和应用推理变的尤其重要,特别是在数据中心智算和超算不同区域的管理和训推一体化架构下传统集群难以同时支撑。

模块化功能

采用模块化设计,核心组件可独立部署交付。功能从模型的开发和部署涉及到多个步骤。

异构调度和管理资源

底层的计算资源是有限和异构的,在AI 模型开发和推理过程中不同的类型有不同的资源需求。平台支持高效地管理和调度算力资源,以满足不同任务的需求。

低维护成本

提供多样化训练框架。极大降低服务器的管理和维护成本,通过自动化资源管理和调度,减少技术人员的工作量,节省人力成本。

多种大模型调优框架

多种大模型调优框架,满足各个类型调优需求

全信创支持

完美支持国产化服务器、操作系统和国产化算力芯片。平台全栈采用 Golang 语言,具有广泛的兼容性和可移植性

常见问题

关于 Rune 的常见问题解答

联系我们开始您的AI基础设施建设

Rune现代化AI训推一体平台。