AI训练模型

无问芯穹

无问芯穹是一家专注于 AI 基础设施的公司,其核心平台为 Infini-AI 异构云平台,并部署Deepseek 供用户体验。

标签:
无问芯穹是一家专注于 AI 基础设施的公司,其核心平台为 Infini-AI 异构云平台:

平台介绍

Infini-AI 异构云平台包含异构云管平台、一站式 AI 平台(AIStudio)和大模型服务平台(GenStudio)三部分。
  • 异构云管平台:提供算力资源的异构纳管、运维和监控能力,以及丰富的算力运营体系。
  • 一站式 AI 平台(AIStudio):面向机器学习开发者,提供开发调试、分布式训练与高性能推理工具,涵盖数据托管、代码开发、模型训练、模型部署的全生命周期工作流。
  • 大模型服务平台(GenStudio):基于智算云平台,针对生成式大模型应用落地的多种场景需求,为大模型应用开发者提供高性能、易上手、安全可靠的多场景大模型服务,覆盖从大模型开发到大模型服务化部署的全流程。

服务对象

  • 大模型公司:如智谱 AI、Kimi、生数科技等,为其提供异构算力以及大模型开发工具链服务,支持他们进行大模型的训练、推理等工作27
  • AI Native 应用创业公司:帮助这些公司调用各种预置模型 API,使用平台提供的工具链开发自身业务模型。
  • 科研院所:为科研人员提供算力支持和研发环境,助力他们进行人工智能相关的学术研究和实验。
  • 政企客户:协助政府部门和企业搭建算力集群,满足他们在人工智能应用方面的算力需求,推动数字化转型。

平台特点

  • 强大的异构兼容能力:支持 AMD、华为昇腾、天数智芯、沐曦、摩尔线程、NVIDIA 等 10 余种计算卡,是全球首个可进行单任务千卡规模异构芯片混合训练的平台,具备万卡扩展性,能有效整合多元异构算力资源。
  • 高算力利用率:千卡异构混合训练集群算力利用率最高达到 97.6%,平均高出基准方案约 30%,在相同的多元芯片机房或者集群条件下,可将训练总时长压缩 30%7
  • 丰富的模型支持:已支持 Qwen2、GLM4、Llama3、Gemma、Yi、Baichuan2、ChatGLM3 系列等共 30 多个模型,且允许多种模型与多种芯片间自由搭配组合。
  • 便捷的一站式服务:提供从模型训练到推理服务的全链路工具链支持,为开发者屏蔽了底层异构芯片的差异,使其能专注于 AI 应用创新,降低了开发和维护的复杂性。
  • 高性能推理加速:通过自研的推理加速技术 FlashDecoding++,在部分计算卡上实现了行业第一的推理加速成果,可满足各行业高涨的大模型推理需求。

数据统计

相关导航