Skip to content

Deep-Spark/DeepSpark

Folders and files

NameName
Last commit message
Last commit date

Latest commit

 

History

75 Commits
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 

Repository files navigation

English Chinese

DeepSpark 开源社区

Homepage LICENSE Release

在万物皆算的时代,各领域应用层出不穷,算力必须支撑实际应用,通用性和未来可扩展性是评估算力的重要指标。天数智芯作为国内头部通用 GPU 高端芯片及超级算力系统提供商,截止 2024 年 12 月,已成功支持 400+ AI 算法模型,覆盖训练和推理,与 400+ 家客户和生态伙伴建立合作,共同促进国内通用算力的发展,产品服务于智慧城市、数字个人、医疗、教育、通信、能源等多个领域。

天数智芯本着“平台共建、生态共享、产业共赢”的原则,致力于和行业伙伴一起打造 DeepSpark 开源社区,以来自开源回馈开源的方式,汇聚社区力量,助力客户加速应用落地和收获算力赋能,促进产业生态的完善和发展。

DeepSpark 开源社区目前主要致力于百大应用开放平台的打造和推广,将来会有更多相关的项目和成果通过 DeepSpark 社区开源。

2023 年 8 月,DeepSpark 开源社区与上海白玉兰开源开放研究院签署了战略合作协议,旨在进一步促进人工智能开源事业共建共享,推动产业生态的完善和发展。2023 年 11 月,DeepSpark 社区与启智社区开展合作,社区用户可通过启智云脑提供的天垓100算力训练来自 DeepSparkHub 的模型。

欢迎行业合作伙伴、社区用户和开发者以任何形式为 DeepSpark 开源社区做贡献,期待您的积极参与。

百大应用开放平台

百大应用开放平台作为国内领先的 AI 和通用计算应用开发及评测平台,甄选上百个与行业应用深度耦合的开源算法和模型,支持主流生态应用框架,并针对行业需求构建多维度评测体系,广泛支持各类落地场景。

应用算法和模型

  • DeepSparkHub 甄选上百个开源应用算法和模型,覆盖AI和通用计算各领域,支持主流市场智能计算场景,包括智慧城市、数字个人、医疗、教育、通信、能源等多个领域。

  • DeepSparkInference 精选基于国产推理引擎 IGIE 和 ixRT 的小模型推理示例,以及使用 vLLM 等主流开源推理引擎的大语言模型推理示例。

支持的应用框架

百大应用开放平台支持国内外主流应用框架和工具箱。

pytorch tensorflow paddlepaddle
fairseq wenet deepspeed
colossal-ai verl llama-factory
ONNXRUNTIME vLLM LMDeploy

已开源软件项目

项目名称 项目简介
iluvatar-corex-ixrt 天数智芯 Iluvatar CoreX ixRT 高性能推理引擎的开源代码部分,含插件、部署工具和应用示例。
tis-igie-backend 天数智芯 IGIE 推理引擎对接 Triton 推理服务框架的推理后端。
tis-ixrt-backend 天数智芯 ixRT 推理引擎对接 Triton 推理服务框架的推理后端。
go-ixdcgm 提供天数智芯 ixDCGM(数据中心GPU管理软件)的 Golang API 接口。
go-ixml 提供天数智芯加速卡的 ixML 系统管理接口的 Golang API 接口。
ix-container-toolkit 帮助用户快速构建和运行天数加速卡容器的工具集,提供容器运行时支持。
ix-device-plugin 针对天数智芯 GPGPU 的 Kubernetes 集群设备扩展插件,通过 DaemonSet 部署调度GPU资源。
ix-exporter Kubernetes 集群资源监控插件,为天数智芯 GPGPU 提供远程实时指标统计。
ix-feature-discovery 自动为 Kubernetes 集群节点上可用的天数智芯加速卡生成标签。
ix-gpu-operator 帮助用户在 Kubernetes 集群配置和管理天数智芯 GPGPU 加速卡。
ix-volcano-plugin 基于 Volcano 调度器的扩展,为天数 GPU 集群多节点多 GPU 任务提供最优拓扑调度策略。
ixgdb 基于 CUDA-GDB 开发的天数智芯通用 GPU 加速卡开源调试工具,是 GDB 的扩展。
ixjpeg-python 基于 ixJPEG 库的 Python 封装,提供 JPEG 图像编码和解码功能。

天数智芯智算平台 IXUCA

IXUCA 兼容主流 GPU 通用计算模型,提供支持主流 GPU 通用计算模型的等效组件、特性、API 和算法,可助力用户便捷地实现系统或应用的无痛迁移。天数智算软件栈包括人工智能深度学习应用、主流框架、函数库、编译器及工具、运行时库及驱动。

  • IXUCA 集成了 TensorFlow,PyTorch 和 PaddlePaddle 等国内外主流的深度学习框架,提供与官方开源框架一致的算子,并针对天数智芯加速卡持续优化性能。

  • IXUCA 提供 IGIE 推理框架和 ixRT 推理引擎,支持在天数智芯加速卡上实现最优推理性能。

  • IXUCA 的函数库不仅支持通用计算还提供了深度学习应用开发所需的基础算子,开发者可以便捷地调用这些算子灵活地构造各类深度神经网络模型以及其他机器学习领域的算法。

开始使用

您可前往天数智芯官方网站的资源中心获取天数智算软件栈安装包。然后,您可参照快速开始指导文档,在您的天数智芯算力环境上安装软件栈并运行 DeepSparkHub 或 DeepSparkInference 模型库的训练推理模型示例。


社区

治理

请参见 Code of Conduct

交流

请联系 contact@deepspark.org.cn

贡献

请参见各项目的 Contributing Guidelines。

许可证

Apache License 2.0

About

The DeepSpark open platform selects hundreds of open source application algorithms and models that are deeply coupled with industrial applications, supports mainstream application frameworks, and provides a multi-dimensional evaluation system catering to industry extensive needs. This repo is the mirror of Gitee.

Resources

License

Code of conduct

Stars

Watchers

Forks

Contributors