数据是现代经济社会的重要生产要素,数字经济是世界各国经济增长的新引擎。尤其是当下大模型相关技术飞速发展阶段,数据安全愈发重要。现阶段除了算力资源欠缺外,数据质量不高、开放场景不够、模型数据安全等问题也对我国大模型的发展形成了一定制约。
2024年在“两会”上,“国产算力、自主可控”成为各地代表、委员提案议案内容中频现的关键词。自主可控的算力底座,是保障数据安全的“最后一道防线”,除了 AI 硬件 100% 国产化之外,围绕算力集群构建可信算力基础设施也是十分必要的。
熠智科技联合国产算力芯片企业燧原科技,共同打造面向单体超大规模智算中心的可信算力解决方案,覆盖超 300 PFlops 国产算力资源,满足大规模数据训练和推理的数据安全需求。
国内首个可信算力基础设施落地应用
2024年1月16日,湖北宜昌点军区人工智能算力中心正式宣布“点亮”,熠智科技参与算力中心隐私安全底座建设并完成交付。
点军区人工智能算力项目总投资 3 亿元人民币,搭载了由燧原科技提供的超 300 PFlops 人工智能推理算力+训练算力。算力中心隐私安全底座基于熠智自主研发DataVault可控计算框架实现,旨在满足算力中心大规模数据训练和推理的数据安全需求。
![国内首个可信算力基础设施落地应用](https://cdn.yeez.tech/img/base-frame/case-computing-power-base.png)
算力中心隐私安全底座支持算力租户跨节点动态创建隐私域,实现隐私域内数据和模型安全使用,在非授权情况下,严格杜绝数据和模型外泄;并且基于内核级强访问控制机制,可对于共享内存、网络传输以及硬盘挂载等异常操作实时监控预警。
![国内首个可信算力基础设施落地应用](https://cdn.yeez.tech/img/base-frame/case-computing-power-base-flow.png)
此外,DataVault 在此次隐私安全底座部署过程中,还充分体现了以下优势:
- 硬件兼容:DataVault 支持多种 CPU 架构, 以及基于 PCI-e 的计算设备,在此次算力中心建设过程中,DataVault 完美支持燧原科技 i20/t20 系列为代表的国产 GPU 设备;
- 应用适配:DataVault 可实现应用程序二进制层面的兼容,无需修改业务代码即可无缝迁移,DataVault 在一周内即完成数百个主流人工智能算法模型框架适配,包含深度网络、生成模型以及目前主流的大模型算法,支持输入海量数据包括文本、图像、音视频以及多模态数据;
- 高性能:性能方面,经过数百种机器学习和模型训练基准测试,算力中心开启隐私保护功能后实际性能损失不超过5%。
![国内首个可信算力基础设施落地应用](https://cdn.yeez.tech/img/base-frame/case-computing-power-base-sys.png)
此次 DataVault 开创性实现了国内首次高性能计算场景落地,结合此前熠智科技联合多家行业伙伴发布的 DataVault 大模型推训一体机,标志着熠智科技已具备完善的从单机到集群大模型隐私安全保护方案,对隐私计算行业未来发展方向具有重大意义。
关于湖北宜昌点军区人工智能算力中心
点军区人工智能算力项目总投资3亿元人民币,核心目标是建成融合型异构智算中心(人工智能推理算力+训练算力),建成后将为宜昌市智慧城市应用场景提供AI视频智能化提升服务,为文旅、金融、科教等行业提供生成式AI服务。同时,依托算力中心对接外省市算力调度需求,实现异地异构算力跨省市对接,算力资源跨省市、跨区域、跨网络、跨行业按需调度,有力支撑行业方案打造、应用实践及业务创新,打通算力链、人才链、产业链、价值链,构建形成区域发展动力体系,为宜昌点军区打造华中区算力枢纽增添强大助力。
关于燧原科技
燧原科技专注人工智能领域云端和边缘算力产品,致力为通用人工智能打造算力底座,提供原始创新、具备自主知识产权的AI加速卡、系统集群和软硬件解决方案。凭借其高算力、 高能效比的创新架构和高效易用的软件平台,产品可广泛应用于泛互联网、智算中心、智慧城市,智慧金融、科学计算、自动驾驶等多个行业和场景。