《私有化部署需求提升带来大模型一体机投资机会》由财信证券发布,该报告聚焦计算机行业,探讨了私有化部署需求提升背景下大模型一体机的投资机会,核心内容如下:
1. 私有化部署需求提升:私有化部署将AI大模型及相关基础设施部署在客户自主掌控环境,具有物理隔离、数据闭环、自主管控和定制服务等特征,分为本地化部署和托管私有云,存在软硬一体和裸金属两种服务模式,硬件设备价值占比约七成。对于泛政府单位,私有化部署因数据安全、业务需求、部署成本、性能和稳定性等因素成为主流选择。DeepSeek技术创新降低了私有化部署的模型和算力门槛,其R1模型性能对标OpenAI-o1正式版,蒸馏小模型性能领先,且模型完全开源,硬件厂商迅速适配,推动了政企私有化部署需求提升,石油、政务等行业已积极应用。
2. 私有化部署选型考虑因素:私有化部署大模型流程包括软件栈准备、模型获取、推理服务部署、性能调优和安全与监控。选型需考虑模型参数、运行参数、算力硬件、配套生态及软件栈支持。模型和运行参数依业务场景而定,复杂场景要求更高。算力硬件方面,显存容量是关键,还需考虑AI算力大小、显存带宽、互联带宽等,硬件选型要综合推理性能、并发需求和投入成本。配套生态及软件栈支持影响算力利用效率,包括固件及驱动和配套软件包,如昇腾的CANN、MindIE等组件。
3. 大模型一体机契合政企需求:私有化部署复杂,大模型一体机应运而生,它预集成算力硬件、优化软件栈、预装模型,实现软硬结合、通电即用,解决了政企私有化部署的痛点难点。初步测算,泛政府类单位私有化部署AI大模型的服务器(一体机)开支空间约1000亿元,且需求有较大提升空间。
4. 相关公司:紫光股份、浪潮信息、中科曙光、拓维信息等公司在大模型一体机领域积极布局,推出相关产品并应用于多行业,为企业提供AI解决方案,推动行业数字化与智能化升级。