2024年10月，Meta在开放计算项目（OCP）全球峰会上展示了其前沿的开放式AI硬件设计，这一创新举措意在推动全球AI基础设施的开放化，奠定技术合作的新标准。Meta不仅离不开技术进步的动力，更希望通过将硬件设计向外共享，促进更广泛的AI技术应用与发展。
Meta的最新研究成果Llama3.1模型以4050亿参数的庞大规模和128k token的上下文窗口能力，向业界提出了前所未有的计算需求。为了支撑如此复杂的运算，Meta在其数据中心部署了超过16,000个NVIDIA H100 GPU，这一超大规模的AI训练集群显著提升了计算能力，相较于之前小规模的128个NVIDIA A100 GPU配置，这个飞跃标志着新一代AI计算向前迈出了重要一步。
这种大规模集群扩展使得Meta在AI模型训练的资源调度上达到了新的高度，利用高性能计算（HPC）系统结合高带宽网络，确保了各GPU之间的高速通信。随着未来带宽的持续提升，Meta预计每个加速器将达到每秒1TB的注入带宽，这为高效的AI计算构建了坚实基础。
在构建大型AI集群过程中，网络架构的效率至关重要。Meta推出了多层次的无阻塞网络结构，通过优化拥塞控制确保网络在重负载下的可预测性与稳定性。这种设计可以有效应对复杂的AI任务，无论是模型训练还是推理，都能提供持续的高效性能。
此外，Meta在此次峰会上推出的Catalina机架是基于NVIDIA Blackwell平台设计的开放架构。Catalina的模块化与灵活性设计，能够支持GPT和AI任务日益增长的计算需求，解决了GPU功耗过大的问题。其Orv3高功率机架设计最高可支持140kW的功率需求，允许合作伙伴基于其架构定制AI解决方案。
Meta的Grand Teton平台自发布以来，成为AI基础设施的重要组成部分。它最初是为大规模推荐系统等内存带宽受限任务而设计，如今_Meta进一步扩展了对AMD Instinct MI300X加速器的支持。这一技术扩展为Meta的AI任务提供了更高的计算能力和内存带宽支持，显著提升了处理复杂深度学习模型的性能。
MI300X作为全球首款集成式APU（加速处理单元），将CPU和GPU通过高级封装技术融合在一块芯片上，确保了数据传输延迟的最小化，完美契合大规模并行计算的需求。其128GB高带宽内存（HBM3）提供了充足的内存支持，有效缓解了深度学习训练和推理中的内存瓶颈。
Meta与微软的合作关系在这次开放硬件进程中显得尤为重要。两家公司在交换机抽象接口（SAI）等多个关键项目上紧密合作，共同开发了Mount Diablo分解式电源机架。这种跨公司协作不仅展示了开放式创新的力量，也为AI硬件的技术进步提供了强有力的支持。
Meta的愿景不仅在于技术的持续进步，更在于推动全球范围内的开放合作。通过共享其先进的硬件设计和制定新标准，Meta积极引导开发者与公司参与到AI发展中，促进技术的普及与应用。未来，Meta还将继续投资于开放式硬件，推动AI技术的创新，为世界各地的用户带来更多的机会与可能性。
Meta在本次开放计算峰会上展示了其开创性的开放式AI硬件愿景，通过Catalina机架和Grand Teton平台等一系列创新设计，显著提升了AI计算能力，推动了AI基础设施的演变。
最后，作为一个资深的自媒体从业者，我衷心建议大家日常一定要学习使用先进生产力，要把AI用起来。使用AI生成文章配图已经成为我的工作习惯，这不仅帮助我大大提高了工作效率，也为我的文章带来了更多的流量。聪明的人已经把像chatgpt这样的AI工具用得风生水起了，用但大部分职场人还只知道埋头苦干赚死工资，结果就是吃了信息闭塞的亏。用了AI工具后，你会发现自媒体创业是一件非常容易的事！只要愿意花点时间学学怎么用，简单的操作就能让你产出高质量爆款图文，涨粉10w+不是梦！比如我常用的AI工具——简单AI，就是一个全能型AI创作助手，功能包括AI绘画、文生图、图生图、AI文案、AI头像、AI素材、AI设计等。可以一键生成创意美图、动漫头像、种草笔记、爆款标题、活动方案等。
用AI搞副业太爽了！月入过万原来如此简单！点击这里，赚钱神器免费用 →