润和软件申请基于硬件感知的Transformer模型分层推理框架专利实现跨设备的动态分层组合式推理

 公司新闻     |      2026-04-14 19:13:52    |      小编

  国家知识产权局信息显示,江苏润和软件股份有限公司申请一项名为“一种基于硬件感知的Transformer模型分层推理框架”的专利,公开号CN121860056A,申请日期为2026年1月。

  专利摘要显示,本发明涉及一种基于硬件感知的 Transformer 模型分层推理框架,框架包括框架适配层、调度层、通信适配层和硬件支持层,具体实施方法包括以下步骤:步骤1、进行硬件抽象。步骤2、模型适配器初始化。步骤3、根据硬件能力与模型结构进行模型分层组合。步骤4、分层推理计划的动态优化与执行前校验。步骤5、各设备产生的中间结果在调度层统一收集。本发明通过对异构硬件环境进行统一抽象建模,并结合 Transformer 模型的层级结构特征,实现跨设备的动态分层组合式推理。通过上述六个步骤实现 Transformer 模型结构与硬件能力之间的深度融合,使得模型推理能够在复杂、动态的多设备环境中实现高吞吐、低延迟与高稳定性。

  天眼查资料显示,江苏润和软件股份有限公司,成立于2006年,位于南京市,是一家以从事软件和信息技术服务业为主的企业。企业注册资本79641.0841万人民币。通过天眼查大数据分析,江苏润和软件股份有限公司共对外投资了32家企业,参与招投标项目1197次,财产线条,此外企业还拥有行政许可33个。

  易倍体育官方入口 易倍体育官网

  声明:市场有风险,投资需谨慎。本文为AI基于第三方数据生成,仅供参考,不构成个人投资建议。