边缘侧实时推理引擎支撑工业PLC超低延迟闭环控制的异构计算架构设计

分享到:

工业控制系统中可编程逻辑控制器承担着设备逻辑顺序控制和过程量调节的核心职能。传统可编程逻辑控制器的控制逻辑基于预设的梯形图或结构化文本程序,程序在执行前经过编译并存储在控制器中,运行时按照固定周期扫描输入状态、执行逻辑运算并更新输出。当工业场景中引入基于机器学习的实时推理功能后,控制逻辑不再完全由预设规则定义,而是需要根据传感器数据的实时变化动态调整控制参数。边缘侧实时推理引擎将机器学习模型的推理计算部署在靠近生产设备的边缘节点上,以减少数据上传云端带来的传输时延。异构计算架构将中央处理器、图形处理器和现场可编程门阵列等不同类型的计算资源集成在同一边缘计算平台中,使推理任务中不同计算密度的子任务能够分配到最适合的硬件上执行。超低延迟闭环控制对推理引擎的响应时间有严格限制,异构计算架构的设计需充分考虑任务划分、数据搬运和同步开销等工程细节。
 
5aeb6101e57c5fd5ba85c5d6e0ecff4b
 
工业控制场景中的实时推理任务具有显著的计算异构性特征。推理过程中包含大量矩阵乘法和卷积运算,这些运算的数据并行度高且计算模式重复,适合在图形处理器上执行。推理的前后处理阶段则包含数据解码、缩放和滤波等操作,这些操作涉及复杂的分支逻辑和串行处理,在中央处理器上执行效率更高。控制策略的决策部分可能需要根据推理结果查表或进行数值优化,现场可编程门阵列的硬件并行能力可以在纳秒级完成这类确定性运算。异构计算架构的任务划分需要根据各硬件的计算特性将推理任务拆分为多个子任务,并确定子任务之间的数据依赖关系。任务划分的粒度影响整体执行效率,过细的划分会增加数据搬运和任务调度的开销,过粗的划分则无法充分利用各硬件的计算优势。
 
异构计算架构中数据搬运的优化是保证超低延迟控制的关键环节。推理模型中的权重参数和中间激活数据在中央处理器内存、图形处理器显存和现场可编程门阵列片上缓存之间传输时,数据搬运的延迟可能超过实际计算所需的时间。数据搬运的优化措施包括减少数据在不同硬件之间的迁移次数,将多次计算过程中用到的数据固定在目标硬件的存储中。在推理任务启动前,将模型权重预先加载至图形处理器显存和现场可编程门阵列的块随机存取存储器中,运行时仅需传输输入数据和输出结果,减少搬运的数据量。对于多层神经网络中间结果的传递,采用流水线方式将上一层的输出直接作为下一层的输入,避免中间结果回传至中央处理器内存再进行分配。
 
实时推理引擎对控制周期的确定性时延要求使异构计算架构的任务调度策略需要具备可预测性。在通用计算系统中,任务调度以最大化吞吐量和资源利用率为目标,任务的执行时间存在波动。在工业闭环控制中,推理任务的完成时间需要严格控制在控制周期以内,超时即视为控制异常。异构计算架构的调度策略需为推理任务预留充足的计算资源,并采用固定优先级的抢占式调度机制,确保推理任务在规定的起始时刻获得必要的计算资源。图形处理器上的内核执行时间受显存带宽和缓存命中率的影响,存在一定的不确定性,在设计中需为最坏情况下的执行时间预留裕量。现场可编程门阵列上的逻辑运算具有确定性执行时间,适合处理控制策略中时间敏感度最高的部分。
 
异构计算架构中推理引擎与可编程逻辑控制器之间的接口设计决定了推理结果作用于执行机构的时延。推理引擎生成的控制增量或控制参数需要传递至可编程逻辑控制器的输出映像区,由可编程逻辑控制器按照既定的输出刷新周期将控制量发送至执行器。传统架构中推理引擎与可编程逻辑控制器通过工业以太网进行数据交换,网络协议栈的处理时延在微秒至毫秒级,在超低延迟控制中这一时延不可忽略。优化方案将推理引擎和可编程逻辑控制器的核心功能集成于同一异构计算平台中,推理引擎通过内部高速总线直接写入可编程逻辑控制器的输出寄存器,绕过了网络协议栈的处理过程。这种紧耦合设计减少了接口时延,同时对系统的故障隔离能力提出更高要求,推理引擎的异常不应导致可编程逻辑控制器核心功能的失效。
 
边缘侧实时推理引擎的工程部署需要根据具体工业场景的控制需求配置异构计算资源。不同工业场景的推理模型复杂度差异显著,视觉检测任务的模型参数规模较大,对图形处理器算力要求较高。时序预测任务的模型参数量较小但对数值精度敏感,更适合在中央处理器或现场可编程门阵列上运行。异构计算平台的硬件选型需根据目标场景的推理任务特征进行配置,图形处理器的显存容量需容纳模型权重和中间激活,现场可编程门阵列的逻辑单元需容纳控制策略的硬件实现。当前,边缘侧实时推理引擎的异构计算架构已在部分工业自动化项目中完成验证,推理引擎与可编程逻辑控制器协同工作的案例表明异构计算架构在超低延迟控制中的可行性。随着工业模型中引入更复杂的神经网络结构,异构计算平台的任务调度和资源分配策略将继续演进,以适应模型规模和精度要求的不断提升。控制系统的可靠性和确定性是工业场景的基本要求,推理引擎的设计在所有优化措施中均需以不破坏控制确定性为前提。
 
更多资讯内容,详见文章
相关资讯
边缘侧实时推理引擎支撑工业PLC超低延迟闭环控制的异构计算架构设计

边缘侧实时推理引擎将推理计算部署于靠近生产设备的节点,以降低传输时延。异构计算架构根据子任务计算特征分配中央处理器、图形处理器和现场可编程门阵列资源,数据搬运优化和流水线设计减少延迟。任务调度采用固定优先级抢占策略保障时延确定性。推理结果通过内部总线写入可编程逻辑控制器输出寄存器,减少接口时延。该架构已在部分工业自动化项目中验证超低延迟闭环控制的可行性。

精彩活动