边端协同网络中的批处理模型切分与任务调度方法

摘要

为保证多用户边端协同系统在严格时延约束与有限的通信计算资源下的吞吐量最大化，提出了一种基于批处理的模型切分与任务调度方法。该方法通过对模型切分点选择与任务调度的协同优化，在时延与吞吐量之间实现有效平衡。考虑到问题的求解复杂度，将该问题划分为模型切分和任务调度两个子问题。针对模型划分子问题，设计双决策对抗深度Q网络，实现切分点的自适应选择；针对用户调度子问题，设计了一种具有外部性感知能力的置换稳定匹配算法，动态完成多用户与异构计算资源间的高效映射。仿真结果表明，所提方法在保障延迟约束的同时显著提升了系统吞吐率与资源利用效率，并具备良好的收敛性与可扩展性。

关键词

边端协同 / 深度神经网络推理 / 任务调度 / 模型切分 / 批处理