基于边缘计算的大模型本地知识库问答系统研究

摘要

为了满足边缘计算环境下大模型部署的实时性与隐私保护需求，本研究提出了融合本地知识库的智能问答系统架构。通过构建4层分布式体系，系统采用滑动时间窗负载预测算法实现资源动态调度，引入基于优先级权重的增量式知识更新机制，结合多粒度分类体系优化查询效率。实验结果表明：相比传统云计算架构，边缘计算使平均响应时延降低67.4%,带宽消耗减少65.1%。在最优节点密度配置下，系统吞吐量提升48.1%,中央处理器利用率降低24.2个百分点。

关键词

边缘计算 / 本地知识库 / 问答系统