大模型代理的风险治理

张钦昱; 王淑瑶

doi:10.15896/j.xjtuskxb.202603013

西安交通大学学报（社会科学版） ›› 2026, Vol. 46 ›› Issue (3) : 139 -149. DOI: 10.15896/j.xjtuskxb.202603013

大模型代理的风险治理

张钦昱, 王淑瑶

作者信息 +

Author information +

文章历史 +

摘要

大模型代理是人工智能技术演进的新形式，也是人工智能家长主义理念的具象化。基于法律家长主义与人工智能家长主义的对比，人工智能家长主义与法律家长主义在干预主体、干预方式、干预机制上具有差异性，在干预目标、干预质疑、干预程度上具有相似性。从法律家长主义的立场出发，是否允许一定程度上的人工智能家长主义，应当基于新型人工智能技术代理决策的社会成本收益分析。从收益侧观察，大模型代理可以提升决策者的信息能力，抵抗决策过程中的熵增，矫正决策结果的人类偏见。从成本侧考虑，相比于传统的辅助决策手段，大模型代理降低了决策成本，但相比于自我决策，仍可能产生技术工具失灵的风险和限制自由意志的风险。因此，考虑到大模型代理将产生更多社会福利改进，应革新大模型代理的决策确认机制、行为监管机制和责任分担机制，更好地发挥人工智能家长主义的作用。