大语言模型安全的技术治理：对抗测试与评估审计

周辉; 郭烘佑

doi:10.15896/j.xjtuskxb.202502007

西安交通大学学报（社会科学版） ›› 2025, Vol. 45 ›› Issue (2) : 78 -88. DOI: 10.15896/j.xjtuskxb.202502007

大语言模型安全的技术治理：对抗测试与评估审计

周辉, 郭烘佑

作者信息 +

Author information +

文章历史 +

摘要

人工智能大语言模型在提供跨任务和跨领域泛化性能的同时，由于数据驱动和技术复杂等原因产生了多重风险，增加了企业和个人面临的安全威胁，并带来了伦理和法律问题。以对抗测试和评估审计为核心的技术治理能够有效辨识和缓解安全漏洞及风险，为大语言模型的安全应用提供了关键保障。但是，目前缺少充足的算力保障、技术治理流程和标准缺乏统一性、平台技术治理易受商业利益影响等困境影响了技术治理方案的稳步实施。从优化技术治理框架、鼓励安全治理技术创新、明确流程与标准、构建多方参与的监督机制等方面提出完善安全技术治理机制的建议，以确保大语言模型的稳定与安全运行。