AI对齐的关键阻滞、路线探新及重要意义——基于迈向通用人工智能的现实呼唤

摘要

从ChatGPT到DeepSeek,生成式人工智能的智能化程度不断提升，为人类社会创造福祉的巨大潜力也逐渐凸显。生成式人工智能技术所创造的巨大商业价值已经促使人工智能领域的巨头快速推动这项技术的迭代，从而使生成式人工智能迈向通用人工智能的路径变得愈发清晰。然而，生成式人工智能技术让人类喜忧参半的特性，决定了人类在面对未来可能出现的通用人工智能技术时必须保持谨慎态度。为确保其设计和应用符合社会期望及人类利益，需要建立一种伦理基础：AI对齐。目前的关键问题是，AI对齐需要整合学界对AI认识的理论分歧，攻克机器学习的风险性和人自身的脆弱性等现实挑战。当下人工智能业界和学界已初步形成AI对齐的目标和方法，但这些方法尚无法满足人工智能技术从生成式迈向通用式的现实需求。基于此，亟需探索AI对齐的新路线：政府应加快推进AI对齐的法律和技术伦理规范出台，人工智能企业要强化多样性和包容性的数据训练，多领域专家要加强对话与合作，用户要积极反馈AI系统使用中出现的问题。鉴于人工智能技术从生成式迈向通用智能技术的现实需求，AI对齐对于实现安全有益的通用人工智能意义重大。通过AI对齐，能够避免人工智能出现价值观偏差，防止其对人类产生不当影响，切实保护人类利益。

关键词

AI对齐 / ChatGPT / DeepSeek / 大型语言模型 / 通用人工智能 / 人类安全