数字反噬、通能塔诅咒与全押归零的人工智能赌局——智能革命重大风险及其治理问题的若干思考

摘要

人们通常将智能革命与以往多次科技革命并列，但这不能反映智能革命的特质和影响。以往的科技革命都是专能(专门能力)革命，智能革命是首次发生的通能革命，引发社会前所未有的巨变。人工智能风险与伦理治理收效甚微，其首要原因是公众和学术界深陷十大认识误区。深度信息化、数字化导致人类边际收益递减，AI机器人因不受生理限制而收益越来越大，远超人类的收益，直到反客为主，危害人类，可谓“数字反噬”。人工智能造成“短期失业、长期增业”论不能成立，通能革命势必引发大规模失业，可谓“通能塔诅咒”。“奇点到来还很遥远”这一判断是错误的，人工智能“还没有超过人类智能”“还没有自主意识”,并不等同于AI没有威胁人类安全。只要AI或利用AI可造成毁灭性灾难，即可认为“奇点”来临，至少广义的“奇点”——“畸点”已临。AI for Science导致的最大风险是辅助或自主生产“致毁知识”,对它而言，科技伦理形同虚设。初探科技风险剧增理论，指出人工智能等高科技带来的好处越来越多，却终将毁于一旦，可谓“全押归零的人工智能赌局”。因此急需发展以提高助人能力为目标的人工辅能(AAI),尽快实现从以提高智慧能力为目标的人工智能A模式向以提高辅助能力为目标的人工智能B模式(人工辅能模式)的转变。

关键词

通能革命 / 人工辅能 / 人工智能B模式 / 科技风险剧增理论 / 人类安全 / 科技重大风险 / 畸点已临 / 致毁知识