标识体系下生成式人工智能处理信息的刑事风险治理

摘要

随着涉及人工智能生成合成内容的标识体系初步形成，与标识义务相关的法律问题逐渐引发了我国司法实践的关注。生成式人工智能在处理信息的过程中，面临着编造与传播虚假信息、侵犯个人信息的刑事风险。在标识体系下，显式标识难以为刑事风险辨识提供有效参考，隐式标识难以反映个人信息授权情况，网络信息服务提供者承担刑事责任的条件有待明确。为应对这些问题，首先，网络信息服务提供者需要根据信息来源与用户要求，在现有标识内容的基础上，提升显式标识的真伪判断、危害评估功能。其次，网络信息服务提供者在处理个人信息时，应依法承担个人信息处理者责任，并在隐式标识中反映个人信息授权情况，对未获得授权的个人信息作匿名化处理。网络信息服务提供者处理已公开的个人信息，应符合个人信息公开时的范围、目的与用途，并将这些要素在隐式标识中体现出来。最后，《网络安全法》规定了维护网络安全、监测网络运行状态、配合网信部门监督检查等义务，标识义务是对前述义务的具体化。如果网络信息服务提供者违反标识义务，经监管部门责令改正而拒不改正，情节严重的，则应以拒不履行信息网络安全管理义务罪追究刑事责任；对“情节严重”,可以根据违法信息的传播数量、用户信息的泄露数量来判断。

关键词

生成式人工智能 / 生成合成内容 / 标识办法 / 网络信息服务提供者 / 刑事风险

基金资助

湖南省社会科学基金青年项目：人脸识别信息的刑法保护研究(24YBQ055)