0 引言
科技是第一生产力,是实现高质量发展的重要支撑。随着全球新一轮科技革命的兴起,科技的不可控性和不确定性将对社会发展产生不容忽视甚至不可逆转的影响。科技伦理是开展科学研究、技术开发等科技活动需要遵循的价值理念和行为规范,是促进科技事业健康发展的重要保障。因此,在社会发展的过程中,为了减少或者避免科技带来的风险,必须遵守科技伦理,重视科技伦理治理。
科技伦理治理不是一件独立的、一次性的、片面的工作,而是一项系统的、持续的、全面的工程。中国科技管理体制逐渐形成政府自上而下的制定战略、目标与政策,基层科研机构承担研究任务的模式
[1],与此同时,中国仍面临着科技伦理风险变化莫测、科技伦理制度不完善、创新主体科技伦理管理压力大等问题
[2-3]。因此,中国科技伦理治理体系必须与中国科技创新体系相匹配,且可以解决中国科技伦理治理面临的挑战。然而,目前鲜有研究总结明确中国科技伦理治理体系的架构且进行全面剖析研究。因此,本文将构建分层分类科技伦理治理体系框架,并分析中国分层分类科技伦理治理体系建设现状及存在的不足,随后挖掘主要发达国家科技伦理治理的经验,最后提出完善中国科技伦理治理体系的策略建议。
1 科技伦理治理体系的重要性与挑战
1.1 构建科技伦理治理体系的重要性
构建科技伦理治理体系有利于完善国家治理能力。2019年7月,中央全面深化改革委员会第九次会议审议通过《国家科技伦理委员会组建方案》,该方案表明了中国推动科技伦理治理建设的决心
[4]。2019年10月,党的十九届四中全会审议通过了《中共中央关于坚持和完善中国特色社会主义制度、推进国家治理体系和治理能力现代化若干重大问题的决定》明确提出“健全科技伦理治理体制”。党的十九届五中全会审议通过的《中共中央关于制定国民经济和社会发展第十四个五年规划和二〇三五年远景目标的建议》更是再次强调“健全科技伦理体系”。可见,科技伦理治理体系将成为中国社会制度的重要组成部分,完善科技伦理治理体系有利于提高中国治理能力,促进国家治理现代化建设。
构建科技伦理治理体系有利于中国创新主体的健康发展。创新主体是推动生命科学、医学和人工智能成为全球科技活动最活跃领域的重要力量
[5]。这三大领域不仅是科技伦理治理的主战场,也是西方对中国设置“伦理屏障”的重点领域
[6]。2021年6月,美国参议院审议通过《2021年美国创新和竞争法案》,将“价值观”“人权”等融入科技创新的相关政策,如果该法案成为法律,美国将拥有以“伦理”设立障碍的法律条文,并可据此制裁外国创新主体的技术出口等系列活动,阻碍国外创新主体的发展。因此,建立健全科技伦理治理体系不仅可以更好地管理创新主体,促进中国科学技术的可持续发展,而且可以帮助国内创新主体应对西方的“伦理屏障”,助力中国技术出海。
构建科技伦理治理体系有利于保护中国人民权益。科技发展带来了社会进步,提高了社会效率,使人们的生活更加便利,然而,也给保护人民权益带来了新的挑战。如果在科技发展过程中忽略了伦理问题,就会使人民权益受到侵犯。因此,建立科技伦理治理体系可以确保在科技改变人类生活的同时,保护人类利益不受侵犯,促进科技向善发展。
1.2 中国科技伦理治理体系面临的挑战
科技创新活动日新月异,科技伦理风险变化莫测。随着科技创新的日新月异,围绕科技创新的战略博弈逐渐显现,各国纷纷抢占科技制高点,随之而来的伦理挑战与问题也日益凸显。一方面,科技创新周期大幅缩短,对科技伦理治理提出了更高的要求;另一方面,各科技领域面临的伦理问题迥异,随着科技创新活动的交叉融合,会出现一系列性质不同、复杂程度更高的伦理问题。
科技伦理制度不完善,治理领域发展不均衡。一方面,中国科技伦理相关工作起步较晚,相关制度仍存在不完善的情况,如科技伦理规范指南、行业标准较少等;另一方面,中国不同技术领域、不同地区科技伦理发展不平衡,医学、实验动物领域伦理规范已相当完善,而在人工智能、新兴交叉领域制度建设稍显落后,不能与中国科技活动的高质量发展相匹配。
创新主体种类多数量大,科技伦理管理任务艰巨。中国创新主体逐年增加,与此同时,创新主体还面临着科研工作者伦理意识不强、专业科技伦理人才缺乏等问题,这进一步加剧了创新主体的科技伦理管理压力。
因此,中国需要进一步完善科技伦理治理体系,为各类创新主体营造良好科研生态环境,确保科技向善、可持续发展,以助力中国科技高质量发展。
2 中国分层分类科技伦理治理体系研究
2.1 中国分层分类科技伦理治理体系理论框架
为了应对中国科技伦理治理面对的挑战,构建“一顶三层”分层分类科技伦理治理体系框架,如
图1。在中国“一顶三层”分层分类科技伦理治理体系中,首先,“一顶”指中央科技委员会,是科技伦理治理体系的最高决策者。其次,“三层”中的最顶层,主要由科学技术部总体负责推进科技伦理治理的具体工作,如科技伦理政策制定等;各领域的科技伦理治理工作由各主管部委负责;与此同时,国家科技伦理委员会及其分委员会将根据其功能定位为其他两类组成部分提供学术性支撑。再次,“三层”中的中间层,主要由各省、自治区、直辖市科技主管单位负责落实本省的科技伦理治理工作,各省、自治区、直辖市各领域主管单位负责落实本省本领域的科技伦理治理工作,各省级伦理委员会、各类学会、行业组织也应积极制定、编写、开发相关科技伦理治理工具,支撑各省、自治区、直辖市科技主管单位和各领域主管单位工作。最后,在“三层”的最下层,创新主体根据政策开展本单位的科技伦理管理工作,各省级和创新主体伦理委员会、各类学会、行业组织也应支撑最下层创新主体的科技伦理管理工作。
2.2 中国分层分类科技伦理治理体系建设现状
2.2.1 基本完成分层分类科技伦理治理体系架构设计
2019年,中共中央办公厅、国务院办公厅发布《国家科技伦理委员会组建方案》;2023年,中共中央、国务院印发《党和国家机构改革方案》进一步明确国家科技伦理委员会职责。2022年,中共中央办公厅、国务院办公厅印发《关于加强科技伦理治理的意见》(以下简称《意见》),对科技伦理治理做出系统部署。《意见》要求各地方、相关行业主管部门按照职责权限和隶属关系具体负责本地方、本系统科技伦理治理工作;高等学校、科研机构、医疗卫生机构、企业等单位要履行科技伦理管理主体责任,建立常态化工作机制,加强科技伦理日常管理。在分类治理方面,《意见》要求制定生命科学、医学、人工智能等重点领域的科技伦理规范、指南等。
2.2.2 顶层科技伦理治理制度不断完善
在中国,科技伦理治理工作由科技部具体负责。2020年,科技部印发的《科学技术活动违规行为处理暂行规定》和科技部等22个部门联合印发《科研失信行为调查处理规则》明确了对违背科技伦理要求等违规行为的调查程序和处理措施。2022年1月1日修订生效的《中华人民共和国科学技术进步法》从顶层确立了科技伦理治理的法律地位,要求完善科技伦理制度规范,健全审查、评估、监管体系,创新主体要履行科技伦理管理主体责任。2023年10月,科技部等十部门印发《科技伦理审查办法(试行)》,明确相关科技活动的伦理审查办法。与此同时,在项目管理方面,相关政策也逐步明确,科技部、财政部印发《关于进一步优化国家重点研发计划项目和资金管理的通知》以及国家自然科学基金委员会、财政部印发《关于进一步完善科学基金项目和资金管理的通知》均规定科研单位应建立健全科技伦理管理制度,加强伦理审查和过程监管。
2.2.3 各分领域科技伦理制度不断完善
在科技伦理分类治理方面,各主管部委积极推进相关工作,并出台文件。在医学领域,国家卫生健康委在原有基础上,进一步加强对医学研究的伦理治理。例如,2021年1月,国家卫生健康委、科技部、中医药管理局联合印发《医学科研诚信和相关行为规范》,明确提出遵循科研伦理准则、接受伦理监督、保障受试者权益等要求。2023年2月,国家卫生健康委印发《涉及人的生命科学和医学研究伦理审查办法》。
在生命科学领域,各部门也在原有基础上不断完善。2019年出台的《生物医学新技术临床研究和转化应用管理条例(征求意见稿)》和《生物技术研究开发安全管理条例(征求意见稿)》均对涉及伦理问题的活动作出了明确规定。2020年10月出台的《中华人民共和国生物安全法》对生物技术研究开发与应用活动的伦理要求作出明确规定。此外,部分制度文件将医学和生命科学领域的伦理问题一同规范,2020年5月出台的《中华人民共和国民法典》新增科技伦理条款,规范研制新药、医疗器械或发展新的预防和治疗方法,以及从事与人体基因、人体胚胎有关的医学和科研活动等伦理要求。2020年12月实施的《中华人民共和国刑法修正案(十一)》新增了克隆人类胚胎、违反基因编辑伦理规范等行为的入刑标准及刑事责任条款。2023年2月出台的《涉及人的生命科学和医学研究伦理审查办法》进一步健全完善涉及人的生命科学和医学研究伦理审查监督管理体系建设,有效防控科技伦理风险,推动生命科学和医学研究造福人民群众健康。
在人工智能领域,工业和信息化部出台加强科技伦理治理的实施意见等系列文件,并组建科技伦理委员会。2020年2月,工业和信息化部指导中国人工智能产业发展联盟发布《可信AI操作指引》。2022年10月,工业和信息化部出台《工业和信息化部关于加强科技伦理治理的实施意见(试行)》,旨在提升中国工业和信息化领域科技伦理治理能力,促进产业科技创新活动与科技伦理协调发展、良性互动。外交部于2024年1月更新《中国关于加强人工智能伦理治理的立场文件》,明确中国关于加强人工智能伦理治理的立场,呼吁各方秉持共商共建共享理念,推动国际人工智能伦理治理。
在金融领域,中国人民银行加强对金融领域的科技伦理治理,2022年10月,中国人民银行发布《金融领域科技伦理指引》,指导金融领域从业机构开展科技伦理治理工作,预防和化解金融科技活动伦理风险。在教育领域,教育部成立科技伦理专门委员会,为高校科技伦理管理工作提供政策咨询和建议。中国科协也积极推进各类学会、期刊出版的伦理建设工作。
2.2.4 各地方主管部门、学会等持续落实科技伦理治理体系
各地方加快完善本地方科技伦理治理体系。截至2024年8月,辽宁、天津、黑龙江、江苏、浙江等18个省份出台了全面落实科技伦理治理的实施意见,宁夏、广西落实文件已完成意见征求,北京、贵州等8个省份也开始以各种方式逐步落实《意见》内容,如建立协调机制、举办培训、对医学类项目开展伦理复查等。辽宁、湖南、甘肃、新疆等地成立了省级科技伦理委员会,这为完善本地科技伦理治理体系,尤其是为科技伦理高风险活动治理提供了有力支撑。湖南省建立区域伦理审查中心,这对提高当地科技伦理治理效率将产生积极影响。
各行业协会学会积极推进科技伦理治理建设。2021年,中国人工智能学会人工智能伦理与治理工作委员会成立。同年7月,中国伦理学会科技伦理专业委员成立。2023年11月,重庆市成立重庆市科技伦理学会。2023年12月,中国科协和复旦大学签署《合作备忘录》,共同推动中国科技伦理学会筹建。
2.2.5 创新主体逐渐加强本单位的科技伦理管理建设
调研
[3]显示,截至2022年8月,各类创新主体开展科技伦理管理制度建设的比例均超过60%,成立科技伦理(审查)委员会的比例均超过50%,医疗卫生机构均已建立伦理管理相关制度,并成立伦理委员会,部分医疗卫生机构为细化科技伦理管理还成立了各类伦理委员会分会。四川大学华西医院结合科技活动伦理风险程度建立科技伦理分级审查机制。高等学校也在不断加强对相关领域的科技伦理统筹管理,如清华大学、武汉大学等高校纷纷成立校级科技伦理委员会,明确学校科技伦理工作流程和管理机制,上海交通大学已将伦理审查纳入全校办公系统,提高了管理效率。科研院所正在加强本单位的科技伦理管理工作,如中国科学院所属相关院所逐步成立伦理委员会,并设立相关办事机构,落实伦理管理工作。各类相关企业也在完善本单位伦理管理制度,成立科技伦理委员会,提出本单位科技活动伦理治理管理模式和机制,将伦理理念贯穿科技创新全过程,及时有效防控伦理风险。
2.3 中国分层分类科技伦理治理体系存在的不足
2.3.1 顶层法律制度建设仍不完善
虽然,中国已有部分法律中包含科技伦理条款。例如,《民法典》新增科技伦理条款,规范研制新药、医疗器械或发展新的预防和治疗方法,以及从事与人体基因、人体胚胎有关的医学和科研活动等;新修订的《科技进步法》第一百零三条明确科技伦理管理相关规定,第一百一十二条明确了违反科技伦理科技活动的惩罚措施;在生命科学领域的法律法规中也有相关规定,如《中华人民共和国生物安全法》对生物技术研究开发与应用活动的伦理要求作出明确规定。近年来,随着科学技术的发展,出现了一些与伦理相关的法律问题,但是很多领域的相关法律并没有对应的科技伦理条目。例如,近年来随着生成式人工智能的兴起,出现了一些知识产权、版权问题,然而现有法律对此类问题却未作出明确规定。
2.3.2 科技伦理风险等级划分体系仍需完善
虽然中国已出台相关文件禁止了克隆人等不合伦理的科技活动,《科技伦理审查办法(试行)》也明确了科技活动最低风险情形和纳入清单管理的科技活动,但是缺少对各类科技活动风险等级的详细划分说明,急需对各类科技活动伦理风险等级进行划分。在一些发达国家,对涉及科技伦理的活动做出了明确的分类,如德国《基因科技法》按照科学发展状况把基因科技活动按照对人类健康与环境的风险程度区分为4个等级进行管理,明确不同等级的划分依据和管理措施。
2.3.3 新兴技术相关科技伦理治理政策仍需加强
在中国,医学领域已经出台了较为完善的科技伦理治理政策,而针对一些新兴技术和交叉学科技术的伦理治理政策稍显不足。人工智能技术日新月异,急需完善人工智能领域的科技伦理治理法律政策;合成生物学领域也缺乏相关伦理治理文件。国外已经出台相关治理策略,并搭建了治理框架,如美国卫生部在2010年10月公布的《双链DNA合成商的筛选框架指南》和《涉及重组DNA研究的生物安全指南》指导合成DNA产品的监管,防止不当开发
[7]。
2.3.4 创新主体责任落实情况仍需提高
部分创新主体对科技伦理管理的主体责任意识不强。例如,部分创新主体科技伦理服务意识不强,如没有公开网站,对科研人员的伦理教育宣传活动不及时;管理制度不健全,对科技伦理政策理解不到位,缺乏科技伦理管理专业人才,如2023年中国才开始应用伦理硕士专业招生
[8];对本单位的科技活动伦理审查不严格,监管措施不到位等
[9]。
2.3.5 第三方机构未充分发挥支撑作用
各类科技社会团体等第三方机构在分层分类科技伦理治理体系中发挥支撑示范作用不足。各类第三方机构应在科技伦理治理中充分发挥支撑作用,例如强化科技伦理研究、制定科技伦理规范等。然而,中国科技伦理相关学会数量极少,这也导致了各类科技社会团体在制定本领域科技伦理标准、研究预判可能产生的伦理问题等方面的局限性。
3 国外科技伦理治理经验
根据中国科技伦理治理体系存在的不足,以下将选取国外的有关经验进行分析研究。
3.1 明确总体负责机构,出台相关法律文件
在美国,其科技伦理治理最高层是由美国参议院和众议院专门设立的专门性管理机构——国家科学技术委员会、总统科学技术顾问委员会、白宫科技政策办公室以及联邦政府各部门或机构与半官方和非政府机构共同组成的,它们对国家科技伦理治理体系健康、有序和高效运行起着至关重要的作用。在顶层政策文件方面,早在1974年美国出台的《国家研究法案》便规定所有需要在人类受试者身上开展的研究,都需要经过研究机构伦理审查委员会的批准;在《联邦法规汇编》(CFR)中规定了各政府部门主管领域要遵循的伦理原则,如第45主题第690部分明确了自然科学基金领域的相关规定,第49主题第11部分明确了交通部领域的相关规定。在澳大利亚,最高层次的负责部门是议会,其主要负责制定法律文件,如《涉及人类胚胎研究法案》《治疗性商品法案》《国家人类研究伦理行为声明》等,其他具体领域的政策由监管主要政府部门或主体配合完成。
3.2 明确各类科技活动风险等级划分依据
有些发达国家会明确科技伦理风险等级的划分规定,并根据风险等级不同采取不同的管理措施,在医学和人工智能领域均有相关经验。
在医学领域,美国卫生与公共服务部规定,机构审查委员会(institutional review board,IRB)可以对部分类型的研究项目采取快速审查程序。目前,共有15类研究项目适用于快速审查。澳大利亚对涉及人类研究进行了风险等级划分,澳大利亚研究理事会(Australian Research Council,ARC)和国家健康与医学研究理事会(The National Health and Medical Research Council,NHMRC)联合制定并以联邦政府的名义颁布了《涉及人类研究的伦理行为的国家声明》,表示通常涉及人类的研究活动可能会对研究参与者造成某种潜在的不利影响,即“不适、不便或损害”,按照这影响的严重性由轻到重将科学研究活动的风险划分为三个等级。
在人工智能领域,英国明确了数据伦理的风险等级划分依据,英国《数据伦理框架》将总体原则、具体操作、遵守法律、审查数据质量和局限性、政策评估都分为五个等级,如果任何一项得分小于等于三分,那么项目就要进行额外检查和更改。德国数据伦理委员会发布《针对数据和算法的建议》建立数字服务企业使用数据的五级风险评级制度,对不同风险类型的企业采取不同的监管措施,明确了具体划分方法,对于二级风险以上的企业,委员会建议引入强制性标记系统,要求运营商明确是否、何时以及在何种程度上使用算法系统。
3.3 成立委员会或机构应对新兴技术的伦理挑战
为了应对新兴技术的伦理问题,很多国家和地区都成立了国家层面的独立科技伦理机构。在欧盟,各国除了成立国际科技伦理委员会外,还成立了欧洲科学和新兴技术伦理小组,该小组就欧盟立法和政策中关于科学和新兴技术(如基因编辑、人工智能)的伦理、社会和基本权利问题向欧盟提供高质量、独立的建议,且获得欧盟的法律授权,该小组工作还是欧盟27个国家伦理委员会及全球多个国家工作的重要参考
11 European Union. European Group on Ethics in Science and New Technologies (EGE) [EB/OL]. [2024-05-22]. https://research-and-innovation.ec.europa.eu/strategy/support-policy-making/scientific-support-eu-policies/european-group-ethics_en.
。
在英国,开展基因临床试验必须向基因治疗咨询委员会(GTAC)提出申请并获得批准才能开展,而英国只有四个伦理委员会具有此权力,分别是伦敦-西伦敦和GTAC、中南部-牛津A、东北部-约克和苏格兰伦理委员会(总部设在爱丁堡)。为了应对人工智能风险,负责任地使用人工智能技术,科学、创新及科技部成立了人工智能安全研究院,该研究院虽然隶属于科学、创新及科技部,但不是监管机构,也不决定政府监管,而是与政府、学术界、民间社会和私营部门的现有组织开展合作。该研究院将为英国和国际决策提供信息,为治理和监管提供技术工具,其核心功能有三个:开发和评估先进人工智能系统,推动基础人工智能安全研究,促进国际各类单位信息交流
22 Department for Science, Innovation and Technology. Introducing the AI Safety Institute[EB/OL]. [2024-05-22]. https://www.gov.uk/government/publications/ai-safety-institute-overview/introducing-the-ai-safety-institute.
。该研究院为了招揽人才,加强国际合作,还将在旧金山设立办事处。
3.4 各地方政府进一步出台治理政策文件
各国地方政府会根据本地情况,发布更为严格或先进的科技伦理治理政策。
在医学领域,美国马里兰州,2002年颁布马里兰州众议院第917号法案(哈伯德法案),该法案明确无论研究资金来源于何方,联邦关于研究伦理行为的规定适用于在马里兰州进行的所有研究,任何人可以要求查看IRB的会议记录(机密或特权信息处理后),并授权其司法部长可以发出禁令或其他司法救济以防止进行非法人体受试者研究。
在人工智能领域,苏格兰政府于2021年3月发布了《苏格兰人工智能战略》,这份文件概述了苏格兰将“成为值得信赖的人工智能的领导者”
[10]。美国各州也积极采取行动,马里兰州议会于2024年4月通过了《马里兰州在线数据隐私法》,将对公司如何收集和使用本州消费者的个人数据施加广泛的限制,科罗拉多州于2024年5月颁布了《关于在与人工智能系统的互动中提供消费者保护的法案(SB205)》,成为美国州层面第一部对人工智能及其应用进行监管的法律。
3.5 创新主体重视科技伦理管理
国外发达国家创新主体对本单位的科技伦理管理极为重视,是科技伦理治理的重要执行机构。在美国,涉及科技伦理的单位均设有IRB,各单位IRB建有公开网站,用于公布、整合、提交伦理相关信息,使科研人员在此网站可以获得“一站式”服务。科研人员在开展涉及伦理问题的研究时,包括非医学类的研究,都要进行教育培训并获得许可证,培训课程既可以线上学习,也可以联系工作人员提供线上定制课程,而且培训并不是终身有效。
在英国,涉及科技伦理的单位均设有伦理委员会,且有公开网站,网站会提供研究人员需要的各类伦理信息以及相关流程。例如,帝国理工学院对其单位的各类活动有明确的伦理审查规定,流程图如
图2,不同项目的伦理审查要求不同,医疗方面的研究要经过HRA认可的REC批准,而像一些教育类的研究便需要根据其情况进行不同的审查。
在澳大利亚,所有在NHMRC注册的REC均设有公开网站,网站内提供了科研人员需要的各类伦理信息,同样地,澳大利亚开展科研涉及伦理问题时也要经过REC许可,而且参与人员必须进行强制培训。例如,澳大利亚国立大学的REC 要求开展动物实验人员根据其角色完成不同种类的课程。
3.6 行业机构积极为创新主体服务
在国外,各类行业机构以多种方式参与科技伦理治理,从而完善本国科技伦理治理体系。在美国,第三方伦理机构积极开设伦理培训课程,例如,CITI项目推出了331门伦理课程,相当一部分美国顶尖创新主体都要求科研人员必须完成CITI课程后才能开展研究,也有政府部门和军队购买其课程。
在澳大利亚,企业通过制定行业标准、开发和提供技术方案等促进数字科技伦理实践,如德勤会计师事务所通过《揭秘数据》聚焦于澳大利亚数字科技领域人力资源存在的问题,为澳大利亚政府制定数字技术战略方向伦理政策提供一定的参考
[11]。
4 中国分层分类科技伦理治理体系完善建议
为了完善中国科技伦理治理体系,提高科技伦理治理效率,根据中国分层分类科技伦理治理体系存在的不足和国外经验,提出以下相关建议。
4.1 完善中国法律文件中的科技伦理条款
虽然《民法典》《科技进步法》《中华人民共和国刑法修正案(十一)》等法律中加入了相关科技伦理条款,但是仍有很多法律没有关于科技伦理的条款,科技伦理的主要执行部门可以牵头开展梳理哪些法律文件需要增加科技伦理条款,并与负责部门积极沟通协调,完善中国科技伦理法律体系。
4.2 明确生命科学、医学、人工智能等领域各类科技活动的伦理风险等级
各领域主要负责部门应支持制定不同领域有关科技伦理风险等级评价标准,为科技管理人员和科研人员开展科技伦理管理活动提供指引,防止或者减少误判科技伦理风险等级情况的发生,对不同伦理风险等级的科技活动采取不同的管理政策,提高科技伦理治理效率,营造良好的科研生态环境。
4.3 加强新兴技术的伦理治理
加强体系制度建设。推动、配合各部门尽快出台主管领域的新兴科技伦理制度,针对该领域科技活动特点,完善科技伦理监管措施,明确需要进行伦理审查的科技活动范围等,为各新兴技术领域科技伦理治理提供制度依据。鼓励各相关单位和科研人员加强对前沿新兴技术的监测,探索新兴技术可能带来的伦理问题,完善治理制度。
成立相关单位或委员会专门负责新兴技术的治理工作。新兴技术产生的伦理问题与传统领域的伦理问题存在巨大差异,不仅对专业知识要求极高,而且可参考案例较少,仅依靠制度完善是不行的,还要成立专门的委员会或者机构负责新兴技术的伦理治理,通过研发“硬核”技术解决新兴技术的伦理治理问题。
4.4 督促各省级政府部门积极完善本省科技伦理治理政策
推动未落实《意见》的各地方政府相关部门结合本地实际,或尽快出台相关政策文件,或以实际措施为抓手全面落实《意见》内容,如成立省级科技伦理委员会、区域伦理审查中心等。加强本地区科技伦理治理体系建设,畅通部省联动治理渠道,建立多部门联动机制,形成省级科技伦理监督机制。
鼓励各地出台特色伦理治理政策。各地情况不同,然而对比已出台文件,各地政策大同小异。要鼓励各地根据自身情况出台伦理政策,如自治区要制定考虑民族情况的伦理治理政策,长三角地区可以建立跨区域伦理审查中心或者建立为企业服务的伦理审查联盟等。
4.5 压实创新主体在分层分类科技伦理治理体系中的主体责任
敦促创新主体尽快完善本单位科技伦理管理机制。第一,督促有关创新主体及时设立科技伦理(审查)委员会,建立常态化工作机制,加强科技伦理日常管理,主动研判、及时化解本单位科技活动中存在的伦理风险,对相关科研项目实行科技伦理全过程管理。第二,建立科技伦理“一站式”服务网站,科技伦理的本质是促使科技发展,创新主体的科技伦理管理部门必须有服务意识,完善单位科技伦理管理部门网站,公开科研人员所需信息、建立线上课程,加强科技伦理教育。
协助企业完善科技伦理管理建设。相对于其他类别的创新主体,企业科技伦理人才相对缺乏,建立科技伦理管理制度积极性较低且经验不足。相关部门应为企业提供一站式的科技伦理管理资源,积极搜寻、完善企业科技伦理管理案例,形成一条可推广可复制的企业科技伦理管理经验。
4.6 鼓励第三方参与科技伦理治理工作
鼓励第三方建立科技伦理教育课程。目前,对科研人员的科技伦理教育还需进一步加强,可以在全国范围内遴选优秀单位建立线上科技伦理课程培训。该措施可以扩大科技伦理教育面,使科技伦理教育不再集中于具有教学能力的单位;可以节约成本,各单位不必重复建设课程;使全国科研人员对科技伦理有较为统一的认识,减少由于教育资源不均带来的认识不足。
鼓励第三方机构参与科技伦理信息收集工作。制定科技伦理政策需要大量基础信息,可以鼓励第三方机构积极收集科技伦理治理信息,并给予相应奖励。
4.7 积极建设科技伦理治理大模型
最近迅猛发展的大模型、生成式人工智能等通用人工智能技术以其出色的自然语言交互、生成内容能力,正在颠覆各行业的发展,美国在《关于安全、可靠、可信地开发和使用人工智能行政命令》中明确表示要加速在政府中建立基于生成式人工智能的各类监管体系,在未来可以建设基于生成式人工智能的科技伦理治理应用系统。目前,基于中国科技伦理治理体系中存在的问题和科技伦理治理现状,可以首先建设科技伦理治理大模型供相关人员使用。该大模型可以在通用大模型的基础上,通过“喂入”各类科技伦理治理相关的资料,如国内外、各创新主体的科技伦理政策、科技伦理委员会、科研活动、案例、新闻等相关数据,并进行训练等系列过程,力争覆盖国内外科技伦理领域知识,且能实时更新数据库,提供具有准确依据、全面的回答。该大模型可以大幅度提高中国科技伦理治理效率:第一,国家科技伦理相关主管部门,可以通过该系统迅速了解全国科技伦理治理概况,从而出台相关措施;第二,各地区科技主管部门可以实现对本地区本领域涉及科技伦理风险活动的监管,加强对科技伦理的监管工作,从而支撑各地区出台相关政策;第三,创新主体可以通过其了解科技伦理管理流程等,科研工作者可以在系统内高效地学习科技伦理知识、接受教育等,从而加强创新主体中科技伦理管理部门的服务功能,增强各方责任意识。
5 结语
科技伦理治理体系是推进国家治理体系和治理能力现代化的重要组成。首先,本文构建了中国“一顶三层”分层分类科技伦理治理体系框架,根据框架对中国伦理治理体系建设现状及不足进行了分析;其次,根据中国分层分类科技伦理治理体系的不足,分析了国际先进经验;最后,结合中国实际情况和国际经验,提出完善中国分层分类科技伦理治理体系的策略。未来,随着科学技术的不断发展,社会将面临更严峻的科技伦理挑战,因此除解决现有问题外,可以研发科技伦理舆情系统把握社会主观变化,更好地为科技伦理治理工作服务。
国家社会科学基金一般项目“数据协同驱动的城市治理数字化转型效能评估研究”(21BTQ066)
中国科协2024年度科技智库青年人才计划“基于‘人工智能+’的分级分类科技伦理治理体系研究”(XMSB20240713002)