全文 |《中华人民共和国人工智能法(学者建议稿)》

 
 
 
 
 
 
 

来源:数字经济与法治

 

 

中华人民共和国人工智能法

(学者建议稿)

第一章 总则

第一条【立法目的】

为了推动人工智能技术创新,促进人工智能产业健康发展,规范人工智能产品和服务的开发、提供、使用活动及其监督管理,维护国家安全和公共利益,保护个人、组织的合法权益,根据宪法,制定本法。

第二条【适用范围】

在中华人民共和国境内从事人工智能开发、提供、使用活动及其监督管理,适用本法。

在中华人民共和国境外开展人工智能开发、提供、使用活动,可能影响中华人民共和国国家安全、公共利益或者个人、组织合法权益的适用本法。

第三条【科技伦理原则】

发展人工智能应当坚持以人为本,尊重人身自由和人格尊严,增进人民福祉,保障公共利益,引导和规范人工智能产业健康有序发展。人工智能开发者、提供者、使用者应当依法预防和控制人工智能可能存在的伦理风险。

第四条【创新发展原则】

国家实施包容审慎监管,鼓励支持人工智能产业创新发展,保障人工智能安全。

第五条【公平公正原则】

人工智能开发者、提供者、使用者应当坚持公平公正原则,保护个人、组织的合法权益,不得实施不合理的差别对待。

第六条【透明可解释原则】

人工智能开发者、提供者、使用者应当坚持透明可解释原则,依法以适当方式提供和说明人工智能产品和服务的基本信息、目的意图和主要运行机制等。

第七条 【安全可问责原则】

人工智能开发者、提供者、使用者应当依法采取必要的技术手段管理措施确保人工智能产品和服务安全可靠。

人工智能开发者、提供者、使用者应当依法对开发、提供和使用活动承担相应的法律责任。

第八条【正当使用原则】

人工智能开发者、提供者、使用者应当遵守法律法规,尊重社会公德和伦理,遵守商业道德和职业道德,诚实守信,履行人工智能安全保护义务,承担社会责任,不得危害国家安全、公共利益,不得损害个人、组织的合法权益。

鼓励人工智能开发者在产品设计中嵌入使用限制,防止使用者利用人工智能从事非法活动。

第九条【人工介入原则】

人工智能开发者、提供者应当评估和说明人工智能产品和服务的安全风险,依法设置人工监督和审核机制。

第十条【发展基础设施】

国家加强人工智能基础设施建设,合理引导全国算力资源调度和供应,推动多元算力互联互通。

国家支持建设人工智能产业发展所需的公共数据开放平台,鼓励各地区、各部门积极探索公共数据的开放和使用。

第十一条【知识产权保护】

国家依法保护人工智能领域的知识产权,探索创新人工智能科研成果转化机制,健全人工智能领域技术创新、知识产权保护和标准化的互动支撑机制。

第十二条【绿色发展】

国家鼓励和支持人工智能开发、提供和使用活动采用环保节能技术,积极推动人工智能技术节能创新应用。

各级人民政府建设与人工智能算力资源相关的数字基础设施时。

应当严格遵循绿色发展原则,根据国家发展规划,合理统筹和调度算力资源,保护生态环境。

第十三条【多元共治】

国家建立和完善政府主导、社会协同、公众参与的人工智能治理体制,构建多元共治的人工智能治理格局。

第二章 发展与促进

第十四条【人工智能发展规划】

国家制定人工智能发展规划,支持人工智能理论、技术与应用的高质量发展,推进人工智能在经济社会领域深度融合应用。

省级以上人民政府应当将人工智能发展纳入本级国民经济和社会发展规划,并根据需要制定人工智能发展规划。

各级人民政府应当根据人工智能产业发展规划,建立符合国际贸易准则的产业政策,保障市场主体的合法权益,营造公平竞争的市场环境。

第十五条【算力基础设施建设】

国家加强算力基础设施建设,围绕人工智能产业发展、社会经济发展需求优化算力基础设施建设布局,加强产业链协同联动,支持市场主体参与,促进算力基础设施绿色低碳发展,推动算力标准体系建设。

算力基础设施应当采用安全可信的基础软硬件进行建设,保障供应链安全。算力基础设施运营主体应当增强算力基础设施安全保障能力和应急处置能力,定期开展巡查巡检。

第十六条【算力资源利用】

国家建立算力基础设施资源调度机制,统一规划算力网络节点建设,加强通用计算、智能计算、超级计算等多元算力资源科学布局,积极引导和推进算力互联互通。

国家推动算力结构多元配置,引导各行业合理调度算力资源,促进算力资源协同共享统筹利用,探索算力资源市场化交易,完善算力资源配置体系,提升算力基础设施利用效能。

国家推动公共算力资源平台建设与利用,为人工智能技术与产业发展提供公共算力支持,保障中小企业获得普惠的公共算力。

算力基础设施运营出现重大风险或者运营主体失去运营能力时,省级以上人民政府人工智能主管部门有权指定其他运营主体托管或者进行接管,以保障算力基础设施稳定运营。

第十七条【算法模型创新】

国家加强算法模型创新,促进依法应用、推广和流通。人工智能主管部门指导行业组织制定人工智能算法模型推荐目录与合作指引完善算法模型流通中的利益分享机制。

国家支持相关主体开展基础模型创新,发展面向通用人工智能的基础理论体系。

第十八条【关键技术创新】

国家推动相关主体开展关键技术创新开发,提高关键领域自主创新能力,坚持自主可控、安全高效,推动人工智能产业高质量发展。对利用财政资金开展的关键技术创新研究,国家依法在经费、实验手段等方面予以支持。

第十九条【开源生态建设】

国家推进开源生态建设,支持相关主体建设或者运营开源平台开源社区、开源项目,鼓励企业开放软件源代码、硬件设计、应用服务,培育共享协作的开源创新生态。

国家建立开源治理体系,鼓励通过协议规范开源产品许可、知识产权保护与责任分配机制,推进开源生态行业规范建设。

第二十条【数据要素供给】

国家鼓励和支持相关主体建设人工智能领域的高质量数据集和数据库,提升高质量数据要素供给能力;鼓励相关主体开展大数据与人工智能技术协同开发,研制数据标注的专业工具和系列标准。相关主体应当依法合理分配数据收益。

人工智能主管部门建立人工智能产业数据资源统筹机制,依法推动数据要素流通共享,促进人工智能产业发展。

第二十一条【公共数据利用】

国家鼓励建立人工智能数据资源共享机制,推动公共数据开放共享。各级人民政府积极探索制定人工智能应用领域的公共数据标准体系、公共数据共享目录和共享规则,推动公共数据互联互通以及分级分类有序开放。

省级以上人民政府应当依法加强公共数据开放共享,构建人工智能公共数据池,扩大人工智能公共数据供给范围,保障中小企业、个人开发者等公平使用开放数据。

鼓励相关个人和组织依托公共数据开放平台,开发、提供人工智能产品和服务,推动公共数据在人工智能场景的创新应用。

第二十二条【信息网络建设】

国家加强信息网络建设,支持市场主体参与,提升网络基础设施建设水平,加强关键信息基础设施建设,构建泛在高效的智能网络基础设施体系,依法维护网络安全。

第二十三条 【知识产权保护】

国家建立完善训练数据、算法、人工智能生成内容等知识产权保护规则。

人工智能开发与应用中形成的软件作品、发明专利、实用新型专利、商业秘密、集成电路布图设计等各类知识产权依法受到保护。利用人工智能从事创作、发明创造、工业设计等智力劳动所形成的知识产权依法受到保护。

第二十四条【数据合理使用】

人工智能开发者使用他人享有著作权的数据进行模型训练时,如果该使用行为与数据原本的使用目的或功能不同,并且不影响该数据的正常使用,也没有不合理地损害数据权利人的合法权益,则该使用行为属于数据合理使用。

对于符合上述合理使用情形的数据使用行为,人工智能开发者可以不经数据权利人许可,不向其支付报酬,但是应当以显著的方式标注数据来源。

第二十五条【安全技术与服务】

国家支持相关主体开展网络安全、数据安全、算法安全技术的开发应用,加快安全技术创新,支持相关专业机构依法提供服务。

第二十六条【保险激励】

国家鼓励和支持人工智能开发者、提供者为人工智能产品服务投保合适的保险产品,包括但不限于网络安全保险、第三方责任险等国家鼓励保险公司探索和开发适合于人工智能产品和服务的保险产品。

第二十七条【产学研融合】

国家支持人工智能企业发展,加强企业主导的产学研深度融合,强化企业在人工智能科技创新中的主导地位。

各级人民政府应当制定措施支持相关主体建设人工智能研究机构、人工智能标准组织和行业组织,支持人工智能科学研究、技术创新和开发活动。

第二十八条【产业场景培育】

国家建立人工智能应用场景开放制度,定期征集和发布应用场景需求和示范解决方案,推进人工智能在政务服务、医疗、科学研究金融、自动驾驶等领域的示范应用。

各级人民政府应当遵循市场规律,坚持应用导向,制定措施加快人工智能关键技术转化应用,打造具有国际竞争力的人工智能产业集群和创新高地。

第二十九条【政策扶持】

国家对人工智能基础研究和应用基础研究予以专项资金支持;支持人工智能科技创新企业及其成果的孵化,对于重点项目的运营企业,根据法律规定给予税收优惠。

政府采购应当优先采购安全可靠的人工智能产品和服务。

第三十条【人才培养】

国家推进人工智能相关学科建设,鼓励教育、科研机构和企业等开展人工智能相关教育和培训,采取多种方式培养人工智能专业人才促进人工智能人才交流。

国家探索建立适应人工智能发展需要的人才评价机制、项目管理创新机制、科技成果转化激励机制;对从事人工智能研究的科学技术工作人员,依照国家规定给予奖励和补贴。

第三十一条【数字素养】

国家实施全民数字素养与技能提升行动,提升公民的数字获取制作、使用、评价、交互、分享、创新、安全保障、伦理道德等素质与能力。

各级人民政府应当组织开展人工智能科学普及与相关法律法规宣传教育,指导、督促有关单位做好人工智能科学普及与相关法律法规宣传教育工作。

第三章 使用者权益保护

第三十二条【平等权】

人工智能开发者、提供者应当采取合理措施保障使用者平等,确保产品和服务的普惠性和公平性,避免出现性别、信仰、地域、年龄、民族、经济能力等方面的偏见和歧视。

第三十三条【知情权】

人工智能提供者在提供产品和服务的过程中应当保障使用者的知情权,以适当方式提供下列信息:

(一) 人工智能产品和服务的提供者的名称、联系方式及相关信息获取方式;

(二) 人工智能产品和服务的功能、目的意图、主要运行机制;

(三) 人工智能产品和服务的功能局限、潜在风险和对使用者权益可能的影响;

(四)人工智能产品和服务的许可或者备案公示信息;

(五) 使用者享有的权利与救济渠道;

(六) 法律、行政法规规定的其他信息。

人工智能开发者应当配合人工智能提供者履行上述义务。

第三十四条【隐私与个人信息保护】

人工智能开发者、提供者应当依法保护个人的隐私权和个人信息权益,依法及时受理和处理个人关于查阅、复制、更正、补充、删除其个人信息等请求。

未经个人同意或者符合法律规定的其他情形,人工智能开发者提供者不得利用人工智能分析、评估个人的行为习惯、兴趣爱好或者经济、健康、信用状况等信息。

人工智能开发者、提供者应当事前向使用者明确告知产品和服务是否存在侵犯隐私权和个人信息权益的安全风险。

人工智能开发者、提供者不得收集非必要个人信息,不得非法留存能够识别使用者身份的输入信息和使用记录,不得非法向他人提供使用者的输入信息和使用记录。

第三十五条【人工智能决策解释权与拒绝权】

人工智能提供者应当保障使用者退出或者拒绝使用人工智能的权利,但是属于产品和服务基本功能的除外。

个人、组织的合法权益可能受到人工智能产品和服务的重大影响时,有权要求人工智能提供者予以说明,并且有权拒绝仅通过人工智能产品和服务作出的决定,要求人工智能提供者重新作出有人类参与的决定。

第三十六条【人工智能生成内容知识产权】

利用人工智能生成的内容,根据使用者对内容最终呈现的贡献程度,当符合著作权法对作品认定的条件或者专利法对发明创造的认定条件时,可以作为作品获得著作权法保护或者依法申请专利保护,但是获得著作权的主体或者申请专利的主体必须为自然人或者法人等法律主体。

将利用人工智能生成的内容作为作品或者申请专利保护的,使用者应当主动披露相关内容是否主要由人工智能生成。

人工智能提供者与使用者应当对利用人工智能生成的内容权属进行约定,没有约定或者约定不明的,相关权利应当由使用者享有。

第三十七条【劳动者权益】

用人单位不得滥用人工智能侵犯劳动者的合法权益。

用人单位应当在订立劳动合同时明确向劳动者告知人工智能的使用范围、基本功能以及合法性依据,不得仅根据人工智能作出惩罚解雇劳动者等决策;不得利用人工智能非法延长劳动时间,侵害劳动者休息休假的权利;不得利用人工智能实施具有侵犯隐私权和个人信息权益的内部管理活动。

第三十八条【数字弱势群体权益】

人工智能开发者、提供者应当充分考虑未成年人、老年人、妇女、残疾人等数字接入能力、数字应用技能较弱人群的差异化需求,向其提供持续、稳定、普惠、开放的人工智能产品和服务。

人工智能开发者、提供者应当增强人工智能在预防网络违法犯罪等问题的检测、识别和处置功能,便利老年人安全使用人工智能产品和服务。

人工智能开发者、提供者应当设置专门的未成年人保护功能,引导未成年人正确使用人工智能产品、服务,不得向未成年人提供不当示范、诱导沉迷等影响未成年人身心健康的内容和功能。

第三十九条【获得帮助和培训的权利】

人工智能开发者、提供者应当提供适当的人机交互方式,便利使用者使用。涉及个人重大合法权益的人工智能产品和服务,提供者应当对个人、组织提供帮助、技能培训。

第四十条【投诉与起诉的权利】

人工智能提供者应当设置便捷的个人、组织行使权利的申请受理和处理机制。拒绝个人、组织行使权利的请求的,应当在合理期限内说明理由。

人工智能提供者没有及时处理或者拒绝个人、组织行使权利的请求的,个人、组织可以依法向人民法院提起诉讼。

第四章 开发者与提供者义务规范

第一节 一般规定

第四十一条【安全义务】

人工智能开发者、提供者应当采取组织措施、技术措施,确保人工智能产品和服务的开发、提供活动符合本法和相关法律、行政法规规定,防止人工智能安全事件的发生。

人工智能开发者、提供者应当对开源框架、基础软硬件和部署环境的漏洞和安全风险进行定期检查和监测,并实时监测可能的攻击:人工智能开发者、提供者应当依照法律、行政法规和国家有关规定保存人工智能开发、提供活动的日志信息。

人工智能安全风险的应对措施应当与风险大小、发生概率、技术发展水平以及实施成本相适应。

第四十二条【安全风险评估】

人工智能开发者、提供者应当在提供产品和服务前开展安全风险评估,并且对处理情况进行记录。人工智能安全风险评估应当包括下列内容:

(一) 是否存在潜在的偏见或者歧视;

(二)对公共利益、个人权益的影响及安全风险;

(三) 是否依法开展科技伦理审查;

(四)保护措施是否合法、有效并且与风险程度相适应。

人工智能产品和服务发生重大变更的,应当重新进行人工智能安全风险评估。

人工智能开发者、提供者可以自行或者委托第三方机构开展人工智能安全风险评估。人工智能安全风险评估报告和处理情况记录应当至少保存三年。

第四十三条【重大安全事件报告】

人工智能开发者、提供者应当对人工智能安全事件立即采取处置措施;属于人工智能重大安全事件的,按照规定及时向人工智能主管部门报告。

人工智能重大安全事件报告的管理办法,由国务院人工智能主管部门制定。

第四十四条【维护保险标的安全】

人工智能开发者、提供者在投保后,应当依法维护保险标的安全。保险人可以按照合同约定对保险标的的安全状况进行检查,及时向人工智能开发者、提供者提出提升人工智能产品和服务安全、完善业务合规、消除技术安全隐患的书面建议。

人工智能开发者、提供者未履行对保险标的安全维护责任的,保险人有权要求增加保险费或者解除合同。

保险人为维护保险标的安全,经被保险人同意,可以采取安全预防措施。

第四十五条【数据质量】

人工智能开发者应当采取有效措施提升训练数据质量,增强数据集的真实性、准确性、客观性和多样性;发现训练数据中存在法律、行政法规禁止的信息,应当采取必要措施。

第四十六条【合规指引】

人工智能提供者应当确保提供的产品和服务符合本法和相关法律、行政法规的规定,确保产品和服务的功能安全、透明、稳定、可持续。

人工智能提供者应当以适当方式明确产品和服务的适用人群、场合、用途,指导使用者安全、科学、理性认识和使用人工智能产品和服务;发现使用者利用人工智能服务从事违法活动的,应当及时采取警示、限制功能、暂停或者终止向其提供产品和服务等处置措施,保存有关记录,并且向人工智能主管部门报告。

第四十七条【内容安全】

人工智能服务提供者提供网络信息服务的,应当依法履行网络信息安全义务。

人工智能服务提供者应当采取措施防止生成虚假有害信息等法律法规禁止的内容,提供者发现违法内容的,应当及时采取停止生成停止传输、消除等处置措施,并向人工智能主管部门报告。

第四十八条【标识义务】

人工智能提供者应当在产品和服务内容的合理位置、区域添加隐式标识,并且建立隐式标识的信息溯源机制,确保隐式标识的可读性和安全性。

人工智能产品和服务可能导致公众混淆或者误认的,提供者应当采取技术措施,在产品和服务内容的合理位置、区域添加不影响使用者使用的显式标识,以显著方式向公众提示人工智能产品和服务的必要信息。

任何组织和个人不得采用技术手段删除、篡改、隐匿人工智能产品和服务中依法添加的标识。

第四十九条【准入要求】

法律、行政法规规定人工智能产品和服务的开发、提供活动应当取得许可的,开发者、提供者应当依法取得许可。

外商投资人工智能产品和服务的,还应当符合外商投资相关法律、行政法规的规定。

第二节 关键人工智能义务

第五十条【关键人工智能的范围】

关键人工智能包括以下类型:

(一) 应用于关键信息基础设施的人工智能;

(二) 对个人的生命、自由、人格尊严等人身权益有重大影响的人工智能;

(三) 在算力、参数、使用规模等方面达到一定级别的基础模型;

(四) 法律、行政法规规定的其他情形。

第五十一条【关键人工智能安全保护措施】

关键人工智能开发者、提供者应当建立安全保护措施,与关键人工智能同步规划、同步建设、同步使用。

关键人工智能开发者、提供者、使用者应当优先采购安全可信的物理设备和信息服务

关键人工智能开发者进行数据标注活动的,应当制定符合法律法规和人工智能主管部门要求的数据标注规则,建立数据标注审核机制,提升标注的公平性、准确性和真实性。

第五十二条【关键人工智能组织机构】

关键人工智能开发者、提供者应当设置专门安全管理机构,负责关键人工智能的安全管理。

关键人工智能开发者、提供者应当指定人工智能保护负责人,负责对人工智能开发、提供活动以及采取的保护措施等进行监督管理:应当公开人工智能保护负责人的联系方式,并且将人工智能保护负责人的姓名、联系方式等报送人工智能主管部门。

第五十三条【关键人工智能备案】

关键人工智能提供者应当在接到认定通知之日起 7 个工作日内,通过国家人工智能监管平台进行备案,履行备案手续。人工智能主管部门应在 30 个工作日内予以备案或者要求补充材料。

法律法规规定应当进行备案的其他人工智能产品和服务,应当按照法律法规规定的程序进行备案。

第五十四条【关键人工智能安全风险评估】

关键人工智能开发者、提供者应当自行或者委托第三方机构对关键人工智能每年至少进行一次人工智能安全风险评估,对发现的安全问题及时整改,并且向人工智能主管部门报告

第五十五条【关键人工智能安全风险披露】

关键人工智能开发者、提供者应当建立人工智能安全风险披露机制,强化对人工智能各环节安全风险的监测;发现存在安全风险时,应当依法及时履行通知义务,并且向使用者披露安全风险。

关键人工智能开发者、提供者应当提供适当的人机交互方式,便利使用者在产品和服务使用期间进行有效的人工监督。

第五十六条【关键人工智能安全应急处置】

关键人工智能开发者、提供者应当建立安全应急处置预案,发生人工智能安全事件时,立即启动安全应急处置预案,汇总风险信息,采取相应的补救措施,并及时向人工智能主管部门报告。

关键人工智能开发者、提供者在必要时可以采取中断运行的紧急措施;安全风险排除后,应当及时恢复运行。

第五十七条【关键人工智能主体变更报告义务】

关键人工智能开发者、提供者发生合并、分立、解散等情况,应当及时报告人工智能主管部门,并且按照人工智能主管部门的要求对关键人工智能进行处置。

第五章监督管理

第五十八条【统筹协调机制】

国家建立人工智能统筹协调机制,全面指导、统筹、协调国家人工智能发展和管理工作。

人工智能统筹协调机制统筹协调人工智能主管部门依法推进下列工作:

(一) 研究制定、指导实施国家人工智能战略与规划;

(二) 建立、落实人工智能风险监督管理机制;

(三)制定人工智能科技伦理审查、数据标注、关键人工智能安全、分级分类和许可备案等具体规则、标准;

(四) 推进人工智能评测社会化服务体系建设,支持有关机构开展人工智能教育培训等相关工作;

(五) 法律、行政法规规定的其他职责。

第五十九条【主管部门】

国务院有关部门依照本法和有关法律、行政法规的规定,在各自职责范围内负责人工智能监督管理工作县级以上地方人民政府有关部门的人工智能监督管理职责,按照国家有关规定确定。

前两款规定的部门统称为人工智能主管部门。

第六十条 【监管职责】

相关行业、领域的人工智能主管部门履行下列人工智能监督管理职责:

(一) 制定本行业、本领域的人工智能监督管理规范和实施

细则;

(二) 开展人工智能合规宣传教育,指导、监督人工智能开发者、提供者、使用者依法履行义务;

(三) 组织对人工智能产品和服务的风险测评,

(四)调查、处理违法的人工智能开发、提供、使用活动;

(五) 接受、处理与人工智能产品和服务有关的投诉、举报。

(六)法律、行政法规规定的其他职责

第六十一条【分级分类】

国家建立人工智能分级分类制度,根据人工智能在经济社会发展中的重要程度,以及对国家安全、公共利益或者个人、组织的合法权益可能造成危害的程度,进行分级分类监督管理,依法对关键人工智能实施特殊监管。

人工智能主管部门建立分级分类评估机制,根据技术发展、行业领域、应用场景等因素制定人工智能分级分类标准并动态调整,及时更新人工智能分级分类指南。

第六十二条【关键人工智能特殊监督管理】

国家制定关键人工智能监管制度,对于关键人工智能的开发、提供、使用活动实行特殊监督管理,开展以下工作:

(一) 组织关键人工智能认定并及时通知认定结果:

(二) 制定、公布关键人工智能采购专用产品目录:

(三) 按照相关国家标准,对关键人工智能产品和服务进行定期评估,或委托第三方机构进行安全认证;

(四)对关键人工智能产品和服务的安全风险进行抽查检测,提出改进措施,必要时可以委托第三方机构进行审计;

(五)定期组织关键人工智能产品和服务的提供者进行安全应急演练,提高应对人工智能安全事件的水平和协同配合能

第六十三条【风险监控与应急机制】

人工智能主管部门制定人工智能安全监测预警和信息通报制度,加强人工智能安全信息收集、分析和通报工作,按照规定通报人工智能安全监测预警信息

人工智能主管部门建立健全人工智能应急工作机制,制定应急预案,并定期组织演练。人工智能安全事件应急预案应当按照危害程度影响范围等因素对人工智能安全事件进行分级,并规定相应的应急处置措施。

第六十四条 【评估评测】

国家促进人工智能安全评估评测、认证等服务行业发展,支持相关专业机构依法开展服务活动,推动人工智能安全评估结果互认。国家统筹建立人工智能评估评测平台,建立统一权威、动态更新的人工智能评测框架、评测数据集、评测标准,为企业评估开放平台技术接口。

第六十五条【监督检查和配合】

人工智能主管部门履行人工智能监督管理职责,可以依法采取下列措施:

(一) 询问有关当事人,调查与人工智能的开发、提供、使用活动有关的情况;

(二) 查阅、复制当事人与人工智能的开发、提供、使用活动有关的合同、记录、账簿以及其他有关资料;

(三) 实施现场检查,对涉嫌违法的人工智能开发、提供使用活动进行调查;

(四)对有证据证明用于违法人工智能开发、提供、使用活动的设备、物品,向本部门主要负责人书面报告,经批准后,可以依法查封或者扣押。

人工智能主管部门依法履行职责,当事人应当予以协助、配合,并不得拒绝、阻挠。

人工智能主管部门及其工作人员,必须对在履行职责过程中知悉的个人信息、商业秘密等严格保密,不得泄露、出售或者非法向他人提供。

第六十六条 【监督管理试点】

国家建立人工智能监督管理试点机制,健全监督管理试点的启动条件、范围与期限、运行规则等。

对于进入监督管理试点的人工智能开发者、提供者,人工智能主管部门应当依法在准入条件、风险评估、审计、法律责任等方面给予相应便利、激励或者责任减免。

第六十七条 【多元协同】

国家鼓励建立人工智能行业组织,加强行业自律,制定行业规范行业准则,发布行业最佳实践与合规指引,为企业合规和使用者权益保护提供指导。

人工智能主管部门、行业组织、企业、教育和科研机构、有关专业机构应当在人工智能安全风险评估、防范、处置等方面开展协作,鼓励人工智能主管部门、相关行业协会、企业、科研机构开发共享人工智能安全技术和安全信息,构建人工智能技术治理生态

第六十八条 【专家委员会】

人工智能主管部门组织建立人工智能专家委员会,由技术、法律.伦理、社会、医学等方面专家组成,为人工智能安全工作提供咨询评估、论证等专业支撑。

第六章 特殊应用场景

第六十九条【国家机关使用人工智能】

国家机关使用人工智能实施行政行为的,应当遵守合法、合理正当、比例原则,人工智能决策仅可作为行政行为的参考。

第七十条【司法人工智能】

司法人工智能的开发、提供、使用活动应当坚持安全合法、公平公正、辅助审判、透明可信、公序良俗原则。

使用人工智能辅助司法工作的,人工智能决策仅可作为司法工作的参考:使用者有权随时退出与人工智能产品和服务的交互。

第七十一条【新闻人工智能】

利用人工智能提供互联网新闻信息服务的,人工智能使用者应当制定专门的新闻信息发布审核制度,确保新闻信息的真实性和准确性并且增加人工智能生成内容的显式标识。

第七十二条 【医疗人工智能】

利用人工智能从事医疗服务的,应当具备法律规定的相应许可和资质,人工智能决策仅可作为医疗活动的参考。

第七十三条【社交机器人】

人工智能提供者提供社交机器人服务,应当合理控制社交机器人发布的网络信息数量和内容质量,对于社交机器人生成的信息内容进行审核和处置。

使用者不得利用社交机器人对商品质量、商家信誉等关系到消费者合法权益的评价内容进行舆论操纵和引导;使用者滥用社交机器人的,人工智能提供者应当依法采取权限限制、账号封禁、信息屏蔽等措施。

第七十四条 【生物识别】

使用人工智能处理生物识别信息的,应当具有特定的目的和充分的必要性,并采取严格保护措施。存在其他非生物识别技术方案可实现相同目的或者达到同等业务要求的,应当优先选择非生物识别技术方案。

恶意利用人工智能生成的生物识别信息,具有识别特定自然人可能的,经权利人请求,人工智能提供者应当采取屏蔽、断开链接、删除等必要措施。

第七十五条【自动驾驶】

自动驾驶汽车进行道路测试、示范应用、上路上市、运输经营的,应当取得相应的许可和准入。

自动驾驶汽车开发者、提供者应当确保车辆安全,在车辆发生危险时,不得对其他交通参与者进行不合理的差别对待

自动驾驶汽车使用者应当按照道路通行规定和车辆使用说明书的要求,掌握并规范使用自动驾驶功能。

第七十六条【社会信用】

利用人工智能进行社会信用评分、评级,应当以提升信用质效为目标,加强风险管理水平,不得侵害个人平等获得公共服务供给的权利以及其他合法权益。

第七十七条【通用人工智能特殊要求】

通用人工智能开发者应当通过价值对齐等技术手段确保安全可信,根据风险、系统能力进行定期安全评估,提升通用人工智能透明度和可解释性,并向人工智能主管部门报告安全评估结果。

第七章 国际合作

第七十八条【国际治理】

中华人民共和国秉持共同、综合、合作、可持续的全球安全观坚持发展和安全并重的原则,加强与人工智能治理有关的国际交流与合作,参与人工智能有关国际规则、标准的制定,促进形成具有广泛共识的人工智能治理框架和标准规范,防范人工智能安全风险,推动构建开放、公正、有效的全球人工智能治理机制。

中华人民共和国履行联合国安全理事会常任理事国责任,积极参与全球人工智能治理。

第七十九条【反制措施】

任何国家或者地区在人工智能开发、提供、使用等环节,针对我国公民、组织采取歧视性的禁止、限制或者类似措施的,中华人民共和国有权采取相应的反制措施

第八十条【国际援助】

中华人民共和国通过经济、技术、物资、人才、管理等方式开展对外援助,弥合发展中国家的智能鸿沟和治理能力差距,推动国际发展合作。

第八十一条【打击犯罪】

中华人民共和国根据缔结或者参加的条约和协定,或者按照平等互惠原则,同其他国家或地区、国际组织在执法、司法领域开展国际合作。

国家深化拓展对外执法合作工作机制,完善司法协助体制机制,推进执法、司法领域国际合作,防范和打击恐怖主义、极端势力和跨国有组织犯罪集团对人工智能技术的违法使用。

第八章 法律责任

第八十二条【行政处罚的一般条款】

违反本法规定从事人工智能开发、提供、使用活动的,由人工智能主管部门责令改正,给予警告,没收违法所得;拒不改正的,并处一百万元以下罚款; 对直接负责的主管人员和其他直接责任人员处一万元以上十万元以下罚款。

有前款规定的违法行为,情节严重的,由省级以上人工智能主管部门责令改正,没收违法所得,并处五千万元以下或者上一年度营业额百分之五以下罚款,并且可以责令暂停相关业务或者停业整顿、通报有关主管部门吊销相关业务许可或者吊销营业执照; 对直接负责的主管人员和其他直接责任人员处十万元以上一百万元以下罚款,并且可以决定禁止其在一定期限内担任相关企业的董事、监事、高级管理人员和人工智能安全负责人。

第八十三条【行政处罚考量因素】

人工智能主管部门在作出行政处罚决定时,应当综合考虑以下因素:

(一) 违法行为及其后果的性质、严重程度和持续时间;

(二)违法主体的规模、年营业额和市场份额;

(三) 直接或者间接从违法行为中获利的情况;

(四) 为减轻或者处理违法行为采取的措施;

(五)配合人工智能主管部门调查的情况;

(六)此前遵守本法规定的情况。

第八十四条【国家机关责任】

国家机关开展人工智能开发、提供、使用活动,应当遵守本法规定;违反本法规定的,由其上级机关或者有关人工智能主管部门责令改正;对直接负责的主管人员和其他直接责任人员依法给予行政处分国家机关的工作人员玩忽职守、滥用职权、私舞弊,尚不构成犯罪的,依法给予行政处分

第八十五条【提供者归责原则】

人工智能产品和服务造成他人损害的,提供者未尽到本法规定义务的,应当承担侵权责任。

关键人工智能产品和服务造成他人损害,提供者不能证明自己没有过错的,应当承担侵权责任。法律规定赔偿限额的,依照其规定,但是关键人工智能开发者、提供者有故意或者重大过失的除外。

第八十六条【使用者归责原则】

使用人工智能产品和服务造成他人损害,使用者有过错的,应当承担侵权责任;人工智能开发者、提供者未尽到本法规定义务的,承担相应的侵权责任。法律另有规定的,依照其规定归责。

第八十七条【服务提供者避风港规则】

使用者利用人工智能服务实施侵权行为的,权利人有权通知人工智能服务提供者采取屏蔽提示词、关闭或撤销侵权账号等必要措施通知应当包括构成侵权的初步证据及权利人的真实身份信息。

人工智能服务提供者接到通知后,应当及时将该通知转送相关使用者,并进行侵权风险提示;未及时采取必要措施的,对损害的扩大部分与该使用者承担连带责任。

人工智能服务提供者知道或者应当知道使用者利用其提供的人工智能服务侵害他人民事权益,未采取必要措施的,与使用者承担连带责任。

第八十八条【与产品责任的协调】

人工智能产品存在缺陷造成他人损害的,被侵权人可以向生产者销售者请求赔偿;人工智能提供者、使用者依法承担侵权责任后,有权向生产者、销售者追偿。

人工智能提供者、使用者同时构成生产者、销售者的,受害人可以选择适用本法或者有关产品责任的法律规定。

第八十九条惩罚性赔偿】

明知人工智能产品和服务存在重大安全风险不采取必要措施,情节严重的,被侵权人有权请求侵权人承担相应的惩罚性赔偿责任。

第九十条【基础模型的法律责任】

利用基础模型从事人工智能开发、提供、使用活动,违反本法和相关法律、行政法规的规定,侵害国家、社会和他人合法权益的,应当由衍生利用的人工智能开发者、提供者、使用者承担法律责任基础模型提供者知道或者应当知道衍生利用的人工智能开发者提供者、使用者利用其基础模型从事违法活动,未采取必要措施,造成他人损害的,与该人工智能开发者、提供者、使用者承担连带责任.但是基础模型属于开源模型的除外。

基础模型开发者应当与衍生利用的人工智能开发者、提供者、使用者签订协议或者标准合同,明确授权范围、使用限制、风险处置以及法律责任等。

第九十一条【保险责任】

人工智能产品和服务造成他人损害的,人工智能提供者、使用者就人工智能产品和服务投保的,被侵权人有权要求保险人予以赔偿,不足部分或者没有投保的,由侵权人赔偿。

第九十二条【公益诉讼】

违反本法规定从事人工智能提供活动,侵害众多个人的权益的,人民检察院、法律规定的消费者组织和由人工智能主管部门确定的组织可以依法向人民法院提起诉讼。

第九十三条【合规免责】

人工智能开发者、提供者、使用者建立人工智能风险合规制度并且切实执行,同时主动配合调查、整改、认罚的,可以减轻或者免除单位以及直接负责的主管人员和其他直接责任人员的行政处罚

人工智能开发者、提供者建立人工智能风险合规制度并切实执行同时主动认罪认罚的,可以减轻或者免除单位以及直接负责的主管人员和其他直接责任人员的刑事处罚。

第九章 附则

第九十四条 【定义】

本法下列用语的含义:

(一) 人工智能,是指为实现专用或者通用目的,利用计算机模拟人类智能行为,用于预测、建议、决策或者生成内容等用途的技术;

(二) 人工智能开发者,是指从事人工智能产品和服务开发活动的个人、组织;

(三) 人工智能提供者,是指提供人工智能产品和服务的个人、组织;

(四)人工智能使用者,是指使用人工智能产品和服务的个人、组织;

(五) 通用人工智能,是指具有广泛的认知能力,能够应用于多个领域的人工智能。

第九十五条【除外条款】

下列情形不适用本法:

(一) 自然人因个人或者家庭事务使用人工智能的;

(二) 人工智能的科学研究活动;

(三) 免费开源的人工智能。

人工智能的军事开发利用活动,由中央军事委员会另行规定

第九十六条 【施行时间】

本法自 年月 日起施行。

 

 

 

 

 
 
 
 
 
 

免责声明:本号所载内容均为原创、投稿、授权转载或网络公开资料搜集整理,仅供读者交流学习使用,版权归原作者所有,且仅代表作者个人观点,与本号立场无关。若所引用的图片、数据、文字等来源标注有误或涉及侵权,烦请及时联系删除。

欢迎扫码关注

 

 

 

 

 

首页    政策法规    法规标准    全文 |《中华人民共和国人工智能法(学者建议稿)》
创建时间:2024-03-24 09:05
浏览量:0