ChatGPT等天生式人工智能的运用在促进社会变革的同时也引发了一系列数据安全风险，包括数据网络阶段的合规和样实质量风险，数据处理阶段的算法黑箱和天生内容偏见、歧视风险，内容输出阶段的结果失落真、数据透露以及知识产权侵权等。为应对前述数据安全风险，天生式人工智能在管理过程中应该坚持以人为本的代价理念以及安全可控、透明可信、公正正义、任务等基本原则，并将数据合规管理理念引入天生式人工智能的管理过程中。以合规办法管理天生式人工智能的数据风险须要从合规法律规范体系的完善、企业数据风险管控机制的健全、算法模型的技能规制的加强以及人工智能伦理文化的造就等四个方向为着力点展开综合管理。
弁言
得益于互联网信息技能的飞速发展，人类社会迈入了工业4.0——以“数据”为核心要素的智能化时期，人工智能（Artificial Intelligence，AI）当仁不让地成为这一时期的重点研究课题，以数据为养料且功能强大的人工智能产品更是标志性产物。1997年，IBM公司研发的初代人工智能打算机“深蓝”（Deep Blue）就初露锋芒，成功降服了国际象棋大师加里·卡斯帕罗夫；2016年和2017年，谷歌 （Google）公司研发的人工智能机器人“阿尔法狗”（Alpha Go）更因此不可阻挡之势先后降服天下围棋冠军李世石和柯洁，一石激起千层浪，在惊叹于“阿尔法狗”超人聪慧的同时，人工智能新一轮研究热潮也由此飞腾。2022年OpenAI公司研发出的具有强大自主学习能力以及人机互动功能的ChatGPT （Chat Generative Pre-trained Transformer）谈天机器人一经问世，便迅速火遍环球，吸引大批用户下载利用。随后，百度旗下的“文心一言”、华为公司的“盘古”模型、腾讯集团的“混元”以及阿里研发的“通义听悟”等在智能程度和功能上不弱于ChatGPT的国产生成式人工智能模型也应运而生。以ChatGPT为代表的新一代人工智能模型，即天生式人工智能在人机互动、文艺创作、代码编程、智能推介、信息检索等领域展现出远超于人类的惊人能力，不断寻衅着人类聪慧的上限，也不断重塑着人类关于人工智能的传统认知，促进着社会生产力的进步，给人们的衣食住行带来了前所未有的体验。但ChatGPT等天生式人工智能在缺少有效监管和法律规制的情形下成长，快速投入运用市场，同样引发了如人工智能知识产权侵权、数据信息透露、天生和传播不良信息等一系列社会和法律风险，引发了各国政府以及广大公民群众的担忧，采纳有效方法进行风险的预防和规制也成为国际共识。我国发布了《互联网信息做事深度合成管理规定》《天生式人工智能做事管理暂行办法》（以下简称“暂行办法”）等法律法规文件等规制日益壮大的人工智能行业。本文依托于人工智能高速发展的这一时期大背景，考试测验对天生式人工智能发展过程中产生的数据法律风险进行梳理和剖析并提出相应管理方法。
一、ChatGPT等天生式人工智能的观点及运行机理
（一）“人工智能”的观点源起及其分类
“人工智能”一词产生已久，早在1950年，“打算机科学之父”阿兰·图灵（Alan Mathison Turing）就在其文章《打算机与智能》（Computing Machinery and Intelligence）利用了“机器智能”一词，并且提出 了著名的图灵测试，“如果一台机器能够通过电传设备与人类展开对话而能不被辨别出其机器的身份，那么就可以称这台机器具有智能。”用以评判人造机器是否具备人类聪慧。1956年，被后人誉为“人工智能之父”的约翰·麦卡锡（John McCarthy）及其同事在达特茅斯研讨会上首次提出“人工智能”这一观点，“人工智能”这门新兴学科也由此兴起并迭代发展至今。“人工智能”的观点和外延尚未达成广泛的共识，如英国萨里大学法学院教授瑞恩·艾伯特认为“人工智能便是一种算法或机器，它能完本钱来只有具备认知能力才能完成的事情。”美国斯坦福大学在《2030年的人工智能与生活调查报告》（Artificial Intelligence and Life in 2030）则认为人工智能是“一种受到人类感知、思考、推理和行动方法启示但又有所差异的科学和打算机技能。”而根据我国电子技能标准化研究院的定义，“人工智能是利用数字打算机或者数字打算机掌握的机器仿照、延伸和扩展人的智能，感知环境、获取知识并利用知识得到最佳结果的理论、方法、技能及运用系统。”由前述观点可知“人工智能”实际上便是研究如何使机器犹如人类一样理性思考和行动。
根据人工智能的详细功能以及智能化程度，可以将其分成弱人工智能以及强人工智能：弱人工智能顾名思义是指智能化程度低，仅具备特定功能或者仅从事特界说务的人工智能，这类人工智能紧张处于打算和感知的智能水平，前述深蓝打算机和阿尔法狗等专用型人工智能模型便是范例代表；强人工智能则是指智能化程度高，具有自我意识和自我思维的智能机器，这类机器又可分为类人（机器高度仿照人类的思维和推理模式）与非类人（机器不仅在知觉和意识上异于人类，而且在推理模式上也与人类有别）两大类，两种强人工智能都具有比肩乃至超脱于人类的聪慧，处于理论假设研究阶段的通用人工智能模型便是此类；英国学者尼克·博斯特罗姆（Nick Bostrom）认为随着人工智能技能的日益进步，未来还会产生一种在科学创新、通识和社交技能等险些所有领域都远超人类大脑聪慧的超级人工智能（Super AI，ASI），如科幻影视作品《钢铁侠》中的智能机器人管家“贾维斯”和《魔幻手机》中的“傻妞机器人”。值得把稳的是，受制于当前的科技水平，纵然因此ChatGPT为代表确当前最为前辈的天生式人工智能也仅处于从弱人工智能向强人工智能的探索阶段，强人工智能以及科幻作品中的超级人工智能在很长一段韶光仅具备理论可能性，因而并不在本文的谈论范围之内。
（二）ChatGPT等天生式人工智能的运行机理
“天生式人工智能”作为人工智能技能的最新成果，利用事先编写和设定好的算法、规则、模型等，不依赖于人类的直接参与而通过大数据学习便能够自动天生文本、图片、音频等内容。实际上无论是人工智能发展初期采取的“专家系统”模式，即预先存储某一领域专家学者的知识与履历，而后仿照人类专家的决策过程以处理繁芜问题，还是目前最为前辈的通过仿照人脑神经元的运行规律进行决策的“深度学习”模式，人工智能模型决策在实质上仍是一种数学逻辑运算——通过不同的运算程序对所网络或者输入的数据进行解码剖析、预测。以天生式人工智能模型ChatGPT为例，其运行大致须要经由如下阶段：首先是演习数据的网络和处理，OpenAI紧张利用的公共爬虫数据集拥有从电子书本、社交媒体帖文、新闻宣布、用户谈天记录等文本中网络的超万亿单词的人类措辞数据，这不仅为ChatGPT的演习供应了充足的养料，而且在一定程度上担保了数据样本的质量和可信度，提高了决策的精确率。其次是数据学习和演习，ChatGPT利用预设的深度算法学习模型进行学习，由于OpenAI对ChatGPT的定位为谈天机器人，因而具有精良人类自然措辞处理功能的深度神经网络模型Transformer就成了首选的算法模型，ChatGPT也通过Transformer实现了对人类自然措辞表达办法的节制，并且通过演习节制了大量的人类履历。第三，演习学习完成的ChatGPT通过人机问答等模式与用户进行人机交互，考试测验理解并且回答用户的发问。第四，ChatGPT主动将人机交互的信息记录纳入数据集，并且自动根据用户反馈信息改进其演习内容，以此循环往来来往，ChatGPT回答的准确度和流畅度也呈现出一个螺旋式上升的过程。通过磋商ChatGPT的运行逻辑，我们可以创造：“天生式人工智能是集成了人机互动、数据网络与爬取、深度学习等技能的大模型，具有拟人类思维能力。”个中以亿为单位的大数据集供应了充足的样本支撑，打算机编程技能供应了高效率的算法程序支持，前辈的芯片技能供应了强大的算力支持，因此可以说数据、算法以及算力因此ChatGPT为代表的天生式人工智能产生划时期影响力的关键成分。
二、天生式人工智能运行的数据安全风险
ChatGPT等天生式人工智能广泛运用于数字经济时期的生产生活过程中，一方面促进了生产力的解放，提高了劳动效率，拓宽了民众知识获取的渠道，但是与此同时，由于规制机制不健全、天生式人工智能发展不成熟等现实成分，天生式人工智能的运行和运用过程也给人类社会带来了极大的风险和寻衅。
（一）数据网络阶段的安全风险
ChatGPT等天生式人工智能关键成分之一便是充足的根本养料——数据，一样平常而言，网络的有用数据越多，数据库越大越集中，人工智能便具有更多样化的样本用于学习和剖析，在人机互动过程中问题定位就越精确，输出的结果便越贴近真实社会，准确度也会相对提升。因而，人工智能的研发团队便希望尽可能多地获取数据以支持人工智能演习数据的更新和扩大，但是在网络演习数据的过程中将诱发数据合规风险。
1.预演习数据网络风险
ChatGPT等天生式人工智能须要足够的演习数据作为产品平稳运行和系统优化的支撑，这就意味着其研发团队将通过各种办法为其网络足够多用于日常演习的数据，除了依法向第三方购买数据库之外，通过网络爬虫技能（Web Crawler）在互联网上爬取公共数据是一种低本钱高效能的办法，如OpenAI公司就会利用Reedit链接等爬虫技能抓取维基百科等网页的数据资料为ChatGPT搜集寻来你根本演习数据，但是这种数据爬取的办法极易打破数据安全保护的红线，引发数据安全保护问题。一方面，在爬取公民网络谈天记录、数字证件等私密个人信息时须要严格遵照个人信息获取的基本规则，比如我国个人信息保护法、数据安全法中的“知情赞许原则”“最小最必要原则”等，但是实际上在利用网络爬虫技能网络数据的过程中很难符合前述规定，这就存在陵犯个人信息的可能性；另一方面，如果在爬取数据的过程中故意通过技能手段绕过或者打破数据管理者或者其他合法持有人如数据公司、网站经营管理者等设置的技能保护方法，不仅可能陵犯用户个人信息安全，而且是一种毁坏数据经济正常秩序并被严厉打击的不正当竞争行为，更有甚者将涉嫌陵犯商业秘密罪、侵入打算机信息系统罪等打算机网络犯罪。其余，如果未经容许爬取国家机关节制的政务数据、军事数据等具有严格安全管理规范和授权利用规范的数据资料，将存在毁坏国家机密、危害国家数据安全的可能性，在爬取域外数据时也存在违反域外数据保护法规的可能性，从而诱发国际数据安全风险。
2.演习数据样实质量风险
“天生式人工智能对演习样本有较强的依赖性，数据的数量和质量决定了天生式人工智能输出的内容。”以用于机器学习的数据演习大模型为例，ChatGPT等天生式人工智能演习结果的好坏与其输入的数据样本的规模和质量呈正干系，演习结果又会直接影响该人工智能程序终极的事情性能，然而在互联网信息时期，每时每刻都在天生大量的虚假、无效等不良数据，如果管理者不加以筛选和清理，人工智能系统用于演习的数据集将被大量低质量的数据所污染，不具备人类完全思维的天生式人工智能模型在决策时也会涌现结果偏差乃至谬误。有学者认为数据质量风险具有三种表现办法：第一是演习数据的内容具有不良性，如充斥着大量涉嫌暴恐、性暗示、歧视偏见、网络谣言等违法犯罪信息；第二是演习数据的代表性和有效性存疑，参考代价不高；第三是演习数据可能存在时效偏差，比如演习数据的内容过期掉队，缺少时效性。事实上，受制于现实网络手段和网络条件的限定，数据样本的规模和质量的确存在不屈衡这一现实问题，比如由于打算机底层代码紧张由英文单词编写的缘故，大部分人工智能程序演习的语料库紧张是英文组成，这就导致演习数据在以中文、俄文等或者其他小语种编写的时候必须先行翻译，否则将难以与人工智能完美适配，然而任何翻译文本都并非会百分之百还原原文意思，乃至多次翻译之后会存在完备曲解原文意思的情形，这将导致人工智能的演习结果产生偏差乃至谬误。其余，只管人工智能产品是客不雅观的，但是人工智能设计者以及演习师依然是具有自我意识的自然人，在设计人工智能产品底层代码和进行数据网络投喂时不可避免地会嵌入个人主不雅观偏好和代价情绪，但问题在于人的主不雅观感情会在一定程度上阻碍人工智能程序的中立性，比如导致数据网络程序的过滤机制存在偏差，故意网络大量带有伦理偏见、社会危害的风险数据，这些数据样本一旦进入到ChatGPT等天生式人工智能产品的演习过程中，将误导人工智能的推理过程，导致天生结果的不准确性乃至涌现谬误。
（二）数据处理阶段的安全风险
1.“算法黑箱”风险
正如前文所述，人工智能实质上便是一种数学运算，其正常运行离不开打算机工程师预先设计好的各种算法程序，由于ChatGPT等天生式人工智能对数据的解码和剖析过程完备是在打算机中依照算法程序进行，其决策的底层事理和底层规则每每被人工智能设计者所隐蔽，这就导致在缺少专业阐明的情形下，一样平常受众只能在无法直不雅观感想熏染和理解人工智能的运行逻辑和过程的环境下被动接管人工智能输出的结果，这一不公开、不透明以及不可阐明的算法运行过程便是掌握论中的“算法黑箱”。天生式人工智能运行过程的不透明性和不可阐明性本色上表示的是一种算法做事供应者与用户在算法决策中的不同等和权利不对称，严重陵犯用户的知情权，尤其是当算法技能与成本和权力结合过于紧密的情形下便会极大程度地加剧信息数据鸿沟、增加“算法霸权”的可能性。其余，算法黑箱的存在也使得部分形式上通过了所谓“安全测试”的人工智能程序暗含着缺点推理、缺点决策等深层安全隐患，而暗含隐患的人工智能产品一旦运用于交通、医疗等民生领域或者其他主要领域，将给个人利益和公共利益造成不可估量的丢失。
2.偏见和歧视风险
ChatGPT等天生式人工智能作为数字时期成本市场的“新宠儿”，在详细研发、运行的过程中一定在一定程度上表示着研发者、投资者的代价不雅观，底层代码的不中立、预演习数据的质量偏差、反馈结果的内容带有社会偏见和歧视等成分都会导致ChatGPT等天生式人工智能产品在事情时“代价选择、代价判断”产生偏差，天生包括种族、地域、性别、职业、政治等偏见或者歧视性内容，详细而言，如在图片识别时将“黑人照片”识别成“黑猩猩”，对某一社会群体针对性地仅输出负面信息，而对另一群体仅输出正面信息；又如广泛存在于生活中的“大数据杀熟”“人工智能容貌歧视”等征象。其余，基于“深度学习”的特性，如果不及时干预人工智能的数据演习，采纳打消、筛选初始极度化数据等方法，那么这些极度化、片面化的内容将会成为人工智能再次进化的“养料”，从而进一步天生更多新的歧视性、偏见性内容，乃至使被污染的人工智能程序沦为持续天生极度歧视和偏见性内容的“毒气池”。
（三）内容输出阶段的安全风险
1.输出结果失落真风险
天生式人工智能具有极强的数据剖析和信息编辑筛选能力，能够在极短的韶光内根据用户的提问输出一份较为标准的“答案”，但是究实在质，其天生过程是一种履历再现，即通过对前端语料库进行筛选后的一种大略预测，而非犹如人类大脑从语义和逻辑进行寻思熟虑后推导出结果，因而ChatGPT这类谈天机器人在输出结果过程中基于程序规则只考虑如何能够输出更加“幽美”，符合人类自然措辞表达逻辑的标准话术，而非输出真实且精确的“参考答案”。而正是由于ChatGPT的根本数据库够大，因而其输出的大部分结果都是已经被人类验证过的精确的信息，但是一旦ChatGPT等天生式人工智能的演习数据涌现质量问题或者缺少关于某一新问题的预演习数据，天生式人工智能也会“胡编乱造”，主动输出错误信息，而且不给予用户风险提示。例如，如有用户曾向ChatGPT谈天机器人讯问我国民法典第1307条的详细内容，ChatGPT回答为“婚姻的结束，由双方当事人协商同等，或者由公民法院裁定”，而实际上我国现行民法典统共1260条。ChatGPT等天生式人工智能故意输出不实信息的毛病如果不加以纠正，不仅会误导用户，而且将放大社会公众对付人工智能产品的不信赖感，这对付可信任AI家当的发展并非好。人工智能运用程序除了主动天生不实信息外，也存在被其他自然人或者组织故意勾引用于履行人工智能违法犯罪行为的风险，比如早期的ChatGPT乃至会输出“毁灭人类操持书”“污言秽语”等不良信息，因而可以预见的是随着天生式人工智能技能的进步，在缺少政府和法律有效监管的情形下，该人工智能技能一定会被不法分子用来知足个人私欲，人工智能产品也会被作为恶意制造虚假信息或者作为履行网络暴力、网络特工、网络诱骗等违法犯罪行为的工具，乃至会被用来发动“舆论战役”，毁坏选举活动、毁坏医疗、交通、教诲等主要基培植施，扰乱社会秩序，危害国家和社会的稳定。
2.数据透露风险
人工智能运用领域也是数据透露的重灾区，由于天生式人工智能的更新迭代须要不断网络演习数据，因而会自动将爬取的数据以及人机交互的过程中记录的用户信息以及谈天记录存储起来，而这就存在多方面的数据透露风险。一方面，人工智能做事供应者或者其他节制了数据访问权限的职员极有可能在个人利益的使令下将存储的数据违法出卖给第三方机构；另一方面，ChatGPT等天生式人工智能产品在未来进行人机交互，供应做事的过程中，在筛选数据库匹配输出内容的过程中完备有可能将其他用户的信息作为结论输出给其他用户，而这些信息如医疗案例、法律文书等私密信息本便是应该重点保护的主要数据信息。其余，黑客攻击、系统漏洞、人工智能运用程序的固有缺陷等都会导致数据的意外透露，而以亿为单位的数据集预示着数据透露的后果是极为惨重的。
3.知识产权侵权风险
ChatGPT等天生式人工智能在详细运用过程中还可能产生一系列的知识产权轇轕，详细包括人工智能运用陵犯他人知识产权问题，也包括人工智能天生物的知识产权归属问题。第一，陵犯他人知识产权。一方面，天生式人工智能在抓取互联网数据集进行演习的过程中不可避免地涉及利用他人享有著作权的数字作品，而如果未经著作权人容许而利用、复制作品，则有可能违反知识产权保护法律规范。另一方面，正如前文所言，ChatGPT等天生式人工智能会在输出结果的过程中“胡说八道”，如果对他人作品进行改编，乃至曲直解魔改，则有可能涉嫌陵犯著作权人的保护作品完全权、改编权等合法权利。第二，人工智能天生物的知识产权归属。关于ChatGPT等天生式人工智能天生物时的知识产权归属问题，学术界众说纷纭：学术界主流不雅观点更为赞许“工具论”，认为人工智能作为人类进行文学创作的赞助工具，从而否认AIGC的知识产权主体地位；有学者则认为应该根据人工智能发展的不同阶段来确定人工智能在知识产权主体地位，“构建‘法人视为作者，版权归于法人’—‘AI视为作者，版权归于法人’—‘AI即为作者，版权归于AI’的纵深式、渐进式制度安排模式。”还有学者提出应该将人工智能天生物纳入知识产权的保护范围之中，根据协议的有无总体上确立以意思自治为原则，人工智能利用者为补充的著作权授予机制。然而在法律实务界，美国、英国欧盟等大多数国家和地区都对ChatGPT等天生式人工智能的作者地位持守旧态度，我国也是如此，根据著作权法的干系规定，人工智能目前并不能作为著作权的权利主体。值得我们反思的是，只管天下大多数国家对人工智能能否取得作者地位否定态度或者未予规定，但是随着人工智能技能的进步，人工智能天生物的知识产权问题是未来知识产权法律无法搁置的问题，否则不仅将危害人工智能家当的发展，也会危害干系企业、个人以及社会公共福祉。
三、天生式人工智能的管理原则
天生式人工智能的广泛运用是一个“潘多拉魔盒”，既可以给人类的社会再生产带来极大的推动力，也可能在滥用时毁坏社会秩序的正常运转，挤压人类的生存空间，因而须要将其纳入法律管理的轨道中，人工智能家当较为发达的紧张国家、地区以及国际组织也对人工智能运用提出了不同的管理原则。如日本人工智能学会伦理委员会在《日本人工智能学会伦理准则》中提出了包括公正（非歧视）、安全无害、合法、以人为本、隐私保护、任务、互助与促进等在内的七项准则。美国国防部出台的《人工智能原则：国防部人工智能运用伦理的多少建议》明确提出人工智能应该遵照包括公正（非歧视）、安全无害、以人为本、任务、透明（可阐明、可溯源）等管理原则。欧盟的《可信赖人工智能伦理指南》则提出了公正（非歧视）原则、安全无害原则、以人为本、透明（可阐明、可溯源）以及可测试等原则；经济互助与发展组织（OECD）在《人工智能建议》同样提人工智能运用的发展须要遵照公正（非歧视）、安全无害、以人为本、任务、透明（可阐明、可溯源）以及有益等原则。我国新一代人工智能委员会于2019年发布了《新一代人工智能管理原则——发展负任务的人工智能》（以下简称“管理原则”）强调人工智能的管理应该遵照“和谐友好、公正公道、原谅共享、尊重隐私、安全可控、共担任务、开放协作、敏捷管理等八项原则。”经由对各种版本的管理准则进行剖析比拟，本文认为天生式人工智能作为一种技能工具，不仅须要符合科学技能的内在规律，遵照“以人为中央”的代价理念，同时应该坚持安全原则、透明可信原则、公正正义原则以及任务原则等基本原则。
（一）“以人为中央”的代价理念之提倡
人工智能在设计之初也是本着解放人类双手，促进社会生产力的变革以及促进社会进步的初心，因而无论人工智能技能和运用发展到何种远超人类聪慧的程度，都应该高举“以人为中央”的根本大旗，坚持“科学技能做事人类”的代价理念。首先，人工智能技能必须节制在人类能够掌握的范围内，任何人工智能系统都应该服从人类的指令，人工智能的任何举动都不应对人类造成可预见的侵害，纵然在不得不危害特定人利益的情形下也必须选择侵害最小的办法，诸如科幻影视作品《黑客帝国》《闭幕者》中人工智能统治、奴役乃至毁灭人类等类似悲剧绝不应该发生在人类的现实社会中。基于此，本文同样认为授予人工智能以“人格权”以及将人工智能列为犯罪主体的不雅观点是值得疑惑的。其次，有学者指出：“人的肃静是人类社会相较于动物的基本特色，技能的迭代不仅不能以降落人的肃静为代价，而且应该将人的肃静作为边际约束。”因而依赖人工智能程序决策时应该充分考虑人的肃静，保障人类的自决权，比如人工智能在采集和存储用户信息时应该严格受到数据安全管理规范的约束，必须遵守“知情赞许原则”“合法性原则”等处理原则，应该授予用户自主决定是否利用人工智能供应的某项做事的权利等。再次，人工智能技能以及产品应该表示一定的人类伦理准则，详细而言要确保干系的技能以及产品做事被用于增强人类的综合能力，匆匆进人类的幸福感和安全感，尊重用户人格权、掩护公正正义等伦理准则应该嵌入人工智能的开拓程序之中，不得输出明显有违人类知识公理，违背民主自由、人权保护的内容。
（二）天生式人工智能管理的基本原则
1.安全可控原则
如前文所述，人工智能在发展的过程中面临着诸多数据安全风险，这些风险不仅给人工智能行业的康健发展带来寻衅，而且对付全体人类社会而言同样是巨大隐患，因而必须在担保人工智能给人类社会带来最大利益的同时制造较少或者最小的社会危害，这实际上哀求人工智能在发展和管理过程中必须坚持安全可控原则，该原则包含着“安全、稳健、无害、非恶意、预防、保护、完全性等”等深刻内涵。在实践中，此原则贯穿于人工智能系统的研究、设计、开拓、运用等全流程，哀求天生式人工智能系统本身应该符合国家或者行业的安全标准，在进行底层代码设计时应该尽可能提升算法的“鲁棒性”和可靠性，减少缺点或者有害代码的编写；在演习数据网络、数据脱敏、数据洗濯、模型演习等过程不存在危险，数据信息存储不存在安全隐患等；在产品投入市场时应该事先经由研发团队内部以及国家干系机构的安全性测试，并且依法经由安全登记或者备案，以最大程度担保天生式人工智能系统的安全性能，确保人工智能的技能的进步，人工智能产品的运行符合低碳环保等可持续发展的理念，总之须要确保产品的合规可控。其余，还内在着哀求人工智能系统的研发者等权利人应该依法承担一定的安全管理责任，确保产品的运行稳定可靠，负责评估人工智能干系运用可能引发的法律、安全、社会管理等方面的问题，通过提高人工智能安保等级、加强风险预防方法培植等办法确保人工智能朝着安全可控的方向发展。
2.透明可信原则
天生式人工智能决策的“黑箱”问题历来广受批评，各国也通过加强国家法律法规等办法强化天生式人工智能决策过程的透明性。透明可信原则详细包括了决策过程的可阐明性、可溯源、可理解性、信息表露、信息展示等内涵，因此也被认为是人工智能的“帝王原则”。该原则旨在保护"大众年夜众的知情权，通过增强人工智能程序设计、演习以及决策等流程的透明度和可溯源性，不仅可以肃清"大众年夜众对人工智能赞助决策的忧虑，而且能够提高决策结果的可信度和可接管度。事实上，在“数据即权力”的时期背景下，科技巨擘打着所谓“技能中立”的旗号，大肆绕过法律的红线，通过人工智能程序大肆网络数据信息，剖析用户私人数据，利用技能黑箱上风，熟惯用户真实需求，履行精准营销，反而使最应吸收数据隐私保护的广大用户成为被公开、被透明的工具，这显然与本原则的初衷不符，因而须要坚持人工智能程序运行的透明性与可阐明性。
当然，人工智能科学技能本身存在专业壁垒以及天然的可阐明性难题，完备的公开透明不仅是强人所难，而且也没有实际意义，其余从保护企业商业利益、掩护知识产权以及勉励技能创新的视野出发，也不宜哀求所有的人工智能技能都必须公开透明，因此本文强调人工智能管理应该坚持的是适当的或者说有限透明原则。原则上面向我国境内公民供应做事的人工智能产品或者做事供应者都应该向社会公众年夜众或者相应国家管理机关进行可视化阐明解释，涉及公共利益的人工智能技能或者产品还应该依法公开包括源代码、原参数文件、算法演习数据集等全部或者部分内容，出于商业秘密保护以及知识产权保护的哀求，应该认可干系主体仅依法向国家有关机关供应审计、安全性验证等所须要的数据信息，而未向社会公众公开。其余，透明可信原则并非哀求完备打开“算法黑箱”，而是最大限度地实现“黑箱掌握”，保障公众的知情权，因而应该许可存在无法完美可视化、阐明的情形存在。
3.公正正义原则
公正正义也是未来天生式人工智能技能研发和运用应该遵照的基本原则之一，包括防止偏见和歧视、提高人工智能技能及其产品的可信度和接管度、掩护社会总体稳定和谐等内涵。将公正正义等理念纳入人工智能的开拓和监测审核机制中，哀求在网络数据时应该综合采集，而不应根据个人偏好或者系统偏好网络单方面的数据作为演习数据，以此确保人工智能的底层算法输出的结果不存在歧视或者偏见，相反，如果人工智能系统在演习过程中存在歧视性的数据或者算法偏见，它们可能会在决策中表示出来，这将导致对某些社会群体的不公正对待，这不仅会加剧公众年夜众对人工智能产品的疑惑和抵触生理，进而加剧社会的不平等。其次，和谐社会培植也将无从谈起。总之，人工智能系统在天生决策时一方面应该坚持形式正义，即不应当存在明显的偏见与歧视，不得明面上或者含有歧视具有特定种族、宗教崇奉、生理毛病、社会地位等属性的群体等，另一方面应该兼顾本色正义，即保护弱势群体的权利，确保所有用户能够得到相对公正的结果，掩护人的肃静和社会正义，构建更原谅的社会。
4.任务原则
ChatGPT等天生式人工智能的广泛运用虽然在一定程度上促进了社会进步，但是监管任务主体的过于混乱也导致人工智能行业涌现各类乱象，因而应该确立合理范围内的任务原则。一方面，该原则强有力地规范了人工智能从业者，哀求人工智能程序的研发者、测试者、做事供应者应该具备高度的任务意识和道德自律意识，致力于开拓和供应具有高度可靠的人工智能系统，以此来减少初始的安全风险，并且不得利用所谓“技能限定”躲避任务或者主动陵犯他人的合法权柄；另一方面也规范了利用者，哀求利用者必须依法依规利用人工智能程序，不得用于违法犯罪，否则应该依法承担相应任务。其余，本文所言任务原则是建立在原谅谨严态度上的追责原则，即须要考虑人工智能技能的发展是一个螺旋式上升的过程，现阶段的人工智能产品尚不成熟，涌现无法阐明以及无法提前预知的风险并不虞外，因而只要干系主体尽到了最根本的把稳责任，就不应当再受到追责，因而这就倒逼企业等主体通过构建数据合规体系来实现对人工智能运用数据风险的提前预防。
四、天生式人工智能的合规管理方案
正如孙跃教授所言，数据合规不仅是独具创新性的企业数据管理模式，而且是强化公民个人信息保护的高效举措，更是规范数字经济发展，掩护社会公共利益的主要方略，人工智能作为数字经济时期的“蓝海”家当，在连忙扩展的过程中本就存在前文所述的数据安全风险，因而更须要引入当代化的数据合规管理理念，建立起人工智能领域的合规体系，以应对已经涌现以及未来可能涌现的数据风险，担保人工智能行业的发展始终运行在法治化轨道上，确保人工智能产品和做事能够为人类福祉所做事。
（一）天生式人工智能法律规范体系的完善
构建人工智能领域的数据合规管理体系首先须要国家机关供应完全的法律规范体系作为行为指南。实际上只管数据安全法、《互联网信息做事深度合成管理规定》《暂行办法》等在内多部管理规范的出台为我国人工智能行业管理供应了合规指南，但是规范内容的过于原则性和缺少针对性。例如《暂行办法》作为人工智能管理的专项法规，存在规制效力弱和规制内容不全的现实问题，前者表示在《暂行办法》为部门规章，对违背禁止性规定的人工智能企业智能给予通报批评、警告以及罚款等威慑力较弱的行政惩罚，后者表示在《暂行办法》以天生式人工智能做事为紧张规制工具，而对付天生式人工智能的根本研发等内容关注不足，因而在提高管理效能上存在短板。
考虑到人工智能技能更新迭代速率快，技能变现面临的数据风险多变，同时在国际上还须要应对来自英美、日本、印度、欧盟等人工智能技能强国和地区的竞争和“联合围剿”，须要从风险预防的视角完善我国的人工智能法律规范体系。本文认为国家有关机关应该将人工智能管理专门法律的制订列入立法操持之中，未来可考试测验在借鉴国内外人工智能管理前辈履历的根本上，制订一部专门的“人工智能法典”，同其他有关人工智能管理规范性文件一同构建包括“网络安全、数据安全、个人信息安全保护、可信赖人工智能”等管理规则在内的具有中国特色的人工智能生态管理法律规范体系。在人工智能风险规制体系上应该包括但不限于以下内容：第一，在人工智能管理机构的设置上可以借鉴美国、日本等国家组建“人工智能伦理委员会”承担国内外人工智能技能以及产品的备案审查、安全评估、伦理风险监测以及任务深究等职能。在组成职员上，可以按照一定比例抽调其他国家机关的事情职员并且从国内外人工智能头部企业、律所、高校、科研院所等企奇迹单位中聘任一定数量的有名技能、法律专家和学者作为组成职员。第二，在人工智能风险管理机制上，本文认为可以通过探索人工智能源代码、算法备案以及逼迫阐明制度等来加强人工智能技能和产品的可追溯性以及可问责性。第三，在人工智能算法技能的规制方面，须要强化数据风险评估认证制度的培植，强化算法技能运用的监管，通过定期报告或者申报请示制度增强算法技能的可阐明性、透明性，规范人工智能大数据演习模型数据网络、存储、利用的合法性等。第四，只管在规制工具上，我国《暂行办法》对天生式人工智能做事供应者的数据保护责任进行了明确规定，本文认为在未来的人工智能立法上仍须要进一步对做事供应者之外的人工智能根本技能和产品研发者、人工智能利用者、演习数据供应者以及其他负有监管职责主体的权利责任进行一定的约束，促进人工智能问责体系的完全和公正，总之“天生式人工智能的监管者应卖力搭建适应天生式人工智能可控发展的环境生态并承担终极监管任务。”第五，在详细惩罚办法上，本文认为除了依法对干系任务人和企业予以传统的罚款、责令停业整顿、依法深究刑事任务等惩罚方法之外，还可以适用勒令召回问题产品、责令下架人工智能运用程序、责令重新进行安全评估等对“物”惩罚方法。第六，行业自律公约、伦理规范、标准指南等软法更灵巧、适应性更强，可以做事于多种管理目标，已成为人工智能管理的最常见形式，因而我国须要在制订相应硬法规范的条件下发挥软法规范的管理效能，比如制订天生式人工智能领域的国家级技能规范与技能标准，鼓励行业协会、各企业主动制订人工智能技能伦理等行业，但更须要各种技能规范和技能标准，构建软法、硬法结合的规范体系。
（二）健全人工智能企业数据风险管控机制
人工智能企业在致力于新技能研究以及新型人工智能产品开拓过程中，尤其是在当前ChatGPT等天生式人工智能产品广泛被用于自动化决策领域带来了巨大的数据风险的情形下，企业作为第一任务人更应该依法健全常态化的数据风险管控机制以回应社会关怀，适应合规管理哀求。首先，须要从源头管理的视角出发来完善企业决策机制，决策者在高效稳健的决策机制的加持下，不仅能够通过评估和审核机制创造企业计策经营过程中涌现的各种风险漏洞，而且能够充分网络各方信息，居高临下地对企业发展过程中可能遭遇的各种隐性风险进行提前预防，乃至在干系风险具有现实化危险的同时快速做出反应，及时调度方向，将危害降至最低。第二，建立当代化的风险评估机制，将数据风险的识别、处理以及防控贯穿于人工智能产品研发、投产以及市场运行的全体流程。本文认可对人工智能运用中的数据风险事宜根据其产生概率、发生频次以及危害后果严重程度等要素划分为多少等级，比如低、中、高、极高档四种风险等级，并且根据每一等级分别制订相应的应对方法，风险等级越高越须要采纳更为谨严的管理态度和方法。第三，健全数据风险处置方法，详细包括数据风险调查、问责程序，数据危害补偿方法，事件报告制度等内容，总之，在发生数据风险事宜时，企业应该积极进行合规整改，及时向社会"大众年夜众以及主管机关报告风险事宜的调查报告、内部自查结论以及补救和赔偿方案以及改进操持，如果有涉嫌犯罪的任务人则应该依法向有关机关移送并合营案件侦查追责。
（三）加强人工智能算法模型的技能规制
法律手段只能够办理自然人或者企业所引发的合规风险，而无法办理技能问题，因而须要用技能来规制技能。在数智化时期，人工智能技能的更新与进化须要依托算法演习模型的成熟，从某程度上说，ChatGPT这生平成式人工智能的成功正是基于精良的底层算法模型，因而人工智能的管理离不开算法演习模型的合规优化。第一，须要加强数据源的合法性、可追溯性。数据源的合法性哀求企业在网络演习数据时应该依法遵照数据安全法、个人信息保护法的干系规定，在获取用户个人信息或者其他第三方的数据信息时应该严格通过用户容许协议等办法明确网络干系数据信息的用场、数据安全保护责任，以及用户的救援权利内容，担保用户的知情权，并且获取其授权赞许。数据的可追溯性可以通过开拓数据来源记录机制，通过保存信息数据获取日志以及数据标注等办法担保人工智能在数据处理的各个阶段可以追溯数据源头，在必要时还可以哀求开拓记录人管理职员解释相应数据利用的韶光，地点，用场等情由，增强数据利用的可阐明性。第二，须要加强数据演习样本的质量和多样性，以实现算法结果偏差的最小化和结论的准确性。ChatGPT等天生式人工智能饱受诟病
（四）推进人工智能数据伦理文化的造就
理念是行动的先导，文化是无形的戒尺，优秀的企业文化一经形成，就成为一种精神力量，直接辅导、约束着企业员工的一言一行，因而构建企业数据合规离不开合规文化的渲染，人工智能行业的发展同样须要遵照基本合规伦理文化准则。首先，在人工智能科创企业组织内部，须要大力鼓吹遵法经营、依法依规决策的合规文化，建立起人工智能企业数据合规文化造就机制，通过企业数据合规手册、前述合规承诺书等办法在公司决策层、管理层以及实行层鼓吹合规理念。其次，人工智能技能研究、产品研发、做事供应等一线实行层须要明确嵌入人工智能伦理规则，将公正正义、安全可控、社会主义核心代价不雅观等积极道德理念融入人工智能的底层代码之中，以担保人工智能产品或者做事符合人类公共利益。再次，须要定期开展数据合规业务培训，通过开展常态化、全覆盖的合规制度培训、业务流程培训、合规文化培训等合规专项培训，保障员工得到关于合规目标、合规文化以及企业风险的精确的、完全的信息，实现员工、管理人、企业整体目标同步。末了，企业须要建立人工智能运用违规举报机制，通过企业微信公众年夜众号、举报热线、网站平台等办法给予用户及时反馈的渠道，及时理解天生式人工智能产品在供应做事过程中输出歧视、偏见等违背伦理的内容以及其他给用户带来较差利用体验的环境，并且给予及时的处理结果反馈。
结语
ChatGPT等天生式人工智能凭借前辈的技能以及强大的功能上风吸引了公众年夜众的把稳力，也引发了成本的投入，新一轮天生式人工智能技能和产品的研发风起云涌，但与此同时，有关ChatGPT等天生式人工智能产品导致的各种风险事宜的负面宣布也将人工智能技能并不成熟、运用并不规范等漏洞暴露在了"大众视野之下。本文环绕着天生式人工智能运用的数据风险展开了谈论，首先对ChatGPT等人工智能的基本观点和运行机理做了简要阐释，其次论述了天生式人工智能在数据网络、处理以及结果输出时的数据风险，再次论述人工智能的管理应该坚持以人为本、贯彻安全、透明、公正正义以及任务原则，末了考试测验从管理规范的完善、数据风险管控机制健全、算法模型规制以及人工智能伦理合规文化造就等四个方面提出了人工智能的合规管理方案。一方面，人工智能的发展已然进入了缺少有效监管的“无人区”，正如社会公众和有关学者所担忧的那样，缺少有效监管和管理的人工智能将犹如脱缰之马逐渐分开人类的掌握，并且可能造成巨大且无法挽回的丢失，另一方面，人工智能技能本身并非“大水猛兽”，天生式人工智能产品的运用对付促进家当升级，提高社会生产效率，匆匆进人类福祉等方面具有主要浸染，因而我们应该对人工智能技能的发展整体上持乐不雅观和欢迎的态度，未来须要做的便是进一步以发展为导向，探求人工智能技能风险管理和安全保障的有效方法，不断发挥人类的主不雅观能动性，找寻人工智能技能创新与掩护公共利益的平衡点，担保纵然天生式人工智能发展成更具智能性的通用人工智能乃至超级人工智能时也能担保为匆匆进人类福祉而做事。