生成式人工智能的各国监管应对
作者丨朱德宝
ChatGPT犹如一把大火，点燃了整个人工智能行业，仅仅几个月，百度推出“文心一言”，阿里巴巴推出“通义千问”，百川智能、商汤科技等也宣布要进入这个领域。这一新技术被统称为“生成式人工智能”（Generative AI），简单概括，这种AI可以通过算法来生成图像、文字、音乐，甚至代码和视频，而且不需要或极少需要人工干预。这一技术可在科学领域，用于设计新药、蛋白质或材料；在医学领域，为医疗保健专业人员提供建议；在工作场所，加快计算机代码的编写，帮助撰写演示文稿并进行摘要等。4月11日，中国网信办发布了《生成式人工智能服务管理办法（征求意见稿）》，引起广泛关注。生成式人工智能才爆发不到半年，中国的相关应用才推出几周就推出了监管办法，为什么这么快就进行监管？
生成式AI技术需要严加监管，原因有三点：生成式AI的伦理问题、破坏力以及极快的进化速度。联合国教科文组织有预见性地于2021年11月24日一致通过《人工智能伦理问题建议书》。该建议书指出，人工智能技术可以对人类大有助益并惠及所有国家，但也会引发根本性的伦理关切。例如：歧视、不平等、数字鸿沟和排斥；人的尊严、人权和基本自由、性别平等、民主、社会、经济、政治和文化进程、科学和工程实践、动物福利以及环境和生态系统；对隐私、尊严和行动力的重大威胁，大规模监控的风险等。具体到目前火爆的生成式AI，用户在使用时，不需要干预或极少需要干预，这一特点使得其利弊各具、不易控制。比如，它可能会使传统知识产权法律关系变得模糊，可以创造出以假乱真的新闻图片，有可能令虚假信息快速传播。显然，大量AI生成内容的出现会给版权监管、学校教学管理带来难题。不仅如此，生成式人工智能进化速度极快。在2022年11月推出ChatGPT后，今年3月又迭代出GPT-4，不仅知识面更广、对答更流畅，并能够读懂图片内容，在律师资格考试中拿下了高分，而且具备自我反思的能力。今后，随着生成式AI的飞速发展，可生成的内容形式更加丰富，功能更加多样，监管与发展的矛盾将更加突出。甚至ChatGPT的开发者也表示，全社会只剩下有限的时间来决定如何对其监管。面对迅猛发展的生成式AI技术，目前中国、欧洲、美国及日本均有监管动作。欧洲的速度和力度都走在前列，中国次之，美国与日本的监管和保护比较平衡。3月31日，意大利个人数据保护局宣布即日起暂时禁止使用ChatGPT（4月28日解禁），欧盟的多个国家也开始跟进，在整个欧盟层面也开始酝酿具体监管措施。有人甚至分析，欧洲在互联网时代的发展是掉队的，因此他们没有获益的机会，却有受损的可能；因此，欧洲在反垄断、保护隐私方面的做法很激进，到了人工智能时代也一样。4月30日，西方七国集团部长同意对人工智能采取“基于风险”的监管，但也应为人工智能技术的发展“维护一个开放和有利的环境”。
中国网信办《生成式人工智能服务管理办法（征求意见稿）》的监管分析
中国在4月11日宣布推出《生成式人工智能服务管理办法（征求意见稿）》（以下简称“《管理办法》（征求意见稿）”），并对社会公开征求意见，意见反馈截止时间为2023年5月10日，照此估计正式实施应该在下半年。
从目前条文上可以看出，该办法实施的是前置监管，规定略微严格。比如，《管理办法》（征求意见稿）第六条规定，利用生成式人工智能产品向公众提供服务前，应当按照相关规定向国家网信部门申报安全评估，并履行算法备案和变更、注销备案手续。值得一提的还有该监管措施的适用范围。《管理办法》（征求意见稿）第二条规定：研发、利用生成式人工智能产品，面向中华人民共和国境内公众提供服务的，适用本办法。这表明，无论生成式AI公司的实体位于何处，只要其支持我国境内用户使用，均会被纳入监管规定。以ChatGPT为例，目前正在严厉打击中国大陆地区的账号注册、使用其服务，不排除是为了避免中国法律管辖的先手。这一点也间接表明，未来我国在AI领域也会有一个类似于“防火墙”的存在，会复制互联网时代的格局。中国和美国在人工智能时代，也会是泾渭分明的两个市场，如同互联网时代防火墙的隔阂，而无论哪个赛道都会发展出各自的巨头。有此一问实属正常。因为在过去几年，中国一些行业（如教培、互联网、房地产等）经历了疾风骤雨般的监管，影响深远。短期来看，监管不会阻碍，甚至还可能促进AI的发展。这背后的逻辑是，中国企业长期对监管都保持着紧绷的神经，尤其是人工智能领域本身就很敏感，企业明确知道早晚都要强监管，现在早点划定边界，反而可以更好地发展。值得一提的是，这份文件也明确了对生成式AI产业的支持和鼓励态度，比如，《管理办法》（征求意见稿）第三条规定，“国家支持人工智能算法、框架等基础技术的自主创新、推广应用、国际合作，鼓励优先采用安全可信的软件、工具、计算和数据资源。”此前，中国政府于2017年印发了《新一代人工智能发展规划》，提出了人工智能发展的战略目标；2022年，科技部等六部门印发了《关于加快场景创新以人工智能高水平应用促进经济高质量发展的指导意见》，明确提出鼓励在重点行业深入挖掘人工智能技术应用场景。这些迹象表明，监管部门对待AI新产品的态度，并不像对加密货币那样“一棒子打死”，而是希望在可控状态下发展。
《管理办法》（征求意见稿）第四条第（四）项规定，“利用生成式人工智能生成的内容应当真实准确，并且要求提供者采取措施防止生成虚假信息。”这一规定过于“一刀切”，有不合理之处——目前技术上难以实现这一要求，且没有对新闻报道和文学创作等不同情形的应用作出区别。原因如下：首先，生成式人工智能本质上是一个创造性工具，就如同我们不能要求一个画家或诗人的作品必须真实准确。部分生成式人工智能的生成内容，例如人工智能创作的文章、图片、视频本就属于“不真实内容”，这是生成式人工智能本身的服务之一，如果强行要求人工智能生成内容必须真实准确，则与该技术的初衷不符。其次，当前生成式人工智能技术尚在发展阶段，单就技术而言，人工智能的生成内容天然难以保证百分百的真实准确。如果仅因为内容错误或者不全面而导致生成内容不准确，是否也构成“虚假信息”？因此，“虚假信息”的范围有待进一步细化。
2022年10月4日，白宫科技政策办公室（OSTP）发布了AI权利法案蓝图，其中包含五项原则和相关实践，以帮助指导设计、使用及部署自动化系统以保护人工智能时代美国公众的利益。
今年3月16日，美国政府发布的联邦公告中称，美国版权局（USCO）发布的美国法规第202部分表示，AI自动生成的作品不受版权法保护。在这份文件中，USCO表示，区别于有人工参与创作的Photoshop作品，通过Midjourney、Stability AI、ChatGPT等平台自动生成的作品完全由AI完成，并且训练的数据是基于人类创作的作品，因此不受版权法保护。这一决定，是在USCO判定一部漫画书《黎明的曙光》中由AI绘画工具Midjourney制作的插图不受版权保护后做出的。USCO最终裁定，该小说的图像不受版权保护，但小说作者卡什塔诺娃可以对她所写的部分内容以及人工智能生成的图像在页面上的排列方式享有版权。这是美国法院或官方机构首次就AI创作作品的版权保护范围作出裁定。 对此，卡什塔诺娃曾辩称，Midjourney绘画是根据她给出的文本提示完成的，因此最后AI生成作品的版权也应该属于她，“AI绘画作品本身是我创造力的直接表达，因此应该受到版权保护。”但美国版权局驳回了这一主张，坚称只有人类创作的图像才能得到版权保护。 美国版权局进一步举例说明，“用莎士比亚的语气，创作一段诗歌”这种AI文学作品也不受版权法保护。“因为此类作品在格式、语气、语调方面完全模仿莎士比亚，实际上侵犯了他人的著作权。”此外，USCO规定，作者在申请的视觉、文本作品中，需要明确指出哪些部分由AI机器人完成，哪些是由人类完成。如果机器人完成的部分超出最大限制，作者便不应该对其进行版权申请。不过，由于人工智能绘图工具的应用越来越广泛，美国版权局的法案受到了国会和公众的质疑，要求重新审查AI自动生成版权法的内容。今年4月5日，美国总统拜登在白宫与科技顾问讨论AI给人类、社会和国家安全带来的风险和机遇。拜登说，“在我看来，科技公司有责任确保他们的产品在公开之前是安全的。” 4月11日，美国商务部也开始正式公开征求意见，其中包括新人工智能模型在发布前是否应经过认证程序等内容。5月13日，美国白宫总统科技顾问委员会（PCAST）成立了一个生成式人工智能工作组，以帮助评估关键机遇和风险，并就如何最好地确保这些技术的开发和部署尽可能公平、负责任和安全提供意见。5月19日，美国PCAST生成式人工智能工作组将举行公开会议，主题有两个：一是人工智能赋能科学；二是人工智能对社会的影响。本次会议将通过PCAST网站进行直播和访问，欢迎公众就应该考虑的挑战和机遇以及潜在的解决方案提供意见，并且邀请公众观看5月19日的PCAST公开会议，并对生成式人工智能发表评论和提供建议材料。
日本政府在5月11日召开了“AI战略会议”，日本首相指出：AI具有让经济社会变得更加积极的潜力和风险，有必要妥善应对两者。其希望把会议的内容和成果反映到国际规则制定中去。生成式AI作为新科技，将会对社会经济带来深刻变化，其对人类生活的影响将不亚于历次工业革命。对于这种新生事物，人们表现出的兴奋紧张乃至某种程度的抵触恐惧都属正常。然而，唯有人才是万物之灵，只要人类坚持内心尊严，遵守行为底线，不逾科技伦理边界，积极寻求技术手段帮助，则万物均不能减损人的庄严地位。
因此，对生成式AI的合理监管，不是目的，而是手段。此类监管问题的最终解决，应该是在对AI技术有合理预判的前提下，提前进行法律层面的妥善设计，从而在技术发展和适度监管之间取得平衡，最终造福人类。
