2024年6月1日，由中国经济改革研究基金会、中国法学交流基金会、中国科学院大学科技与法律研究中心三方共同主办的2024“中国数字经济发展与法治建设论坛”在北京成功举办。论坛以“人工智能技术发展与法律应对”为主题，坚持数字经济发展与规范并重，突出高端、前沿、权威，着重政策阐释和数字经济发展趋势展望，旨在为进一步推动“人工智能+”及数字经济发展贡献智慧与力量。

论坛发布了“2024中国数字经济发展与法治建设”十个重大影响力事件。现场使用人工智能技术现场生成新闻通稿和会议总结稿，展示了AI技术在文字生成方面的强大能力，邀请来自立法机关、司法机关、群团组织、政府部门和经济界、科技界、法律界及产业界等15位嘉宾作主旨演讲及主题发言。

经发言嘉宾同意，论坛主办方将陆续刊发嘉宾发言，供大家学习交流。

在生成式人工智能大模型的发展中

找寻数字时代法律变革的底层逻辑^※

甘藏春

中国法学会副会长

尊敬的彭森会长、方新书记、陆志鹏总裁，各位专家朋友，大家下午好！

我们已经迈入了数字时代。虽然几年前我们已预感到数字时代将对人类的生活方式和生产方式产生深远影响，但这些认识大多停留在理论层面。2022年11月30日，ChatGPT的问世引发了生成式人工智能大模型的迅猛发展，到最近的Sora，使我们切身体验到了数字时代对生产方式和生活方式带来的变革。然而，这仅仅是一个开始。面对生成式人工智能大模型快速发展的浪潮，如何实现习近平总书记提出的“将新一代人工智能作为推动科技跨越式发展、产业优化升级、生产力整体跃升的驱动力量”，同时有效规避相关风险，是我们亟需回答的重要课题。今天我讲三个问题。

一、客观地认识人工智能发展对人类生活的影响

发展至今，人工智能经历了前“图灵机”时期及“图灵机”时期后，在1956年的“人工智能夏季研讨会”上正式被确立为一门严肃科学，并形成了传统类AI与连结论AI两种发展路径，这一区分如今也被“人工智能教父”杰夫瑞·辛顿称为逻辑启发式范式与生物启发式范式。早期逻辑启发式范式获得了巨大成功，尤其是1997年IBM研制的“深蓝”首次战胜国际象棋世界冠军卡斯帕罗夫，使人们对逻辑启发式范式抱以厚望。不过，由于现实世界问题的复杂性，且相应的逻辑解决方案往往涉及庞大的规则数量，会随着新事实的出现而不断被添加，跟踪所有规则的例外情况并与之互动变得十分不切实际，逻辑启发式范式无法进行大规模应用。与此同时，杰夫瑞·辛顿等科学家提出了基于反向传播算法、时序差分学习、卷积学习等算法的深度学习，推动了生物启发式范式的发展。到2011年，“谷歌大脑”——一个采用了深度学习技术的大型神经网络模型，在没有人类的帮助下，自己从1000万张静态图片中发现了“猫”。2017年，深度学习网络程序AlphaGo，击败了围棋世界冠军柯洁。近两年的生成式人工智能大模型让我们看到了生物启发式范式人工智能的发展潜力。可以说，如今人工智能的发展已经基本完成了理论构建，进入了应用时代，对人类生活产生了根本性影响。

首先，人工智能帮助人类实现了自身的解放。人工智能已经成为现代社会的关键驱动力之一，为人类带来了前所未有的便利和机遇。在这个过程中，人工智能不仅仅是一种技术，更是人类自身的解放，将人类从繁重、危险和复杂的体力劳动和脑力劳动中解放出来，为人类创造了无垠的空间，重新定义了人类的生活方式，从本质上讲是人类自我解放的一次大的变革。随着数字经济的发展，马克思当年憧憬的劳动不再是人类谋生的唯一手段的美丽图景离我们并不遥远，我们有望迎来一个更加智能、高效和可持续发展的未来，我们的生活方式将被重新定义。

其次，人工智能技术的迅猛发展，可能使其逐渐从人类的工具转变为具有一定主体性的实体，这也将带来一系列的法律问题。在知识产权领域，该问题已经显现出来。如对于人工智能生成的作品是否受到著作权法保护这一问题就存在很大争议，美国版权局认为不受著作权法保护，并拒绝予以登记。2023年底，北京互联网法院判决了第一起“AI文生图”著作权案（该案判决已经生效），认定人类作出独创性表达的人工智能生成物可以作为作品受到著作权法保护。这一判决引起了国内外理论界、产业界以及社会公众的广泛关注。由该案引发的激烈讨论以及国内外不同态度可以看出，人工智能引发的主体地位问题已经浮出水面。虽然目前主要涉及弱人工智能在知识产权领域带来的冲击，但是在更广泛的民法、刑法、行政法等领域，自动驾驶、人工智能医疗、甚至辅助型司法审判都可能带来更加棘手的问题。这些问题包括人工智能是否可以独立承担责任，人工智能本身及其设计者、使用者三者之间的责任如何划分，以及证据如何采信等。解决这些问题的基础在于如何认定人工智能的法律地位，这也是数字时代法律制度主体变革过程中需要重点探讨与研究的问题。

最后，人工智能也为人类带来了前所未有的安全挑战。首当其冲的是对“真实”的冲击，一方面是人工智能通过自然语言处理和生成对抗网络等技术，可以轻松地生成和传播虚假信息，“眼见”也不再“为实”，“真实”变得无从可知；另一方面，已有研究证实，人工智能可通过信息推送与投喂影响公众观点，这表明人工智能具备极强的说服能力，甚至可能影响人类的重大决策。在未来，信息真伪将成为信息安全的核心课题之一，法律制度对于早期人工智能生成信息的标注要求、人工智能生成信息真伪的责任承担等规定对未来人工智能安全发展至关重要。此外，人工智能技术的广泛应用还会严重威胁个人隐私，挑战人类社会的伦理与安全，这都需要加强相关领域的研究，建立健全的人工智能治理机制，保护人类的基本权益和价值观。

二、努力找寻人工智能推动法律变革的底层逻辑

法学界对于数字时代的到来的回应总体来看是积极的、主动的。如近年来围绕个人信息权利展开的研究都卓有成效，取得了积极成果，司法实践中对数字时代引起的多项挑战也给予了积极回应，如前面提到的北京互联网法院审理的AI第一案等，为我们进一步开展研究提供了理论和实践支持。不过，从长远看，数字时代的到来并不是简单地电子化、数字化过程，而是将解构人类继农耕文明、工业文明以来所形成的生产生活方式及社会秩序，并建构一种新的适应数字时代的底层逻辑。从这个意义上看，短期的部门法、领域法的立法、修订及解释虽然是必要的，但并不能真正解决问题，我们面临的是整个法律制度的根本性变革，需要在这场变革中努力找寻底层逻辑，以重塑数字时代的整体法律制度。

1、工业文明时期的法律制度底层逻辑

在人类历史的长河中，法律的演变往往与社会的转型密切相关。工业文明的兴起标志着人类文明史上一次重大的转折点，这也催生了人类第一次法律变革的浪潮。这一变革发生在15世纪的西欧，工业文明的兴起使得传统的农耕经济被工业化生产所取代，城市化进程加速进行，而市场经济的快速发展需要统一市场的形成，封建领主各司其职的割据式管理严重阻挠了这一进程。基于此，16世纪法国人布丹首先提出了国家主权概念，后来格老秀斯、霍布斯等都提出了完善的主权概念以及其对内对外的绝对权力。到十六世纪末，人们已经普遍认为单独存在着一种法定和法制的秩序，亦即国家的秩序，维持这种秩序乃是统治者的职责所在。这种转变的一个后果是：国家的权力，而不是统治者的权力，开始被设想为政府的基础，从而使国家在独特的近代术语中得以概念化——国家被看作是它的疆域之内的法律和合法力量的唯一源泉，而且是它的公民效忠的唯一恰当目标。在这个法律理论构建下，西欧开始了现代民族国家的建构，形成并发展了现代意义上的国家。

之后，国王作为国家主权的代表，其权力实际上已经成为国家权力，不受任何限制，权力滥用严重阻碍了经济发展和社会进步。在这种背景下，自然法学复兴，启蒙运动开始，卢梭提出对主权概念进行改造，并提出了人民主权，霍布斯、孟德斯鸠、洛克等提出了天赋人权，确立了法律权威，个体的自由和权利逐渐成为法律制度的核心价值，在此基础上构建了以尊重和保障人权、限制公权力行使为核心的法律基础理论。之后，黑格尔又提出了国家和社会的分离，到法国民法典后，终于形成了以意思自治核心的市场交易准则，至此，真正构建了“以限制公权力的行使来实现尊重和保障人权，最大限度地保障市场经济的自由发展”为核心的国家-社会二元结构的法律底层逻辑，构建了工业文明的法律制度体系。可以说，尽管几百年来法律制度一直在不断更新、发展，但总体上底层逻辑依然如故。

2、数字时代法律变革的底层逻辑

进入数字时代后，法律变革并不单单限于具体规则的改变，而是面临底层逻辑的转变，这是继工业革命之后人类法律制度的又一次重大变革。

首先，数字时代的法律制度面临从传统的二元结构向多维结构的转变。这其中包括（1）主体的多元化，从国家和社会的二元结构，到数字时代的国家、社会、平台、人工智能等多元主体之间的多维结构；（2）客体的多样化，从传统的不动产和动产，到数字财产（如虚拟货币、数字资产）、软件、算法、数据、人工智能生成物等，都成为法律客体的重要组成部分；（3）法律关系的复杂化，数字时代的法律关系更加复杂多样，涉及主体之间以及主体与客体之间的多种互动。这些互动关系的复杂性使得法律体系必须更加灵活和包容。

其次，人权、公权力与技术权力之间的互动关系是数字时代法律变革的核心。传统的法律秩序主要关注国家的主权和个人的人权保障。数字时代，随着科技的进步和应用，技术权力逐渐成为法律关系中的一个重要维度。互联网平台和科技公司通过数据收集、算法运算等技术手段，拥有了巨大的信息和决策权力，对国家发展和个人行为、选择产生了直接影响。正如社会学家哈伯马斯指出，技术的发展会改变权力的结构，从而影响人权的实现和保障。因此，法律秩序需要重新审视和调整主权、技术权力、人权之间的多维关系，平衡各方的权益，这一关系成为了法律变革的核心，其演变和重构，不仅影响着个人的权利和自由，也影响着社会的公平正义和稳定发展。只有在这三者之间建立起合理的平衡和制衡关系，才能够有效保障个体权利，维护社会稳定和公正。

再次，法律基本概念，包括主权、主体、人权等将发生深刻变化。以主权为例，传统上，主权通常被视为国家的象征，是国家在其领土范围内行使统治和管理的权力。然而，在数字时代，主权的含义发生了改变。一方面从外延来看，互联网、人工智能等技术极大地弱化了物理界限的重要性，不同国家之间的主权界限越来越不清晰，这导致跨国违法行为调查取证及执法成本高、后果严重。另一方面，随着数字平台的兴起和发展，数字平台拥有着巨大的影响力和决策权，对个人和社会的生活产生着重大影响，被视为承担“准公共职能”的特殊实体，其行为和决策可能对国家主权产生重大影响，这不只给传统的国家主权带来了新的挑战和压力，也促使国际社会重新审视和定义主权的含义和范围。再如主体也面临人工智能体的挑战，随着人工智能和机器学习技术的发展，人工智能也具有了自主学习和决策能力，逐渐从辅助型工具变成一种具有主体属性的实体。人工智能不仅可以产生独立的智力成果，还可以通过算法决策和行为实现对外部环境的响应和调控。因此，人工智能作为一种新型的主体，其行为和决策也需要被纳入法律体系的监管和规范之中。这种新型主体的出现，对传统法律体系的运作方式和原则提出了新的挑战和问题，也促使法律界重新思考和调整主体概念的内涵和范畴。

三、努力实现法律变革与人工智能的同频共振

法律变革已经势在必行，要实现这场法律变革就要和数字时代的发展同频共振，这里我提几条建议：

第一，要始终坚持智能向善的价值准则。该准则是基于科技发展的双刃剑特征，科技发展既能给人类带来前所未有的进步，也可能带来前所未有的风险和挑战。故科技向善、智能向善已经成为国际社会公认的价值准则。我们法律人面临的重要课题是如何把智能向善转化为法律机制。其中，一个重要方式是价值对齐，价值对齐是实现智能向善的重要手段之一，强调了在设计人工智能系统时，必须考虑到人类的价值观念和道德准则，确保人工智能系统的行为与人类的期望和价值取向保持一致，这也是我们下一步通过立法来保证智能向善的一个重要措施。

第二，坚持法治原则，平衡人权、公权力、技术权力三者之间的关系。三者之间关系复杂，既相互制约，也相互需要，在此基础上，以法治原则为底线构建新的法律制度。该问题的难点是技术权力从理论上讲虽然是中立客观的，但最终由人来实施。然而现实中，技术权力，尤其是算法运行，已经具备了相当的独立性，并由于算法黑箱等问题严重阻碍了其可解释性，该问题在目前人工智能大模型的发展过程中更加突出，我们已经无法理解甚至了解人工智能的运行细节，这是我们在构建数字时代法律制度需要重点关注的问题之一。

第三，坚持“小步走、不停步”的立法策略。面对人工智能的蓬勃发展，呼吁加快人工智能立法的呼声很高。目前，欧盟已经出台了人工智能法。不过，我国的情况与欧盟不同，同时我们对人工智能的认识也远未达到可以立法的认知水平。故寄希望于通过出台一部法律以解决问题的条件尚未成熟，我们应当灵活运用各种立法机制、立法策略，增强法律的灵活性和及时性，适应快速变化的社会需求和技术发展。这其中，“小步走、不停步”就是重要的、可行的立法策略。小步走意味着法律的制定和修改应当分阶段、分步骤进行，以确保每一步都是可控、可预期的。这种逐步推进的方式可以降低立法风险，避免出现重大失误，同时也可以更好地适应社会的需求和变化。同时，不停步意味着法律的修订和完善应当是一个持续不断的过程，不能因为某一时刻的成就而停滞不前。通过不断地完善法律规则与法律制度，最终形成数字时代的法律规范体系。

第四，坚持从司法案例中寻找统一规则。在人工智能的发展过程中，很多问题看上去是理论问题，但更多的是适用问题。法院作为直面争议的重要主体，要在司法实践中寻找规律，发现统一的裁判规则。我们前面提到的人工智能第一案影响之所以很大，就在于该案为同类问题提供了法律标准和裁判原则，为未来类似案件的审理及产业发展提供了参考依据。在司法裁判实践不断丰富的过程中统一规则，为立法做好储备工作。

最后，要积极参与人工智能的国际法治合作。2024年5月，习近平总书记访法期间，两国元首在2023年《中法联合声明》的基础上，进一步在人工智能方面达成共识，其中就包括加强人工智能的法治合作。人工智能的机遇、风险和挑战本质上是全球性的，在技术迅速发展的背景下，为确保国际安全与稳定以及尊重主权和基本权利，加强国际合作具有重要意义。我们要以更加积极、开放的态度参与国际人工智能的合作研究，贡献中国智慧和中国方案。

最后祝会议圆满成功。谢谢大家！

^※甘藏春在2024中国数字经济发展与法治建设论坛上的致辞。