导论

人类发展三次重大革命：农业革命（采集→种植）→ 工业革命（畜力→机械）→ 信息革命（物理生态→智能生态，迈入数字社会）。（P1）

信息革命创造了便捷舒适、高效智能的社会生活，同时也带来前所未有的风险和挑战，成为数字社会治理和数字法治建设必须面对的重大课题。

一、双重空间的生活逻辑

1. 核心变化：信息革命在有限的物理空间之外，创造出无限的电子空间（虚拟空间）。

o 物理空间逻辑：工商业时代的”人、财、物”

o 虚拟空间逻辑：数字时代的”建模、算法、代码”

o 二者彼此交织、相互塑造、虚实同构

2. 后果：社会关系、行为模式、价值观念发生重大转型。

o 正面：衣食住行自动便捷，社会治理智慧化

o 负面：算法决策”失灵”及其控制、个人隐私保护、信息伦理挑战、智能化犯罪

二、人机交互的工作场景

1. 现象：刷脸验票、自助银行、机器人快递、无人餐厅、无人超市等日渐增多；自动驾驶、投顾机器人、医疗机器人、服务机器人、陪伴机器人等将大量涌现。（P2）

2. 核心特征：人机共处、人机交互成为常见工作场景——很多工作由人类与智能机器人协作完成。

o 正面：提高社会效率、生活更便捷、服务更精准、任务处理更客观

3. 引发的核心问题（智能机器人一旦”活了”）：

o ① 智能机器人是否具有”电子人”身份地位？

o ② 人与智能机器人共同完成工作的责任/风险如何分担？

o ③ 人与陪护（伴侣）机器人是否有伦理关系？

o ④ 大量工作被智能机器人取代时，人的主体地位是否需要重建？

三、数字人类的全新面向

1. 核心变化：人类从单一的”生物人类”被赋予”数字人类”新属性——获得”生物/数字”二维面向。

2. 机制：人们每时每刻留下身份数据、关系数据、行为数据、言语数据 → 平台和政府通过大数据挖掘和分析技术进行”数据画像” → 描绘基本面貌、身份背景、活动规律。

3. 正面效果：信息检索、目标推送、个性订制、精准服务、智能交易、智慧治理；强化打击犯罪和安全防控能力，社会秩序可视化、可控化、稳定化。

4. 风险：

o ① 侵蚀个人隐私

o ② 形成信息不对称和数据鸿沟

o ③ 出现基于”数据画像”的”监控社会”

o ④ 公权力的技术化延伸 → 数字社会治理的异化

四、建模算法的价值偏好

1. 核心变化：从人脑决策（依赖经验积累）→ 算法决策（依靠全样本数据分析）。将来高度自动化、智能化的社会必然是算法主导的社会。

2. 关键问题：建模和算法是人设计出来的——相同数据、相同目标任务，不同程序员可能设计出不同建模和算法，导致不同输出结果。

o 建模和算法自觉或不自觉地嵌入了设计者的偏好，内含着人为价值判断

o 不能完全展现”技术中立”理想下的客观性和可靠性（P3）

3. 具体问题表现：

o ① 算法”黑箱”

o ② 算法歧视（如 COMPAS 算法将黑人再犯风险错误评估为白人的 2 倍）

o ③ 算法错误

o ④ 算法自主

o ⑤ 基于”数据画像”的广告推送、检索排名操纵、“大数据’杀熟’”

4. 治理风险：上述问题一旦出现在数字社会治理的算法决策中 → 社会不公、激化社会矛盾、形成社会风险。

五、代码规制的制度化应用

1. 三次革命与制度转型：

o ① 农业革命 → 从宗教/伦理/习惯向世俗法律的制度转型

o ② 工业革命 → 从传统等级身份向现代契约关系的制度转型

o ③ 信息革命 → 从物理空间规制向双重空间规制的制度转型

2. 规制方式的根本变化：

o 物理规制方式（工商业时代）：以人、财、物为对象，采取”关系—行为—后果”策略

o 代码规制（信息时代）：不过多注重因果关系和行为后果，采取过程控制——通过算法和程序设计（自动监控过滤、识别认证、目标屏蔽、弹屏送达等）实现规制目的

3. 代码规制的”双刃剑”属性：

o 优势：提高效率，更加客观

o 风险：

 ① 代码规制是自动执行的、普遍一致的机器指令 → 一旦出现错误或不公，影响远超人类个别决策，产生体系性、机制性、普遍性后果，修复代价巨大

 ② 代码编写渗入设计者价值偏好（商业的、伦理的、政治的）→ 影响规制正当性与合理性

六、应对方向

面对数字社会治理的挑战，应通过积极回应和探索，加快从现代法治向数字法治的转型升级。

1. 加快规制理念的更新转型：

o 批判当前基层网格化治理偏差：把网格化治理看作简单的治理技术化/智能化手段，力图用技术将新型要素”拉回”“锁定”在物理空间网格中以实现技术”维稳” → 效果不佳，可能掩盖甚至加剧社会矛盾

o 应确立新型的数字正义理念和数字法治精神，重新思考：保护什么、限制什么、原则是什么、采取什么方式（P4）

2. 推进规制体系的重建：

o 以数字法律体系为核心，建立法律规制、行业规制、伦理规制、代码规制等多元体系

o 面向数字社会进行规制体系重建

3. 加强规制方式的探索：

o 探索算法公开、算法审计、代码规制的多元模式等

o “技术法律化”：把必要的代码技术规则上升为法律规则

o “法律技术化”：把一些法律规则转换成代码，以法律代码规制行业代码

第一章 数字时代的法治变革

第一节 现代法治的核心要素

【法律故事】 2020年9月《人物》杂志报道《外卖骑手困在系统里》——外卖骑手被平台算法以精细化数字管理方式压榨，某平台承认”算法背后依然是人”并宣布调整系统算法为骑手松绑。数字时代人与人的关系以大数据和算法为中介形成，法治作为现代国家最主要的和正当的治理模式，必须对这种新的人际关系形式及时做出回应和调整——一方面涉及既有法律规范、关系、行为、方法等的变革，另一方面涉及在新环境、新条件下做出的挑战和回应。（P7）

美国学者塔玛纳哈指出，法治已成为当代全球最流行的政治观念之一，几乎不存在公开反对法治的国家，但人们对法治究竟意味着什么的分歧也变得前所未有的大。一些学者主张法治是”本质可争议概念”——表达了人类所取得的某种价值成就，但对这种价值成就的理解依赖于不同的文化背景和脉络。本节认为，尽管围绕法治存在诸多争议，以下三个议题可被视为法治的核心要素或最大公约数。（P7）

一、规则与形式合法性

（一）需排除的极端法治观念：稀薄观念与厚实观念

从最抽象的概念共识出发，法治是一种独特的政治理想，表达了一种独特的价值成就。基于此，首先排除两种极端观念。

1. 稀薄观念：法治等同于”通过法律治理”（rule by law），凡是诉诸法律进行社会治理的政治统治模式就是法治。不可取——邪恶的政治统治也可通过法律实现（如纳粹德国、种族隔离时期的南非）。国内法学界早已区分”法治”与”法制”：法制意味着存在一套法律制度，不等于必然实现法治；法治还需包含更多具有理想性的条件。

2. 厚实观念：法治意味着一整套良善的社会治理模式，当法治充分实现时就实现了完美社会的全部理想。典型代表：1959年国际法学家协会《德里宣言》将法治定义为”能动概念”——涵盖公民政治权利与社会、经济、教育和文化条件。此观念的缺陷：公平、正义、民主、基本权利等是独立的政治理想，它们之间不能相互转化，将一切理想塞入法治会完全取消法治”这种”理想的独特性。

（二）温和版厚实观念——同样失败

将各种不同的理想”塞”进法治（如法治意味着保障权利、法治意味着实现正义等）。从性质上说同样无法充分解释法治——法治的理想性实际上由所放入的权利、正义等其他政治理想带来，法治沦为工具；法治中究竟被安置何种其他理想由理论家个人偏好决定，无客观标准，导致法治的理想性蜕变为某种价值专断。

（三）合理界定：法治与法律固有功能关联

对法治较合理的界定：将法治与法律固有的功能关联在一起。法律作为一种规则体系，其固有功能是通过规则指引人们的行动，法治则意味着法律实现这种功能的卓越或完满状态。

1. 富勒的界定（通说）：法治是”使得人类行为服从规则治理的事业”。

2. 法治的规范性原则围绕实现法律规则的指引功能构建：法律规则需要稳定、清晰、一般、不溯及既往、公布等形式性条件。

3. 这些条件都是形式性的——旨在确保法律规则能够指引人的行动。一旦诉诸公平、正义等实质道德原则，真正指引人行动的就将是这些实质原则而不是法律规则，法治的独特性就会丧失。

4. 结论：法治必然是一种形式性的理想，或者说法治首先意味着形式合法性。（P8）

（四）此界定的优势

在不诉诸实质道德理想的前提下提供对法治理想性的合理解释。法治所表达的”好”是一种功能性的”好”——存在法律体系不等于它必然能实现其功能。一个国家完全可以在拥有一套法律体系的前提下存在更高的、不受该体系制约的政治权力（如秦之后的中国古代君主专制，不认为其实现了法治）。同时，法律实现其指引功能并不必然预设任何实质道德理想，确保了法治理想的独立性。

（五）哈特的”毒药类比”与深层道德关切

对法治的功能性界定类似对毒药的功能性界定（制毒者想实现毒药功能，毒药也需符合无色无味、易携带、毒性大等功能性条件），但人们显然认为实现法治是一件道德上好的事情而投毒不是。因此，对法治的理解必须进一步深入到这种形式性、功能性的观念会具有何种深层的道德关切。（P9）

二、限制政府专断权力

（一）基本逻辑：从规则指引到限制专断

法治等同于法律规则实现其功能的卓越和完满状态 → 法律社群成员（包括官员）的行为都受法律规则指引 → 带出法治最主要的道德关切：限制政府的专断权力。

（二）“专断”的含义

专断：官员按照自己的偏好单方面做出决定，完全不考虑受众是否有可能理性地遵循和回应这些决定。法治意味着官员的决定必须遵循既定的规则，且这些规则满足公开、稳定、一般等形式性条件，确保民众能够理性判断官员可能的决定并做出合理回应。（P10）

（三）思想史线索（塔玛纳哈梳理）

1. 古希腊：柏拉图和亚里士多德将法治与人治对立，人治的核心即为纯粹的专断权力。柏拉图认为：“凡法律从属于某种其他权威、自己一文不值的地方，国家的溃败就不远了；如果法律是政府的主人、政府是法律的奴仆，那么形势就充满了希望。”

2. 中世纪：

(1) 基督教律令式自然法观念：一切世俗权力由上帝授予，必须遵守律令式的自然法，自然法是一切法律必然的组成部分。

(2) 日耳曼习惯法：“君主必须处于法律之下”为核心信念；习惯法权威来自当地人生活而非神圣权威，具有很强的生命力。

(3) 《英国大宪章》：以封建契约确立三项法治观念——（1）国王受到法律的约束；（2）法律保障任何人获得公平审判（正当程序观念的雏形）；（3）确定了议会主权观念的基本框架。（P10）

3. 近代：

(1) 洛克：正当政府必然是有限的、受到法律约束的政府，提出权力分立观念。

(2) 孟德斯鸠：系统提出立法/司法/行政三权分立。

(3) 《联邦党人文集》（汉密尔顿、麦迪逊、杰伊）：将学理化观念转化为可操作的具体政府结构和制度体系。（P10-P11）

4. 现代：充分发展个人权利观念。

(1) 限制政府专断的逻辑困难：用来限制政府的法律同样是人为制定的，总有一个根本的立法者超越所有法律之上。

(2) 前现代社会的解决：法律包含自然法部分，超越世俗立法者的自然法构成约束。

(3) 现代社会的解决：自然法观念削弱后，出现功能替代概念——“个人权利”。德沃金：权利具有”王牌”地位——任何忽视和侵犯权利的公共决定都是不正当的，即便这些决定能极大地提升公共福利。个人权利的存在和内容不由任何立法者的意志决定，因此权利成为限制政治权力专断的根本基石。（P11）

（四）局限：可能蜕变为”法官专制”

但即使引入个人权利，通过法治限制政治权力专断仍可能存缺陷：人们对个人权利的存在和内容往往存在广泛争议，争议的合理解决是诉至法院由法官解决 → 权利的存在和内容最终由法官说了算 → 法治可能蜕变为”法官专制”。这引出法治理念的第三层次：“法律之治而非法官之治”。（P11）

三、法律之治而非法官之治

（一）技艺理性：柯克的辩护

詹姆士一世与柯克法官的对话：柯克主张存在特殊的”技艺理性”——区别于普通人所拥有的自然理性，需长时间的研习和历练。此主张预设了法官的独特性：并非仅是掌握特定司法权力的普通人，而是拥有特殊技艺理性的人。区分”法律的要求”和”法官个人的要求”——前者有技艺理性做支撑，后者没有。后世普通法传统中哈耶克的”自生自发秩序”可被视为柯克技艺理性的某种变种。（P12）

（二）边沁的批评：功利主义视角

边沁将普通法称为”狗法”——普通法法官在没有明确条文的前提下，从古老文件中擅自捏造法律原则对当下案件进行裁判，是溯及既往的做法。此批评被视为具有普遍合理性：如果法官裁判依据的理性与普通人理性完全不同性质，很难解释为何基于这种理性所得的裁判结果可以约束普通人。现在主流法治理论已很少诉诸类似”技艺理性”的概念。（P12）

（三）正面重构：柯恩《作为理由之治的法治》

柯克捕捉到法治独特的侧面：法治要求法官为其裁判结果提供充分的理性辩护，这是任何形式的个人专断所不具有的。

柯恩举例：法官仅主张”我就是这么说的”——毫无理由支持的决定即为赤裸裸的专断。法治内在地承诺了决定需要给出公共理由加以辩护，以此将法治的决定和法官的专断决定相互区分。（P13）

（四）法治与程序的关系

1. 制度层面：能实现法治要求的法律体系总是包含大量的程序——法律中说理和论辩需要特定规则和步骤，确保各方能充分表达自己的理由并获得回应。一些学者主张程序是法治的构成性部分，提出了程序法治的观点（虽有争议但多数法治理论家赞成重视程序）。

2. 原则层面：正当程序原则。德沃金主张：“指判断公民是否违反通过政治程序制定之法律的适当程序”，要求法院和其他机构运用的证据程序、发现程序和复核程序保证恰当水准的准确性，又使被指控违法者得到应得的对待。（P13）

（五）局限性与意义

1. 局限性：要求法官为其裁判给出理由并不能完全消除法官个人专断的可能性（法官仍有对理由进行权衡的空间，裁决会体现个人价值偏好），这说明了法官选任在任何成熟法律体系国家中都是重大公共议题。

2. 意义：法治并非没有意义——“一堵有些窟窿的墙依旧是一堵墙”，对法官裁判予以合理性限制同样是真实且有价值的限制，至少让法官不至于做出明显不合理的决定，且能揭穿虚伪说辞，对促进公共生活中相互说理解决争议的理性文化培育也具有重要的意义。（P13）

（六）本节小结

以上为现代法治的核心要素：对法律规则的形式性约束、约束背后对官员专断的限制、要求法官做出裁决时对自己的决定给出理由。从这三项基本要素能引申出更多具体要求（对个人权利的尊重、对法律程序性要求的重视、对理性公民文化的培育等）。在数字时代，这些基本法治要素会遭遇一些紧迫的变革和挑战。（P13）

第二节 数字时代的法律变革

一些支持卢曼系统论的法社会学家注意到，以法律有能力成功指引人们行动为核心的法治观念在数字时代开始受到根本性挑战。本节讨论法律规范、关系和方法上的挑战和变革。需注意：这些挑战和变革是否真的存在，抑或仅仅是夸张论述，这依旧存在争议。（P14）

一、法律规范的变革

（一）法治限制专断的机制：合法/非法二值代码

法治对专断权力的限制主要借助符合形式性条件的法律规则——为什么这类规则能够限制专断？因为它将各种复杂情形转化为合法/非法两种可能结果。一旦情境复杂性降低、评价标准变成非此即彼的合法/非法，留给官员专断的空间就很有限了。（P14）

（二）“深度不学习”：法律规范性的核心特征

余成峰（系统论学者）指出，法律这种将社会复杂性转化为合法/非法二值判断的背后，预设了”深度不学习”这一性质：

法律最本质的特征，即”深度不学习”。这一核心特征的形成来自法律所面临的先天悖论：法律必须对一系列不可决定的事务作出决断。正是矛盾无法解决，才需要法律给出终局裁决。由于当事人无法通过武力、经济和伦理方式解决纠纷，法律才必须对不可决定的事情作出决断。在这个必须作出决断的时刻，法律最大的功能特征即体现为”不学习”：法律不再参照外界的各种地位、关系、信息、参数和数据进行反馈式调整，不会考虑当事人的情感或道德诉求，也不会参照双方的经济状况及其财政效果，更不会采取科学实验推理的方法模拟法律结果，而必须是”照章办事”，严格按照法律条文来断案。（P15）

（三）数字时代的冲击：机器学习

人工智能带来机器学习——“一种从随机数据中提取模式的方式”。机器通过将现在习得的信息与之前获得的数据进行比较，建立动态模型并以此做出决定，显示出强大的自我适应和自我改进能力，且成本非常低。这极大地冲击了法律作为应对社会复杂性的有效方案的独特地位。（P15）

（四）两股冲击力量

1. 现代社会复杂性以前所未有的方式增强。“百年未有之大变局”下，现代社会的复杂程度远超任何历史时期，又要求人们以更精准快速的方式应对复杂风险。以”深度不学习”方式应对的传统法律规则逐渐力不从心（例如基层治理中若单纯适用事先制定的规则”一刀切”，难以实现有效治理）。（P15-P16）

2. 数字时代机器学习成本下降且应对能力显著上升。机器学习在围棋、广告精准推送、图片识别等领域的表现证明了其强大能力。特别是大数据技术的运用，使全数据计算替代抽样统计学计算，显著降低误差，模型更契合真实数据分布，所做的预测和决定更具精确性。（P16）

（五）法律代码化现象

1. 系统论学者指出，即便传统以规则为基本规范形式的法律，在某种意义上也是一种代码（只有合法/非法两个值）。

2. 在数字时代，法律的代码化进一步加强，出现新的代码形式，使法律向情境化、“私人化”方向发展——如疫情防控中针对特殊群体甚至个体一人一策的防控措施，针对特定企业制定契约和规制等。

3. 过去被强行塞入合法/非法二值代码中的大量情形将被释放出来，个人的独特关切将被更充分地考虑和关照。

4. 法律的具体形态很可能发生根本变化：过去公理化、结构化的法律规则，可能更多地被嵌入去中心化网络结构中的代码所取代。

5. 类比：电商平台对特定消费者信息的推送——不是通过建立普遍稳定规则然后”按规矩办事”实现，而是通过机器深度学习特定消费者的消费方式和习惯不断调整形成；追问背后规则时，答案只是一组用户数据和一系列代码。这有可能就是未来公共生活中用以规制我们的”法律规范”。（P16）

二、法律关系的变革

法律关系：根据法律规范所产生的，以法律上的权利义务关系为内容的特殊社会关系。法律规范形态发生变革 → 法律关系同样发生变革。两方面现象：法律关系产生机制变革、法律关系主体变革。（P17）

（一）权利义务产生机制的变革

借助余成峰所提比特币的例子阐明：

1. 纸币：依赖特定政府信用支持并通过强制方式规定作为”合法”流通的货币符号，使人们有法律义务使用。

2. 比特币：不依赖任何特定政府，依赖一套去中心化的区块链技术。区块链作为一种有效的确权协议，成为生成特定权利义务的新方式——一方面所生成权利义务关系的有效性和安全性能获得保证，另一方面不必动用国家的强制力量，大大降低成本。

3. 随着区块链技术的发展，这种去中心化的、代码化的权利义务生成机制在更广泛的领域影响着法律关系的变革。（P17）

（二）法律关系主体的变革

可能是数字时代在法律关系方面最重要、最深刻的变革。核心争议：人工智能是否会具有法律关系的主体地位，独立承担义务享受权利。

随着法律代码化趋势显现，人工智能作为法律关系主体的资格越来越凸显——人工智能对代码的解读和运算比人类更胜一筹，导致”计算法学”兴起和发展；普通人类面对日益复杂的代码越来越难以应对，其作为法律关系主体地位和资格反而成了问题。

此问题并非完全虚构：2016年联合国”世界科学知识和科技伦理委员会”《机器人伦理初步报告草案》提到机器人需尊重人类社会伦理规范并将特定伦理准则编写进机器人中——预设了人工智能即便不是现在，也会在不远的将来被视为能独立承担权利义务的主体。（P17-P18）

1. 否定说：自由意志为必要条件

(1) 拥有主体地位的必要条件：主体在行动上具有自由意志，自身能够作为独立的原因引起相关的行动并对这些行动负责（精神病患不负责任的理由即为其不能作为自己行动的原因）。

(2) 对人工智能而言，其行动根本上由基础程序和源代码决定，源代码由程序员放入而非人工智能自己生成。

(3) 人工智能的行动不是以自身为原因做出的，也不可能独立对其所作所为负责，因此不可能成为法律关系的主体。相关关系主体在根本上依旧是平台、厂商等传统法律关系主体。（P18）

2. 肯定说：拒绝自由意志为必要条件

(1) 拒绝承认自由意志为必要条件的理由：即使对普通人而言，主体地位也并非因为自身能完全独立构成行动原因——个人生活环境、家族遗传基因都影响着决策和行动，任何一个行动的原因都是复杂的。一个完全不受外在影响的人就是活在真空中的人，根本无法做出任何合理决定。

(2) 成为主体的关键：能否形成关于行动的合理性信念，并控制自己去响应这些信念。

(3) 结合系统论理解：人作为行动者拥有能动性，能将外部影响”转码”为一组合理性信念，并主动选择和响应在这组代码下被确定为”合理”的信念所要求的行动。只要一个对象具有编码、权衡与响应的能力，就有资格作为法律关系的主体。

(4) 例证：AlphaGo击败李世石的事件中，AI已可独立形成关于行动合理性的信念且比人所形成的更合理。（P18-P19）

3. 肯定说内部争论：情感可否被代码化

(1) 人们关于行动合理性的信念形成部分涉及人的情感——合理性的判断包含了对特定情感的合理期待（如婚礼上喜悦、葬礼上悲伤是合理的）。

(2) 人类自身对各种情感的区分和理解尚处比较表面阶段，更难将这些区分和理解转化成源代码注入AI。

(3) AI只能部分形成我们所理解的合理性信念，并非一个完全等同于人的关系主体。

(4) 各国制度设计倾向：让人工智能在其能主动形成信念、做出回应的领域单独负责，并辅助以保险方式确保受损害方获得足够赔偿；在AI不足以单独做出决定的领域则要求厂商对其行动负责。

(5) 展望：随着超级人工智能逐渐显现，或许可期待完全具有人类决策和行动能力、特别是感受和形成人类情感能力的AI终将出现，那时似乎很难有合理理由拒绝AI成为一定意义上的法律关系主体。（P19）

三、法律方法的变革

数字时代对法律方法产生的变革在很多方面已是”完成时”——一些技术不仅在案件裁判中被广泛运用，而且已得到司法部门的支持，逐渐纳入案件裁判的标准作业流程。（P20）

（一）法律专家系统

1. 定义：萨斯坎德（先驱）定义——“专家系统”是包含知识表示和专业技能的计算机应用程序，可像人类一样解决问题、提供建议并承担各种其他任务。

2. 类比：类似现在电商平台”智能客服”——通过设定好的启发式提问方式将客户问题类型化并给出事先设定好的答案。

3. 局限：客户问题可能无法被类型化为事先设定类型，需手动升级数据库，耗时耗力。（P20）

（二）法律文本解析技术

又称”法律文本挖掘技术”：使用语言的、统计的和机器学习的技术，自动发现法律文本、数据档案中的知识。包含两部分：

1. 概念性法律信息检索：用包含解决用户法律问题所需的概念和角色，自动检索相关法律文本中的法律信息。

2. 认知计算：程序从文本语料库中提取候选解决方案或解决方案元素，并根据它们与问题的相关性对解决方案进行自动排序。

此技术解决了专家系统的前置问题——专家系统需人工理解既有法律条文并对问题进行类型化，电脑系统只是应用数据库处理具体问题；法律文本解析技术则让电脑自行解读法律条文并对信息自动运算和排序，直接为客户提供法律解决方案。过程中不需要人为参与解读法律文本和进行法律推理。

世界范围内已出现多款类似应用程序：Lex Machina、Ross、Ravel等，能以创造性方式处理法律人之前无法完成的任务。（P20-P21）

（三）对法律方法的整体重塑

1. 邱昭继教授（译者序）：过去数百年来法律人运用传统法律方法分析案件事实构成、总结争点、将案件涵摄在特定法律规则之下并给出法律意见；法律文本解析技术出现后，上述整体性工作可拆分为：文件审阅、法律研究、项目管理、诉讼支持、电子披露、策略、战术、谈判和法庭论辩等。

2. 在现阶段技术条件下只有策略、战术和法庭论辩只能由法律人完成，其余工作均可由法律应用程序完成。（P21）

3. 法律人运用这些应用程序进行法律和案件分析，又会导致程序的分析反向影响法律人对法律和案件的理解 → 法律方法发生系统性变化。法律文本解析技术所采取的理解法律的方法将不断进入法律人所采用的法律方法中，否则法律人将无从运用这些高效工具。

4. 未来法律方法很可能需要包括若干计算机技术，如代码转换、大数据分析等。

（四）计算法学与预测论

1. 法律的代码化和法律文本解析技术的出现意味着法律能借助算法实现主动的自我调适和自我适应。计算机实际上采取霍姆斯的”坏人视角”——将法律视为官方制裁行动的预测。

2. 传统法律方法：规范主义立场，主张”应然”与”实然”的区别，两者并不直接相关。

3. 预测论立场：此区分不重要——法律就是能准确预测人们行动的动态算法和模型，这些算法和模型需通过不断学习人们事实上的行动模式加以调整。

4. 未来社会科学的大量方法将入侵传统由规范主义立场支配的法律方法领域，逐渐将其改造为一种交叉和混合状态。这可能是数字时代对法律方法带来的最大变革。（P21）

第三节 现代法治面临的挑战与回应

技术本身是价值中立的，但当它应用到法律这种具有高度实践重要性的公共事务时，其中立性就会遮蔽某些重要的价值议题和判断——很多重要的公共决定由技术手段以看似中立的方式得到，但背后存在应用技术者的价值判断。《外卖骑手困在系统里》案例显示：看似外卖平台算法对骑手的压榨，实际是设计算法的”人”主导着一切。（P22）

一、权力制约的困境

（一）德沃金命题：法律行为的道德维度

德沃金《法律帝国》开篇指出：法律上的行为不可避免地包含着道德性维度，从而始终存在产生特殊形式公共不正义的风险。正因为法律实践具有这种道德上的重要性，法律才会受到公众格外关注，其内部也会设置各种正当程序尽其所能确保程序公平且最终结果与正义要求保持一致。（P22）

（二）三个挑战

1. 算法授权问题

(1) 法律文本解析技术大规模运用于案件裁判 → 法律人将重要公共权力交由算法行使 → 实际上将这些公共权力交由算法的设计者行使。

(2) 算法开发者多数为私人公司，以营利为正当目的，无论在道德上还是法律上都没有对公众负责的义务。这本身增加了权力制约的困难。（P22-P23）

2. 价值判断的嵌入

(1) 法律实践本身必然包含道德判断 → 电脑程序的设计者需要”教会”电脑做出价值判断 → 势必将其个人价值判断标准放入算法之中 → 未经授权的人将自己私人的价值判断运用于公共权力。

(2) 这与法治限制政府专断权力的基本理念冲突。

(3) 反驳”算法可通过深度学习既往做法建模”的观点：面对价值议题时，主动选择接受绝大多数人的看法本身就是我们做出的实质价值判断。类比：若美国最高法院在裁判”布朗诉教育委员会案”时采取此策略，将宣布教育领域种族隔离合宪（“隔离但平等”原则已被广泛接受）；但显然在价值议题上，多数人持有的观点未必是正确观点。（P23）

3. 算法”黑箱”

(1) 算法”黑箱”：算法的输入为原因、输出为结果，原因与结果之间的运算过程复杂且不透明。用户无法看清其中规则、无法提出不同意见、不能参与决策过程、只能接受最终结果。

(2) 商业算法”黑箱”导致的不正义尚可通过外部（特别是法律）方式救济。

(3) 若”黑箱”本身存在于法律之中，则导致严重道德危机。

(4) 学者指出”程序员和设计者可能会试图以公开或隐蔽的方式嵌入一种逻辑，以使算法偏向期望的目标，如为特权阶层布设后门”。

(5) 算法不予公开、不接受质询、不提供解释、不进行救济，与法治限制政府专断的观念南辕北辙。（P23-P24）[脚注：马长山：《司法人工智能的重塑效应及其限度》，载《法学研究》2020年第4期。]

（三）回应与解决方案

1. 这些问题已获学术界和实务界广泛的注意和讨论，不再完全被遮蔽在”技术中立”之下。

2. 在尚无解决方法的领域，法治要求限制甚至禁止数据和算法的介入。例：疫情防控中政府已明确不得以老年人无健康码为由限制其出行。

3. 在数据和算法有必要和可能介入的领域，法治要求给予公众充分的透明，对相应决策给予公共监督，防止对个人信息的窃取和滥用，防止算法”黑箱”的形成。

4. 个人信息保护立法：我国已在《中华人民共和国刑法》《中华人民共和国消费者权益保护法》《中华人民共和国电子商务法》《中华人民共和国网络安全法》《征信业管理条例》《网络交易监督管理办法》等法律中有相应规定；2021年8月20日第十三届全国人大常委会第三十次会议通过《中华人民共和国个人信息保护法》（《个人信息保护法》），以单行法形式为个人信息提供了专门且较为系统的法律保护。

二、权利保障的难题

（一）第四代数字人权的产生背景

马长山指出，随着网络技术、信息技术和人工智能技术的加速融合发展，人类从工商业时代跨入数字经济时代，开启智慧社会，随之促进人权的发展与变革。既有的”三代”人权发展格局正在被打破，“第四代人权”逐渐应运而生。

三大时代背景：

1. 算法”黑箱”问题导致的各种歧视。

2. “无方向的监控扩张”——商业组织和政府都在以各种名义收集和监控个人数据。欧洲经济和社会委员会报告指出”监视贯穿整个社会，且没有方向性，在社会的各个阶层，包括层级内部，监视无处不在”。

3. 数据所有上形成严重不对等——数据寡头逐渐掌握各方面个人信息，以此获得利润并进一步研发新的隐蔽获取信息技术手段；普通公众越来越难以察觉到信息被窃取和滥用。

三方面结合，对社会成员个人隐私造成极为严重的冲击，并进而影响社会公平正义。（P24-P25）

（二）数字人权的独特性（马长山观点）

1. “人的信息存在方式赋予了人权的数字属性”——网络化、数字化、智能化时代人们生活方式发生重大变革，必然影响对人权的界定。

2. “权利发展的数据信息生态推动了人权的数字化演变”——权利内涵中必然融入数据信息的法益，促进权利变革（如隐私权外延逐渐扩展）。

3. “数据信息演化为新兴权利”——一些重要数据信息所带来的法益不能被既有权利涵盖时，演化成新兴权利。典型：“数据权”的出现，包含知情同意权，数据的采集权、修改权、携带权、被遗忘权、管理权、支配权、收益权等。（P25）

（三）三元结构与双重权力生态（马长山观点）

近代以来法治的制度设计主要通过国家权力内部的分立和通过个人权利划定有限政府来确立权力制约和权利保障机制。此基本结构在数字时代受到严重冲击。

1. 传统工商社会：政府/市场二元结构。

2. 数字社会：互联网平台不再局限于经济上的管理，而是通过制定平台规则、处理平台纠纷、行使平台监管权等具有了”准立法权”“准行政权”“准司法权” → 社会结构转变为公权力—社会权力—私权利的三元结构。

3. 公权力和社会权力并存构成双重权力生态，两种权力可能出现”共谋”——分享用户数据，“政府可以实现对特定个人的监控，而商业组织可以针对特定消费者投放量身定做的广告，引导消费”。在此结构中个人权利变得非常脆弱。（P26）

四）针对数字人权的特定保护机制

1. “推进数据信息自主权的制度化”——限制信息收集者在未经个人同意的情况下收集信息，将允许收集的信息加以监管，使其只能被运用于公众同意运用的目标之上。

2. “探索场景化的权益平衡机制”——个人信息数据既有个人属性又有公共属性（数字经济时代社会生活正常运转所必需的公共资源），“需要在数据和信息的公共性和私人性之间，政府部门、商业平台、技术公司和消费者之间，以及公法保护和私法保护之间，形成一种多元平衡、互动共享的数字人权保护机制”。

3. “探索过程—结果的规制策略”——传统权利保护机制主要是事后救济和惩罚；对数字权利的侵犯风险具有高度复杂性和不确定性，有很强的风险外溢的可能性，若仍采取事后救济策略可能导致无法弥补的损失。需探索将某些保护性代码嵌入算法之中，使算法在事中运转时必须遵守保护性要求。（P26）

（五）《个人信息保护法》的体现

1. 明确规定”敏感个人信息的处理规则”：只有在具有特定的目的和充分的必要性、并采取严格保护措施的情形下，方可处理敏感个人信息；处理敏感个人信息应取得个人的单独同意。

2. 规定个人信息处理者义务：采取相应的加密、去标识化等安全技术措施；制定并组织实施个人信息安全事件应急预案。

3. 专门提到”个人信息保护影响评估”应包含”对个人权益的影响及安全风险”和”所采取的保护措施是否合法、有效并与风险程度相适应”。

4. 结合其他法律规定，我国个人信息保护已初步显示出过程与结果并重的双重保护机制。（P26）

三、智慧司法的风险

个人权利和正义总是关联在一起——正义的关键词是”应得”，是正义和个人权利的连接点。智慧司法在实现正义方面面临四个难题。（P27）

（一）正义的要求几乎无法用数据和算法来确定

1. 正义是实践领域中的概念——亚里士多德指出实践领域的思考独特之处在于其不精确性（无法说某种社会制度比另一种正义高2.36倍），难以将正义算法化并用电脑”计算”何种社会制度最正义。

2. 即使能确定某些抽象的正义原则，其具体含义仍无法用算法确定。正义的关键词”应得”涉及对生活中各种价值重要性的排序，排序多样且每一种排序构成一种独特的生活方式，这些生活方式之间存在严重的不可通约——差异是性质的而非数量的，无法统一到同一尺度下量化。（P27）

（二）难以穷尽”正义”的样本

1. 即使电脑深度学习技术足以让它像普通人习得道德知识那样学习正义判断并反思形成自己的正义观念，仍需解决的问题：究竟哪些样本需要学习？这本身就是一个实质的正义判断。

2. 即便存在原则性标准，应用到具体法律问题仍有多种可能并产生海量数据，无专业人员分类整理电脑几乎无法完成。

3. 马长山举例：上海民事、行政案件智能辅助办案系统从467个民商事案由、61个行政案由中首选六大类8个案由，标注电子卷宗5800余份、标注点达12万个；但上海市2016年道路交通事故纠纷一个案由收案量就达51312件。若设计一种正义系统，所面对样本几乎是天文数字。（P27-P28）

（三）正义判断难以转化为”0”和”1”的二值代码

1. 科尔曼定义：算法是”把输入转换成输出的计算步骤的一个序列”。即便能获得并确定样本，还需将样本所呈现的规则、判断、运行机制等要素转化为数字系统以基于数理逻辑运算。

2. 马长山指出：正义问题很难被转化为”是”与”否”的零和博弈，“算法决策是’是’’否’的对立判断，不免存在风险”。

3. 转化为个人权利问题时风险更严重——二值判断下对权利的救济成了”全有/全无”问题，与权利的性质冲突：权利—义务总构成一组特定人际关系，权利具体内容总在特定关系中才能确定；某些基本权利的存在与行使都依赖于环境和关系（紧急情况下公民基本权利可受限制）。对具体情境的考虑无法化约到简单二值判断中。（P28）

（四）正义判断中必然包含情感性要素，难以被数据化

1. 斯特劳森《自由与怨恨》：人们持有的某些反应性情感和日常道德实践紧密相关，如果不持有或无法理解这种反应性情感，会被合理地认为不理解正义为何物。

2. 反应性情感的核心是特定的愤恨——当自身正当权利遭侵害时，受侵害人必然对侵害者投射愤恨态度。这种态度的出现及其强度并非可数据化的事实。

3. 其他诸多情感共同构成”道德情操”，同样无法被数据化。

4. 从日常生活出发：真正获得民众认可的法官并非那种完全遵循理性和规则裁判的法官，而是在此基础上有一定人文关怀的法官——认真对待每个当事人，考虑他们特殊的背景和情况，以创造性方式维护正义。这被认为是高超的司法技艺，也是法律人最值得追求的目标——但这些都无法被数据化。（P28）

（五）结论

当数字化时代到来并逐渐影响法律实践时，法律可能越来越”冰冷”和”僵硬”，甚至逐渐脱离正义和权利的要求，成为某种纯粹的”计算”。必须认真对待这些风险和挑战，在尚未找到很好的解决方案之前，以更审慎的态度对待法律的算法化和数字化。（P28）

第一节 人工智能体

一、人工智能体的内涵与特征

（一）定义

AI agent 指一种具备自主决策能力、可以代表用户执行任务、与环境交互的智能实体或虚拟智能体。它可以基于规则、知识或学习独立地感知和理解环境，并采取适当行动以实现用户目标。在不同人工智能领域，AI agent 既可能指代某个虚拟系统软件，也可指代一辆智能网联汽车。（P33）

（二）基本特性

1. 反应能力：具有对外界的刺激作出反应的能力。

2. 自适应与协作能力：反应根据外界环境的变化自动调整——具备与其他智能体或人进行合作、交互，并修改自己的行为以适应新环境的能力。

（三）与相关概念的区别

1. 人工智能系统（AI system）：利用计算机科学和人工智能技术构建的、能够模拟人类智能或执行智能任务的系统（欧盟《人工智能法》、我国《上海市促进人工智能产业发展条例》及《深圳经济特区人工智能产业促进条例》均有界定）。人工智能系统可能由单个或多个 agent 构成。

2. 数字人（digital human）：通过模拟人类外貌和行为来创造与人类交互的虚拟人，是 agent 的具象形式，可以是由多个 agent 组成的系统。

3. 一般程序软件：仅满足特定任务或功能需求而开发的计算机程序，只能完成特定的任务。而 agent 具备一定程度的智能和自主性，能够进行决策、学习和自适应。

[脚注：AI agent 并未引起理论研究上的重视。2018年人工智能译丛”独角兽·人工智能”系列丛书编译时，主编彭诚信即十分重视 AI agent 的翻译，最后译者放弃了代理和主体等译法，选择了”智能体”这一定译。但此后 AI agent 未获得立法和理论研究的重视，原因既有人工智能技术发展路线的影响，也有研究者认识的问题。]

二、人工智能体法律人格的意义

法律人格是权利义务产生的前提性要件。讨论人工智能体法律人格的意义在于：（P34）

（一）平衡不同主体之间的利益关系

人工智能技术研发、生产与应用聚集了多方主体的利益。若人工智能具有法律主体资格，可以给受害者提供弥补损失的经济补偿方法，降低让所有权人、用户、开发商或制造商对人工智能相关的全部潜在损失承担责任的不确定性与制度成本。

（二）决定某些人工智能体的存在

某些人工智能体的研发与应用会引发法律、伦理、哲学乃至人权等基本问题。例如，《伦理机器人许可草案》（ERL）规定”不允许使用机器人以作性行为或从机器人中得到性满足”，若采用此种观点，性机器人的存在本身便缺乏正当性。

[脚注：对人工智能主体地位的法律讨论，建立在技术上对于弱人工智能、强人工智能与超人工智能区分的基础上。强人工智能属于人类级别的人工智能，超人工智能其计算和思维能力已经远超人脑。]

三、人工智能体的法律性质

目前理论上对于人工智能主体地位的讨论，主要形成了肯定说（主体说）和否定说（客体说）两大对立观点。通说：否定说仍是主流学说。（P34）

（一）否定说（客体说）

否定说针对当下人工智能发展水平提出，认为人工智能尚不具备法律人格，仅可作为权利的客体。否定说在世界范围内被实定法、司法实践所接受。根据所持具体理由的不同，客体说内部存在不同的细分观点：（P34–35）

1. 工具说：人工智能体归根结底还是人类创造的服务于人类的工具，尚不能成为权利主体。

2. 软件代理说：人工智能是算法等软件的代理，其传递的是用户要求的信息，并无法律主体地位。

3. 道德能力缺乏说：法律上的人必须是具有道德能力的人，没有道德认知能力的自然人或者动物均不应具有法律主体地位。

[脚注：客体说还有诸如认知能力匮乏说、意思能力匮乏说、痛苦感知说、人类生命神圣说、类人格说等主张。]

前述学说共同的局限在于：大多类推适用人类或动物能否成为主体的理论或者类推适用人类或动物承担责任的规定，忽视人工智能主体资格问题有其特有的法理考虑与价值选择，而非依据某一单纯的要素考量。具体而言，其未关注人工智能体具备智能的现实与这一智能将不断提升的发展趋势；也无法回应诸如”索菲亚”“帕罗”之类的机器人已经获得国籍或户籍而被认为具有部分人格的社会现实；在确定人工智能体致害归责路径方面，可能不易协调致害救济与激励研发者生产者的积极性的平衡。

（二）肯定说（主体说）

肯定说认为，鉴于人工智能体在现实社会中的智识表现与多元功能，可以赋予其法律人格，使其享有法律主体的地位。主体说亦有多种不同的论证路径：（P35–36）

1. 代理人说：将机器人作为其”所有人”的代理人。2017年2月欧盟表决通过的《欧盟机器人民事责任法律规则》第52条即提出”非人类的代理人”的概念。人工智能体是一个具有目的性的系统，可以作为民事主体。人工智能体与其用户或者操作者的关系被认定为法律代理关系中代理人与本人的关系。

2. 电子人格说：认为可以赋予人工智能体一种电子人格。其主要依据是《欧盟机器人民事法律草案》第59f条的规定——长远来看，大多数精密自动化机器人可以被确立如电子人（electronic persons）一样的法律地位。但该草案后来的版本中放弃了这一观点。

3. 有限人格说：人工智能的法律人格与自然人或法人不同，并不具有承担完全责任的能力与地位。目前该说在肯定说中较有影响力。但其局限性在于：“有限”的具体内涵和具体效果如何进一步明确？“有限”是对人工智能体具体权利义务的限制还是对其法律人格的限制？抽象意义上的法律人格（权利能力）在法律上能否限制？责任承担方面的受限可否影响主体资格的授予？诸如此类问题，有限人格说尚未解释清楚。

4. 人格拟制说：人工智能体应当通过”视为”途径赋予法律人格，如同法律对胎儿的人格赋予一样。美国国家公路交通安全管理局在2016年2月给谷歌公司的回函中表示，根据美国联邦法律，该公司自动驾驶系统可视为”驾驶员”。该说尚未解决的问题是：“拟制”能否足以体现人工智能体的特殊性？拟制应该是立法技术，而非法律适用技术，在法律对人工智能体的主体地位做出明确规定前，难以运用拟制技术解决现实问题。

四、本书的观点

作者观点（陈吉栋）：机器人法律主体地位赋予在私法技术上并无困难，亦存在一定的论证路径。在我国现行法上，人工智能体虽然不是主体，但应探讨通过法律解释将其解释为主体的理论路径。（P36）

（一）解释路径契合了民事主体制度扩张的趋势

人工智能体能否成为民事主体，需要检视民法主体制度的一般原理，回溯民法主体制度确立的原因、特质及其发展趋势。

1. “差序结构”下的主体制度

现代社会人人均平等地享有法律主体资格（人格），但（自然）人可非（法律上的）人则是历史的常态。在人格理论起源的古罗马法中，法律人格呈现”差序结构”：罗马法的人格制度将人本身与人格分离，人格并非为人人所具——人可非人。具体而言，一个人要具备完全的人格，必须要同时享有自由权、市民权、家族权三种身份权。三者缺一，则为”残人”，人格受限；三者皆无，则为非人（奴隶），沦为客体。罗马法判断一个自然人是否具有上述权利的依据是”身份”。

“身份构成了生物人与法律人（格）之间的’分拣器’。它们排除一定的生物人于法律人（格）的行列之外。因此，法律人格成为区分自然人不同的社会地位，一些人压迫另一些人的法律技术工具”。说到底，“（法律）人格是部分社会成员的特权”。罗马法实践表明，法律人格制度在一开始即具有突出的”技术性”特点。（P36–37）

2. 主体的全面保护及其扩张趋势

（1）主体的全面保护

14世纪文艺复兴后，尤其是经过了启蒙运动的洗礼，《法国民法典》受到自然法精神的影响，扬弃了罗马法人格理论的身份基础，将人格与自然理性所生的人的伦理价值联系起来，最终实现了法律人格平等的制度设计。《法国民法典》第8条规定”一切法国人均享有民事权利”，标志着人类近代社会以伦理作为法律人格基础的法律传统的形成，拉开了法律上人格平等的序幕。依据该条，人成为独立于”神”与”自然”之外唯一的法律人格承载主体。而”作为身份区分工具的’法律人格’在人人平等的社会中，应当毫无使用价值”。此时的法律主体概念已经不同于罗马法差序格局下的人格，在更大程度上成为一种抽象意义上的拟制人。（P37）

[脚注：拟制人概念可以追溯到13世纪以来教会法学者所创造的”persona ficta et repraesentata”。]

1900年开始实施的《德国民法典》创造了权利能力制度。权利能力意指”一个人作为法律关系主体的能力，也即是作为权利享有者和法律义务承担者的能力”。该法典第1条明确规定”权利能力自出生完成之时开始”，这意味着任何自然人一经出生，享有权利的能力即是平等的。由此，德国法走出了与法国民法典不同的规范路径——权利能力已经超越自然人格，成为法律意义上的人（包括”自然人”和”法人”）的共同本质，而现代意义上的人格则成为与权利能力相等的概念。我国《民法典》第13条规定”自然人从出生时起到死亡时止，具有民事权利能力，依法享有民事权利，承担民事义务”，采用德国模式。（P38）

德国民法确立民法主体的伦理属性，其伦理学依据是康德主义的道德哲学。依据康德哲学，“具备实践理性者才能够承担义务并称为主体”，而理性和意志是决定法律赋予主体地位的原因。按此标准，只有自然人可以享有主体地位，而动物和其他物质仅是权利客体。但康德同时也指出，尽管只有自然人才可以获得权利并承担义务，但是法律仍有权将主体资格赋予任何东西，比如商业公司、政府和海商法意义上的船只等——因为人格概念具有抽象性和技术性。

（2）主体制度的扩张趋势

民法所确定的抽象法律人格制度有不断扩张的趋势：（P38–39）

① 由于民法不断将人的概念抽象化，同时由于商业发展的需要，在自然人之外，出现了法人制度。

② 随着生命科学发展，自然人内部也出现新的变化，出现了渐冻人、植物人等所谓的非自由人和半自由人。《民法典》第28条和第33条对成年人监护的规定，即是因应此种变化而做出的相应调整。

③ 随着国外兴起的环境伦理学，域外法域出现了动物主体地位问题的讨论。这一讨论的理论基础是环境伦理学中动物权利论、生物平等主义和生态整体主义中大地伦理学、深层生态学。动物权利理论者主张动物具有感觉能力和精神能力，动物具有道德意义的利益，人类应采取”平等考虑原则”对待动物，应赋予动物”不被当作工具来对待”的道德权利。在规范上，《德国民法典》增设了第90条第a款（“动物非物，动物应以特别法保护之。有关物之规定准用于动物，但另有不同规定者，不在此限”），宣示了对生命意义的尊重。综上，法律关于法人、胚胎和动物权利的讨论，扩大了法律人格适用的可能范围，因此出现了”没有脸庞”的权利主体。

循着这一趋势，运用抽象的法律人格赋予机器人民法主体地位，在法律技术上并无困难。如果基于一定的法政策考量需要赋予机器人法律主体地位，民法技术足以支持这一操作。问题在于选择何种路径，以较小的立法成本解决人工智能体背后的利益配置问题。

（二）解释路径的具体展开

《民法典》第2章至第4章是关于民事主体的规定（第2章自然人，第3章法人，第4章非法人组织）。依据这三章的规定，人工智能并非民事主体。但值得注意的是，《民法典》第128条（引致条款）规定：“法律对未成年人、老年人、残疾人、妇女、消费者等的民事权利保护有特别规定的，依照其规定。”该条的立法目的在于当《民法典》对具体民事权利的列举不符实用时，通过该条引致其他法律对于民事主体权利的特别规定，以保护弱势群体的民事权益。

作者观点（陈吉栋）：在解释上可通过对本条”等”进行解释，将人工智能解释为此类”弱势群体”去施以保护。然而，此条仅是引致条款，并未具体规定人工智能的权利，因此在运用时仍应以单行法律对人工智能的权利进行规定，使其可进行法律方法论的操作。这一路径看似法律解释，实为对于法律漏洞的填补。（P39）

（三）立法路径的障碍

有学者主张通过拟制技术解决机器人主体资格问题。“拟制”是指将实为权利客体的人工智能认定为民事主体的法律技术。在本质上，拟制是一种立法技术，依赖于具体的法律规定，缺乏实定法根据则难以适用。（P39）

拟制论遭遇的难题是：如何确定人工智能”视为”主体的具体情形。“拟制”在实定法上的典型例子是《民法典》第16条第1句对胎儿利益的保护：“涉及继承、接受赠与等胎儿利益保护的，胎儿视为具有民事权利能力。”人工智能在何种情况下可以被视为民事主体，需要根据人工智能体的具体类型和司法实践的认识来决定。

拟制并非没有条件。既有的讨论偏于强调拟制的立法技术特性，似乎只要运用拟制，即便是山川河流也可以具有法律人格。但即便是拟制人格，仍需要具备”意志能力”要件。以法人为例，无论对于法人的本质采用何种学说，意思要件均不可或缺。法人能有效从事民商事活动，是因为”法律使它可能形成独立于各个成员的意思的总意思”，也可能通过为它设置的个人（机关）而活动。可见，拟制为主体的目的并非立法的”简省”，而是强调从事民事活动应当承担权利义务——即便运用拟制手段赋予人工智能主体地位，也需要以拟制之人工智能的意志能力作为必要条件之一。

讨论人工智能体的”机器意志”与法人制度的不同之处在于：法人是自然人的组合，其意志的本质仍是人的自然意识，而机器意志则与此不同。如何认定机器意志，存在不同的思想实验，需要更多的理论探索。（P40）

五、人工智能体法律主体地位的要件

法律并非当然地把某种自然存在（如自然人）或社会实在（如公司等）认定为法律主体，而是通过一定的条件设置或认可原则来判断是否以及如何赋予该存在形态以特定的主体资格。对于自然人来讲，现代法律承认其主体资格的唯一条件便是”人”的存在，在法律上表现为”出生”这个自然事实。对于非自然人的社会存在而言，法律亦可依据一定实质性要件与形式性要件赋予其法律上的人格，承认其”权利能力”。（P40）

（一）实质性要件

1. 意志能力的有无

意志能力，就是为行为的能力，即能够把内在思想通过外在行为表达出来的能力。意志能力是判断法律人格的”神”，法律人格是人之自由意志的外在体现。人工智能体意志能力判断的本质在于：决定人工智能体发挥具体功能或完成特定任务的算法能否与设计者、生产者等发生分离；或者说，人工智能体本身能否自主地创设出新的算法或摆脱既有算法的约束。若人工智能体仍完全受制于既有算法的束缚，则难谓它有意志能力，也就不能被赋予独立的法律人格。若人工智能体可以摆脱既有算法规则的束缚，能够自主地发挥特定功能，完成某种动作或行为，则可以说它具有某种程度的意志能力，法律便可以赋予其主体资格，或至少具有这种可能。（P40–41）

具体形态分析：

(1) 在弱人工智能阶段，人工智能确实已发展出能做出一定的超出自然人能力范围的行为（如IBM的Watson、谷歌的AlphaGo、ChatGPT等）。但即便是高级弱人工智能的”智能”领域仍比较固定且单一——其仅能在算法设置的任务范围内具备某种超出人类的”智能”，逾越这一范围就”愚不可及”。出现这一差别的原因是，人工智能不能做没有被训练的事，而”人类大脑可以接受新任务，并找到执行方法，即使从未受到过这方面的训练”。弱人工智能所做的决策仍被认为是由预先设计好的算法所决定，人工智能具有创造性可能仅是一种”错觉”，弱人工智能不会产生自由意志的问题。因此，弱人工智能体不具备法律人格的实质性要件。（P41）

(2) 但弱人工智能体在一定范围内亦具有一定的认知能力，可以深度学习并不断适应新的环境，可以完成高难度的任务，这一点与一般工具不同。甚至有学者指出，人工智能可以”合理表达自己的意志”，虽然这一意志的形成源于人工设定的程序（主要为算法）。尤其是对于能够通过像人一样的交流互动从而再现人类智能某些方面的高级弱人工智能来说，更是如此——“我们对待高级弱人工智能会不由自主地像对待生活中的其他人一样，也就是说，我们信任高级弱人工智能以及将高级弱人工智能纳入我们生活的方式将会区别于我们现在对待机器的方式”。在这个意义上，在法律上像对待一般物理性工具一样来对待这种高级弱人工智能或许也并非完全合适。（P41–42）

(3) 更为重要的是，人工智能给法律带来了可预见性（foreseeability）挑战。弱人工智能可以与其所处环境自由交互，其所具有的”智能”很大程度上依赖于这种后天的交互经历。“即使是最细心的设计者、编程者以及制造者都没有办法控制或者预测人工智能系统在脱离他们之后将会经历些什么。”所以，人类无法预测人工智能系统如何行为。欧盟的立法正是基于这一考虑才建议赋予精密机器人电子人地位——这一定位显然有利于合理界定人工智能的权利、义务甚至责任。在此意义上，弱人工智能在客观事实上已经具备了部分意思能力，且也符合生活现实。人工智能体虽还没有摆脱既有算法的束缚，形成其自由意志，但它会在社会中产生一定的不确定性。法律为应对其带来的不确定性，在具体情形下承认其具备一定意思能力，或许会更利于协调各方主体之间的利益关系，也更符合社会现实的需求。（P42）

2. 物质性要件的有无

物质性要件是指，拥有从事活动所需的财产或其他必要条件。相对于意志能力，物质性要件是判断法律人格的”形”。一个社会存在的实体要成为法律上的主体需具备与其活动主旨相一致的物质性条件，该物质性条件有可能是技能，也有可能是身份（如校友会需校友身份），更多的可能是财产（如营利性法人）。（P42）

对于人工智能体来说，其物质性条件纷繁多样，完全取决于人工智能体所要发挥的个体功能及社会功能（工厂做工机器人、家庭服务机器人、性机器人、自动驾驶机动车、无人机与无人艇等）。财产可能是人工智能体一个极其重要的要件——因为讨论机器人是否具有法律主体资格，在最终意义上，还是在追问人工智能体能否独立承担法律责任尤其是财产性质的法律责任问题。在这个意义上，财产便是判断人工智能体能否成为法律主体的一个重要条件。（P42–43）

在当下的弱人工智能时代，还难以看到人工智能体拥有自己的财产。最重要的原因是：无论是人工智能体的研发者还是生产者等，仍强调人工智能体的工具性功能，尚未充分意识到人工智能体逐渐引发的诸多法律争议，而且法律迄今也还没有出现责令人工智能体独立承担或与他人共同承担侵权赔偿等法律责任。

综上所述，从主体要件的物质性要求来说，至少目前人工智能体尚没有取得主体资格的物质性要件。但这并非说人工智能体不能成为法律主体，而是说如果法律要赋予人工智能体法律人格的话，人工智能体拥有一定程度的独立财产的条件便不可缺少——因为这不仅是其从事某种行为的法律基础，更是其承担责任的法律保障。（P43）

（二）形式性要件

有了主、客观的社会实质，人工智能体也就成为”形”“神”兼具的独立于自然人的一种社会存在实体。但即便如此，它也并非一定就能成为法律上的人——还要取决于法律的形式要求，即要符合法律的形式要件要求。法律是通过一套认可原则把客观实在纳入法律主体之中的。自然人是随着出生通过人的存在而具有权利能力，法人的权利能力则通过国家的主权行为（staatlichen Hoheitsakt）被授予。（P43）

弱人工智能作为一种社会存在，现在已经且将来会越来越切实地参与人类的社会经济生活。承认其主体地位是一种社会的客观需要。当下承认非自然人主体资格的法律路径主要有五种认可原则：自由设立、准则设立、行政许可、特许设立、强制设立。这些认可原则在设立之初仅是针对非自然人团体，而现代民法可将其扩张普适于所有非自然人民事主体。

法律通过什么样的形式来认定人工智能体具有法律人格，是自由承认，还是准则设立，抑或行政许可？目前尚未有相关探索。《欧盟机器人民事法律草案》专门规定了”智能机器人的登记”：应根据为机器人分类制定的标准，引入先进机器人的登记系统；登记系统和登记应该涵盖全联盟的内部市场，可由指定的欧盟机器人和人工智能机构管理。由此规定可见：第一，该种认可仅就其中高级人工智能为之；第二，对于人工智能的国家认可，有待于完善对人工智能本身的分类，立基于这种分类建立机器人登记制度。登记制度的一个客观结果是，可以确保机器人与其赔偿基金之间的关联在机器人登记中得到体现，以便任何人都能知晓基金的性质、财产损害的责任限制以及其他相关信息。（P44）

就人工智能法律人格的国家认可而言，准则主义（含登记）是较为妥适的选择。即法律对人工智能法律人格规定一定的条件，只要符合此条件即可获得法律人格。原因在于：强制设立、特许设立原则要么失之过严，要么有违私法自治，在民法上都不具普遍意义。准则主义模式的合理性在于：

1. 在此模式下，国家对于弱人工智能尤其是高级弱人工智能进入社会可以较为有效的控制。

2. 采取准则主义在实践操作上具有可行性。原因在于：人工智能国际标准正在确立并不断完善。国际标准化组织和国际电工委员会第一联合技术委员会（ISO/IEC JTC 1）在人工智能领域的标准化工作已有20多年的历史，并专门成立了人工智能分技术委员会SC42，主要负责研究制定人工智能国际标准。技术标准的确立为人工智能之分级和设立准则的确立提供了依据。

除了准则主义外，法律应根据人工智能体的实际情况，对其他的认可准则持开放态度。这样做既坚持了基本的认可原则，又可保持认可原则总体上的开放性。（P44）

在准则主义模式下，人工智能体的法律人格在我国现行法上的实施路径，还可以借鉴法人登记制度对赋予主体地位的人工智能体予以登记，即依据《公司法》第29条的规定（“设立公司，应当依法向公司登记机关申请设立登记”）：自登记时起弱人工智能获取法律人格，其法律人格在注销登记时消灭。有学者还指出，“当智能机器人不再符合技术标准时，可认定其符合报废标准，经适用强制报废制度强制报废后，方可进行注销登记”。

但是，采用准则设立需考虑的实操性问题还很多：（P45）

1. 谁负有为人工智能体申请成为法律主体的义务，如果没有或怠于行使会产生何种法律责任？

2. 取消人工智能体法律主体资格的条件到底如何设立？采用何种手段予以报废？其债务如何处理？其剩余财产如何分配？

无论如何，主体资格的形式性要件（认可原则），其实反映了一个国家或社会对某种社会存在（如人工智能体）的一种价值态度——法律应对人工智能发展所采取的态度，不同的价值选择会决定承认人工智能体的不同认可形式。但无论采用何种认可原则，最为核心的是：既要考虑到对人工智能体发展或其权利实现的积极价值，也要顾及并平衡该认可原则的消极价值，而不应令人工智能免于或逃脱其本应承担的侵权责任等法律后果。