任何依赖于人工智能的裁决系统都必须足够“精明”

　　英国最高法院副院长霍奇勋爵于2023年11月30日在德蒙福特大学的讲座中谈到了调整法律以促进、适应和规范人工智能的必要性以及人工智能给法律实践及司法系统带来的机遇，现摘译如下。

　　智能合同

　　智能合同是无须人类干预便可部分或全部执行的合同。最简单的情况是，给予计算机指令，如果X发生，那么运行Y结果。这可和自动售货机相比，投入零钱、选择商品，然后机器收钱并交付商品。只要缔约方意识到其缔结交易的性质，法律会客观评估缔约方的意图，认定合同成立在普通法体系下通常不成问题。但是法律还必须解决在合同同意被削弱，例如错误、虚假陈述、欺诈的情况下，如何提供救济的问题。因为买卖双方的合同条款被写入存在于区块链的代码中，智能合同是自我执行的，当被编码的条件满足时，产品就被交付或款项就被支付，没有人(包括法院)可以停止智能合同的履行，法院也无法取消合同的履行。不当得利是在普通法系及大陆法系均存在的一种救济措施，可以使得当事方重新转移财产或款项。

　　如果计算机被发展使用机器学习以优化交易，生成式人工智能将可以协助开发者编写代码加速智能合同起草过程并监控合同执行，合同法可能面临更大的问题。如果企业之间使用具有机器学习能力的计算机，他们可能自主生成不容易契合合同法的交易。法律将如何把计算机自主作出的决定归于缔约方的意图?法律是否应规定，那些自愿使用具有机器学习能力的计算机进行交易的人被视为有意受到机器自主达成交易的合同约束?如果合同将由机器起草、调整及执行，我们的合同法需要在谨慎而有想象力的考量下进行重大发展。

　　人工智能的侵权归责

　　法律还需处理合同法以外的民事责任。对规范我们彼此的行为，侵权涉及法定义务，而非合同义务。侵权法中，责任可产生于伤害他人的违法意图或对他人伤害的预见及个人行为及他人所受损害之间因果关系的结合。如果他人遭受的不利后果是计算机决策的结果，法律应该归因于谁的过错?法律如何看待自然人行为及后果之间的因果关系?谁对机器决策或其偏见或故障负责?在经济侵权中，以非法方式意图伤害、诱使违约，需要具有意图造成损害的心理因素，或在欺诈侵权中，虚假陈述者的认知或信念是相关的，那么，如何对计算机自主行为或故障导致的损害施以责任?一个选择是通过立法将责任施加于人工智能系统的开发者，类似无人驾驶汽车制造商，或者是否应该将责任施加于设备的使用人/操作者?如果人工智能编写自己的算法，将责任归于人类是否公平呢?一个可能的解决方案是赋予人工智能法律人格，类似公司，并强制实施第三方责任保险，以应对无过错导致的损害，或者发展一套法律体系来决定如何分配责任。欧盟已经在解决一些问题，欧盟提出的责任指令将修改现行的侵权责任法律，引入人工智能输出与被告过错之间可反驳的因果关系假设。指令第4条仅在特定情况下适用该假设。

　　人工智能所涉知识产权

　　财产法也需要适应新兴技术的发展。例如，如果使用人工智能的计算机生成知识产权，谁拥有知识产权?如果机器自主创建新合同，是否存在著作权?谁拥有著作权?如果机器设计出具有工业性应用的东西，也会涉及与专利相关的问题。关于著作权，英国法将做出创作的必要安排的人视为计算机产生作品的作者。该方式似乎存在潜在争议，尤其是如果机器参与进相关安排。

　　在专利法上，最高法院最近审理了泰勒博士的上诉，他是使用人工智能创造新产品的机器的所有人，他声称英国专利立法赋权他作为机器所有人就机器所设计出的东西获得专利。上诉法院多数裁定，在1977年专利法下，只有自然人可以成为发明者，并且拒绝了其申请。最高法院将在未来数月颁布裁决。

　　我们还需要解决人工智能生成物所有者的权利与机器使用数据所影响的权利所有者的边界问题。其中一个问题是生成式人工智能可能侵犯著作权和其他知识产权。小说家和摄影师担心他们的作品被用于训练生成式人工智能模型。已经有许多起诉生成式人工智能开发者侵犯知识产权的案件发生。

　　人工智能所涉数据保护

　　生成式人工智能也引起数据保护和透明度相关问题。生成式人工智能依赖于大量数据的输入，很多数据是从互联网获得的，包括了广泛的个人数据。人工智能开发者将这些数据整合进人工智能算法，在美国引起了关于数据使用的担忧及诉讼。意大利也因此类担忧在一段时间内禁用ChatGPT。生成式人工智能“深度伪造”的能力，即生成极其逼真的虚假陈述及图片，也引起严重担忧。深度伪造已被用于犯罪活动，例如性侵儿童或勒索/敲诈。不同司法辖区作出了不同反应。美国和欧盟已经提出了相关立法。美国提议对人工智能创造的图像和视频添加水印。欧盟计划采取强硬路线，将人工智能分级为高、中、低风险，并对其开发者施加与该分类相称的义务。

　　人工智能时代下的数字资产

　　数字资产对推动经济具有巨大潜力。促进数字资产的发展具有紧迫性，不仅在金融科技领域。英国目前采取轻监管且没有引入立法。法律委员会认为普通法已足够灵活以适应数字资产，但是仍建议英国政府制定承认加密代币和数字资产作为财产特殊分类的立法框架，还建议法院继续发展普通法并由行业专家通过工作团队或小组提供详细指导。在苏格兰，我有幸主持了一个专家意见小组向苏格兰政府提出立法建议，以促进在苏格兰法律中将数字资产承认为财产。如果要充分利用这些资产的经济潜力，我们必须在法律中将其承认为财产。

　　人工智能用于法律分析

　　生成式人工智能凭借其处理和综合大量数据、以全面和可理解的方式作答的能力(及回答后续问题的能力)，在作为法律研究工具方面具有显著潜力，既适用于律所，也适用于个人。2023年2月，英国安理律师事务所宣布其已将名为Harvey(基于GPT-4)的人工智能平台整合进其全球业务，3500名律师在试用后向Harvey提出近40000个问题，该律所在网站上表示，虽然律师们需要仔细审查输出物，但Harvey可以基于大数据帮助生成见解、建议和预测，使得律师可以向客户交付更快、更智能和更经济的解决方案。

　　斯坦福大学的计算机专家为预测知识产权诉讼结果开发了人工智能分析软件Lex Machina，最近其宣布启动对九个俄勒冈州巡回法院的法律分析，其能通过访问在俄勒冈州提起的23万件民事诉讼的数据生成“关于法官、律所、代理人和当事人”的见解，其还可提供损害赔偿等的结果分析，识别相似事实的案件，生成案件中律师记录等。

　　人工智能在法院系统中的运用

　　对渴望成为全球领先争议解决中心的司法辖区来说，法院系统、流程和基础设施的技术改进是必须的。在过去几年，英格兰和威尔士的法院进行了广泛的数字化改革。法院系统现代化包括能让更小额、更简单案件中的当事人提起诉讼的在线法院，以及例如电子化提交、计算机辅助誊记、文件展示系统、电子化证据展示和证人质证等其他举措。

　　英格兰和威尔士已经开始认真考虑使用技术自动分流案件，帮助当事人上传关键文件和证据并准确表达其主张。一些私人争议解决机制已以类似方式运作，例如在易贝电子商务平台提供的在线纠纷解决机制中，当事人被一系列引导达成和解的在线表格所推动，大部分投诉在无须人员干预的情况下解决，如果无法达成一致，当事人可上诉至调解员(在10%的案件中发生)，目前已解决6000万起纠纷。脸书和推特也采取混合系统，计算机处理简单案件，人类处理复杂案件。

　　我们距离开发能够以类似高等法院法官的风格作出附带推理的裁决的系统还有很多年，这是因为技术尚未达到完全实现自然语言处理的程度。无论技术上存在何种限制，涉及“机器法官”的许多伦理和政治上的担忧可能是无法克服的，例如，任何依赖于人工智能的裁决系统都必须足够“精明”，以克服“偏见”问题。我们还必须考虑到法官在实现正义中所扮演的角色：通过公正而有礼貌地裁决争议，当事人可以了结案件。机器是否能够?尽管用人工智能替代法官可能听起来有些难度，但人工智能应用于审判辅助将更会更早实现，这在有些国家已经发生。(本文获得作者授权，小标题系编译者所加)

　　(编译者单位：英国剑桥大学法学院)(□ 英国最高法院副院长 霍奇勋爵 编译 王 林)