系列专题丨人工智能安全与伦理行为规范（一）：律师行为规范

2024-11-27 00:00:00

专题导语

在这个由数据驱动、智能互联的时代，人工智能正以前所未有的速度和规模重塑着我们的世界，它不仅为各行各业带来了革命性的变化，也为法律服务领域带来了新的机遇和挑战。使用者在享受其带来的便利的同时，也面临着一系列复杂的伦理和法律问题。

专题“人工智能安全与伦理行为规范”将聚焦人工智能在法律领域的应用，从律师、司法机关、人工智能开发商以及其他应用者四个维度，探讨与其相关的行为规范，为法律行业构建一个健康的人工智能应用环境提供思路。

文章摘要

专题第一篇文章将带您深入了解律师在使用人工智能时应遵守的行为规范。通过梳理美国律师协会、加利福尼亚州律师协会、宾夕法尼亚州律师协会、纽约州律师协会以及哥伦比亚特区律师协会等发布的相关文件，归纳出律师在使用人工智能时必须遵守的核心要点。

文章背景

2023年3月，一场离奇的法庭风波引起了广泛关注。律师彼得·洛杜卡（Peter Lo Duca）和史蒂文·施瓦茨（Steven Schwartz），代表客户罗伯托·马塔（Roberto Mata）起诉阿维安卡航空公司（Avianca Airlines），并提交了一份由人工智能撰写的法律文书。在这份文书中，他们引用了几个看似权威但实际上根本不存在的判决案例。

面对质疑，这两位律师起初还坚称这些案例真实存在。然而，随着调查的深入，他们不得不承认在此前的听证会上签署了伪造的案件引文。更令人震惊的是，律师史蒂文·施瓦茨在解释自己的行为时，表示他误以为ChatGPT是一个“超级搜索引擎”，只是找到了某个尚未发布或难以访问的案例，从未想过它会捏造案例。

这场风波不仅让人对人工智能的能力产生了新的认识，也引发了人们深刻思考律师在使用人工智能时面临的安全与伦理问题。

律师与AI：

构建伦理和安全的执业路径

美国律师行业对AI技术的关注尤为突出，多家律师协会针对AI在法律实践中的影响出台了一系列指导文件，为律师使用人工智能提供操作指南。不仅在美国，新加坡律师公会也发布了专题文章，深入探讨人工智能及其他技术在法律服务中的应用所带来的伦理挑战。

经归纳梳理，该些现有规范的具体内容如下：

*文章底部扫码联系客服即可获取下述报告全文

1.美国律师协会

2024年8月，美国律师协会发布了《人工智能对法律实践的影响报告》（Year 1 Report on the Impact of AI on the Practice of Law），该报告以美国律师协会《职业行为示范规则》（Model Rules of Professional Conduct）为指导，结合其他律师协会发布的相关规范，讨论了律师在法律实践中使用人工智能时应遵循的规则。

防止AI幻觉	律师有责任确认其向法院提交的内容真实、准确且适当。生成式人工智能并非搜索引擎，其生成的内容可能表面上合理、有逻辑，甚至与真实信息交织，但实际上存在错误。
胜任能力	律师必须了解其使用的生成式人工智能技术的功能和局限，避免过度依赖。
勤勉与沟通义务	律师有责任向客户解释在客户事项中使用了人工智能。
保密义务	在未经客户知情同意的情况下，代表客户使用生成式人工智能时，律师应注意不要透露与代理相关的信息，须提前了解将使用的人工智能会如何使用、共享和存储输入的信息。
费用问题	生成式人工智能可能会减少律师的时间花费，律师应提供由于生成式人工智能创造的效率提升而产生的账单折扣，从节省的时间中获利可能违反 ABA 示范规则。
杜绝证据伪造对法庭坦诚	如果客户或客户的代理人有可能使用人工智能伪造证据，律师有义务在证据提交前质疑其真实性，但不可通过声称真实证据被伪造而谋取利益。
对律师代理人负责	律师有责任监督任何人使用生成式人工智能来创建工作成果，确保内容在各个方面准确可靠。如果律师代理人代表律师使用这项技术，首席律师仍然有责任了解该技术的应用内容，以及相关风险。

2.加利福尼亚州律师协会

2023年11月，同样以《职业行为示范规则》为指导，加利福尼亚州律师协会发布了《生成式人工智能在法律实践中的实用指南》（Practical Guidance for the Use of Generative Artificial Intelligence in the Practice of Law）。加州律师协会认为虽然该示范规则没有明确规定生成式人工智能的使用，但其旨在适用于从事各种业务领域和情况的律师，因此目前现有的规则可以应用于生成式人工智能的使用。实践指南具体内容如下：

保密义务	律师不得将客户的机密信息输入缺乏保密和安全保护的生成式人工智能，必须将客户信息匿名化。如果律师准备在生成式人工智能中使用机密信息，应确保提供商不与第三方共享输入的信息或以任何方式将信息用于自己的使用。
能力和勤勉义务	律师应了解该技术的工作原理、局限性、使用条款以及产品使用和利用客户数据的相关政策；严格审查、验证和纠正使用过程中输入和输出内容，确保准确反映且支持客户当前事务中的利益和优先事项；避免过度依赖生成式人工智能，以免妨碍律师的批判性分析。
遵守法律	在使用生成式人工智能时，律师必须遵守法律，不得建议或协助客户进行违法事项。
监督义务	负责管理和监督的律师应制定明确的生成人工智能使用政策，保证事务所的律师和非律师在使用人工智能时符合专业义务。
沟通义务	律师应考虑向客户披露使用生成式人工智能的意图、使用方式以及其中的收益和风险；审查客户指示或指导方针中是否有相关限制。
费用问题	律师不得对使用生成式人工智能节省的时间按小时收费。根据适用法律，可向客户收取与生成人工智能相关的费用。
对法庭坦诚	在提交给法院之前，律师必须审查人工智能生成的所有内容，纠正向法院作出的任何错误或误导性陈述；检查相关司法管辖区的规则、命令等，确认是否要求披露生成式人工智能的使用。
禁止歧视	一些生成式人工智能根据有偏见的信息训练，律师应该意识到生成式人工智能输出的内容可能存在偏见。
尊重其他司法管辖区	律师应分析每个司法管辖区对使用生成式人工智能的相关法律法规，以确保遵守规则。

3.宾夕法尼亚州律师协会

2024年5月，宾夕法尼亚州律师协会法律道德和职业责任委员会和费城律师协会专业指导委员会发布了联合正式意见2024-200（Joint Formal Opinion 2024-200），文件解释了宾夕法尼亚州的律师职业操守规则如何适用于AI技术的使用，其中重点强调了律师在使用人工智能时需要遵守的几项重要原则，包括：勤勉、沟通、保密、对法庭坦诚等。最后，委员会在文件中总结了以下行为要点：

确保真实和准确	律师必须确保人工智能生成的内容真实、准确。
核实引用材料	律师必须确保他们在法律文件或辩论中使用的引用材料准确且相关。
胜任义务	律师必须能够熟练使用人工智能技术。
保密义务	律师必须保护与客户代理有关的信息，并确保处理机密数据的人工智能系统遵守严格的保密措施，且机密数据不会与其他客户或未受律师-客户特权保护的其他人共享。
识别利益冲突	律师必须识别和解决使用人工智能而产生的潜在利益冲突。
沟通义务	律师必须与客户就在其实践中使用人工智能技术进行沟通，并就如何使用这些工具及其对案件结果的潜在影响提供清晰透明的解释。如有必要，他们应该在使用某些人工智能工具之前获得客户的同意。
确保信息公正准确	律师必须确保用于训练人工智能模型的数据准确、公正且合乎道德，防止在人工智能生成的内容中存在偏见或不准确。
正确使用人工智能	律师须防止人工智能生成的内容被不当利用，以免法律程序、证据及结果受到欺骗或操纵。
遵守道德标准	律师必须了解在法律实践中使用人工智能的相关法规和指导方针，确保遵守法律和道德标准。
行使专业判断	律师必须结合人工智能生成的内容进行专业判断，人工智能不能取代法律专业知识和分析。
合理收费	律师必须确保与人工智能相关的费用合理，适当向客户披露。
保持透明度	律师应向客户、同事和法院公开在法律实践中使用人工智能工具的情况，包括披露相关的限制或不确定性。

4.纽约州律师协会

2024年4月，纽约州律师协会（NYSBA）人工智能特别工作组发布了一份报告，旨在探讨人工智能对法律职业的影响。报告提出了在法律实践中使用人工智能和生成式人工智能的具体指南，内容详尽，涵盖了律师的胜任能力、沟通、费用、保密、利益冲突、监管责任、广告和业务招揽等方面。

胜任能力	律师有责任了解与人工智能相关的益处、风险和道德影响。
代理范围	律师须与委托人协商实现代理目标的方式，声明可能会使用哪些工具，并征求客户许可。
勤勉	律师须考虑使用人工智能是否有利于提高工作效率。
沟通	与客户保持直接有效的沟通，不依赖工具生成的内容。
费用问题	律师不得收取过高或者非法的费用。如果将在使用特定工具时增加“附加费”，则您应明确说明此类费用。
保密	律师不得故意泄露机密信息，应确保工具提供商将保护客户的机密信息，并将每个客户的机密信息隔离开来。律师应该定期监控工具提供商，了解可能危及机密信息的任何更改。
处理利益冲突	律师有责任识别、处理并（如有必要）就因使用工具而可能产生的利益冲突征求客户的知情同意。
监督责任	监督律师有责任确保所监督的律师在使用工具时遵守道德规则。
下属律师	下属律师按照监督律师的指示使用工具时，亦须独立遵守职业道德规则。
职业独立性	提供法律建议时，律师须保持独立判断，避免完全依赖人工智能。
广告	律师须对其在公共场合发布的所有内容负责，包括人工智能工具生成的内容。在将人工智能用于广告或招揽业务时，须确保遵守非欺骗性沟通相关的道德准则。

5.哥伦比亚特区律师协会

2024年4月，哥伦比亚特区律师协会发布了伦理意见388号（Ethics Opinion 388），主要探讨律师在法律实践中使用生成式人工智能的伦理问题。文件详细分析了GAI技术的局限性，尤其是“幻觉”问题，即GAI可能生成虚假信息，例如捏造案例、引用虚假法律条文等。最后，文件列举了一些可供参考的职业道德规范，包括胜任义务、保密义务、监督义务、对法庭坦诚以及合理收费。

6.新加坡律师公会

2020年，新加坡律师公会发布了一篇题为《法律技术背景下法律伦理演变》（The Evolution of Legal Ethics with the Advent of Legal Technology）的文章，探讨了人工智能（AI）和其他技术在法律服务中的应用给法律职业带来的伦理挑战，分析了律师在使用法律科技工具时的伦理义务。

告知客户并征求同意	律师有义务告知客户可用的法律科技工具选项，并解释这些工具的成本和功能。
保密义务	律师务必考虑使用该工具所涉及的网络安全风险，确保采用技术不会导致违反其保密义务。律师还需要确保使用这些工具的人员（包括非执业人员）知晓如何以安全的方式使用这些工具。
监督义务	律师有责任监督未获授权执业的员工使用法律科技工具提供法律服务。
道德义务	律师需要了解各种人工智能工具生成内容存在偏见的风险，以及这些风险如何损害客户的利益。律师还需要考虑某些法律科技工具缺乏透明度将如何影响他们与客户沟通和解释建议的义务。

关键议题：

律师使用人工智能的四大核心原则

虽然在具体规定上，各律师协会有所差异，但普遍强调了律师在使用人工智能时应注意保密、确保信息真实准确、获得客户知情同意以及遵守法律这四个方面。

保密义务

在未经客户知情同意，无法确定人工智能是否能够提供足够的保密和安全保护的情况下，律师不得透露与客户有关的信息。

许多生成式人工智能平台不为输入的信息或输出的内容提供保密服务，此类信息可能会用于训练该人工智能模型。一方面，信息可能与第三方共享查询或将其用于其他目的；另一方面，存在偶然地向公众透露或因程序设定而透露敏感信息的风险。即使产品不利用或共享输入的信息，也可能缺乏足够的安全性。

如果需要输入机密信息，律师或律师事务所应咨询IT专业人士或网络安全专家，确保该人工智能系统遵守严格的安全、保密和数据保留协议，确保人工智能产品提供商不与第三方共享输入的信息或以任何方式将信息用于培训或改进其产品等用途。

确保生成内容真实、公正

律师应充分理解生成式人工智能技术的工作原理、局限性、使用条款以及该技术如何利用客户数据等政策，避免过度依赖人工智能，以免影响律师的专业判断与决策能力。

识别虚假信息

如果训练人工智能使用的信息存在谬误，则其可能提供虚假、不准确的信息。

律师必须严格审查人工智能生成的内容，查阅权威资料，用专业的知识审核和验证人工智能的输出内容，必要时进行补充和改进。

杜绝偏见

在使用生成性人工智能时，律师应当意识到其生成内容或决策可能存在偏见并带来潜在风险。当人工智能依赖于历史数据进行训练时，如果这些数据本身包含社会或文化偏见，则其生成的结果可能带有偏见，而影响公正性。律师应当持续学习，识别、报告并解决潜在的人工智能偏见问题。结合人类进行的研究，用人类的批判性思维和分析能力，剖析和评估人工智能输出的内容，确保公正性。

谨防利用人工智能伪造证据

另外，生成式人工智能可以用来制作文字、音频、图片、视频和其他可能产生误导的材料。律师和客户可能会利用生成式人工智能制造错误、虚假信息。在使用客户和其他人提供的证据时，律师须考虑客户或客户的代理人是否使用生成人工智能伪造证据，律师有义务在证据提交前质疑证据的真实性，但不可通过声称真实证据被伪造而谋取利益。

征求客户知情同意

律师有责任向客户解释哪些技术将用于哪些客户事务，如何使用该技术，以及使用该技术的获益和风险。同时，须审查可能限制生成人工智能使用的任何适用的客户指示或指导方针。执业律师必须“就实现委托人目标的手段与委托人进行合理协商”【注1】。对客户相关的询问和疑虑，给予及时、准确的回应和解答，确保客户的问题得到妥善解决。

遵守法律

在使用生成式人工智能时，律师必须遵守法律，不得建议客户进行违法事项，或不得在知晓某个行为违反法律或法院规则的情况下帮助客户。涉及生成式人工智能的法律问题包括但不限于隐私法律、跨境数据传输法律、知识产权法律和网络安全问题，在使用生成式人工智能时，律师应仔细考虑使用该工具是否符合相关法律和法规。

结语

人工智能正在重塑法律行业。在提高服务效率、拓宽服务范围的同时，人工智能也带来了隐私、透明度和偏见等伦理挑战。律师在利用新兴技术工具时，必须坚守伦理规范，保护客户隐私，确保信息真实，避免利益冲突，并与客户保持透明沟通。不断提升对技术的理解和应用能力，确保在追求创新的同时，维护法律职业的诚信和责任。

注1: American Bar Association. House of Delegates. (2006). Model rules of professional conduct.

本文参考报告：

1. Year 1 Report on the Impact of AI on the Practice of Law

2. Practical Guidance for the Use of Generative Artificial Intelligence in the Practice of Law

3. Joint Formal Opinion 2024-200

4. Report and Recommendations to NYSBA House of Delegates

5. Ethics Opinion 388

6. The Evolution of Legal Ethics with the Advent of Legal Technology

*如需获取相关报告原文，请扫码联系客服

-END-