Sự phát triển của AI trong lĩnh vực Luật: Liệu có dẫn đến sự sai sót?

The Rise of Generative AI in Law: What Could Go Wrong?

David Wakeling, who heads up Allen & Overy's markets innovation group, stumbled upon Harvey, a law-focused generative AI tool developed by OpenAI, in September 2022. Intrigued by its capabilities, he approached OpenAI with a proposal to conduct a small experiment. A select group of Allen & Overy's lawyers would use the system to answer simple legal queries, draft legal documents, and even craft first drafts of client communications.

David Wakeling, người đứng đầu nhóm đổi mới thị trường của Allen & Overy, tình cờ gặp Harvey, một công cụ AI tổng quát tập trung vào luật do OpenAI phát triển, vào tháng 9 năm 2022. Bị hấp dẫn bởi khả năng của nó, anh ấy đã tiếp cận OpenAI với đề xuất tiến hành một thử nghiệm nhỏ. Một nhóm luật sư chọn lọc của Allen & Overy sẽ sử dụng hệ thống này để trả lời các câu hỏi pháp lý đơn giản, soạn thảo văn bản pháp lý và thậm chí tạo bản thảo đầu tiên về thông tin liên lạc của khách hàng.

Although the trial started small, it quickly expanded. In total, around 3,500 employees across Allen & Overy's 43 offices ended up using the tool, submitting around 40,000 queries in total. The trial was a resounding success, with one in four of the firm's lawyers now using the AI platform daily, and 80% using it at least once a month. With such a positive outcome, Allen & Overy decided to enter into a partnership with OpenAI to use the AI tool more extensively across the company. While the exact terms of the agreement were not disclosed, the implications of this collaboration are significant for both parties.

Mặc dù thử nghiệm bắt đầu nhỏ, nhưng nó nhanh chóng được mở rộng. Tổng cộng, khoảng 3.500 nhân viên tại 43 văn phòng của Allen & Overy đã sử dụng công cụ này, gửi tổng cộng khoảng 40.000 truy vấn. Thử nghiệm đã thành công vang dội, với một trong bốn luật sư của công ty hiện đang sử dụng nền tảng AI hàng ngày và 80% sử dụng nó ít nhất một lần một tháng. Với kết quả tích cực như vậy, Allen & Overy quyết định hợp tác với OpenAI để sử dụng công cụ AI rộng rãi hơn trong toàn công ty. Mặc dù các điều khoản chính xác của thỏa thuận không được tiết lộ, nhưng ý nghĩa của sự hợp tác này rất có ý nghĩa đối với cả hai bên.

Generative AI, with ChatGPT as its pioneer, is currently experiencing a cultural and commercial boom, with industry experts convinced of its potential to disrupt the legal sector. This technology uses vast datasets to train algorithms to generate natural-sounding text or images. Its ability to automate standardised documents and precedents makes it a promising fit for the legal industry.

AI sáng tạo, với ChatGPT là người tiên phong, hiện đang trải qua thời kỳ bùng nổ về văn hóa và thương mại, với các chuyên gia trong ngành bị thuyết phục về tiềm năng phá vỡ lĩnh vực pháp lý của nó. Công nghệ này sử dụng các bộ dữ liệu khổng lồ để huấn luyện các thuật toán nhằm tạo ra văn bản hoặc hình ảnh có âm thanh tự nhiên. Khả năng tự động hóa các tài liệu và tiền lệ được tiêu chuẩn hóa khiến nó trở thành một sự phù hợp đầy hứa hẹn cho ngành pháp lý.

Lilian Edwards, a professor of law, innovation, and society at Newcastle University, notes that "legal applications such as contract, conveyancing, or license generation are actually a relatively safe area in which to employ ChatGPT and its cousins." Automated legal document generation has been a growth area for decades, even in rule-based tech days, because law firms can draw on large amounts of highly standardised templates and precedent banks to scaffold document generation, making the results far more predictable than with most free text outputs.

Lilian Edwards, giáo sư luật, đổi mới và xã hội tại Đại học Newcastle, lưu ý rằng "các ứng dụng pháp lý như hợp đồng, chuyển nhượng hoặc tạo giấy phép thực sự là một lĩnh vực tương đối an toàn để sử dụng ChatGPT và các ứng dụng tương đồng" Tạo tài liệu pháp lý tự động đã là một lĩnh vực phát triển trong nhiều thập kỷ, ngay cả trong thời kỳ công nghệ dựa trên quy tắc, bởi vì các công ty luật có thể sử dụng một lượng lớn các mẫu được tiêu chuẩn hóa cao và các ngân hàng tiền lệ để tạo ra tài liệu, làm cho kết quả dễ đoán hơn nhiều so với hầu hết miễn phí đầu ra văn bản.

Despite its many benefits, generative AI has some significant shortcomings. The most significant is its tendency to confidently make things up or "hallucinate." In search engines, this can be problematic, but in the legal industry, the consequences of a mistake can be costly. To address this issue, Harvey's founder and CEO, Gabriel Pereyra, says that the AI tool has a range of safeguards in place to prevent and detect hallucinations. Pereyra also notes that the company's systems are fine-tuned for legal use cases on massive legal datasets, which significantly reduces the risk of hallucinations compared to existing systems.

Mặc dù có nhiều lợi ích, AI tổng quát có một số thiếu sót đáng kể. Đáng kể nhất là xu hướng tự tin bịa ra mọi thứ hoặc "không có thật". Trong các công cụ tìm kiếm, điều này có thể gây rắc rối, nhưng trong ngành pháp lý, hậu quả của một sai lầm có thể rất tốn kém. Để giải quyết vấn đề này, người sáng lập kiêm Giám đốc điều hành của Harvey, Gabriel Pereyra, nói rằng công cụ AI có sẵn một loạt biện pháp bảo vệ để ngăn chặn và phát hiện việc đưa ra những sự kiện không có thật. Pereyra cũng lưu ý rằng các hệ thống của công ty được tinh chỉnh cho các trường hợp sử dụng hợp pháp trên bộ dữ liệu pháp lý khổng lồ, giúp giảm đáng kể nguy cơ ảo giác so với các hệ thống hiện có.

Harvey, an artificial intelligence (AI) platform developed by law firm Allen & Overy, has gained attention for its ability to analyze legal documents and identify key information. However, the firm has implemented a careful risk management program to prevent errors and ensure that the tool provides the highest level of professional services. Users of the Harvey portal must adhere to a list of rules, with the most important being to validate everything coming out of the system. While Harvey is strong in mainstream law, it can struggle with specific niches, and the firm has implemented a big training program to address the risk of errors.

Harvey, một nền tảng trí tuệ nhân tạo (AI) do công ty luật Allen & Overy phát triển, đã gây được sự chú ý nhờ khả năng phân tích các tài liệu pháp lý và xác định thông tin chính. Tuy nhiên, công ty đã thực hiện một chương trình quản lý rủi ro cẩn thận để ngăn ngừa lỗi và đảm bảo rằng công cụ này cung cấp dịch vụ chuyên nghiệp ở mức cao nhất. Người dùng thông tin Harvey phải tuân thủ một danh sách các quy tắc, trong đó điều quan trọng nhất là xác thực mọi thứ ra khỏi hệ thống. Mặc dù Harvey mạnh về luật chính thống, nhưng nó có thể gặp khó khăn với những ngóc ngách cụ thể và công ty đã triển khai một chương trình đào tạo lớn để giải quyết nguy cơ sai sót.

Other lawyers are cautiously optimistic about the use of AI in the legal industry. AI is well-suited for entry-level tasks, such as legal document drafting, as it can gather and synthesize information quickly. However, the output from AI platforms still needs careful review, and the inputs can be equally challenging to manage. Data submitted into an AI may become part of the data model and/or training data, which could violate confidentiality obligations to clients and individuals' data protection and privacy rights.

Các luật sư khác lạc quan một cách thận trọng về việc sử dụng AI trong ngành luật. Trí tuệ nhân tạo rất phù hợp với các nhiệm vụ cấp cơ bản, chẳng hạn như soạn thảo văn bản pháp lý, vì nó có thể thu thập và tổng hợp thông tin một cách nhanh chóng. Tuy nhiên, đầu ra từ các nền tảng AI vẫn cần được xem xét cẩn thận và đầu vào có thể khó quản lý không kém. Dữ liệu được gửi vào AI có thể trở thành một phần của mô hình dữ liệu và/hoặc dữ liệu đào tạo, điều này có thể vi phạm nghĩa vụ bảo mật đối với quyền riêng tư và bảo vệ dữ liệu của khách hàng và cá nhân.

In Europe, the use of AI that scrapes mass data might breach the principles of the European Union's General Data Protection Regulation (GDPR), which governs how much data about individuals can be collected and processed by companies. As such, the use of legal AI remains an open question, and law firms will need to proceed with caution to ensure that they are complying with all relevant regulations and ethical obligations.

Ở châu Âu, việc sử dụng AI để loại bỏ dữ liệu lớn có thể vi phạm các nguyên tắc của Quy định bảo vệ dữ liệu chung (GDPR) của Liên minh châu Âu, quy định lượng dữ liệu về các cá nhân có thể được thu thập và xử lý bởi các công ty. Do đó, việc sử dụng AI hợp pháp vẫn là một câu hỏi mở và các công ty luật sẽ cần tiến hành thận trọng để đảm bảo rằng họ tuân thủ tất cả các quy định và nghĩa vụ đạo đức có liên quan.

According to data protection expert Robert Bateman, law firms would need a legal basis under GDPR to use any personal data about clients in generative AI tools like Harvey, and would require contracts covering third-party processing of the data. However, Allen & Overy is being extremely careful about client data and is currently using Harvey as a non-personal data system to save time on research, drafting, and preparing plans.

Theo chuyên gia bảo vệ dữ liệu Robert Bateman, các công ty luật sẽ cần có cơ sở pháp lý theo GDPR để sử dụng bất kỳ dữ liệu cá nhân nào về khách hàng trong các công cụ AI tổng quát như Harvey và sẽ yêu cầu hợp đồng bao gồm việc xử lý dữ liệu của bên thứ ba. Tuy nhiên, Allen & Overy đang cực kỳ cẩn trọng với dữ liệu khách hàng và hiện đang sử dụng Harvey như một hệ thống dữ liệu phi cá nhân để tiết kiệm thời gian nghiên cứu, soạn thảo và chuẩn bị kế hoạch.

The EU's AI Act is already looking to more strictly regulate the use of AI, and Italy's Data Protection Agency has intervened to prevent generative AI chatbot Replika from using personal user data. Despite these challenges, Wakeling believes that AI can improve productivity and efficiency while keeping client data safe and secure. By outsourcing small tasks to AI, lawyers can save valuable time and focus on higher-level work.

Đạo luật AI của EU đang tìm cách điều chỉnh chặt chẽ hơn việc sử dụng AI và Cơ quan bảo vệ dữ liệu của Ý đã can thiệp để ngăn chặn chatbot AI tổng quát Replika sử dụng dữ liệu cá nhân của người dùng. Bất chấp những thách thức này, Wakeling tin rằng AI có thể cải thiện năng suất và hiệu quả đồng thời giữ cho dữ liệu khách hàng an toàn và bảo mật. Bằng cách gia công các nhiệm vụ nhỏ cho AI,

FreFo Explained & Vocabulary

1. Generative AI (AI tạo nội dung): đề cập đến loại trí tuệ nhân tạo có thể tạo ra nội dung như văn bản, hình ảnh và âm thanh bằng cách sử dụng bộ dữ liệu và thuật toán khổng lồ.

2. Discrupt (Đột phá): những yếu tố ảnh hưởng ra gây những thay đổi đáng kể đối với ngành, mô hình kinh doanh hoặc sản phẩm hiện có bằng cách giới thiệu công nghệ mới hoặc ý tưởng sáng tạo.

3. Algorithm (Thuật toán): một tập hợp các hướng dẫn được cung cấp cho hệ thống AI cho phép nó thực hiện một tác vụ cụ thể, chẳng hạn như tạo văn bản hoặc hình ảnh.

4. Automate (Tự động hóa): đề cập đến quá trình sử dụng công nghệ hoặc AI để thực hiện các tác vụ mà trước đây con người phải thực hiện một cách thủ công.

5. Standardised documents and precedent (Tài liệu & tiền lệ được tiêu chuẩn hóa): tham khảo các tài liệu pháp lý và các mẫu được sử dụng bởi các công ty luật và các chuyên gia pháp lý để tạo ra các tài liệu pháp lý mới.

6. Rule-based tech (Công nghệ dựa trên quy tắc): đề cập đến các hệ thống Ai ban đầu được lập trình bằng cách sử dụng một bộ quy tắc để thực hiện các tác vụ cụ thể.

7. General Data Protection Regulation (GDPR): khung pháp lý do Liên minh châu Âu đưa ra để điều chỉnh cách các công ty thu thập và xử lý dữ liệu cá nhân.

8. Compliance (Tuân thủ): quá trình đảm bảo rằng một tổ chức hoặc doanh nghiệp đang tuân thủ tất cả các luật và quy định có liên quan đến hoạt động của tổ chức.