Luật sư bị sa thải vì trích dẫn các vụ án giả từ ChatGPT, vẫn ủng hộ công cụ AI: “Không nên chỉ trích vô ích”

Zachariah Crabill, a former lawyer at a Colorado Springs law firm, was fired for using citations generated by the AI chatbot, ChatGPT, in a legal document without verifying their authenticity. The AI had created fictitious cases that sounded convincing, and Crabill admitted his mistake to the judge. Despite this incident, Crabill continues to utilise AI tools in his work and has started a company providing legal services through AI. He believes that AI tools are the future and it’s pointless to oppose them. This incident serves as a reminder of the importance for professionals to verify information generated by AI tools before using them in their work.

Trí tuệ nhân tạo sẽ mang lại thay đổi cho nhiều nghề nghiệp, bao gồm luật sư. Nhưng cũng có những nạn nhân tin quá nhiều vào khả năng của nó.

Một trong số đó là Zachariah Crabill, người là một luật sư tập sự bị áp lực tại một công ty luật ở Colorado Springs khi anh ta không cưỡng lại được sự cám dỗ của việc sử dụng ChatGPT vào tháng 5.

Chatbot AI giúp anh viết một đơn trong vài phút, tiết kiệm cho anh hàng giờ làm việc, như đài phát thanh địa phương KRDO đã báo cáo vào tháng 6. Nhưng sau khi anh nộp hồ sơ cho một tòa án Colorado, anh nhận ra một điều gì đó không ổn: Một số trích dẫn kiện tụng được tạo ra bởi ChatGPT hoàn toàn giả mạo.

ChatGPT của OpenAI được biết đến với việc thường xuyên tạo ra thông tin sai lệch nhưng tự tin, và trong trường hợp này, nó đơn giản chỉ tạo ra các vụ kiện từ không khí mà nghe có vẻ thuyết phục. Crabill đã không kiểm tra để đảm bảo các vụ kiện là thực sự trước khi nộp công việc của mình.

Crabill thừa nhận lỗi của mình với thẩm phán, người đã báo cáo anh ta cho văn phòng toàn tiểu bang, và vào tháng 7, luật sư trẻ này đã bị sa thải khỏi công việc của mình tại Baker Law Group.

Trong tuyên bố thừa nhận lỗi của mình tới tòa án, Crabill viết: “Tôi cảm thấy thiếu kinh nghiệm trong nghiên cứu và viết văn bản pháp lý, và do đó, hiệu suất của tôi trong việc này có thể được tăng lên một cách đáng kể, với lợi ích cho khách hàng của tôi, bằng cách tăng tốc phần nghiên cứu tốn nhiều thời gian khi soạn thảo.”

Crabill không phải là luật sư duy nhất tin quá nhiều vào ChatGPT. Vào tháng 6, hai luật sư đã bị trách mắng và phạt 5.000 đô la bởi một thẩm phán liên bang ở New York vì đã nộp một bản kiến nghị pháp lý cùng trích dẫn các vụ kiện không tồn tại.

Trong lệnh phạt chống lại Steven A. Schwartz và Peter LoDuca của Levidow, Levidow & Oberman, thẩm phán viết: “Những tiến bộ công nghệ là điều thông thường, và không có gì sai trái về bản chất về việc sử dụng một công cụ trí tuệ nhân tạo đáng tin cậy để hỗ trợ. Nhưng các quy tắc hiện hành đặt vai trò kiểm soát cho các luật sư để đảm bảo độ chính xác của các hồ sơ của họ.”

“Tôi không hiểu rằng ChatGPT có thể tạo ra các vụ kiện,” Schwartz đã từng nói với thẩm phán.

Nhưng Crabill, về phần mình, không từ bỏ các công cụ AI, mặc dù đã trải qua trải nghiệm đau đớn. “Tôi vẫn sử dụng ChatGPT hàng ngày, giống như hầu hết mọi người sử dụng Google trong công việc,” anh nói với Business Insider. Thật vậy, anh đã bắt đầu một công ty cung cấp dịch vụ pháp lý qua AI.

Trong một bài viết trên Washington Post được xuất bản vào thứ Năm, Crabill nói rằng anh sẽ có thể sử dụng các công cụ AI được thiết kế cụ thể cho luật sư để hỗ trợ việc viết và nghiên cứu của mình.

Anh thêm, “Không có lý do gì để phủ nhận hoặc chống lại điều gì đó sẽ không thể tránh khỏi trở thành xu hướng của tương lai.”