Jeff Reihl, Giám đốc công nghệ của LexisNexis Legal and Professional, cho biết LexisNexis đã nhìn thấy cơ hội tận dụng sức mạnh của các mô hình ngôn ngữ lớn (LLM) từ Anthropic và Mistral và tìm ra những mô hình tốt nhất có thể trả lời tốt nhất các câu hỏi của người dùng.
“Chúng tôi sử dụng mô hình tốt nhất cho trường hợp sử dụng cụ thể như một phần của phương pháp tiếp cận đa mô hình của chúng tôi. Chúng tôi sử dụng mô hình cung cấp kết quả tốt nhất với thời gian phản hồi nhanh nhất”, Reihl cho biết. “Đối với một số trường hợp sử dụng, đó sẽ là một mô hình ngôn ngữ nhỏ như Mistral hoặc chúng tôi thực hiện chưng cất để cải thiện hiệu suất và giảm chi phí”.
Mặc dù LLM vẫn mang lại giá trị trong việc xây dựng các ứng dụng AI, một số tổ chức chuyển sang sử dụng các mô hình ngôn ngữ nhỏ (SLM) hoặc tinh chỉnh LLM để trở thành phiên bản thu nhỏ của cùng một mô hình.
Phương pháp chưng cất, trong đó LLM “dạy” một mô hình nhỏ hơn, đã trở thành phương pháp phổ biến đối với nhiều tổ chức.
Các mô hình nhỏ thường hoạt động tốt nhất cho các ứng dụng như chatbot hoặc hoàn thiện mã đơn giản, đó chính là điều LexisNexis muốn sử dụng cho Protégé.
Đây không phải là lần đầu tiên LexisNexis xây dựng các ứng dụng AI, thậm chí trước cả khi ra mắt trung tâm nghiên cứu pháp lý LexisNexis + AI vào tháng 7 năm 2024.
Reihl cho biết: “Chúng tôi đã sử dụng rất nhiều AI trong quá khứ, chủ yếu xoay quanh xử lý ngôn ngữ tự nhiên, một số học sâu và học máy. Điều đó thực sự thay đổi vào tháng 11 năm 2022 khi ChatGPT được ra mắt, vì trước đó, rất nhiều khả năng của AI đều nằm ở hậu trường. Nhưng sau khi ChatGPT ra mắt, khả năng tạo ra, khả năng đàm thoại của nó thực sự rất, rất hấp dẫn đối với chúng tôi”.
Các mô hình nhỏ, được tinh chỉnh và định tuyến mô hình
Reihl cho biết LexisNexis sử dụng các mô hình khác nhau từ hầu hết các nhà cung cấp mô hình lớn khi xây dựng nền tảng AI của mình. LexisNexis + AI đã sử dụng các mô hình Claude từ Anthropic, các mô hình GPT của OpenAI và một mô hình từ Mistral.
Cách tiếp cận đa phương thức này giúp phân tích từng tác vụ mà người dùng muốn thực hiện trên nền tảng. Để làm được điều này, LexisNexis phải thiết kế nền tảng của mình để chuyển đổi giữa các mô hình .
Reihl cho biết: “Chúng tôi sẽ chia nhỏ bất kỳ tác vụ nào đang được thực hiện thành các thành phần riêng lẻ, sau đó chúng tôi sẽ xác định mô hình ngôn ngữ lớn tốt nhất để hỗ trợ thành phần đó. Một ví dụ về điều đó là chúng tôi sẽ sử dụng Mistral để đánh giá truy vấn mà người dùng đã nhập”.
Đối với Protégé, công ty muốn thời gian phản hồi nhanh hơn và các mô hình được tinh chỉnh hơn cho các trường hợp sử dụng hợp pháp. Vì vậy, công ty đã chuyển sang những gì Reihl gọi là các phiên bản mô hình “tinh chỉnh”, về cơ bản là các phiên bản có trọng lượng nhỏ hơn của LLM hoặc các mô hình chưng cất.
Ông cho biết: “Bạn không cần GPT-4o để đánh giá truy vấn, vì vậy chúng tôi sử dụng nó cho công việc phức tạp hơn và chúng tôi chuyển đổi các mô hình”.
Khi người dùng hỏi Protégé một câu hỏi về một trường hợp cụ thể, mô hình đầu tiên mà nó ping là Mistral được tinh chỉnh “để đánh giá truy vấn, sau đó xác định mục đích và ý định của truy vấn đó là gì” trước khi chuyển sang mô hình phù hợp nhất để hoàn thành nhiệm vụ. Reihl cho biết mô hình tiếp theo có thể là LLM tạo ra các truy vấn mới cho công cụ tìm kiếm hoặc một mô hình khác tóm tắt kết quả.
Hiện tại, LexisNexis chủ yếu dựa vào mô hình Mistral được tinh chỉnh mặc dù Reihl cho biết họ đã sử dụng phiên bản tinh chỉnh của Claude “khi nó mới ra mắt; chúng tôi không sử dụng nó trong sản phẩm ngày nay mà theo những cách khác”. LexisNexis cũng quan tâm đến việc sử dụng các mô hình OpenAI khác, đặc biệt là kể từ khi công ty đưa ra các khả năng tinh chỉnh tăng cường mới vào năm ngoái. LexisNexis đang trong quá trình đánh giá các mô hình lý luận của OpenAI bao gồm o3 cho các nền tảng của mình.
Reihl cho biết thêm rằng công ty cũng có thể xem xét sử dụng mô hình Gemini của Google.
LexisNexis hỗ trợ tất cả các nền tảng AI của mình bằng biểu đồ kiến thức riêng để thực hiện các chức năng tạo tăng cường truy xuất (RAG), đặc biệt là khi Protégé có thể giúp khởi chạy các quy trình tác nhân sau này.
Bộ pháp lý AI
Ngay cả trước khi AI tạo sinh ra, LexisNexis đã thử nghiệm khả năng đưa chatbot vào hoạt động trong ngành luật. Năm 2017, công ty đã thử nghiệm một trợ lý AI có thể cạnh tranh với Ross và Protégé chạy bằng Watson của IBM nằm trong nền tảng LexisNexis + AI của công ty, nơi kết hợp các dịch vụ AI của LexisNexis.
Protégé giúp các công ty luật thực hiện các nhiệm vụ mà trợ lý luật sư hoặc cộng sự thường làm. Nó giúp viết các bản tóm tắt pháp lý và khiếu nại dựa trên các tài liệu và dữ liệu của công ty, đề xuất các bước tiếp theo của quy trình làm việc pháp lý, đề xuất các lời nhắc mới để tinh chỉnh tìm kiếm, soạn thảo các câu hỏi cho lời khai và khám phá, liên kết các trích dẫn trong hồ sơ để đảm bảo tính chính xác, tạo mốc thời gian và tất nhiên là tóm tắt các tài liệu pháp lý phức tạp.
Reihl cho biết: “Chúng tôi coi Protégé là bước đầu tiên trong việc cá nhân hóa và năng lực đại diện”. “Hãy nghĩ về các loại luật sư khác nhau: M&A, luật sư tranh tụng, bất động sản. Nó sẽ tiếp tục được cá nhân hóa nhiều hơn dựa trên nhiệm vụ cụ thể mà bạn thực hiện. Tầm nhìn của chúng tôi là mọi chuyên gia pháp lý sẽ có một trợ lý cá nhân giúp họ thực hiện công việc của mình dựa trên những gì họ làm, chứ không phải những gì các luật sư khác làm”.
Protégé hiện đang cạnh tranh với các nền tảng công nghệ và nghiên cứu pháp lý khác. Thomson Reuters đã tùy chỉnh mô hình o1-mini của OpenAI cho trợ lý pháp lý CoCounsel của mình . Harvey, công ty đã huy động được 300 triệu đô la từ các nhà đầu tư bao gồm LexisNexis, cũng có một trợ lý AI pháp lý.
