Harrison Chase, đồng sáng lập kiêm giám đốc điều hành của Langchain, chia sẻ với VentureBeat rằng thành công của các nền tảng khác nhau của công ty có thể là nhờ các nhà phát triển yêu cầu lựa chọn mô hình và không ở lại với một nhà cung cấp khép kín.
Chase cho biết: “Sức mạnh của khung LangChain nằm ở khả năng tích hợp và hệ sinh thái của nó. Quy mô của hệ sinh thái rất lớn và phần lớn điều đó có thể thực hiện được nhờ khung là mã nguồn mở”.
Chase cho biết lượt tải xuống LangChain đạt 72,3 triệu vào tháng trước, so với các đối thủ cạnh tranh như Agents SDK của OpenAI . Ông nói thêm rằng các khuôn khổ Python và JS của LangChain “có 4.500 người đóng góp, nhiều hơn Spark”.
LangChain, được thành lập vào năm 2022, đã phát triển vượt ra ngoài khuôn khổ ban đầu của mình , giúp các nhà phát triển xây dựng các ứng dụng AI. Vào tháng 2 năm ngoái, công ty đã phát hành nền tảng thử nghiệm và đánh giá LangSmith , một khuôn khổ thứ hai có tên là LangGraph và LangGraph Platform để giúp triển khai các tác nhân tự động.
LangChain vẫn là mã nguồn mở và không phụ thuộc vào nhà cung cấp và mô hình trong suốt quá trình phát triển. Ví dụ, LangChain đã hợp tác với nhiều công ty , như Google và Cisco, về khả năng tương tác của tác nhân . Khi các doanh nghiệp bắt đầu thử nghiệm với các tác nhân AI, Chase cho biết LangChain đã nhìn thấy cơ hội cung cấp các tùy chọn triển khai có tính đến lựa chọn của nhà phát triển.
“Trong khoảng một năm rưỡi trở lại đây, ngày càng nhiều doanh nghiệp và công ty chỉ muốn đưa vào sản xuất. Vì vậy, chúng tôi đã hoàn thiện tất cả các dịch vụ của mình, không chỉ LangChain mã nguồn mở, mà là tất cả các dịch vụ của chúng tôi với tư cách là một công ty để đáp ứng nhu cầu đó và giúp việc xây dựng các ứng dụng đại lý trở nên dễ dàng nhất có thể”, ông cho biết.
Nền tảng LangGraph mở rộng các dịch vụ nguồn mở
Một trong những nền tảng mã nguồn mở mới của LangChain là LangGraph Platform, đã có sẵn rộng rãi trong tuần này . LangGraph Platform cho phép các nhà phát triển quản lý và bắt đầu triển khai các tác nhân lâu dài hoặc có trạng thái. Các tác nhân này xây dựng trên cái mà Chase gọi là “tác nhân xung quanh” hoặc các tác nhân hoạt động ở chế độ nền và được kích hoạt bởi các sự kiện nhất định.
Chase cho biết: “Chúng tôi đã cố gắng tập trung nhiều vào một số vấn đề khó khăn hơn về cơ sở hạ tầng xung quanh các tác nhân này”. “LangGraph phù hợp với các tác nhân có trạng thái chạy lâu dài, vì vậy nếu bạn đang triển khai một ứng dụng đơn giản, bạn không muốn sử dụng LangGraph Platform”.
Ông nói thêm rằng công ty muốn đặt cược lớn vào các tác nhân xung quanh hoặc hoạt động lâu dài, nhận thấy tác nhân độc lập, tự chủ hơn này là một thách thức về cơ sở hạ tầng thú vị hơn.
Thông qua Nền tảng LangGraph, các tổ chức có thể triển khai các tác nhân chỉ bằng một cú nhấp chuột, mở rộng theo chiều ngang để xử lý “lưu lượng truy cập đột biến, kéo dài”, lớp duy trì để hỗ trợ bộ nhớ tác nhân, điểm cuối API để tùy chỉnh và quyền truy cập gốc vào LangGraph Studio để gỡ lỗi bất kỳ tác nhân nào.
Các tổ chức có thể thấy mình đang đưa ngày càng nhiều tác nhân trực tuyến. Nền tảng LangGraph bao gồm một bảng điều khiển quản lý trình bày tất cả các tác nhân hiện đang được triển khai và cho phép người dùng tìm tác nhân, tái sử dụng các kiến trúc tác nhân chung và tạo ra các kiến trúc đa tác nhân.”
Chase cho biết: “Một trong những lợi ích lớn của LangGraph là nó cung cấp cho người xây dựng tác nhân toàn quyền kiểm soát kiến trúc nhận thức. Nếu có một hành động LLM [mô hình ngôn ngữ lớn] phải được thực hiện đúng, một công cụ tốt mà bạn có để thực thi chất lượng là tạo đánh giá trong vòng lặp trực tiếp trong ứng dụng LangGraph của bạn”.
Chase nói thêm rằng với LangGraph, các nhà phát triển có thể truy cập vào “một khuôn khổ phối hợp tốt” để xây dựng các tác nhân và đưa các tác nhân đáng tin cậy này vào Nền tảng LangGraph để triển khai.
Trong bài kiểm tra tốt nhất, Chase cho biết hơn 370 nhóm đã sử dụng LangGraph Platform. LangChain cung cấp ba cấp độ để sử dụng LangGraph Platform, với giá cả phụ thuộc vào cách các nhà phát triển dự định lưu trữ dịch vụ.
Hệ sinh thái nguồn mở LangChain rộng lớn hơn
Đối với Chase, một trong những thế mạnh của LangChain là khả năng tạo ra toàn bộ hệ sinh thái phát triển ứng dụng và tác nhân.
LangSmith, nền tảng kiểm tra và quan sát của công ty, hoạt động với LangGraph và LangGraph Platform để theo dõi số liệu của tác nhân. Vì nhiều tác nhân được xây dựng và chạy bằng LangGraph Platform có thời gian chạy dài hơn, nên các doanh nghiệp cần kiểm tra xem chúng có tiếp tục hoạt động theo thông số kỹ thuật liên tục hay không.
Chase khoe rằng LangGraph “là khuôn khổ tác nhân được áp dụng rộng rãi nhất” và tuyên bố nó đã tải xuống nhiều hơn AutoGen từ Microsoft và nền tảng tác nhân CrewAI , một lần nữa trích dẫn giá trị mã nguồn mở cho thành công của nó.
“LangGraph thường được các nhóm cần xây dựng các tác nhân hướng đến người dùng cuối hoặc có lưu lượng truy cập cao (LinkedIn, Uber, GitLab) lựa chọn – lý do là bạn sẽ không mở rộng quy mô của LangGraph vì nó ở cấp độ rất thấp và có thể kiểm soát được, điều này là cần thiết đối với các tác nhân đáng tin cậy. CrewAI và Autogen thường được sử dụng vì chúng có đường cong học tập ít dốc hơn – các khuôn khổ này đưa ra nhiều quyết định hơn cho người dùng, vì vậy bạn đang đánh đổi sự dễ dàng áp dụng để lấy sức mạnh”, ông nói.
