BAND: Khi mấy con AI Agent lập group chat để "combat" và làm việc

Anh em dạo này lướt mạng chắc nghe tụi nó ra rả cái văn "Multi-Agent" (đa tác tử) miết đúng không? Cảm giác như thời kỳ đẻ các tool AI nó đang bước sang phase mới: đẻ một nùi bot, mỗi con làm một việc cho nó xịn. Nhưng sự thật đằng sau những cái demo mượt mà trên mạng là những tiếng chửi thề lúc 2h sáng vì mấy con bot đ*o biết nói chuyện với nhau.

Hôm nay rảnh rỗi, tôi lên Product Hunt hóng hớt thì va vào một dự án khá hay ho tên là BAND (vừa lụm 165 upvote). Thằng này không đẻ thêm agent, nó đẻ ra cái "sân chơi" để quản lý đám agent đó.

Đống rác mang tên "Spaghetti Multi-Agent"

Theo lời lão Arick - Co-founder & CEO của BAND, hiện tại anh em mình đang đâm đầu vào một cái hố đen y chang thời mới đẻ ra Microservices. Cụ thể:

• Point-to-point rách việc: Anh em dùng LangGraph, CrewAI hay tự code bằng tay thì mỗi lần muốn 2 con agent nói chuyện, lại phải viết custom API. Nối 3 con thì thành hình tam giác, nối 10 con thì ra đống mì Ý. Chạy thì xịt, maintain thì toang.
• Não cá vàng (No shared context): Con Agent A làm xong phần search, vứt cho con Agent B làm report. Con B đ*o biết con A vừa trải qua những gì, thế là lại gọi API cắn token lại từ đầu. Tốn tiền, tốn thời gian.
• Debug mù mắt: Đang chạy một luồng 5 con agent cắn đuôi nhau, tự nhiên hệ thống oẳng. Đố anh em biết lỗi ở đoạn nào? Log thì văng tung tóe.

Giải pháp của BAND là gì? Nó xây dựng hẳn một hạ tầng giao tiếp (interaction layer) riêng. Tưởng tượng nó như một cái Slack hay Discord dành riêng cho đám bot. Ở đó tụi nó tự tìm thấy nhau, share context và làm việc dưới sự giám sát của hệ thống (Governance).

Giang cư mận Product Hunt nói gì?

Dân dev trên Product Hunt toàn mấy lão "cáo già" nên vào hỏi xoáy đáp xoay cũng mặn mòi ra phết. Dưới đây là mấy luồng quan điểm tôi lụm lặt được:

1. Màn tranh cãi về State (Trạng thái) và Context Lão Joshua và Piotrek bay vào chất vấn ngay về việc lưu trữ State. Đại loại mấy lão hỏi: "Cái BAND này chỉ là thằng đưa thư (message bus) hay là chỗ lưu não (state store)?". Arick tự tin gáy rằng BAND ôm cả hai. Bình thường hệ thống khác chỉ làm 1 trong 2. Còn ở đây, BAND cho phép agent duy trì context xuyên suốt các session. Ví dụ con agent đang chạy bị sập do hết RAM, lúc boot lên lại, nó sẽ được "re-hydrate" (bơm lại) toàn bộ não trạng trước đó để làm tiếp. Quá đã!

2. Combat giữa các Agent: Đứa nào giải quyết? Đây là câu hỏi tôi ưng nhất từ bác Piotr: "Giả sử code cho bên y tế. Một con agent thì cố chấp đòi data phải chính xác 100%, một con thì đòi chạy ra kết quả nhanh. Tụi nó cãi nhau thì ai can?" Nghe ảo ma chưa? Câu trả lời của team BAND còn ma giáo hơn: Để tụi nó cãi nhau trong chat room luôn. Thay vì dùng mấy cái thuật toán chẻ tóc làm tư, BAND để 2 con bot mention (tag) tên nhau, thảo luận trade-off y như người thật. Nếu đàm phán thất bại? Hệ thống sẽ kéo một con "Manager Agent" vào, hoặc tag thẳng một Human (con người thật) vào group chat để phán quyết. Cái log chat đó chính là Audit Trail (lịch sử kiểm toán) luôn. Vãn bối bái phục!

3. Cross-framework: Thế giới đại đồng? Có anh em thắc mắc về việc xài LangGraph trộn với CrewAI thì quản lý Identity (danh tính) kiểu gì. BAND hứa hẹn là cân được hết, không quan tâm anh em build bằng framework nào, miễn cắm vào layer của nó là nói chuyện được.

Tóm cái váy lại (Góc nhìn từ Coding4Food)

Nhìn qua vụ BAND này, tôi rút ra được một bài học sinh tồn cho anh em thợ code:

"Giao tiếp luôn là thứ khó nhất, kể cả với con người hay con bot."

Chúng ta đang lặp lại lịch sử của ngành phần mềm. Ngày xưa xé Monolithic ra thành Microservices, rồi sml vì vụ call API chéo, cuối cùng đẻ ra Service Mesh (như Istio). Bây giờ đẻ ra Agentic Workflow, rồi lại sml vì bắt tụi nó gọi nhau, và bùm: BAND ra đời như một dạng "Agent Mesh".

Anh em nào đang định hướng đẻ dự án Multi-Agent thì nên nghía qua tư duy của bọn này. Đừng cắm đầu vào code API nối 2 con bot với nhau nữa. Xây cái phòng chat cho tụi nó đi.

Nguồn hóng hớt: Product Hunt - BAND