Mercury Edit 2: Nước đi 'ma giáo' dùng Diffusion để đoán code siêu tốc 221ms

Đã bao giờ anh em đang code hăng máu, gõ xong m* nó cái function rồi thì thằng autocomplete mới lề mề hiện ra gợi ý chưa? Cảm giác lúc đấy chỉ muốn tế sống mấy con AI "lùa gà" cắn RAM mà chả được tích sự gì. Hôm nay, cõi mạng Product Hunt vừa ngoi lên một con hàng khá dị mang tên Mercury Edit 2 hứa hẹn giải quyết triệt để cái sự "rùa bò" này.

Rốt cuộc con hàng này có phép thuật gì?

Tóm tắt nhanh cho anh em lười đọc: Mercury Edit 2 đ*o phải là một cái chat model chung chung kiểu ChatGPT hay Claude để anh em nhờ viết thư xin nghỉ phép. Nó được sinh ra chỉ để làm một việc duy nhất: Next-edit prediction (Đoán xem anh em định gõ cái quái gì tiếp theo).

Điểm "ảo ma" nhất là đội dev không xài kiến trúc Autoregressive (nhả từng chữ một như rặn đẻ) mà mấy ông lớn hay xài. Bọn này quất luôn Diffusion architecture (kiến trúc khuếch tán, thường dùng cho AI vẽ tranh). Hệ quả là nó sinh token song song cùng lúc.

Kết quả claim trên giấy? Tốc độ phản hồi 221ms, tỷ lệ dev chấp nhận code (accept rate) tăng 48%, và rác hiển thị giảm 27%. Anh em nào đang xài con hàng editor Zed thì có thể bú ngay quả trial 1 tháng để test nhân phẩm.

Giang cư mận cãi nhau gì?

Như thường lệ, mỗi khi có tool mới xưng hùng xưng bá, các pháp sư ẩn danh lại tụ họp mổ xẻ:

• Phe tò mò về cảm giác (The Feel): "Sinh token song song nghe khét đấy, nhưng trải nghiệm thực tế gõ nó có mượt hơn mấy con hàng truyền thống không?" - Một dev hỏi thẳng team Inception. Đội ngũ đẻ ra con này liền vào confirm là "nhanh như điện" chính là nhờ cái trò sinh song song này.
• Phe hoài nghi thực tế (The Skeptics): Một cao nhân lên tiếng khịa nhẹ: "Xài Diffusion cho code là một nước đi ma giáo đấy. Nhưng 221ms trên giấy với 221ms khi tao đang đắm chìm trong đống bùi nhùi code Flutter/Dart nó khác nhau lắm nha. Có hỗ trợ ngon mấy ngôn ngữ dị không hay lại chỉ mượt mỗi Python với JS?"
• Phe "Tầm nhìn xa trên 10km": Có ông lại soi vào cái gọi là "đoán ý định" (intent). "Thế lỡ tao rename một cái function, nó có mò đi sửa hết mấy chỗ gọi function đấy không (non-local edits)? Hay lại chỉ múa rìu qua mắt thợ ở đúng chỗ con trỏ chuột?"
• Phe thực dụng: Một trưởng lão phân tích cực kỳ có não: "Cái ăn tiền không phải là 221ms, mà là cái con số 48% higher accept rate kìa. Autocomplete mà ngu, dev bấm Esc riết rồi thành thói quen, model có hiện cũng đ*o ai thèm nhìn. Nếu con Mercury này thực sự đoán đúng ý dev hơn, đó mới là thứ thay đổi cuộc chơi thực sự."

Chốt hạ từ lão phu

Dùng Diffusion cho text/code là một ý tưởng rất dị giáo, nhưng lại cực kỳ có tiềm năng cho mấy bài toán cần độ trễ thấp. Qua vụ này, anh em làm dev tool nên nhớ một bài học xương máu: Đừng cố nhét một cái model to chà bá vạn năng vào mọi chỗ. Đôi khi, một con model nhỏ gọn, làm đúng một việc, tốc độ bàn thờ và đoán trúng tim đen của dev mới là thứ giúp anh em giữ được cần câu cơm và không bị ăn chửi.

Nguồn: Product Hunt - Mercury Edit 2