Thinking Machines ra mắt Inkling: Thêm một model AI 'Mở Trọng Số' xịn xò, anh em dev lại có đồ chơi tự host?

Lại một con hàng "mở" nữa được xả xích! Anh em đã chuẩn bị sẵn tài nguyên để kéo sập server chưa, hay vẫn đang cúng tiền đều đặn cho OpenAI hàng tháng?

Mới đây, Thinking Machines vừa quăng một quả bom nhẹ ký nhưng sức công phá không hề nhỏ lên Hacker News với việc công bố Inkling, một model thuộc dạng open-weights (mở trọng số) cực kỳ hứa hẹn. Với 580 điểm upvote và thảo luận rôm rả, con hàng này đang làm các đồng đạo yêu công nghệ và thích tự host đứng ngồi không yên.

Rốt cuộc thì Thinking Machines vừa quăng bom gì thế?

Nếu anh em đã quá ngấy với mấy kiểu "mở nửa mùa" (gọi là mã nguồn mở nhưng giấu như mèo giấu phân) của một số ông lớn, thì Inkling xuất hiện như một làn gió mới. Thinking Machines tuyên bố Inkling là một model "open-weights" thực thụ. Nghĩa là họ cung cấp đầy đủ trọng số (weights) của model để anh em có thể thoải mái mang về xào nấu, tinh chỉnh (fine-tune) hoặc deploy trực tiếp trên hạ tầng của mình.

Một số điểm nhấn khiến giang hồ chú ý:

• Tập trung vào hiệu năng thực tế: Không cố đấm ăn xôi đua theo số lượng tham số khủng khiếp, Inkling hướng tới sự tinh gọn, tối ưu để chạy mượt mà không cần tới cả dàn GPU A100 của doanh nghiệp.
• Khả năng tùy biến cao: Việc mở trọng số giúp các dev có thể can thiệp sâu, huấn luyện lại với dữ liệu chuyên biệt mà không lo bị rò rỉ dữ liệu ra ngoài cho các bên thứ ba.
• Tư duy thực dụng: Model sinh ra để giải quyết các tác vụ thực tế chứ không chỉ để đem đi benchmark làm màu mè trên các slide thuyết trình lùa gà.

Giang cư mận đang chia phe combat ra sao?

Chuyện gì hot trên Hacker News thì kiểu gì cũng có drama và tranh luận nảy lửa. Dân tình đang chia thành vài phe rõ rệt:

• Phe "Local là chân ái": Nhóm này cực kỳ phấn khích. Họ cho rằng việc các công ty công nghệ liên tục xả xích các model open-weights thế này sẽ giúp dev bớt phụ thuộc vào các API đắt đỏ và thiếu ổn định của OpenAI hay Anthropic. Nhiều đạo hữu đã rục rịch dọn dẹp ổ cứng, chuẩn bị sẵn tài nguyên để lôi em nó về test ngay lập tức.
• Phe "Thực tế đi, đừng vẽ bánh": Ngược lại, một vài lão quái lại tỏ ra hoài nghi. Họ đặt câu hỏi liệu Inkling có thực sự vả được các tượng đài phân khúc vừa và nhỏ như Llama 3 hay Mistral không? Hay đây lại là một chiêu trò marketing đánh bóng tên tuổi của hãng? Nhiều ý kiến yêu cầu phải có những bài test "đập hộp" thực tế từ cộng đồng chứ không tin hoàn toàn vào báo cáo của nhà phát hành.
• Phe "Nhà nghèo vượt khó": Đa số anh em dev bình dân thì chỉ quan tâm xem con hàng này cắn bao nhiêu RAM, ngốn bao nhiêu VRAM. Chạy trên mấy con card cỏ đời cũ có bị bể hay toang không, chứ tiền đâu ra mà sắm dàn rig khủng để đú trend.

Góc nhìn từ Coding4Food: Bài học sinh tồn sau vụ này

Nhìn chung, cuộc chiến AI ngày càng khốc liệt và người có lợi nhất chính là anh em dev chúng ta. Việc có thêm một lựa chọn open-weights chất lượng như Inkling giúp các dự án nhỏ, startup nghèo có thêm cơ hội tiếp cận công nghệ cao mà không sợ bị "khóa mõm" hay nâng giá bất ngờ từ các ông lớn SaaS.

Tuy nhiên, để tự host và vọc vạch những model thế này một cách mượt mà, anh em không thể chỉ dựa vào cái laptop còi được. Đầu tư một con vps chất lượng cao hoặc máy chủ ảo có hỗ trợ GPU là bước đi cực kỳ khôn ngoan để tự chủ công nghệ.

Tóm cái váy lại, Inkling là một làn gió mới rất đáng để anh em vác về nghịch thử cuối tuần này. Hãy cứ trải nghiệm, benchmark thực tế trên chính bài toán của mình thay vì tin sái cổ vào mấy lời quảng cáo xịn xò con bò trên mạng.

Nguồn tham khảo: Hacker News