Model AI nghìn tỷ tham số Inkling ra mắt: Thật thà tự nhận 'không mạnh nhất' hay chiêu trò lùa gà vào SaaS?

Lại một "con quái vật" AI nghìn tỷ tham số vừa chào đời, nhưng lần này tác giả không gáy bẩn giật benchmark mà tự nhận luôn: "Em không phải đứa mạnh nhất". Ủa, tự tin hay tự hủy đây các đồng đạo?

Đến từ Thinking Machines, tân binh mang tên Inkling đang làm dấy lên những cuộc tranh luận nảy lửa trong giới mộ điệu. Hãy cùng tôi ngồi xuống làm hớp trà đá, hóng xem con hàng này có gì xịn xò hay lại là một cú úp bô công nghệ mới.

Rốt cuộc thì chuyện quái gì vừa xảy ra?

Thinking Machines vừa chính thức thả xích Inkling - model mã nguồn mở (open-weights) đầu tiên của họ dưới giấy phép Apache 2.0. Điểm qua vài thông số phần cứng nghe qua đã thấy muốn "tiền đình":

• Kiến trúc: MoE (Mixture of Experts) tổng quy mô lên tới 975 tỷ tham số (975B), trong đó có 41 tỷ tham số kích hoạt (41B active parameters).
• Context window: Cực khủng, chạm mốc 1 triệu token.
• Đa phương tiện (Multimodal): Nhận diện mượt mà từ text, hình ảnh cho tới âm thanh.
• Độ tùy biến cao: Có thể kiểm soát mức độ "suy nghĩ" (thinking effort) khi xử lý tác vụ.

Nhưng thứ khiến anh em dev xôn xao không phải là những con số biết nói kia, mà là triết lý cực kỳ "thật trân" của nhà phát triển: Họ thừa nhận thẳng thắn Inkling không phải là model bá đạo nhất hiện nay trên các bảng xếp hạng benchmark. Thay vào đó, nó được thiết kế như một bộ khung cơ bản (base model) tối ưu nhất để anh em đem về "uốn nắn" (fine-tune) theo nghiệp vụ riêng của mình.

Để chứng minh độ ma giáo, đội ngũ phát triển thậm chí đã bắt Inkling tự viết code và chạy một job fine-tune chính nó, biến nó thành một model dị giáo... tuyệt đối không sử dụng chữ "e" trong mọi câu trả lời.

Giang cư mận chia phe combat nảy lửa

Ngay khi Inkling xuất hiện trên Product Hunt và Hugging Face, giới dev đã nhanh chóng chia làm nhiều ngả.

Phe "Hít hà đồ ngon, khen lấy khen để"

Đa số anh em đều cảm thấy cực kỳ dễ thở trước cách tiếp cận trung thực của Thinking Machines. Giữa một rừng các lab AI suốt ngày dùng ba cái trò lùa gà, bóp méo số liệu benchmark để gáy bẩn, việc một bên dám nói "chúng tôi không mạnh nhất" thực sự là làn gió mát. Thêm nữa, một model MoE đa phương tiện có context 1M mà cho tải weights tự do với giấy phép Apache 2.0 thì đúng là một món quà quá hời.

Phe "Đời không như là mơ và cái bẫy SaaS"

Tuy nhiên, các lão quái trong làng dev lại nhìn ra ngay điểm "bể": Con số 975 tỷ tham số nó to v* l*.

Một đạo hữu thẳng thắn bóc mẽ: "Nói là mở mã nguồn (open-weights) cho oai, chứ model kích cỡ 975B thì ai tự chạy nổi ở nhà? Rốt cuộc thì muốn fine-tune hay chạy thử một cách thực tế, anh em vẫn phải cúng tiền cho nền tảng Tinker của họ thôi. Bản chất của việc mở weights ở đây chỉ là một đòn tâm lý tạo dựng lòng tin (trust signal), còn cái phễu thực sự vẫn là kéo dev về dùng SaaS trả phí của họ."

Muốn tự setup quả máy chạy con này thì tiền điện chắc bằng tiền mua cả cái máy chủ chuyên dụng chứ chẳng chơi.

Phe "Thợ code thực dụng"

Các dev thích vọc vạch thì lại soi kỹ hơn vào tính năng. Một số ông đã test nhanh LoRA job trên Tinker và bất ngờ vì nó chạy mượt thật, không cần phải nhảy múa với đống config GPU rắc rối.

Ngược lại, vài cao nhân khó tính hơn lại đòi hỏi:

• Phải hỗ trợ cả QLoRA hoặc full fine-tuning mặc định, vì với các model nhỏ hơn, chỉ dùng LoRA thôi là chưa đủ đô.
• Nên tích hợp sẵn công cụ tự động đánh giá (evaluation) ngay sau khi fine-tune xong để biết cái công thức mình vừa uốn nắn nó có thực sự giúp model khôn lên không, đỡ mất công build pipeline riêng.

Góc nhìn từ Coding4Food: Bài học sinh tồn sau vụ này

Tóm cái váy lại, nước đi của Thinking Machines rất khôn ngoan và thực tế. Cuộc đua AI đang dần bão hòa ở mảng "khoe cơ bắp" (general models). Việc may đo một con model dành riêng cho doanh nghiệp hay sản phẩm của bạn (domain-specific) mới là thứ trực tiếp đẻ ra tiền.

Bài học cho anh em:

1. Đừng quá lụy vào điểm số benchmark trên mấy cái bảng xếp hạng tạm thời. Một model đạt 95 điểm tổng quát nhưng ngu ngơ trong nghiệp vụ riêng của bạn thì vẫn ăn hại như thường. Con 75 điểm nhưng được train đúng dữ liệu chuyên ngành mới là chân á.
2. Khi đụng vào mấy con hàng "open weights" siêu to khổng lồ, hãy tỉnh táo đánh giá chi phí hạ tầng. Open không có nghĩa là miễn phí. Nếu không có triệu đô tiền gọi vốn để thuê GPU, hãy bắt đầu nhỏ bằng các giải pháp hiệu quả về chi phí trước khi mơ về giấc mơ tự host model nghìn tỷ tham số.

Nguồn tham khảo: Product Hunt