Anh em đang ngộp trong đống model AI tải từ Hugging Face? ModelHub ra mắt hứa hẹn dọn rác LLM local trên Mac. Cùng hóng xem xịn xò hay lại toang ổ cứng.
Dạo này phong trào chạy AI local lên ngôi, anh em thi nhau kéo model về test. Nhưng múa phím thì mượt, đến lúc nhìn lại ổ cứng Mac thì ôi thôi, cả trăm GB rác rải rác từ Ollama, LM Studio đến thư mục tải về. Đang yên đang lành tự nhiên ổ SSD đỏ lòm. Thế là ModelHub xuất hiện, hứa hẹn sẽ làm anh em bớt khổ dâm.
ModelHub đ*o phải là một cái tool sinh ra để đấm nhau hay thay thế Ollama, LM Studio, MLX hay llama.cpp. Các lão quái cứ coi nó như một cái menu bar app nhỏ xinh gọn nhẹ trên macOS, đóng vai trò "quản gia" cho cái đống model mà các ông tải từ Hugging Face về.
Thay vì phải bật chục cái tab Chrome check model card, rồi mở terminal gõ command lạch cạch để tải, xong lại quên xừ mất là mình ném cái file .gguf vào thư mục nào, thì ModelHub gom hết vào một chỗ.
Đồ mới ra lò trên Product Hunt (húp trọn 230 vote) thì dĩ nhiên là anh em dev bay vào mổ xẻ rồi. Có vài luồng quan điểm đang chiếm sóng như sau:
1. Phe "Cứu tinh đời tôi": Nhiều vãn bối bái phục vì cuối cùng cũng có một chỗ gom hết Ollama với LM Studio lại. Cái tính năng "Runs on this Mac" được khen nức nở vì nó check phần cứng trước khi tải. Anh em đỡ tốn thanh xuân tải cục model 30GB về rồi lúc chạy máy nó giật tung chảo báo thiếu RAM.
2. Phe "Cẩn tắc vô áy náy": Một số cao nhân yêu cầu phải hiện rõ cái License (giấy phép) ngay và luôn, kèm thêm thông số RAM dự kiến và context length. Chứ kéo nhầm model non-commercial về làm dự án kiếm tiền, có ngày ra đê mà ở. Đội ngũ dev của ModelHub cũng vội vàng vào xác nhận "đã ghi nhận và sẽ thêm filter".
3. Phe hỏi xoáy đáp xoay vụ ổ cứng: Có một ông ném thẳng câu hỏi chí mạng: "Ê, nếu tôi tải Qwen 32B bằng Ollama rồi, giờ lên ModelHub tải lại thì nó có dedupe (xóa trùng) file không? Hay là máy tôi lại gánh thêm 20GB nữa?". Pha này team dev có vẻ hơi khựng, đành gãi đầu bảo "bọn tôi đang cố gắng xử lý vấn đề này, app sẽ cảnh báo cho bạn". Ngửi mùi nếu anh em không cẩn thận là tràn ổ cứng như chơi.
4. Pháp sư ẩn danh "Thôi để tao tự code": Có một đạo hữu vào thắc mắc không hiểu app này để làm gì vì chả thấy hợp nhu cầu. Sau khi maker giải thích một tràng, thanh niên ngộ đạo: "À, ý tôi là tôi muốn ghi chú xem prompt nào ngon, thông số nào mượt, xóa model nào cho đỡ chật. Nói xong tự nhiên tôi thấy... chắc tôi sẽ tự code luôn một cái app như thế trong thời gian tới". Cay chưa =)))
Vụ này cho thấy một bài học sinh tồn cực hay: Anh em đ*o cần phải tạo ra một cái LLM to tát như OpenAI để kiếm cơm. Đôi khi chỉ cần làm cái "xẻng" (tool quản lý) bán cho mấy thằng đi đào vàng (dev xài AI) là húp trọn.
Tool này giải quyết đúng chỗ ngứa của bọn dev lười, giao diện mượt. Tuy nhiên, cái vụ quản lý file trùng lặp (duplicate) mà chưa xong thì anh em cài vào nhớ check dung lượng thường xuyên, kẻo lại mếu máo vì SSD full.
Anh em nào xài Mac thì cứ tải về vọc thử xem sao, biết đâu lại dọn được mớ rác do chính mình tạo ra.
Nguồn: Product Hunt - ModelHub
