[VNExpress]DeepSeek - mô hình AI Trung Quốc đe dọa sự thống trị của Mỹ

Nhưng mà nó là mã nguồn mở là ai cũng host dc đúng không? Thậm chí cả kiểm duyệt cũng tắt dc ?

 

Ừ nhưng mà tự host model mạnh nhất cũng khoai lắm, nếu không viết truyện s*x thì cũng dùng chatgpt hoặc gemini cho rồi.

Cuối cùng cũng chỉ béo đám Cloud Computing Services, tự nhiên được húp được model ngon cỡ gpt4x mà không cần bỏ tiền ra

 

Được, mới đây 1 đội clone lại thuật toán của đíp sích hết có 30 usd, còn mớ dữ liệu train thì vẫn phải bỏ 1 núi tiền local hoặc thuê cloud.

Về cơ bản các cty hoàn toàn có thể chạy nội bộ để tăng hiệu quả làm việc. Như kiểu cty luật chạy riêng 1 con local tìm kẽ hở trong luật để lách chả hạn. Thứ ko thể public.

 

Tự host được, nhưng phần kiểm duyệt là dữ liệu luôn rồi, không phải là chức năng nên không tắt được, muốn không kiểm duyệt thì phải training lại, hoặc dùng những model uncensored, như llama2-uncensored chẳng hạn.

https://huggingface.co/TheBloke/Luna-AI-Llama2-Uncensored-GGML

 

Dùng mấy model nhỏ 20b trở xuống thôi. Tầm này chắc nhiều người lo được phần cứng đủ chạy ở tốc độ chấp nhận được.

 

Cái censorship tắt dc nếu nó là 3rd party guardrail như chatgpt thôi. Còn deepseek thiên a môn ko nhầm thì censor cứng từ lúc training rồi. Bù lại nó ko dạy đời đạo đức nhiều cái khác như chatgpt.
Ít censor nhất hiện tại chắc là grok nhưng mà 2.0 chưa open sỏuce

 

Nó dùng Qwen2.5:3b của Alibaba. Pretrained. Cái này thì open source.
Nên tôi đoán 30 đô là chi phí mua token để train bằng Volcano Engine của ByteDance.
Giống kiểu bạn cho 1 đứa đã có hiểu biết ở mức độ tiểu học chỉ ngồi giải toán cộng trừ nhân chia hàng triệu lần, không làm gì khác.

 

Xin dành tặng đến tất cả các bạn đã mua combo này, cũng như các bạn có ý định mua combo này, khoá học Kiếm Tiền với AI.
Nhanh chân lên nhé, số lượng có hạn ạ!

 

Cấu hình tầm nào thì tự host được vậy bác ?

 

Tối thiểu là RAM + VRAM > size của model. Để chạy được thoải mái thì GPU VRAM > size của model.
Đã thử chạy CPU only thì tốc độ hơi chậm, ~ 1 token / s cho model 32b, 2-3 token / s cho model 7b. Nếu định chơi kiểu hỏi rồi để đó thì vẫn chấp nhận được.

Mấy cái model kia có thể đã được quantize nên size sẽ giảm đi so với đồ gốc. VD model 7b có thể thực tế chỉ có 4-5GB.

 

Dung lượng ổ đĩa cần bao nhiêu thế fen

 

Càng lớn càng tốt, ít nhất phải đủ để chứa file model + chương trình. Vì trong quá trình vọc kiểu gì cũng sẽ phải thứ nhiều model khác nhau.

Mà quên vụ RAM, nếu như GPU VRAM không đủ thì khuyến cáo nên dùng RAM DDR5 và/hoặc GPU PCE 4.0 vì hiệu năng phụ thuộc vào băng thông bộ nhớ khá nhiều. Ưu tiên server hơn vì server có nhiều channel RAM nên băng thông lớn hơn hẳn.

 

Thì nó là bản tối ưu để tiết kiệm chi phí mà.

Bị mẽo ddos.

 

deepseek này vẫn đang cho dùng free nên mới bị busy à các bác

đã có giá dịch vụ của deepseek chưa nhỉ, vẫn ưu tiên theo Thiên Triều hơn

 

Đang bị doss thì phải, dùng free cũng phải 7/10 so với pre chatgpt

 

Chatgpt 1 tháng ah. Gg one là tk cấp hay sao b

 

chưa up được ảnh nhỉ, toàn lỗi

 

https://znews.vn/deepseek-huong-dan-che-tao-bom-hack-du-lieu-chinh-phu-post1529062.html
Ngon rồi, để hack gvn set title cho anh Lỗ

 

Fen có 1 con số cụ thể ko? Kiểu khoảng minimum là bao nhiêu GB ấy, tầm vài chục đến 100gb đổ lại thì mình cũng định vọc vạch nghịch xem. Chứ tầm trên 100gb thì chịu

 

free 4ever bản web, bản api mới tính phí, mà phí = 1/10 chatgpt với gemini thôi. t toàn dùng deep seek. Chuyên ngành kỹ thuật thì nó ngon hơn hàng pro 2 con kia nữa, còn tính năng chatbot thì chắc thua.
Btw, trên mạng có tin vỉa hè là ý tưởng của deepseek dựa trên kết quả của công trình nghiên cứu về cyber network của USSR (tương tự dự án internet của Mẽo, nhưng vì USSR sập nên internet thành hệ thống mạng tiêu chuẩn toàn cầu).