#oobabooga — Public Fediverse posts

Một người dùng đang tìm kiếm model AI địa phương chất lượng cao cho nội dung NSFW, chạy trên 4060 Ti (8GB VRAM) và 32GB RAM qua Oobabooga. Các model đã thử hoặc quá chậm (Llama_3.x_70b) hoặc chất lượng chưa đạt yêu cầu của DeepSeek nhưng không bị kiểm duyệt. Ai có gợi ý model nào phù hợp không?
#AILocal #NSFWModel #4060Ti #Oobabooga #LLM #AIViệtNam

https://www.reddit.com/r/LocalLLaMA/comments/1nyqrjd/looking_for_a_highquality_local_nsfw_model_4060/

@Mawoka @kellogh I run #Mistral #7B Instruct via CPU on a #Debian #Linux server via #API through #oobabooga. I didn't need realtime responses, and I had spare CPU power, so it worked out perfectly.