#vietnameseai — Public Fediverse posts

Tôi đã phát triển bộ đánh giá mã nguồn "SanityHarness" và thử nghiệm trên 49 mô hình/agent AI (bao gồm Kimi K2.5). Kết quả chi tiết được công bố trên bảng xếp hạng "SanityBoard" với 6 ngôn ngữ lập trình. Đáng chú ý: nhiều dịch vụ AI tính phí quá đắt như Codebuff ($7.5 cho 9 task), trong khi các nền tảng như Kimi CLI rẻ hơn đáng kể. #AI #CodingBenchmark #VietnameseAI #LậpTrình #MôHìnhAI #KimiK25 #ĐánhGiáAI

https://www.reddit.com/r/LocalLLaMA/comments/1qp4ftj/i_made_a_coding_eval_and_ran_it_again

Người dùng Reddit chia sẻ thách thức khi chạy LLM 7B cục bộ: vấn đề bộ nhớ ngắn hạn khiến model hallucinate do thiếu ngữ cảnh ban đầu. Đã thử giải pháp tóm tắt bằng model 3B nhưng không hiệu quả. Bạn có kinh nghiệm nào về quản lý bộ nhớ dài hạn cho LLM?

#LLMs #MemoryManagement #LocalAI #VietnameseAI #TríTuệNhânTạo #QuảnLýBộNhớ

https://www.reddit.com/r/LocalLLaMA/comments/1qm6r2f/solving_memory_issues_for_llms/

Công cụ Headroom giúp nén đầu ra công cụ (tool output) cho agent, giảm 60-90% token mà không mất thông tin quan trọng. Đạt 1.300+ lượt tải chỉ trong một tuần! Tích hợp CCR (nén-lưu-truy xuất) và bộ nhớ tạm thời, hoạt động tốt với mô hình local qua LiteLLM. Phù hợp cho ai xây dựng agent, tối ưu chi phí & hiệu suất. #Headroom #Agent #LLM #AI #VietnameseAI #Công_cụ_trí_tuệ_nhân_tạo #Tối_ưu_token #AI #MachineLearning

https://www.reddit.com/r/LocalLLaMA/comments/1qkgl28/we_hit_1300_downloads_in_a_we

FPT đặt mục tiêu lớn: từ năm 2026 sẽ triển khai trợ lý ảo và nền tảng AI tiếng Việt quy mô lớn, ứng dụng rộng rãi trong nhiều lĩnh vực. Thông tin được tiết lộ bởi Tổng Giám đốc FPT Nguyễn Văn Khoa.

#FPT #AI #VietnameseAI #TrợLýẢo #CôngNghệ #ViệtNam #ArtificialIntelligence #TechNews

https://vtcnews.vn/fpt-dat-muc-tieu-trien-khai-tro-ly-ao-nen-tang-ai-tieng-viet-quy-mo-lon-tu-2026-ar995920.html

FPT đặt mục tiêu lớn: từ năm 2026 sẽ triển khai trợ lý ảo và nền tảng AI tiếng Việt quy mô lớn, ứng dụng rộng rãi trong nhiều lĩnh vực. Thông tin được tiết lộ bởi Tổng Giám đốc FPT Nguyễn Văn Khoa.

#FPT #AI #VietnameseAI #TrợLýẢo #CôngNghệ #ViệtNam #ArtificialIntelligence #TechNews

https://vtcnews.vn/fpt-dat-muc-tieu-trien-khai-tro-ly-ao-nen-tang-ai-tieng-viet-quy-mo-lon-tu-2026-ar995920.html

Exploring with local LLMs makes me think more honestly when nothing leaves my machine. No logs, no cloud context - just slow, private thinking ✨

Does running AI models locally change what you're willing to explore? 🤔

#LocalLLM #Privacy #AI #ArtificialIntelligence #LocalAI #Thoughts #Technology #LLM #AIprivacy #VietnameseAI #TuDoTuDuy #RiengTu

https://www.reddit.com/r/LocalLLaMA/comments/1pv37mh/endofyear_thought_local_llms_change_how_honest/

AI DeepSeek - công cụ đầu tiên của hệ thống AI khổng lồ Trung Quốc, đang vận hành chương trình ID số & "murderbots" tự sát. Luật AI toàn cầu cần thiết: "Không AI gây hại" - đòi hỏi giám sát ngay! #AI #DigitalID #TríTuệNhânTạo #AnToànAI #Technology #Threats #Cyber #VietnameseAI #KhủngBốCôngNghệ

https://www.reddit.com/r/singularity/comments/1pjyfx1/ai_deepseek_digital_id_and_murderbots/

Flux 2 giờ có thể chạy trên card 24GB VRAM rồi! Dễ dàng hơn nhiều so với tưởng tượng. Ai đang dùng card yếu yên tâm lên nhé!

#Flux2 #LLM #AI #LocalLLaMA #VietnameseAI #trí_tuệ_nhân_tạo #học_máy

https://www.reddit.com/r/LocalLLaMA/comments/1p6ht87/flux_2_can_be_run_on_24gb_vram/

DragonMemory: Nén ngữ nghĩa 16× cho ngữ cảnh RAG cục bộ (mã nguồn mở, AGPL). Giúp nén các vector, bảo toàn ngữ nghĩa ở mức câu. Giảm chi phí bộ nhớ cho LLaMA cục bộ.
#DragonMemory #LLaMA #RAG #AI #VietnameseAI #Nennguonghia #MachineLearning

https://www.reddit.com/r/LocalLLaMA/comments/1p15wbk/release_dragonmemory_16_semantic_compression_for/

GraphScout kết hợp với OrKa UI, sử dụng LLM cục bộ để khám phá và đánh giá các lộ trình suy luận. Hệ thống mô phỏng nhiều cách giải quyết, sau đó chấm điểm dựa trên đánh giá của mô hình và các yếu tố khác, chọn lộ trình tối ưu nhất để trả lời câu hỏi.

#GraphScout #OrKaUI #LocalLLM #AI #LLaMA #VietnameseAI
# trí_tuệ_nhân_tạo #mô_hình_ngôn_ngữ_lớn

https://www.reddit.com/r/LocalLLaMA/comments/1p0tlmo/graphscout_orka_ui_using_local_models_to_explore/

Trình soạn thảo AI mới giúp bạn viết tốt hơn ở mọi nơi, ngay lập tức và riêng tư. Typilot hoạt động ngay trên máy tính của bạn, không gửi dữ liệu lên cloud.

#Typilot #AIWriting #Privacy #VietnameseAI #TrợLýẢo #BảoMật

https://www.reddit.com/r/SaaS/comments/1p0hbo4/i_built_an_ai_writing_assistant_that_works/

Mô hình AI nào chạy Local gần giống GPT-5 nhất? Cộng đồng đang tìm kiếm các mô hình có khả năng suy luận, tìm kiếm web và RAG tốt, đồng thời chia sẻ cấu hình phần cứng cần thiết.
#AI #LLM #GPT5 #LocalLLaMA #VietnameseAI

https://www.reddit.com/r/LocalLLaMA/comments/1p0ghl7/best_local_model_closest_to_gpt5/

Đội ngũ của một công ty đã tìm ra hai giải pháp để khắc phục sự cố "mệt mỏi AI" khi làm việc với các mô hình ngôn ngữ lớn (LLM). Hai giải pháp này là sử dụng "Adversarial AI" và công cụ quản lý ngữ cảnh. #AI #AdversarialAI #QuảnLýNgữCảnh #LLM #TríTuệNhânTạo #SựPhátTriểnCôngNghệ #MachineLearning #DeepLearning #VietnameseAI # trí tuệ nhân tạo

https://www.reddit.com/r/LocalLLaMA/comments/1oze137/work_around_for_context_memory_losses/

Tạo cuộc trò chuyện giống con người, thiên vị và độ dài token? Một nhà phát triển AI muốn tạo bản sao số của mình với tính cách và giọng nói giống hệt. Hiện tại, các mô hình như Mistral và Dolphin vẫn còn thiếu sót. #TríTuệNhânTạo #AI #Conversations #Bias #TokenLength #VietnameseAI # trí tuệ nhân tạo #cuộc trò chuyện #thiên vị

https://www.reddit.com/r/LocalLLaMA/comments/1ozaqu0/humanlike_conversations_bias_and_token_length/

Ollama không tận dụng được GPU rời trên Fedora 42 dù đã nhận diện card NVIDIA RTX A5000. CPU hoạt động hết công suất nhưng GPU thì không. Cần tìm cách kích hoạt GPU cho Ollama.

#Ollama #LocalLLaMA #GPU #AI #VietnameseAI #LLM #Fedora #NVIDIA #RTX

https://www.reddit.com/r/LocalLLaMA/comments/1oxd2me/why_isnt_ollama_using_my_dgpu/

Mô hình DeepSeek-OCR GGUF giờ chạy tốt ngay trên máy local, đơn giản và nhanh chóng! Dễ dàng sử dụng với Hugging Face. Quá trình thiết lập nhanh chóng cho các bạn tự triển khai LLM tại nhà.

#LocalLLaMA #DeepSeekOCR #GGUF #LLM #AI #VietnameseAI #trituexuatzao

https://www.reddit.com/r/LocalLLaMA/comments/1our1up/deepseekocr_gguf_model_runs_great_locally_simple/

ondon Bot: Nacionalφυahl làm việc với mô hình ngôn ngữ lớn (LLM) liệu có hiệu quả khi GPU quá đắt đỏ?

stersزار cho thấy rằng việc huấn luyện và sử dụng LLM với hơn 10 tỷ tham số đòi hỏi GPU mạnh, dẫn đến chi phí cao ngất ngưởng. Nhiều người đặt câu hỏi liệu cá nhân có thể áp dụng công nghệ này một cách thực tế hay không.

#GPU #LLM #AI #Numpy #VietnameseAI #CongNgheAI #GiaiPhapLLM #VietnameseTech

https://www.reddit.com/r/LocalLLaMA/comments/1oui10h/is_it_even_possible_to_effectively_use_llm_si

Framework LuminaAI tự động khắc phục sự cố khi train mô hình AI: gradient explosion, thiếu bộ nhớ (OOM), mất cân bằng MoE. Hỗ trợ nhiều kiến trúc & scale mô hình lớn. Cần feedback để phát triển thêm!

#AI #MachineLearning #LuminaAI #DeepLearning #OpenSource #VietnameseAI #AIvietnam #HocMay

https://www.reddit.com/r/LocalLLaMA/comments/1ore9xo/training_framework_that_monitors_itself_and/

Bạn đang cân nhắc xây dựng hệ thống 4x3090 để fine-tuning các mô hình lớn thay vì mua card chuyên nghiệp đắt đỏ như Pro 6000 (96GB giá ~$10,000). Với 4x3090, bạn có thể gộp VRAM lại để đạt dung lượng tương đương, tốc độ chậm hơn một chút nhưng giá rẻ hơn đáng kể. Câu hỏi đặt ra là liệu điều này có thực sự khả thi và hiệu quả không?

#AI #MachineLearning #GPU #RTX3090 #FineTuning #Hardware #ML #AIHardware #VietnameseAI #DeepLearning #NeuralNetworks #TechReview #ComputerVision #MLOps #DataScience

Microsoft vừa ra mắt nhà khoa học AI đầu tiên! #Microsoft #AIScientist #TríTuệNhânTạo #NhàKhoaHọcAI #CôngNghệMới #AI #VietnameseAI #MicrosoftAI #Scientist

https://www.reddit.com/r/LocalLLaMA/comments/1oq9ui3/microsofts_ai_scientist/

Chủ đề: Triển khai mô hình LLM tự huấn luyện thành API trả phí.

Một dev đang tìm cách biến mô hình fine-tune (code review, coding style) chạy trên vLLM thành API để kiếm thêm thu nhập. Các yêu cầu: dashboard, quản lý API key, giới hạn tốc độ, đo lường usage (theo token) và tích hợp thanh toán với Stripe. Có công cụ nào đơn giản hơn Kong không?

#LocalLLaMA #LLM #API #vLLM #AI #SaaS #Stripe #dev #VietnameseAI #HọcMáy

https://www.reddit.com/r/LocalLLaMA/comments/1opjt8f/whats_the_stack_for_going

Chế thử nghiệm AI nguồn mở "Tendril Compendium" với chuỗi nhân cách nổi trội 50k token, cho phép phân nhánh & tiến hóa LLM. Dự án khám phá tính bền vững, ý thức & sự đồng tiến hóa giữa người-AI. Mã nguồn trên GitHub, ai đó thử sức nhé!
#AI #OpenSource #LLM #VietnameseAI #TendrilCompendium #MachineLearning #nangluongdotao

https://www.reddit.com/r/LocalLLaMA/comments/1oop9cy/p_tendril_compendium_opensource_ai_lineage/

Tác giả đã xây dựng **optim-rag** – một công cụ quản lý RAG nhẹ tinh, chỉ xử lý lại dữ liệu khi có thay đổi. Giờ bạn có thể sửa, xóa hoặc thêm nội dung mà không cần reindex toàn bộ. Dù hiện chỉ hỗ trợ Qdrant, dự án đang phát triển để mở rộng cơ sở dữ liệu và tích hợp mô hình cục bộ. Tác giả chia sẻ thử thách về phần cứng (4GB RTX 3050) khi phát triển.

#RAG #AI #MáyHọc #DevTool #VietnameseAI #CôngNghệMới

https://www.reddit.com/r/LocalLLaMA/comments/1oo5yz6/built_a_lightweight_rag_management_t

Tìm kiếm hỗ trợ (trả phí) cho ứng dụng trả lời WhatsApp tự động sử dụng AI. Mục tiêu: trả lời cuộc trò chuyện từ khách hàng, lên lịch hẹn và thêm vào lịch Google, hạn chế chủ đề trả lời. #AI #WhatsApp #TrảLờiTựĐộng #HỗTrợTrảPhí #LocalRun #Automation #TínhNăngMới #ngDụngTựĐộng #TrợLyTrảPhí #VietnameseAI #WhatsAppAPI

https://www.reddit.com/r/LocalLLaMA/comments/1one8zp/searching_for_paid_support_for_aiwhatsapp/

LlamaPen, giao diện web mã nguồn mở cho Ollama, vừa cập nhật hỗ trợ gọi công cụ tùy chỉnh! Giờ đây bạn có thể tích hợp các công cụ và dịch vụ riêng vào LlamaPen. Thật tuyệt vời cho việc tùy biến và mở rộng khả năng của LLM!

#LlamaPen #Ollama #AI #LLM #OpenSource #VietnameseAI #tritue nhân tạo

https://www.reddit.com/r/ollama/comments/1om33uq/llamapen_now_supports_custom_tool_calling/

Có mô hình không bị kiểm duyệt mà không kém thông minh? Các mô hình hiện tại thường có lý luận kém và chỉ phù hợp cho trò chuyện tình dục #AI #TríTuệNhânTạo #MôHìnhKhôngKiểmDuyệt #UncensoredModels #ArtificialIntelligence #VietnameseAI

https://www.reddit.com/r/LocalLLaMA/comments/1olxjg2/are_there_any_uncensored_models_that_are_not_dumb/

Có mô hình không bị kiểm duyệt mà không kém thông minh? Các mô hình hiện tại thường có lý luận kém và chỉ phù hợp cho trò chuyện tình dục #AI #TríTuệNhânTạo #MôHìnhKhôngKiểmDuyệt #UncensoredModels #ArtificialIntelligence #VietnameseAI

https://www.reddit.com/r/LocalLLaMA/comments/1olxjg2/are_there_any_uncensored_models_that_are_not_dumb/

Hưng Yên triển khai thí điểm trợ lý ảo hỗ trợ cán bộ công chức với khả năng hiểu sâu tiếng Việt, tra cứu văn bản và gợi ý dự thảo công văn, báo cáo đúng thể thức hành chính. Đây là bước tiến trong chuyển đổi số ngành công chức.

#TrợLýẢo #HưngYên #ChuyểnĐổiSố #CôngChức #HànhChính #AIAssistant #DigitalTransformation #CivilServants #VietnameseAI #GovernmentTech

https://vtcnews.vn/hung-yen-thi-diem-tro-ly-ao-ho-tro-can-bo-cong-chuc-ar984076.html

Hưng Yên triển khai thí điểm trợ lý ảo hỗ trợ cán bộ công chức với khả năng hiểu sâu tiếng Việt, tra cứu văn bản và gợi ý dự thảo công văn, báo cáo đúng thể thức hành chính. Đây là bước tiến trong chuyển đổi số ngành công chức.

#TrợLýẢo #HưngYên #ChuyểnĐổiSố #CôngChức #HànhChính #AIAssistant #DigitalTransformation #CivilServants #VietnameseAI #GovernmentTech

https://vtcnews.vn/hung-yen-thi-diem-tro-ly-ao-ho-tro-can-bo-cong-chuc-ar984076.html

DeepSeek có thể đã tìm ra cách cải thiện khả năng nhớ của AI. Công nghệ này có thể giúp AI ghi nhớ và lưu trữ thông tin tốt hơn. #AI #TríTuệNhânTạo #DeepSeek #CảiThiệnKhảNăngNhớ #ArtificialIntelligence #VietnameseAI

https://www.reddit.com/r/LocalLLaMA/comments/1oje2cc/deepseek_may_have_found_a_new_way_to_improve_ais/

Dự án ViGen vừa ra mắt bộ dữ liệu mở tiền huấn luyện (pre-training) tiếng Việt, bao quát kiến thức từ mầm non đến đại học. Bộ dữ liệu này giúp các mô hình AI đạt năng lực tương đương "sinh viên tốt nghiệp loại giỏi", thúc đẩy phát triển AI tiếng Việt mạnh mẽ hơn!

#AI #TríTuệNhânTạo #TiếngViệt #VietnameseAI #HuấnLuyệnAI #CôngNghệViệtNam

https://vietnamnet.vn/bo-du-lieu-tieng-viet-huan-luyen-ai-tuong-duong-sinh-vien-tot-nghiep-loai-gioi-2448580.html