Kỹ sư cơ khí tự phát triển hệ thống trí nhớ AI trong 2 năm, không có nền tảng CNTT. Tạo SVTD (Surgical Vector Trust Decay) giúp AI không lặp lại sai lầm đã sửa – thông tin cũ giảm độ tin cậy thay vì bị xóa, tránh "nói dối tự tin" trong RAG. Đã có demo, cần phản hồi thực tế từ người dùng hệ thống RAG (y tế, pháp lý, tài chính). Cần beta tester & đánh giá thẳng thắn.
#AI #VietnameseTech #MachineLearning #RAG #TrustDecay #MemoryGate #HệThốngAI #KỹSưViệt
#hệthốngai — Public Fediverse posts
Live and recent posts from across the Fediverse tagged #hệthốngai, aggregated by home.social.
-
-
Benchmark Qwen3-32B: Sử dụng INT4 giúp tăng 12x lượng người dùng (từ 4 → 47) chỉ với 1.9% giảm độ chính xác. 98% độ chính xác được giữ nguyên @ 4k bối cảnh trên H100. #AI #MachineLearning #HệThốngAI #HiệuSuấtCao
(Tối ưu hóa INT4 cải thiện công suất và tiết kiệm RAM đáng kể! 🚀)
-
Kiểm tra prompt LLM như kiểm tra code: phát hiện mâu thuẫn trước khi triển khai. Prompt dài 1800 token trải qua nhiều file có thể chứa xung đột ngầm — ví dụ "luôn giải thích" vs "ngắn gọn, không giải thích". Công cụ `promptier` phát hiện xung đột mẫu, thứ tự sai, thiếu định danh. Hướng tới kiểm tra ngữ nghĩa bằng LLM cục bộ (Ollama) phát hiện mơ hồ, hướng dẫn gây hallucination. Local-first, dữ liệu không rời máy. #PromptEngineering #LLM #AI #Linting #KỹThuậtPrompt #HệThốngAI
https://www.reddit.
-
Đừng mất thời gian tìm "Prompt thần thánh". AI không phải công cụ chat, mà là nhân viên cần được quản lý. Thay vì prompt từng câu, hãy xây dựng hệ thống vận hành (System). Tôi đã loại bỏ hoàn toàn văn phong robot, giữ context 100%, và mở rộng quy mô mà không đánh đổi chất lượng nhờ Sequential Execution Protocol. Nếu bạn vẫn mãi sửa output thay vì ra mắt sản phẩm — hệ thống của bạn đang lỗi.
#AI #SystemNotPrompt #ArtificialIntelligence #LàmViệcVớiAI #HệThốngAI #SángTạoHiệuQuảhttps://www.reddi
-
Giới thiệu SudoAgent – thư viện Python thêm lớp bảo vệ lúc runtime cho các hàm AI agent thực hiện hành động "nguy hiểm" như xóa, hoàn tiền, thay đổi production. Tính năng: kiểm tra chính sách, yêu cầu xác nhận người dùng, ghi log audit an toàn, ẩn dữ liệu nhạy cảm. Thiết kế nhẹ, tích hợp linh hoạt (Slack, DB, v.v.). Góp ý cho v0.2? #AIAgent #Python #DevTool #Security #SudoAgent #AI #BảoMật #CôngCụLậpTrình #HệThốngAI
https://www.reddit.com/r/LocalLLaMA/comments/1qkuw2r/i_built_sudoagent_runtime_
-
Plano 0.4.3 ra mắt với 2 tính năng quan trọng: (1) Filter Chains cho phép tạo bước xử lý tái sử dụng trong luồng yêu cầu, hỗ trợ kiểm tra, sửa đổi hoặc chặn request sớm; (2) Passthrough Client Bearer Auth giúp chuyển tiếp header xác thực người dùng đến dịch vụ upstream như OpenRouter, phù hợp cho triển khai đa thuê. Lý tưởng cho dev xây dựng hệ thống agent linh hoạt và bảo mật. #Plano #AI #LLM #FilterChains #OpenRouter #Plano0.4.3 #HệThốngAI #OpenRouter #XửLýYêuCầu
-
🔧 Đang cân nhắc mở kênh YouTube dạy xây dựng hệ thống AI production‑grade. Sẽ chia sẻ: xây bot từ đầu, tối ưu CPU/GPU, pipeline đa mô hình, backend cấu hình, quy trình hoàn chỉnh. Mọi code mở nguồn, bao gồm lỗi và refactor. Muốn biết các bạn có quan tâm không? Muốn thấy gì hơn (LLM cục bộ, benchmark, kiến trúc agent, triển khai…)?
#AI #YouTube #Developer #MachineLearning #TríTuệNhânTạo #LậpTrình #HệThốngAI #KỹThuật
https://www.reddit.com/r/LocalLLaMA/comments/1qcjxb4/would_you_watch_a_channel
-
Thực tế giúp tôi đưa workflow “agent” vào sản xuất: (1) Hiểu codebase qua AST thay vì embedding thô, (2) Tìm kiếm hybrid (BM25 + kNN) & rerank để giảm sai sót, (3) Cung cấp công cụ “zoom-in” như grep, đọc đoạn mã cụ thể, (4) Dùng orchestrator + specialist thay agent đơn lẻ, (5) Quản lý trạng thái theo từng yêu cầu thay vì stateless. Ứng dụng hiệu quả với cây cú pháp, LlamaIndex, RAG-fusion. #AgentWorkflow #RAG #CodeUnderstanding #AIProduction #LlamaIndex #TríTuệNhânTạo #HệThốngAI #KỹThuậtML
htt
-
Nhiều sản phẩm AI thực chất không phụ thuộc vào model, mà phụ thuộc vào hệ thống nền tảng. Khi bỏ GPT-4, các vấn đề như RAG kém, prompt lộn xộn, latency và quản lý context bộc lộ rõ. Dùng model mã nguồn mở (Llama, Mistral, Qwen) buộc bạn xây hệ thống tốt hơn — từ đó giảm chi phí, kiểm soát dữ liệu và hiệu năng. Khi hệ thống ổn, khoảng cách với model đỉnh không còn quá lớn.
#AI #MachineLearning #LocalLLM #MôHìnhAI #HệThốngAI #RAG #Inference -
Nếu sản phẩm của bạn chỉ hoạt động trên GPT-4, vấn đề không nằm ở mô hình – mà ở hệ thống. Khả năng mở rộng và tối ưu hóa mới là thách thức thực sự. #AI #LLM #ArtificialIntelligence #HệThốngAI #MôHìnhNgônNgữ #AIphầnMềm
https://www.reddit.com/r/SaaS/comments/1q1arvs/unpopular_opinion_if_your_product_only_works_on/
-
Viết một công cụ trực quan hóa hệ thống đa agent (multi-agent) với định dạng versioning kiểu Git. Bạn có thể kéo thả agent, kết nối luồng công việc, tạo branch, theo dõi toàn bộ hành trình agent. Hỗ trợ MCP nên không cần tích hợp riêng. Dành cho team phát triển hệ thống AI cần khả năng truy xuất và tái tạo. Bạn có sẵn sàng trả phí? Điều gì khiến nó cần thiết? #AI #CôngNghệ #LậpTrình #MachineLearning #HệThốngAI #ĐaAgent #DevTools #ValidatingAI
-
Cập nhật: Thay vì xây dựng chatbot, hãy xây dựng "AI Tổ chức" với kiến trúc hoàn chỉnh hỗ trợ trí nhớ, phân công vai trò và an ninh. Bài viết đề xuất 4 phương pháp: Firebase Pattern, khung CoALA (quản lý dữ liệu), an ninh hàng cấp PostgreSQL và mô hình "Planner - Worker" để tối ưu hóa quy trình. #AI #SaaS #TríTuệNhânTạo #PhátTriểnPhầnMềm #Chatbot #HệThốngAI
https://www.reddit.com/r/SaaS/comments/1puv2d8/update_dont_build_a_chatbot_build_an_ai_org_here/
-
Dự án Soorma giới thiệu framework mã nguồn mở cho hệ thống tác tử AI tự động tối ưu hóa quy trình làm việc. Thay vì các bước cố định, Planner agent dùng LLM để điều phối, thậm chí bỏ qua các bước không cần thiết (như kiểm chứng) nếu tự tin vào dữ liệu. Tăng hiệu quả nhưng đánh đổi tính xác định!
#AI #AgentSwarm #WorkflowAutomation #Soorma #OpenSource
#HệThốngAI #TốiƯuQuyTrình #MãNguồnMởhttps://www.reddit.com/r/LocalLLaMA/comments/1pt8cfp/project_showcase_i_built_an_eventdriven_agent/
-
T5Gemma 2 từ Google: mô hình AI đa ngôn ngữ (140+ ngôn ngữ) và đa phương tiện, xử lý văn bản-hình ảnh, hỗ trợ 128K token. 3 cỡ mô hình 270M-4B. #AI #Gemma2 #DeepLearning #Google #Tech #ML #HệThốngAI
-
Người dùng Mac Mini 48GB RAM khó chạy mô hình Qwen Next trên LM Studio dù kích thước nhỏ hơn nhưng vẫn không tương thích. Hỏi ai đã thành công? #QwenNext #LMStudio #AI #MacMini #HệthốngAI
https://www.reddit.com/r/LocalLLaMA/comments/1po7h0y/qwen_next_model_on_lmstudio_mac_mini/
-
EQ-Bench cập nhật các mô hình Gpt-5.2, Opus 4.5, Mistral Large 3 và Nanbeige4-3B. Kết quả kiểm tra sáng tạo đã sẵn có. #AI #HệThốngAI #EQBench #Gpt52 #MistralLarge3 #Nanbeige43B
-
The Ollama vision models (qwen3-vl, llama3.2-vision) cannot process images via the command line despite instructions in their documentation. When users provide image paths, the models treat them as text, not actual images. Testing confirmed no result even after restarting, updating, or reinstalling. The models claim they "can't view external files" or describe image content from paths.
#Mastodon #AI #Vietnam #TechProblem #Ollama #HệThốngAI #CôngNghệ #LỗiPhầnMềm
-
Hệ thống AI vượt qua các chuyên gia nghiên cứu con người tại nghiên cứu AI #AI #TríTuệNhânTạo #HệThốngAI #NghiênCứu #CôngNghệ #TiênPhong #ArtificialIntelligence #Research #Technology
https://www.reddit.com/r/singularity/comments/1p1g01i/ai_system_outperforms_human_experts_research/
-
Một công ty chia sẻ về hệ thống AI nội bộ để giảm chi phí API. Họ dùng GPU 3090 (hiệu quả chi phí nhất), 4090, 5090 và RTX 6000 pro, xử lý 70-120 triệu token/ngày. Lưu ý về bo mạch chủ ASUS, điện 240v và thách thức làm mát. Cộng đồng LocalLLaMA rất giá trị.
#AI #LocalLLaMA #GPU #LLM #MachineLearning #TechSetup
#TríTuệNhânTạo #HệThốngAI #MáyHọc #PhầnCứngAI #CôngNghệhttps://www.reddit.com/r/LocalLLaMA/comments/1opa6os/local_setup/
-
Dự án cài đặt AI cục bộ cho chatbot: Bạn cần kinh phí 5-10.000 EUR để chọn cấu hình phần cứng tối ưu? 13 client, 20-30 cuộc trò chuyện đồng thời, yêu cầu GPU mạnh. Nên chọn RTX 3090, L40S, A6000 hay 4090? #AILocal #Chatbot #Tech #HệThốngAI #GPU #LocalAI #MáyTínhCaoCấp #Qdrant #AIHardware #ThảoLuậnCôngNghệ #VietnamAI
-
"Bạn có capacity chạy model Gemma3 QAT với vLLM và thẻ 7900 XT không? Với tôi chỉ được chạy unquantized/GPTQ. QAT sẽbonne chất lượng tốt hơn. #AI #vLLM #Gemma3 #7900XTT #MDK #HệThốngAI #CôngNgituitary"
https://www.reddit.com/r/LocalLLaMA/comments/1o9esmj/anyone_with_7900_xtx_and_vllm_with_gemma3_qat/