#localllama — Public Fediverse posts
Live and recent posts from across the Fediverse tagged #localllama, aggregated by home.social.
-
**Trạng thái AI năm 2026: LLM, lập trình, quy luật mở rộng, Trung Quốc, agent, GPU, AGI. Lex Fridman Podcast #490 phân tích xu hướng công nghệ AI và thách thức tương lai.**
#AI #LLM #AGI #TechTrend #TríTuệNhânTạo #AI2026 #LocalLLaMA*(Dự báo AI 2026: Phát triển LLM mã nguồn mở, tác động của quy mô dữ liệu, vai trò Trung Quốc, tiến bộ GPU và bước gần hơn đến AGI.)*
#ThuốcNhuộmAI #TươngLaiCôngNghệ #LexFridman #AIInsightshttps://www.reddit.com/r/LocalLLaMA/comments/1qsz1p3/state_of_ai_in_2
-
Để ngăn các MCP (công cụ/tài nguyên hữu ích) bị thất lạc sau các cuộc thảo luận, một chỉ mục cộng đồng đã được tạo. Nơi đây sẽ lưu giữ các MCP đáng tin cậy, ghi lại mẹo cài đặt, hạn chế và ghi công người đóng góp. Đây là một nỗ lực phi lợi nhuận, nhằm tổng hợp tài nguyên giá trị và dễ tìm kiếm.
#MCPs #CommunityIndex #AIResources #OpenSource #LocalLLaMA #ChỉMụcCộngĐồng #TàiNguyênAI #CôngCụAI #PhiLợiNhuận
https://www.reddit.com/r/LocalLLaMA/comments/1q5pyio/a_community_index_for_mcps_that_dont_d
-
Việc chạy gpt-oss-120b trên LM Studio với 16GB VRAM và 80GB RAM đạt 6.5 tokens/giây. Nâng cấp 2 GPU 5060Ti & RAM 128GB có cải thiện hiệu suất? #LocalLLaMA #AIperf #TốiưuHARD #HardwareUpgrade
-
Cộng đồng AI đang thảo luận về cách đánh giá và đo lường hiệu suất (benchmarks và evals) cho các mô hình ngôn ngữ lớn (LLM). Nhiều người gặp khó khăn khi tổ chức dữ liệu và quy trình đánh giá. Mọi người quan tâm đến việc tạo bộ kiểm tra tùy chỉnh và kinh nghiệm thực tế để tránh thông tin cường điệu.
#LLM #AI #Benchmarks #Evaluations #LocalLLaMA #MôHìnhNgônNgữ #ĐánhGiáAIhttps://www.reddit.com/r/LocalLLaMA/comments/1p9pweg/benchmarks_and_evals/
-
Mô hình cục bộ xử lý công cụ tốt hơn khi được cung cấp một hộp cát mã thay vì công cụ riêng lẻ #LocalLLaMA #MôHìnhCụcBộ #HộpCátMã #TríTuệNhânTạo #AI #MachineLearning #MôHìnhHọcMáy #CôngCụ #PhátTriểnMềm #LậpTrình #CodeSandbox
https://www.reddit.com/r/LocalLLaMA/comments/1oxb9zp/local_models_handle_tools_way_better_when_you/
-
Moondream cho phép phân tích video trực tiếp, nhận diện đối tượng và hành động trong thời gian thực! Demo không cần đăng nhập và mã nguồn mở có sẵn trên GitHub. 🚀
#AI #VideoAnalysis #Moondream #LocalLLaMA #PhânTíchVideo #TríTuệNhânTạo #CôngNghệ
https://www.reddit.com/r/LocalLLaMA/comments/1oty5a9/realtime_video_analysis_with_moondream/
-
Có thể sử dụng Continue.dev CLI mà không cần tài khoản? Người dùng muốn sử dụng công cụ coding locally và không muốn chia sẻ dữ liệu với các công ty lớn. #ContinueDev #CLILocal #NoAccount #LocalLLaMA #CôngCụLậpTrình #TựHost
https://www.reddit.com/r/LocalLLaMA/comments/1ospyy3/continuedev_cli_with_no_account_is_it_possible/
-
"Lỗi Kimi K2 Thinking: Không tương thích với tính năng gọi công cụ, gây khó khăn cho lập trình viên #AILimitations #KimiK2 #CodingIssues #LocalLLaMA"
-
Một công ty chia sẻ về hệ thống AI nội bộ để giảm chi phí API. Họ dùng GPU 3090 (hiệu quả chi phí nhất), 4090, 5090 và RTX 6000 pro, xử lý 70-120 triệu token/ngày. Lưu ý về bo mạch chủ ASUS, điện 240v và thách thức làm mát. Cộng đồng LocalLLaMA rất giá trị.
#AI #LocalLLaMA #GPU #LLM #MachineLearning #TechSetup
#TríTuệNhânTạo #HệThốngAI #MáyHọc #PhầnCứngAI #CôngNghệhttps://www.reddit.com/r/LocalLLaMA/comments/1opa6os/local_setup/
-
Ứng dụng trò chuyện AI hoạt động ngoại tuyến, không cần gửi dữ liệu lên đám mây. Người dùng có thể chọn nhân vật và trải nghiệm tức thì, không cần máy chủ. #AI #TròChuyện #ỨngDụng #TríTuệNhânTạo #ArtificialIntelligence #ChatApp #OfflineApp #LocalLLaMA
https://www.reddit.com/r/LocalLLaMA/comments/1ojdfyp/ai_chat_app/
-
Một người dùng Mac Mini M4 (16GB) đang tìm kiếm các công cụ và mô hình AI để chạy cục bộ, hỗ trợ lập trình. Họ đã thử Continue.dev + Ollama + qwen2.5-coder:7B để tự động hóa code mẫu, script bash, Python cơ bản. Cần lời khuyên về cách hiệu quả hơn, mô hình tốt cho các tác vụ này (tốc độ >15 token/giây) và tích hợp tốt với VS Code.
#MacMini #M4 #AI #LocalLLaMA #CodingAssistant #Ollama #ContinueDev #TrợLýLậpTrình #MôHìnhAI #MáyChủCụcBộ #PhầnCứngApple
-
chatllm.cpp hỗ trợ Janus-Pro: framework tự động hồi tiến đa mô đã thống nhất nhận & sinh đa mô thể nhất trong một mô hình duy nhất. Janus-Pro 1B đã có trên Hugging Face. #JanusPro #chatllmcpp #multimodal #đa_mô #LocalLLaMA
https://www.reddit.com/r/LocalLLaMA/comments/1o32cs8/chatllmcpp_supports_januspro/
-
Which VSCode extension you'd prefer to try local LLMs or through Openrouter etc. ?
-
Which VSCode extension you'd prefer to try local LLMs or through Openrouter etc. ?
-
Which VSCode extension you'd prefer to try local LLMs or through Openrouter etc. ?
-
Which VSCode extension you'd prefer to try local LLMs or through Openrouter etc. ?
-
Which VSCode extension you'd prefer to try local LLMs or through Openrouter etc. ?