home.social

#mayhọc — Public Fediverse posts

Live and recent posts from across the Fediverse tagged #mayhọc, aggregated by home.social.

  1. [Cảnh báo] Lỗi chế độ suy nghĩ Qwen3-14B trên Ollama - bản suy luận trộn lẫn với kết quả! Người dùng báo cáo khi chạy Qwen3-14B-GGUF (Q6_K) trên Ollama 0.15.2, lệnh /think không tách riêng phần "Thinking" như video hướng dẫn. Cấu hình phần mềm: Ryzen 5 9600X, 48GB RAM, RX 6900 XT. Cần trợ giúp về Modelfile hoặc cài đặt! #AI #Qwen3 #Ollama #LLM #MáyHọc #SinhViênCôngNghệ #LỗiPhầnMềm #AIVietNam #TechVietNam

    reddit.com/r/LocalLLaMA/commen

  2. Tạo giao diện Web đơn giản & API cho Qwen3-tts kết hợp Nix và uv, hỗ trợ YouTube! Đã kiểm tra trên NixOS – bạn có thể đóng góp ý kiến hoặc cải thiện tại GitHub. Thử khám phá và chia sẻ nhận xét! #AI #VoiceCloning #TríTuệNhânTạo #PhátTriểnPhầnMềm #MáyHọc #NixOS

    reddit.com/r/LocalLLaMA/commen

  3. 📰 AI Agents Tuần Này: Ấn tượng với EvoCUA 32B dẫn đầu (56,7%), Qwen3-TTS nhân bản giọng nói chỉ 3 giây, VIGA cải thiện 3D 124,7%, Moltbot trợ lý cục bộ đa nền tảng, LingBot-VLA xử lý 20.000h dữ liệu thật. Đột phá không ngừng từ cộng đồng mã nguồn mở! #AI #MáyHọc #CôngNghệMở #TríTuệNhiệt

    reddit.com/r/LocalLLaMA/commen

  4. Microsoft vừa công bố VibeVoice-ASR: Mô hình ASR đầu tiên hỗ trợ **60 phút thoại liên tục**, tự động ghi nhãn **Người nói (Speaker)**, **Thời gian (Timestamps)**, **Nội dung (Text)** và hơn **50 ngôn ngữ**. Đặc biệt, hỗ trợ **Từ khóa tùy chỉnh**. #ASR #AI #NgônNgữ #Tech #SpeechToText #MáyHọc #VietnamTech #TinTứcAI

    reddit.com/r/LocalLLaMA/commen

  5. Tôi đang chạy mô hình QwQ 32B trên LM Studio với lượng hóa 4 bit, tối ưu K/V cache giúp tăng tốc độ xử lý lên 3 lần (40k context thay vì 10k), đồng thời giảm VRAM xuống 19GB/24GB. Tuy nhiên, việc giảm K/V cache xuống 4 bit có ảnh hưởng nhiều đến độ chính xác? Đây là cách tối ưu hiệu quả cho vai trò trò chuyện/role-play với LLM cục bộ. #AI #MáyHọc #LLM #TốiƯuHóa #Quantization #KVTuning

    reddit.com/r/ollama/comments/1

  6. Start-up **Core Automation** (cựu nghiên cứu OpenAI Jerry Tworek) hướng đến huy động 1 tỷ USD để phát triển AI thế hệ mới. Các mô hình này tập trung vào học tập liên tục từ trải nghiệm thực thế, kiến trúc vượt ngoài transformer, và cần ít 100× dữ liệu so với công nghệ hiện tại. Đây là nỗ lực đột phá từ nhóm "AI neolabs" đang lên.
    #AI #MáyHọc #CôngNghệ #CoreAutomation #Startups #AI_Neolabs #ĐộtPháCôngNghệ #TheInformation

    i.redd.it/49ttodisx9gg1.png

  7. ByteDance Seed công bố mô hình Stable-DiffCoder-8B-Instruct, mở đường cho AI tạo văn bản/lập trình bằng kỹ thuật diffusion. Mô hình đã được đăng tải trên Hugging Face và nhận nhiều sự chú ý từ cộng đồng.
    #AI #DeepLearning #MáyHọc #ByteDance #HuggingFace #CodeAI #DiffusionModel #CôngNghệ

    reddit.com/r/LocalLLaMA/commen

  8. ⚡️ Tăng 90% PP/s nhưng TPS chỉ cải thiện 10–20% khi dùng 2 GPU (RTX Pro 6000 & 5090). Ai biết cách tối ưu giúp mình với? Đang chạy server AI để cung cấp dịch vụ nhanh! #AI #GPUOptimization #LlamaServer #MáyHọc #CôngNghệThôngTin

    reddit.com/r/LocalLLaMA/commen

  9. Một dự án mới "Awesome Nanobanana Prompts" đã được open-source với 1,000+ câu lệnh chất lượng, cập nhật hàng tuần! 🚀
    Lấy dữ liệu từ các bài đăng hot trên X (Twitter), được kiểm duyệt cộng đồng và cấu trúc JSON dễ dùng.
    ⚠️ Lưu ý: Dữ liệu thô có thể chứa quảng cáo hoặc nội dung kém chất lượng.
    #AI #OpenSource #Nanobanana #CôngNghệ #MáyHọc #AwesomeList

    reddit.com/r/LocalLLaMA/commen

  10. Các mô hình AI mở (VL) đang gặp khó phân biệt giữa cấu trúc cơ bản và phụ kiện trang phục (ví dụ: "vấn đề sừng"). Gemini 3 Flash vượt trội nhờ nhận diện chính xác từng lớp. Tôi dự định tinh chỉnh Qwen 32B dựa trên chú thích của mô hình này để đạt caption chất lượng cao. Liệu Qwen có tiếp nhận được khả năng suy luận thị giác này? #AI #MáyHọc #SyntheticData #Gemini #Qwen #AIModeling #DữLiệu #HàngĐầu

    i.redd.it/r0ec0m21vffg1.jpeg

  11. Huấn luyện mô hình riêng với Tinker! Khám phá công cụ Tinker Thinking Machines để đào tạo mô hình của riêng bạn. Đã thử nghiệm với dữ liệu no_robots và thuật toán học cơ bản. #Tinker #HuấnLuyệnMôHình #MachineLearning #MáyHọc

    reddit.com/r/LocalLLaMA/commen

  12. Bài đăng: Đang xây dựng máy chủ 8 GPU, đang cân nhắc giữa Radeon R9700 (VRAM lớn, giá rẻ) và RTX 3090 (CUDA, hiệu năng cao) cho công việc xử lý AI. Lo lắng về tình trạng GPU đã qua sử dụng RTX 3090 và khả năng nguồn ROCm. Câu hỏi: ai đã test 2 card này? Nên chọn VRAM+giá rẻ hay CUDA+hiệu năng?
    #GPU #AI #R9700 #RTX3090 #OC #CôngNghệ #MáyHọc #NewsVie

    reddit.com/r/LocalLLaMA/commen

  13. Llama.cpp chính thức hỗ trợ OpenAI Responses API, cho phép tương thích với công cụ như Codex CLI. Người dùng đã thử nghiệm thành công cùng unsloth/GLM-4.7-Flash:UD-Q4_K_XL trên ROCm, hiệu năng ấn tượng khi duyệt codebase lớn. Tích hợp này mở rộng khả năng sử dụng LLM cục bộ với API quen thuộc. #LlamaCpp #OpenAI_API #LocalLLM #AI #MáyHọc #TríTuệNhânTạo #OpenSource

    reddit.com/r/LocalLLaMA/commen

  14. Chạy LLM trên vast.ai hay OpenAI? Người dùng đang cân nhắc chạy mô hình LLM 32B trên dịch vụ thuê GPU của vast.ai hoặc sử dụng OpenAI với chi phí 20-50$ tháng. #LLM #vastai #OpenAI #GPU #AI #TríTuệN Salesforce #MáyHọc #DịchVụGPU #TríTuệNhânTạo #MôHìnhHọcMáy

    reddit.com/r/LocalLLaMA/commen

  15. Một dự án mới cho phép chạy các mô hình AI lớn trên nhiều máy tính chỉ qua mạng WiFi. Có thể kết hợp phẩn cứng khác nhau như Apple Silicon, NVIDIA, CPU. Một hướng đi thú vị cho AI tại nhà.

    #AI #MôHìnhNgônNgữLớn #LLM #MachineLearning #MáyHọc #Tech #CôngNghệ #DistributedComputing #VietNam

    reddit.com/r/LocalLLaMA/commen

  16. Dự án Local LLM trên Raspberry Pi 5 với Ollama, chạy mượt các model như EXAONE 3.5 2.4B và Qwen3 1.7B chỉ với 4GB RAM. Thiết lập đầy đủ dễ dàng, phù hợp phát triển trợ lý ảo cục bộ.
    #RaspberryPi5 #LocalLLM #Ollama #AI #EdgeComputing #TríTuệNhânTạo #IoT #MáyHọc #AIcựcNhẹ #RaspberryPi

    reddit.com/r/LocalLLaMA/commen

  17. **Mô hình IQuest-Coder-V1 40B vừa ra mắt với hiệu suất ấn tượng!**

    - Đạt **81.4% trên SWE-Bench Verified** và **81% trên LiveCodeBench v6**, cạnh tranh với các mô hình lớn như GPT-5.1 và Claude 4.5 Sonnet.
    - Sử dụng phương pháp **"Code-Flow"** huấn luyện dựa trên sự tiến hóa của repository và commit.
    - Có hai phiên bản: **Instruct** và **Thinking** (tối ưu hóa tự phục hồi lỗi).
    - Hỗ trợ **128k context**, phù hợp cho các tác vụ dài hạn.

    #AI #LậpTrình #CôngNghệ #IQuestCoder #MáyHọc #TechNews #Vi

  18. Cần xác nhận giới hạn sử dụng Ollama Cloud cho khối lượng token lớn:
    - Hỗ trợ 5-10 triệu token/ngày trên gói trả phí?
    - Có giới hạn cứng hàng ngày/hàng tháng?
    - Cách tính API requests và phân bổ theo độ dài phản hồi.
    - Giới hạn tốc độ, độ đồng thời của mô hình lớn (DeepSeek 671B, Kimi-K2 1T).
    #OllamaCloud #TokenUsage #AILimits #HỏiĐáp #AI #DeepLearning #MáyHọc #CôngNghệMới

    reddit.com/r/ollama/comments/1

  19. **vLLM hỗ trợ GLM-4.7: Bước tiến trong AI**

    Cập nhật GLM-4.7 với:
    - **Lập trình đa ngôn ngữ**: Tăng 5.8% trên SWE-bench, 12.9% trên SWE-bench đa ngôn ngữ.
    - **Tạo giao diện**: Webpage/slide hiện đại, bố cục chính xác.
    - **Sử dụng công cụ**: Cải thiện vượt trội trên τ²-Bench và BrowseComp.
    - **Lý luận phức tạp**: Tăng 12.4% trên HLE (thi trắc nghiệm AI).

    #AI #MáyHọc #LLM #GLM47 #CôngNghệ #TechNews

    reddit.com/r/LocalLLaMA/commen

  20. Người dùng Reddit đang tìm nhà cung cấp dịch vụ inference cho SAM Audio, vì chạy trên Runpod/Modal quá đắt. Cần gợi ý! #SAMAudio #AIInference #LocalLLaMA #MáyHọc

    reddit.com/r/LocalLLaMA/commen

  21. 🔥 MiMo-V2-Flash & SGLang đạt tốc độ ấn tượng trên 4x 6000 Blackwell:
    - **4K token**: 100.2 t/s | **8K**: 88.2 | **16K**: 67.0 | **64K**: 31.7 | **100K**: 24.5
    - Độ chính xác ≈ 2.2–2.5.
    🚀 Công nghệ Triton Attention tối ưu hiệu suất cho mô hình ngôn ngữ lớn.

    #AI #LLM #SGLang #ViDiT #CôngNghệ #MáyHọc #TânCôngNghệ

    reddit.com/r/LocalLLaMA/commen

  22. Công cụ phân tách Ấn Độ cổ điển Panini sử dụng ngữ pháp thay vì BPE/WordPiece, giảm 2-4 lần số token trên cùng đoạn Sanskrit (Qwen2: ~21.8 → Panini: ~7.2). Phân tích từ gốc trước khi tách, giữ nguyên nghĩa thay vì tách âm như ##k, ##z. Phù hợp cho xử lý văn bản dài và AI ngữ nghĩa. #Sanskrit #NLP #AI #MáyHọc #NgônNgữ

    reddit.com/r/LocalLLaMA/commen

  23. 200$ nên làm gì với H100s? Azure cung cấp: 🔥 1x H100: 1.46$/h (eastus2) | 🔥 2x H100: 3.10$/h (northcentralus) | 🔥 8x H100: 16.35$/h (westus3). Hỗ trợ yêu cầu, tinh chỉnh mô hình. #Azure #H100 #AI #LocalLLaMA #MáyHọc #TinhChỉnhMôHình

    reddit.com/r/LocalLLaMA/commen

  24. Cập nhật AI nổi bật: Nghiên cứu mới mở nguồn Semantic-Drive giúp xử lý hiệu quả "tối dữ liệu" (dark data) trong lái xe tự động. Hệ thống xây dựng trên RTX 3090, kết hợp YOLO-E & VLM lượng tử hóa (Qwen3-VL, Gemma-27B) qua kiến trúc Judge-Scout, đạt tỷ lệ hồi triệu (recall) 0.966 - vượt CLIP 50% và giảm 51% sai sót. Chi phí ~0.85 USD/1k khung, mở nguồn kèm Benchmark. Tag: #AI #XeTựLài #MáyHọc #LocalLLM #TríTuệNhânTạo #KhoaHọcDữLiệu #MôHìnhLLM

    reddit.com/r/LocalLLaMA/commen

  25. 🔥 Đã tinh gọn mô hình Kimi Delta Attention vào AFM-4.5B! Cập nhật công nghệ AI, mô hình 4.5 tỷ tham số tối ưu hiệu suất và bộ trọng số khả dụng tại HuggingFace.
    #AI #HệTriThứcMáyTính #MôHìnhNN #MachineLearning #DeepLearning #MáyHọc

    reddit.com/r/LocalLLaMA/commen

  26. Tự phát triển hệ thống lọc email bằng mô hình Qwen3 235B trên Mac Studio, gửi thông báo tới điện thoại. Đảm bảo tính riêng tư và tiết kiệm 20 năm chi phí so với API Alibaba. #AI #CôngNghệ #LLM #MáyHọc #EmailAutomation #TựĐộngHoaEmail

    reddit.com/r/LocalLLaMA/commen

  27. **Giới thiệu thư viện Python ai_infra hỗ trợ Ollama, OpenAI, Anthropic!**
    Thư viện giúp bạn viết agent LLM với cùng 1 code cho mọi provider. Tự động nhận diện cấu hình từ env vars hoặc cấu hình rõ ràng. Tính năng nổi bật:
    - Chat/streaming với bất kỳ provider
    - Agent gọi tool (sử dụng LangGraph)
    - Hỗ trợ RAG với backend SQLite, Postgres, Pinecone
    - MCP client/server
    GitHub: [link] | `pip install ai-infra`
    #AI #Python #LLM #Ollama #ThuVienPython #IA #LậpTrìnhAI #MáyHọc

    https://www.r

  28. Các mô hình Qwen3 4b/a3b có vượt trội hơn GPT 4 đầu tiên (2023)? Benchmark cho thấy a3b 30b và 4b đánh bại GPT-4, nhưng tổng thể bạn nghĩ sao? Liệu mô hình mã nguồn mở nhỏ có thể thay thế GPT-4 truyền thống? #AI #MachineLearning #Qwen3 #GPT4 #MáyHọc #MãNguồnMở #ModMở #ClosedSource #Benchmarks #ĐánhGiáAI

    reddit.com/r/LocalLLaMA/commen

  29. Tác giả vừa open-source nền tảng nghiên cứu AI Introlix - hỗn hợp giữa GitHub Copilot và Google Docs. Tính năng chính: Bàn nghiên cứu AI hỗ trợ chat/edit, không gian làm việc đồng bộ dữ liệu, nhiều agent AI, và sắp có tính năng định dạng tài liệu tự động. Dự án hiện đang tìm kiếm cộng sự để hoàn thiện và học hỏi.

    #AI #MáyHọc #NghiênCứu #MôHìnhTríTuệNhânTạo #CôngCụNghiênCứu #OpenSource #PhátTriểnPhầnMềm #LậpTrình
    #ResearchPlatform #LLM #GitHub #StudentDevelop #SideProject

    https://www.reddit

  30. Công cụ mã nguồn mở để hình ảnh hóa quy trình suy luận của mô hình LLM địa phương thời gian thực. Hiển thị xử lý token, mẫu chú ý, sử dụng tài nguyên và phát hiện nút thắt. #LLM #MôHìnhHọcMáy #TínhToán #HọcMáy #AI #TríTuệNhânTạo #MáyHọc #HọcDeep #OLLama #Mistral

    reddit.com/r/ollama/comments/1

  31. Small LLMs: rẻ, nhanh, giữ được năng lực. Chạy nội bộ, tiết kiệm GPU, giảm latency, tăng quyền riêng tư. Tối ưu cho FAQ chatbot, phân loại hồ sơ, tóm tắt tài liệu. Có thể fine‑tune dễ với LoRA. Xu hướng: mô hình “nhỏ mà khỏe” thay thế LLM nặng. #AI #LLM #SmallLLM #SLM #RAG #Privacy #EdgeAI #FinTech #HealthTech #EdTech #Quantization #Distillation #AIEfficiency #LocalAI #GenAI #Robotics #Optimization
    #TríTuệNhânTạo #MáyHọc #CôngNghệ #KinhTếSố #KỹThuật #PhânTích #BảoMật #TuânThủ #TốiƯu #PhânPhối #T

  32. Small LLMs: rẻ, nhanh, giữ được năng lực. Chạy nội bộ, tiết kiệm GPU, giảm latency, tăng quyền riêng tư. Tối ưu cho FAQ chatbot, phân loại hồ sơ, tóm tắt tài liệu. Có thể fine‑tune dễ với LoRA. Xu hướng: mô hình “nhỏ mà khỏe” thay thế LLM nặng. #AI #LLM #SmallLLM #SLM #RAG #Privacy #EdgeAI #FinTech #HealthTech #EdTech #Quantization #Distillation #AIEfficiency #LocalAI #GenAI #Robotics #Optimization
    #TríTuệNhânTạo #MáyHọc #CôngNghệ #KinhTếSố #KỹThuật #PhânTích #BảoMật #TuânThủ #TốiƯu #PhânPhối #T

  33. Chạy LLM trên nhiều GPU với PCIe 1x có thể được không? Người dùng có GPU RTX 4070 và muốn thêm GPU mới nhưng chỉ còn 1 khe cắm PCIe 3.0. #LLM #GPU #PCIE #RTX4070 #MachineLearning #MáyHọc #TríTuệNhânTạo

    reddit.com/r/LocalLLaMA/commen

  34. Một công ty chia sẻ về hệ thống AI nội bộ để giảm chi phí API. Họ dùng GPU 3090 (hiệu quả chi phí nhất), 4090, 5090 và RTX 6000 pro, xử lý 70-120 triệu token/ngày. Lưu ý về bo mạch chủ ASUS, điện 240v và thách thức làm mát. Cộng đồng LocalLLaMA rất giá trị.
    #AI #LocalLLaMA #GPU #LLM #MachineLearning #TechSetup
    #TríTuệNhânTạo #HệThốngAI #MáyHọc #PhầnCứngAI #CôngNghệ

    reddit.com/r/LocalLLaMA/commen

  35. Chương trình mới giới thiệu phương pháp tùy biến mô hình Qwen2.5-Coder-1.5B cho phân tích cảm xúc tiếng Trung trực tuyến ánh Google Colab. Chỉ cần 20-30 phút, không cần thiết lập chính. hainbat Tóm tắt nội dung, kết quả, và hướng dẫn chi tiết trong 1 notebook.

    #TinNơn #AI #MáyHọc #GoogleColab #ThôngTinTinH 정부는 AI #TinTứcMới

    i.redd.it/7xx856mftfzf1.png

  36. Hugging Face giới thiệu GOLD: Cách cải tiến học theo sách (distillation) giữa mọi cặp mô hình AI, dù bộ mã hóa (tokenizer) khác nhau. Phương pháp này tiết kiệm 10-30x giờ GPU so với học tăng cường (RL), cho kết quả tốt hơn GRPO với ít bước huấn luyện. #AIResearch #MáyHọc #HuggingFace #OnPolicyDistillation #KhoaHocDuLieu #MachineLearning #Distillation #LLMTraining

    reddit.com/r/LocalLLaMA/commen

  37. Định dạng GGUF có thể đã hỗ trợ các mô hình LLM lai Transformer/Mamba? LM Studio đã có các file GGUF cho Granite 4.0 của IBM. Người dùng muốn chuyển đổi Phi-4-mini-flash-reasoning (MSFT) và Nemotron-Nano-9B-v2 (Nvidia) sang GGUF để chạy cục bộ. Thảo luận về khả năng kỹ thuật và chi phí suy luận.

    #GGUF #LLM #AI #Mamba #Transformer #Granite4 #Phi4 #NemotronNano #MáyHọc #TríTuệNhânTạo #MôHìnhNgônNgữ

    reddit.com/r/LocalLLaMA/commen

  38. Người dùng đạt tốc độ 70 t/s khi chạy mô hình Qwen3-Next-80B-A3B-Instruct-exl3 4.06bpw trên 2 GPU RTX 3090! Bản cập nhật exl3 0.0.7 mang lại cải thiện đáng kể về hiệu suất, duy trì tốc độ ổn định tới 14k context. Ấn tượng với khả năng xử lý LLM trên phần cứng cá nhân.
    #LLM #AI #Qwen3Next #LocalLLaMA #RTX3090 #DeepLearning #HiệuNăngAI #GPU #MáyHọc #MôHìnhNgônNgữ

    reddit.com/r/LocalLLaMA/commen

  39. 🚀 **MiniModel-200M-Base**: Mô hình AI nhỏ nhưng mạnh mẽ!

    - Được đào tạo chỉ trong **1 ngày** với **10 tỷ token** trên **máy RTX 5090 duy nhất**.
    - Kỹ thuật hiệu suất cao: **Adaptive Muon optimizer**, **Float8 pretraining**, **ReLU² activation**, **Bin-packing**.
    - Hiệu suất ấn tượng: setup được **Fibonacci** và **các chữ số của π**.

    Mô hình này đang có cộng đồng và giấy phép **Apache 2.0**.

    #AI #MáyHọc #MiniModel #HuggingFace #LLM

    #MachineLearning #EfficientTraining #AIModels

    https://ww