home.social

#qwen — Public Fediverse posts

Live and recent posts from across the Fediverse tagged #qwen, aggregated by home.social.

  1. KI-Modelle als Werkzeug für Angriffe auf Behörden und Bildungseinrichtungen in Asien

    Sprachmodelle übernehmen Koordinationsaufgaben, während die eigentliche Ausnutzung von Schwachstellen weiterhin auf klassischen Methoden beruht – öffentlich verfügbarem Exploit-Code, gestohlenen Zugangsdaten, Webshells und selbst entwickelter Schadsoftware.

    all-about-security.de/ki-model

    #hacker #deepseek #claude #qwen #kimodelle #kiagenten #itsicherheit #itsecurity #cybersecurity

  2. The author exhaustively analyzes the Qwen 3.8:27B model at different levels of quantization to see at what point accuracy drops below a minimal threshold.

    #AI #LLM #Qwen #localai #localllm

    kaitchup.substack.com/p/qwen38

  3. The author exhaustively analyzes the Qwen 3.8:27B model at different levels of quantization to see at what point accuracy drops below a minimal threshold.

    #AI #LLM #Qwen #localai #localllm

    kaitchup.substack.com/p/qwen38

  4. The author exhaustively analyzes the Qwen 3.8:27B model at different levels of quantization to see at what point accuracy drops below a minimal threshold.

    #AI #LLM #Qwen #localai #localllm

    kaitchup.substack.com/p/qwen38

  5. The author exhaustively analyzes the Qwen 3.8:27B model at different levels of quantization to see at what point accuracy drops below a minimal threshold.

    #AI #LLM #Qwen #localai #localllm

    kaitchup.substack.com/p/qwen38

  6. The author exhaustively analyzes the Qwen 3.8:27B model at different levels of quantization to see at what point accuracy drops below a minimal threshold.

    #AI #LLM #Qwen #localai #localllm

    kaitchup.substack.com/p/qwen38

  7. vucense.com/ai-intelligence/op

    Interesting read on #localAI, #localLLMs and educated guesswork on "Why Alibaba is giving #Qwen away for free.

    I like to see collaboration and mutual trust being what gets us as humanity forward. Not market-competition as main driver.

  8. vucense.com/ai-intelligence/op

    Interesting read on #localAI, #localLLMs and educated guesswork on "Why Alibaba is giving #Qwen away for free.

    I like to see collaboration and mutual trust being what gets us as humanity forward. Not market-competition as main driver.

  9. vucense.com/ai-intelligence/op

    Interesting read on #localAI, #localLLMs and educated guesswork on "Why Alibaba is giving #Qwen away for free.

    I like to see collaboration and mutual trust being what gets us as humanity forward. Not market-competition as main driver.

  10. Local LLM Arena #4

    Repair run już się zakończył i po kilku dodatkowych poprawkach udało się domknąć benchmark.

    Po drodze wyszło jeszcze kilka problemów technicznych, więc część testów trzeba było poprawić i uzupełnić. Ostatecznie mamy jednak kompletny zestaw wyników dla wszystkich 5 modeli.

    Najlepiej wypadły dwa modele.

    Qwen3.8-27B wygrał cały benchmark i osiągnął najwyższy wynik jakościowy.

    GPT-OSS-20B był bardzo blisko, a w testach kodowania uzyskał taki sam wynik jak Qwen. Jednocześnie na moim MacBooku Air M4 16 GB działa około 5 razy szybciej.

    Dlatego teraz testuję właśnie GPT-OSS jako lokalnego agenta do prawdziwego kodowania.

    Schemat wygląda tak:

    Codex CLI

    LM Studio

    GPT-OSS-20B

    repozytorium projektu

    Model dostał 5 rzeczywistych zadań w kodzie Local LLM Arena.

    Może sam przeglądać repozytorium, edytować pliki, uruchamiać testy, analizować błędy i poprawiać własne rozwiązania.

    Każde zadanie zaczyna od czystej kopii repozytorium. Po zakończeniu rozwiązanie jest sprawdzane także dodatkowymi testami, których model wcześniej nie widział. Jeśli coś nie przejdzie, dostaje informację o błędzie i może spróbować się poprawić.

    Maksymalnie trzy podejścia na zadanie.

    Całość działa lokalnie na Macu.

    Teraz chcę sprawdzić nie tylko, czy model potrafi wygenerować poprawny kod, ale czy rzeczywiście może wykonywać część pracy lokalnego agenta programistycznego i odciążyć modele działające w chmurze.

    Test właśnie trwa.

    #LocalLLM #LLM #AI #AppleSilicon #MacBookAir #M4 #LMStudio #Codex #GPTOSS #Qwen #Coding #OpenSourceAI

  11. 🧪 LLM Benchmark Showdown: 5 lokale Ollama-Modelle im Vergleich

    Getestet auf derselben Hardware (#gmktecevo2 #AMDRyzenAIMaxPlus395 #strixhalo):
    #GSM8K (100 Samples) — Math
    #BFCL (100/Kategorie) — Function Calling
    #MBPP+ (50) — Python Coding
    #HumanEval+ (20) — Python Coding

    📊 Ergebnisse (Accuracy / Output TK/s / VRAM):

    **qwen3.8:27b**
    GSM8K 82% | BFCL 91.5% | MBPP+ 100% | HE+ 100%
    ⚡ 25.5 TK/s | 💾 18 GB VRAM

    **qwen3.6:27b**
    GSM8K 83% | BFCL 93% | MBPP+ 98% | HE+ 75%
    ⚡ 12.7 TK/s | 💾 33 GB VRAM

    **qwen3.6:35b**
    GSM8K 84% | BFCL 90% | MBPP+ 98% | HE+ 55%
    ⚡ 61.8 TK/s | 💾 27 GB VRAM

    **ornith-1.5:35b**
    GSM8K 75% | BFCL 92.5% | MBPP+ 78% | HE+ 0%
    ⚡ 63.6 TK/s | 💾 26 GB VRAM

    **nemotron-3.5-lightning:30b**
    GSM8K 59% | BFCL 74% | MBPP+ 94% | HE+ 0%
    ⚡ 91.9 TK/s | 💾 26 GB VRAM

    🏆 Fazit:

    qwen3.8:27b ist der klare Sieger — als einziges Modell 100% bei beiden Coding-Benchmarks, bei GSM8K/BFCL gleichauf mit den anderen Qwen-Modellen. Bei 25.5 TK/s und nur 18 GB VRAM das beste Qualität/Speed/Effizienz-Verhältnis.

    qwen3.6:27b ist qualitativ nah dran (BFCL sogar 93%), aber mit 12.7 TK/s unerträglich langsam und frisst 33 GB VRAM — fast 2× so viel wie qwen3.8 bei halber Speed.

    qwen3.6:35b ist mit 61.8 TK/s 2.4× schneller als qwen3.8, aber HE+ nur 55% (vs 100%). Trading Code-Qualität für Speed.

    ornith-1.5:35b und nemotron-3.5-lightning:30b fallen bei Coding komplett durch (HE+ 0%), sind aber die schnellsten Modelle im Feld (64 / 92 TK/s).

    💡 TK/s = generierte Tokens/Sekunde (Warm-Run, ollama --verbose).
    💾 VRAM = GPU-Speicher bei max context (262K bzw. 1M bei nemotron).

    #LLM #Benchmark #Ollama #LocalAI #Qwen #OpenSource

  12. Hab mir im Februar ein #MacStudio mit #M4max und 128GB RAM gekauft... Für verrückte fast 4100€... Und ich dachte mir das ist der größte finanzielle Fehler ever

    Hab damit dann viel #ollama #lmstudio #omlx gehostet - #LLM Experimentarium

    Habs sogar ein paar Monaten nur mit den eigenen LLMs gecodet, aber Qualität naja...

    Da sich die letzten Monate das #openWeights Business geändert hat und keine 120b Modelle veröffentlicht werden, die der perfekte fit dafür wären, nutze ich die 30b Modelle...

    Leider mit zunehmendem Frust... #Gemma und #Qwen sind dafür einfach zu klein...

    Dann bringt qwen auch nach 3.6 keine kleinen Modelle mehr raus - es gab kein 3.7 und kein 3.8 - letztes haben sie wieder man angekündigt

    Bedeutet der Mac Studio war eigentlich nur als Desktop PC im Einsatz - eher #gaming und #Roblox programmierworkstation

    Dann hab ich mich mal schlau gemacht - #apple hat meine 128gb Version zum frontier Modell gemacht - und die Modelle sind nirgendwo zu bekommen... Ganz merkwürdig Markt leer gesaugt
    Vllt bringt Apple bald neue Mac Studio Modell raus???

    Okay - eBay preise abgecheckt - da gehen Modell für über 5k€ über den Tisch, aber sehr selten die 128gb Variante

    eBay inseriert - 6999,99€ sofort kauf oder Preisvorschlag ab 6000€

    Hab das Ding jetzt für 6200€ weiter verkauft

    Leider über eBay bezahlt, deshalb wird mein Gewinn versteuert, aber ich gönne

    Ist das nicht krass? Was da abgeht, das ist so verrückt auf dem Gebrauch Mac Markt!

  13. 2026全球「主權AI」三大核心策略:美中爭奪定義權,台灣究竟選了哪條路?
    TNL國際編譯 2026-07-08 07:57:00 CST
    行政院6月23日拍板主權AI以教育、醫療、金融、司法為示範場景。但真正的問題在台灣走的是法國的全端自主,還是新加坡的互賴管理?從國際論述看,2026年主權AI已進入「選層級」的階段。
    https://www.thenewslens.com/article/269058
    #資料長 #阿聯 #開源模型 #台灣 #Pax Silica #sovereign AI #卓榮泰 #AI基礎建設 #TAIDE #DeepSeek #Mistral #全端自主 #AI晶片 #主權AI #中國 #G42 #Qwen #出口管制 #結婚策略 #彭双浪 #SEA-LION #美國 #房東策略 #科技 #新加坡 #法國 #星際之門 #騎乘策略 #Stargate
  14. 📊 Local AI Effizienz-Check! Mein selbstgehostetes qwen3.6-35b-a3b läuft überraschend sparsam. Die Stats von heute:

    • ~18,3 Mio. Gesamt-Tokens
    • Nur 0,34 kWh Energie verbraucht! ⚡

    Das macht umgerechnet:
    🔹 ~54 Millionen Tokens pro kWh
    🔹 Nur 18,5 Wh pro Million Tokens

    Lokale LLMs müssen echt keine Stromfresser sein, wenn die Hardware gut optimiert ist. 😎 #Apple #MacStudio #M4max #128GBRAM

    #LocalAI #SelfHosted #LLM #Qwen #OpenSource #Tech #Privacy

  15. Китайские GLM-5 и Qwen 3.5, музыкальный генератор Lyria 3, создатель OpenClaw в OpenAI и скандал с Claude и Пентагоном

    Привет, это новый выпуск «Нейро-дайджеста» — коротких и полезных обзоров ключевых событий в мире искусственного интеллекта и технологий. Неделя выдалась насыщенной: китайцы выкатили GLM-5 для агентных задач и Qwen 3.5 с пониманием изображений, ByteDance представила новую видеомодель, а Meta запатентовала ИИ для ведения аккаунтов после смерти. Ещё Создатель OpenClaw перешёл в OpenAI, а кризис уже добрался до HDD. Всё самое важное — в одном месте. Поехали! Читать дайджест →

    habr.com/ru/companies/timeweb/

    #нейросети #ии #openclaw #cli #новости #glm5 #qwen #western_digital #bitdance #timeweb_дайджест

  16. DeepSeek V4も間近?中国春節AIラッシュ・5モデル全解説 2026年2月17日(旧暦正月)に合わせ、中国AI各社がフロンティアモデルを一斉にリリースした...

    #AI #Models #ローカルLLM #DeepSeek #Qwen #オープンソース #LLM

    Origin | Interest | Match
  17. DeepSeek V4も間近?中国春節AIラッシュ・5モデル全解説 2026年2月17日(旧暦正月)に合わせ、中国AI各社がフロンティアモデルを一斉にリリースした...

    #AI #Models #オープンソース #LLM #ローカルLLM #DeepSeek #Qwen

    Origin | Interest | Match
  18. DeepSeek V4も間近?中国春節AIラッシュ・5モデル全解説 2026年2月17日(旧暦正月)に合わせ、中国AI各社がフロンティアモデルを一斉にリリースした...

    #AI #Models #Qwen #オープンソース #LLM #ローカルLLM #DeepSeek

    Origin | Interest | Match
  19. DeepSeek V4も間近?中国春節AIラッシュ・5モデル全解説 2026年2月17日(旧暦正月)に合わせ、中国AI各社がフロンティアモデルを一斉にリリースした...

    #AI #Models #LLM #ローカルLLM #DeepSeek #Qwen #オープンソース

    Origin | Interest | Match
  20. DeepSeek V4も間近?Opusに迫るも料金激安、中国春節AIラッシュ・5モデル全解説 2026年2月17日(旧暦正月)に合わせ、中国AI各社がフロンティアモデル...

    #AI #Models #DeepSeek #Qwen #オープンソース #LLM #ローカルLLM

    Origin | Interest | Match
  21. DeepSeek V4も間近?Opusに迫るも料金激安、中国春節AIラッシュ・5モデル全解説 2026年2月17日(旧暦正月)に合わせ、中国AI各社がフロンティアモデル...

    #AI #Models #LLM #ローカルLLM #DeepSeek #Qwen #オープンソース

    Origin | Interest | Match
  22. Какая LLM лучше распознает чертежи? Мы сравнили 6 LLM и узнали ответ

    Инженерные чертежи содержат десятки типов размеров и допусков: линейные и угловые, радиальные и диаметральные, справочные и базовые, а также геометрические характеристики вроде плоскостности или перпендикулярности. Для инженера это привычный язык, но для автоматической обработки такие документы представляют серьёзную задачу. С появлением мультимодальных LLM возник вопрос: способны ли они заменить классические OCR-решения и специализированные пайплайны постобработки? Насколько хорошо современные модели справляются с извлечением размеров и допусков из коробки, без дообучения? Какие модели дают максимальную точность, какие быстрее, а какие дешевле? И можно ли комбинировать разные подходы, чтобы повысить результат? Чтобы ответить на эти вопросы, мы протестировали шесть актуальных vision-LLM на одном наборе реальных механических чертежей и сравнили их точность, скорость и стоимость обработки.

    habr.com/ru/articles/946080/

    #llmмодели #chatgpt4 #chatgpt5 #claudeopus4 #gemini_flash #gemini_pro #qwen #языковые_модели #чертежи #обработка_изображений

  23. Cerebra's Qwen3-32B is nuts. Accurate generation and >1000 tokens per second is truly awesome and for the simple queries I like it better than "heavy" models running on standard silicon that take forever to respond. #cerebra #qwen #ai