#qwen — Public Fediverse posts

KI-Modelle als Werkzeug für Angriffe auf Behörden und Bildungseinrichtungen in Asien

Sprachmodelle übernehmen Koordinationsaufgaben, während die eigentliche Ausnutzung von Schwachstellen weiterhin auf klassischen Methoden beruht – öffentlich verfügbarem Exploit-Code, gestohlenen Zugangsdaten, Webshells und selbst entwickelter Schadsoftware.

https://www.all-about-security.de/ki-modelle-als-werkzeug-fuer-angriffe-auf-behoerden-und-bildungseinrichtungen-in-asien/

#hacker #deepseek #claude #qwen #kimodelle #kiagenten #itsicherheit #itsecurity #cybersecurity

RT @UnslothAI: Du kannst jetzt Unsloth GGUFs lokal mit einem einzigen Klick über Hermes ausführen! ✨

mehr auf Arint.info

#DeepSeek #GGUF #Hermes #LocalAI #Qwen #Unsloth #arint_info

https://x.com/UnslothAI/status/2095621641888055443

RT @UnslothAI: Du kannst jetzt Unsloth GGUFs lokal mit einem einzigen Klick über Hermes ausführen! ✨

mehr auf Arint.info

#DeepSeek #GGUF #Hermes #LocalAI #Qwen #Unsloth #arint_info

https://x.com/UnslothAI/status/2095621641888055443

RT @UnslothAI: Du kannst jetzt Unsloth GGUFs lokal mit einem einzigen Klick über Hermes ausführen! ✨

mehr auf Arint.info

#DeepSeek #GGUF #Hermes #LocalAI #Qwen #Unsloth #arint_info

https://x.com/UnslothAI/status/2095621641888055443

The author exhaustively analyzes the Qwen 3.8:27B model at different levels of quantization to see at what point accuracy drops below a minimal threshold.

#AI #LLM #Qwen #localai #localllm

https://kaitchup.substack.com/p/qwen38-27b-gguf-benchmark-q4-to-q1

The author exhaustively analyzes the Qwen 3.8:27B model at different levels of quantization to see at what point accuracy drops below a minimal threshold.

#AI #LLM #Qwen #localai #localllm

https://kaitchup.substack.com/p/qwen38-27b-gguf-benchmark-q4-to-q1

The author exhaustively analyzes the Qwen 3.8:27B model at different levels of quantization to see at what point accuracy drops below a minimal threshold.

#AI #LLM #Qwen #localai #localllm

https://kaitchup.substack.com/p/qwen38-27b-gguf-benchmark-q4-to-q1

The author exhaustively analyzes the Qwen 3.8:27B model at different levels of quantization to see at what point accuracy drops below a minimal threshold.

#AI #LLM #Qwen #localai #localllm

https://kaitchup.substack.com/p/qwen38-27b-gguf-benchmark-q4-to-q1

The author exhaustively analyzes the Qwen 3.8:27B model at different levels of quantization to see at what point accuracy drops below a minimal threshold.

#AI #LLM #Qwen #localai #localllm

https://kaitchup.substack.com/p/qwen38-27b-gguf-benchmark-q4-to-q1

Local LLM Arena #4

Repair run już się zakończył i po kilku dodatkowych poprawkach udało się domknąć benchmark.

Po drodze wyszło jeszcze kilka problemów technicznych, więc część testów trzeba było poprawić i uzupełnić. Ostatecznie mamy jednak kompletny zestaw wyników dla wszystkich 5 modeli.

Najlepiej wypadły dwa modele.

Qwen3.8-27B wygrał cały benchmark i osiągnął najwyższy wynik jakościowy.

GPT-OSS-20B był bardzo blisko, a w testach kodowania uzyskał taki sam wynik jak Qwen. Jednocześnie na moim MacBooku Air M4 16 GB działa około 5 razy szybciej.

Dlatego teraz testuję właśnie GPT-OSS jako lokalnego agenta do prawdziwego kodowania.

Schemat wygląda tak:

Codex CLI
↓
LM Studio
↓
GPT-OSS-20B
↓
repozytorium projektu

Model dostał 5 rzeczywistych zadań w kodzie Local LLM Arena.

Może sam przeglądać repozytorium, edytować pliki, uruchamiać testy, analizować błędy i poprawiać własne rozwiązania.

Każde zadanie zaczyna od czystej kopii repozytorium. Po zakończeniu rozwiązanie jest sprawdzane także dodatkowymi testami, których model wcześniej nie widział. Jeśli coś nie przejdzie, dostaje informację o błędzie i może spróbować się poprawić.

Maksymalnie trzy podejścia na zadanie.

Całość działa lokalnie na Macu.

Teraz chcę sprawdzić nie tylko, czy model potrafi wygenerować poprawny kod, ale czy rzeczywiście może wykonywać część pracy lokalnego agenta programistycznego i odciążyć modele działające w chmurze.

Test właśnie trwa.

#LocalLLM #LLM #AI #AppleSilicon #MacBookAir #M4 #LMStudio #Codex #GPTOSS #Qwen #Coding #OpenSourceAI

KV cache streaming - the llama.cpp fork that enables Qwen 3.8 27B at large contexts for 16GB VRAM GPU owners

https://video.troed.se/w/x2AxNGkvy21GbTX9MZ3A9S

Qwen3.8. MTP и тензорный параллелизм в llama.cpp: 75 ток/сек на двух RTX 3090

Плотная 27-миллиардная модель на двух RTX 3090 в llama.cpp из коробки даёт 32 токена в секунду. Интуитивно понятно, что это не предел: две карты по 24 ГБ и 936 ГБ/с каждая не должны выдавать столько, сколько выдаёт одна. Значит, где-то узкое горлышко — и надо разобраться, что и где подкрутить. Горлышек оказалось несколько, и все снимаются флагами запуска: те же веса — 75 токенов в секунду. Под катом каждый флаг описан по одной схеме: зачем, что писать, что даёт в цифрах, где ломается и с какой строкой в логе. В конце — готовый docker run , три проверки после каждой смены флага и список того, что не сработало. Текст можно отдать целиком агенту с доступом к серверу — это инструкция, а не история.

https://habr.com/ru/articles/1076080/

#llm #ai #llamacpp #qwen #qwen38 #gguf #квантование #локальные_нейросети #локальные_модели

Humbled that our number of Chrome-only active users surpassed 1,000 for the first time.

https://github.com/webbrain-one/webbrain

#Chrome #ChromeExtension #WebExtension #Milestone #OpenSource #GitHub #WebBrain #offlinellm #qwen #gemma #ollama #llamacpp

https://blog.gslin.org/archives/2026/08/01/13133/%e8%b2%b7%e4%ba%86%e5%bc%b5-intel-arc-pro-b70-32gb-vram-%e4%be%86%e7%8e%a9/

買了張 Intel Arc Pro B70 (32GB VRAM) 來玩...

#36 #32gb #above #ai #arc #b70 #bar #bios #csm #debian #decoding #express #firmware #gguf #intel #kernel #language #large #linux #LlamaCpp #llm #model #pci #PciE #pro #qwen #resize #setup #support #sycl #vram #vulkan

I'm using Text-To-Speech (TTS) on my Desktop (Calender Events, Firefox Read Aloud) and with Home Assistant. However the quality isn't the best and I wanted a better option.

I've started a new project for this called crane-wyoming which is in alpha/beta stage as it is not feature complete but works well for TTS.

https://codeberg.org/cryptomilk/crane-wyoming

#homeassistant #speech #speechd #speechdispatcher #tts #inference #llm #voice #asr #qwen #voxtral #ai #rust

I'm using Text-To-Speech (TTS) on my Desktop (Calender Events, Firefox Read Aloud) and with Home Assistant. However the quality isn't the best and I wanted a better option.

I've started a new project for this called crane-wyoming which is in alpha/beta stage as it is not feature complete but works well for TTS.

https://codeberg.org/cryptomilk/crane-wyoming

#homeassistant #speech #speechd #speechdispatcher #tts #inference #llm #voice #asr #qwen #voxtral #ai #rust

I'm using Text-To-Speech (TTS) on my Desktop (Calender Events, Firefox Read Aloud) and with Home Assistant. However the quality isn't the best and I wanted a better option.

I've started a new project for this called crane-wyoming which is in alpha/beta stage as it is not feature complete but works well for TTS.

https://codeberg.org/cryptomilk/crane-wyoming

#homeassistant #speech #speechd #speechdispatcher #tts #inference #llm #voice #asr #qwen #voxtral #ai #rust

I'm using Text-To-Speech (TTS) on my Desktop (Calender Events, Firefox Read Aloud) and with Home Assistant. However the quality isn't the best and I wanted a better option.

I've started a new project for this called crane-wyoming which is in alpha/beta stage as it is not feature complete but works well for TTS.

https://codeberg.org/cryptomilk/crane-wyoming

#homeassistant #speech #speechd #speechdispatcher #tts #inference #llm #voice #asr #qwen #voxtral #ai #rust

I'm using Text-To-Speech (TTS) on my Desktop (Calender Events, Firefox Read Aloud) and with Home Assistant. However the quality isn't the best and I wanted a better option.

I've started a new project for this called crane-wyoming which is in alpha/beta stage as it is not feature complete but works well for TTS.

https://codeberg.org/cryptomilk/crane-wyoming

#homeassistant #speech #speechd #speechdispatcher #tts #inference #llm #voice #asr #qwen #voxtral #ai #rust

Ah, the tech world's latest shiny object: Version 3.8 of "Qwen"—because the world clearly needed another half-baked AI upgrade to distract us from reality. 🙄 After all, who doesn't want their software updates to sound like a failed attempt at naming a pet hamster? 🐹✨
https://qwen.ai/home #Qwen #AIupgrade #techtrends #softwarehumor #distraction #HackerNews #ngated

New week, new slides: Run LLMs Locally

Added OpenAI's Privacy-Filter model using privacy-filter.cpp.
New slides about economics and hardware used by the Hugging Face community.

https://github.com/thomas-0816/talks/blob/main/Run_LLMs_Locally_2026_ThomasBley.pdf

#ai #llm #llamacpp #wllama #stablediffusion #qwen #localai #gemma4 #webgpu #opencode #huggingface #privacy #digitalsovereignty

Идеальный склероз в сером ящике — мой опыт в ИИ-программировании

ИИ все прочнее входит в работу программиста. Кто-то все еще отрицает его роль, кто-то с энтузиазмом пробует все новые возможности, но квалифицированное большинство все же трезво замечает, что ИИ пока не годится для сложных проектов, хотя простые задачи уже выполняет неплохо. Расскажу, как я сделал свой первый шаг к большому проекту на ИИ. Он в значительной степени изобретён с нуля, а не скопирован. Нейросети пока не могут работать с большими проектами. Даже лучшие их образцы начинают тупить, если кода больше 40-100 кб, и галлюцинировать после 10-60 итераций одного и того же проекта (1000 циклов - это пока что грубый маркетинг). Шестьдесят итераций - это много? Если речь об автономной ИИ-разработке, то очень мало. Если о man-in-the-loop, то более-менее уже потянет. Я выбрал такие условия:

https://habr.com/ru/articles/1044384/

#llm #aicoding #архитектура #qwen #gemma #гранулярность #опыт

Did Claude Opus 4.8 distill Alibaba's Qwen? Here's what the evidence says

https://blog.kilo.ai/p/did-claude-opus-48-distill-alibabas

#HackerNews #ClaudeOpus #Alibaba #Qwen #AIResearch #TechNews #EvidenceAnalysis

LM Studio 0.4.0
https://lmstudio.ai/blog/0.4.0
#ycombinator #local_ai #local_llm #gpt_oss #on_device_ai #run_local_ai #LM_Studio #Llama #Gemma #Qwen #DeepSeek #llama_cpp #mlx

Какая LLM лучше распознает чертежи? Мы сравнили 6 LLM и узнали ответ

Инженерные чертежи содержат десятки типов размеров и допусков: линейные и угловые, радиальные и диаметральные, справочные и базовые, а также геометрические характеристики вроде плоскостности или перпендикулярности. Для инженера это привычный язык, но для автоматической обработки такие документы представляют серьёзную задачу. С появлением мультимодальных LLM возник вопрос: способны ли они заменить классические OCR-решения и специализированные пайплайны постобработки? Насколько хорошо современные модели справляются с извлечением размеров и допусков из коробки, без дообучения? Какие модели дают максимальную точность, какие быстрее, а какие дешевле? И можно ли комбинировать разные подходы, чтобы повысить результат? Чтобы ответить на эти вопросы, мы протестировали шесть актуальных vision-LLM на одном наборе реальных механических чертежей и сравнили их точность, скорость и стоимость обработки.

https://habr.com/ru/articles/946080/

#llmмодели #chatgpt4 #chatgpt5 #claudeopus4 #gemini_flash #gemini_pro #qwen #языковые_модели #чертежи #обработка_изображений

Какого китайца выбрать? DeepSeek vs Qwen vs Baidu

Китайские нейросети вышли на арену: DeepSeek , Qwen и Baidu ERNIE стремительно догоняют западные аналоги. Я протестировал их лично — на коде, логике и креативе. Где тупят? Кто реально выдаёт GPT‑4‑уровень? В статье — примеры, таблицы, фейлы и вывод: что выбрать в 2025 году , если тебе важны мощность, стабильность и интерфейс без иероглифов.

https://habr.com/ru/articles/933656/

#Искусственный_интеллект #искусственный_интеллект_чатбот #большие_языковые_модели #llm #qwen #deepseek #baidu #deepseekr1 #qwen3

Negli ultimi giorni ho scritto un post lunghissimo, interessante (credo) e pallosissimo (immagino) sulla creatività, sulla finzione, su Pessoa e sui chatbot basati sulla cosiddetta intelligenza artificiale generativa.

Vi consiglio di leggere almeno la prima parte e spulciare il resto.

https://aitanblog.wordpress.com/2025/02/21/il-chatbot-e-un-fingitore/

#ai #ia #intelligenzaartificiale #aigen #poesia #poeti #fingitori #simulazione #linguaggionaturale #linguaggioartificiale #chatgpt #claude #deepseek #qwen #perplexity #grok #pessoa