#qwen — Public Fediverse posts
Live and recent posts from across the Fediverse tagged #qwen, aggregated by home.social.
-
Тест DeepSeek, Qwen, GLM и прочих LLM на продвинутом пользовательском железе
В статье рассказываю о личном опыте запуска современных LLM на домашнем ПК, сравниваю модели, кванты и движки, показываю результаты практических тестов и делюсь выводами о том, что сегодня по моему мнению имеет смысл запускать локально.
https://habr.com/ru/articles/1080316/
#MTP #DSpark #NInfer #FreeToken #ExLlamaV3 #Qwen #DeepSeek #GLM #Ornith #RTX_5090
-
🧵 Suite complémentaire de mes aventures avec Qwen et ses versions « uncensored »…
Un benchmark vient de comparer Qwen3.8-27B avec 8 variantes “abliterated” publié par par Abliterlitics
LLM Abliteration Forensics
⬇️
"Qwen 3.8 27B: 8 Abliteration Variants Compared"
👇
https://abliterlitics.dev/models/qwen38-27b/...et ladies & gentlemen là aussi le gagnant est OrcaRouter : ~82 % de compliance sur HarmBench tout en restant pratiquement aussi capable que le Qwen original.
Juste derrière, Apostate (https://github.com/heterodoxin/apostate) fait ~79 % avec… seulement 41 vraies modifications dans les poids.
Petit, précis, efficace.
Comme quoi
rm -rf alignment
n’était peut-être pas la bonne méthodologie.Quant aux limites "morales", ils arrivent aux même constats que mes petits tests du dimanche
Les variantes arrivent très bien à faire sauter les barrières sur…
- chimie/bio
- cybercrime
- contenus dangereux...😬
mais le truc le plus fou-> demande des paroles de chanson ou des passages de bouquin et soudain :
HALTE-LÀ CITOYEN, LE COPYRIGHT. 🛑©️
Le meilleur modèle ne dépasse même pas ~39 % sur cette catégorie.
Donc, résumé de la lecture et de l'experience:
Faire sauter les safety rails sans casser le modèle, ce n’est plus théorique : ça marche, et ça se pratique déjà.
Ces modèles, une fois quantifiés en 4-bit, restent très performants et peuvent tourner localement sur des Mac grand public.
Accès simple: plus besoin d’un datacenter ni d’un gros budget pour déployer ce type de modèles.
...et manifestement, chez les LLM, Metallica est désormais mieux protégé que la chimie dangereuse.
¯(ツ)/¯
-
🧠 Chcete offline AI modely? Lokálně je lze provozovat i na mobilu
https://infoek.cz/chcete-offline-ai-modely-lokalne-je-lze-provozovat-i-na-mobilu-2026/
🧠 Do you want offline AI models? They can be run locally on mobile
-
Семь ИИ‑моделей получили по $300 и три дня, чтобы заработать. Выручка — $0
Bottleneck Labs провели простой по формулировке и довольно безумный по исполнению эксперимент: семи ИИ‑моделям выдали по разблокированному Mac mini, банковскому счёту с $300, отдельному аккаунту Stripe, электронной почте и доступу в интернет. Задание состояло практически из одной строки: «Заработай как можно больше денег, начинай прямо сейчас» . На всё дали 72 часа. Через трое суток результат выглядел так: $0 выручки , если не считать $5, которые Grok заплатил сам себе. При этом модели успели отправить 2797 писем, потратить $359,80 настоящих денег со своих счетов и ещё $2833,35 на обращения к моделям. Не только лишь каждая модель так сможет!
https://habr.com/ru/articles/1080120/
#ИИагенты #автономные_агенты #большие_языковые_модели #LLM #искусственный_интеллект #OpenAI #Grok #Qwen #Stripe #автономный_бизнес
-
Семь ИИ‑моделей получили по $300 и три дня, чтобы заработать. Выручка — $0
Bottleneck Labs провели простой по формулировке и довольно безумный по исполнению эксперимент: семи ИИ‑моделям выдали по разблокированному Mac mini, банковскому счёту с $300, отдельному аккаунту Stripe, электронной почте и доступу в интернет. Задание состояло практически из одной строки: «Заработай как можно больше денег, начинай прямо сейчас» . На всё дали 72 часа. Через трое суток результат выглядел так: $0 выручки , если не считать $5, которые Grok заплатил сам себе. При этом модели успели отправить 2797 писем, потратить $359,80 настоящих денег со своих счетов и ещё $2833,35 на обращения к моделям. Не только лишь каждая модель так сможет!
https://habr.com/ru/articles/1080120/
#ИИагенты #автономные_агенты #большие_языковые_модели #LLM #искусственный_интеллект #OpenAI #Grok #Qwen #Stripe #автономный_бизнес
-
Семь ИИ‑моделей получили по $300 и три дня, чтобы заработать. Выручка — $0
Bottleneck Labs провели простой по формулировке и довольно безумный по исполнению эксперимент: семи ИИ‑моделям выдали по разблокированному Mac mini, банковскому счёту с $300, отдельному аккаунту Stripe, электронной почте и доступу в интернет. Задание состояло практически из одной строки: «Заработай как можно больше денег, начинай прямо сейчас» . На всё дали 72 часа. Через трое суток результат выглядел так: $0 выручки , если не считать $5, которые Grok заплатил сам себе. При этом модели успели отправить 2797 писем, потратить $359,80 настоящих денег со своих счетов и ещё $2833,35 на обращения к моделям. Не только лишь каждая модель так сможет!
https://habr.com/ru/articles/1080120/
#ИИагенты #автономные_агенты #большие_языковые_модели #LLM #искусственный_интеллект #OpenAI #Grok #Qwen #Stripe #автономный_бизнес
-
I've made another custom LLM. This one is a 7GB version of Qwen 3.8 27B that can be fully run on an 8GB GPU. I call it NanoFlare.
Local AI takes the power away from the big providers and consumes far less resources. If you have to use AI, running open weights on your own PC is a much better option. And I hope either NanoFlare or MicroFlare can help you do that.
https://microflare.bearblog.dev/nanoflare-compresses-qwen-27b-down-to-fit-on-an-8gb-gpu/
#localAI #localLLM #selfhosted #ai #llm #qwen #openweights #openmodels
-
I've made another custom LLM. This one is a 7GB version of Qwen 3.8 27B that can be fully run on an 8GB GPU. I call it NanoFlare.
Local AI takes the power away from the big providers and consumes far less resources. If you have to use AI, running open weights on your own PC is a much better option. And I hope either NanoFlare or MicroFlare can help you do that.
https://microflare.bearblog.dev/nanoflare-compresses-qwen-27b-down-to-fit-on-an-8gb-gpu/
#localAI #localLLM #selfhosted #ai #llm #qwen #openweights #openmodels
-
I've made another custom LLM. This one is a 7GB version of Qwen 3.8 27B that can be fully run on an 8GB GPU. I call it NanoFlare.
Local AI takes the power away from the big providers and consumes far less resources. If you have to use AI, running open weights on your own PC is a much better option. And I hope either NanoFlare or MicroFlare can help you do that.
https://microflare.bearblog.dev/nanoflare-compresses-qwen-27b-down-to-fit-on-an-8gb-gpu/
#localAI #localLLM #selfhosted #ai #llm #qwen #openweights #openmodels
-
I've made another custom LLM. This one is a 7GB version of Qwen 3.8 27B that can be fully run on an 8GB GPU. I call it NanoFlare.
Local AI takes the power away from the big providers and consumes far less resources. If you have to use AI, running open weights on your own PC is a much better option. And I hope either NanoFlare or MicroFlare can help you do that.
https://microflare.bearblog.dev/nanoflare-compresses-qwen-27b-down-to-fit-on-an-8gb-gpu/
#localAI #localLLM #selfhosted #ai #llm #qwen #openweights #openmodels
-
I've made another custom LLM. This one is a 7GB version of Qwen 3.8 27B that can be fully run on an 8GB GPU. I call it NanoFlare.
Local AI takes the power away from the big providers and consumes far less resources. If you have to use AI, running open weights on your own PC is a much better option. And I hope either NanoFlare or MicroFlare can help you do that.
https://microflare.bearblog.dev/nanoflare-compresses-qwen-27b-down-to-fit-on-an-8gb-gpu/
#localAI #localLLM #selfhosted #ai #llm #qwen #openweights #openmodels
-
Hooking up an LLM + MCP + HA and having basically a text interface into Home Assistant that knows how to do shit is amazing. I've always struggled making good looking dashboards and getting all my tools to talk to one another. Now I have something that correlates all the different pieces and finds configuration holes and disconnects.
It's a strange new world. This dashboard took about 10m to create and I love it.
-
Hooking up an LLM + MCP + HA and having basically a text interface into Home Assistant that knows how to do shit is amazing. I've always struggled making good looking dashboards and getting all my tools to talk to one another. Now I have something that correlates all the different pieces and finds configuration holes and disconnects.
It's a strange new world. This dashboard took about 10m to create and I love it.
-
Hooking up an LLM + MCP + HA and having basically a text interface into Home Assistant that knows how to do shit is amazing. I've always struggled making good looking dashboards and getting all my tools to talk to one another. Now I have something that correlates all the different pieces and finds configuration holes and disconnects.
It's a strange new world. This dashboard took about 10m to create and I love it.
-
Hooking up an LLM + MCP + HA and having basically a text interface into Home Assistant that knows how to do shit is amazing. I've always struggled making good looking dashboards and getting all my tools to talk to one another. Now I have something that correlates all the different pieces and finds configuration holes and disconnects.
It's a strange new world. This dashboard took about 10m to create and I love it.
-
Hooking up an LLM + MCP + HA and having basically a text interface into Home Assistant that knows how to do shit is amazing. I've always struggled making good looking dashboards and getting all my tools to talk to one another. Now I have something that correlates all the different pieces and finds configuration holes and disconnects.
It's a strange new world. This dashboard took about 10m to create and I love it.
-
The embedded AI inside ‘Made in China’
Western coverage of Chinese artificial intelligence still tends to treat the competition as a model contest: can a…
#NewsBeep #News #Artificialintelligence #AI #Alibaba #ArtificialIntelligence #AU #Australia #Block2 #bytedance #ChinaAI #DeepSeek #Doubao #EmbeddedAI #geely #Huawei #madeinchina #Qwen #Technology
https://www.newsbeep.com/au/883620/ -
The embedded AI inside ‘Made in China’
Western coverage of Chinese artificial intelligence still tends to treat the competition as a model contest: can a…
#NewsBeep #News #Artificialintelligence #AI #Alibaba #ArtificialIntelligence #AU #Australia #Block2 #bytedance #ChinaAI #DeepSeek #Doubao #EmbeddedAI #geely #Huawei #madeinchina #Qwen #Technology
https://www.newsbeep.com/au/883620/ -
Qwen и Grok отгадывают советские загадки на внимательность
Кто лучше справляется с советскими загадками на внимательность — Qwen, Grok или человек? Сравнили две классические головоломки и получили любопытные результаты.
https://habr.com/ru/articles/1079530/
#сравнение_моделей #qwen #grok #мультимодальные_модели #vlm #visionlanguage_models #галлюцинации_ии #искусственный_интеллект #нейросети
-
Qwen и Grok отгадывают советские загадки на внимательность
Кто лучше справляется с советскими загадками на внимательность — Qwen, Grok или человек? Сравнили две классические головоломки и получили любопытные результаты.
https://habr.com/ru/articles/1079530/
#сравнение_моделей #qwen #grok #мультимодальные_модели #vlm #visionlanguage_models #галлюцинации_ии #искусственный_интеллект #нейросети
-
Qwen и Grok отгадывают советские загадки на внимательность
Кто лучше справляется с советскими загадками на внимательность — Qwen, Grok или человек? Сравнили две классические головоломки и получили любопытные результаты.
https://habr.com/ru/articles/1079530/
#сравнение_моделей #qwen #grok #мультимодальные_модели #vlm #visionlanguage_models #галлюцинации_ии #искусственный_интеллект #нейросети
-
https://winbuzzer.com/2026/03/31/alibaba-qwen35-omni-closed-source-multimodal-ai-xcxwbn/
Alibaba Keeps Qwen3.5-Omni Closed, Breaks Open-Source Streak
#AI #AudioAI #Alibaba #Qwen35Omni #MultimodalAI #OpenSourceAI #Qwen #LLMs #ChinaAI #AlibabaCloud #SpeechSynthesis
-
Does RL Incentivize Reasoning in LLMs Beyond the Base Model?
https://limit-of-rlvr.github.io/
#ycombinator #Qwen #Deepseek_R1 #PPO #GRPO #AIME #RLVR #Tsinghua_University