#slopsquatting — Public Fediverse posts

Галлюцинация нейросети в коде обычно ломает сборку. С выдуманным пакетом иначе: его имя может занять вредонос

Я взял 139 имён пакетов, которые пять свежих ИИ-моделей выдумывают одинаково, и 22 сентября проверил каждое по живым PyPI и npm. Это реестры, откуда ставятся библиотеки для Python и JavaScript. Список ценен тем, что не привязан к одной нейросети: раз имя выдумывают все пять, под ударом пользователи любой из них. Список раскрыли 30 апреля 2026 года. Занято 7 имён из 139. Под одним из них, metro-evaluator , в декабре 2025 года лежал вредоносный код: npm снял его через пять дней и поставил заглушку. Это было ещё до раскрытия списка, и совпадение это или расчёт на выдуманное имя, по реестру не видно. Остальные шесть имён заняли четыре чужих настоящих проекта, владелец бренда своей заглушкой и пустой пакет в 53 байта, который появился уже после раскрытия. По совету нейросети pip install odf поставит чей-то другой инструмент вместо нужной библиотеки.

https://habr.com/ru/articles/1087738/

#сезон_Код_будущего #галлюцинация_нейросети #ии_для_программирования #нейросеть_для_программирования #slopsquatting #PyPI #npm #цепочка_поставок #безопасность_зависимостей #ИИагенты

Галлюцинация нейросети в коде обычно ломает сборку. С выдуманным пакетом иначе: его имя может занять вредонос

Я взял 139 имён пакетов, которые пять свежих ИИ-моделей выдумывают одинаково, и 22 сентября проверил каждое по живым PyPI и npm. Это реестры, откуда ставятся библиотеки для Python и JavaScript. Список ценен тем, что не привязан к одной нейросети: раз имя выдумывают все пять, под ударом пользователи любой из них. Список раскрыли 30 апреля 2026 года. Занято 7 имён из 139. Под одним из них, metro-evaluator , в декабре 2025 года лежал вредоносный код: npm снял его через пять дней и поставил заглушку. Это было ещё до раскрытия списка, и совпадение это или расчёт на выдуманное имя, по реестру не видно. Остальные шесть имён заняли четыре чужих настоящих проекта, владелец бренда своей заглушкой и пустой пакет в 53 байта, который появился уже после раскрытия. По совету нейросети pip install odf поставит чей-то другой инструмент вместо нужной библиотеки.

https://habr.com/ru/articles/1087738/

#сезон_Код_будущего #галлюцинация_нейросети #ии_для_программирования #нейросеть_для_программирования #slopsquatting #PyPI #npm #цепочка_поставок #безопасность_зависимостей #ИИагенты

Today's vocabulary lesson:

#Typosquatting (Human): Attacker registers a name that looks like a real package.

#Slopsquatting (Human): Attacker registers a name an AI invented, waits for AI agents to suggest installing it.

#Hallucination (AI): Enables slopsquatting by confidently naming packages that don't exist.

Stats for #vulnerabilities are staggering. #AStoryForAnotherTime

#Humans #vibecoding with only #AI (not earned knowledge) to #signoff as #productionready should fucking #terrify you.

Today's vocabulary lesson:

#Typosquatting (Human): Attacker registers a name that looks like a real package.

#Slopsquatting (Human): Attacker registers a name an AI invented, waits for AI agents to suggest installing it.

#Hallucination (AI): Enables slopsquatting by confidently naming packages that don't exist.

Stats for #vulnerabilities are staggering. #AStoryForAnotherTime

#Humans #vibecoding with only #AI (not earned knowledge) to #signoff as #productionready should fucking #terrify you.

[Перевод] Почему Java-разработчики слишком доверяют рекомендациям ИИ

Представьте: в пятницу вечером руководитель уверенно сообщает, что переход со Spring Boot 3.5 на 4.0 будет простым и его можно закончить за выходные. Скорее всего, вы уточните, на чём основана такая оценка, и напомните о несовместимых изменениях. Теперь заменим руководителя на GitHub Copilot или другую большую языковую модель (LLM). Она предлагает рефакторинг метода, новую зависимость или готовый шаблон реализации. Ответ выглядит аккуратно и звучит уверенно. Модель не предупреждает, что может ошибаться. Возникает вопрос: проверяем ли мы такой код столь же строго, как заявление руководителя, или сразу принимаем его? По данным отчёта Sonatype за 2026 год , 27,76% из 36 870 сгенерированных LLM рекомендаций по обновлению зависимостей ссылались на несуществующие версии этих зависимостей. Получается, одна из трёх-четырёх зависимостей — выдуманная. И проблема не ограничивается зависимостями: та же ложная уверенность может присутствовать в любой строке кода, созданной ИИ.

https://habr.com/ru/companies/axiomjdk/articles/1071236/

#Java #ИИ #LLM #Maven #GitHub_Copilot #Spring_Boot #CVE #SCA #slopsquatting

[Перевод] Почему Java-разработчики слишком доверяют рекомендациям ИИ

Представьте: в пятницу вечером руководитель уверенно сообщает, что переход со Spring Boot 3.5 на 4.0 будет простым и его можно закончить за выходные. Скорее всего, вы уточните, на чём основана такая оценка, и напомните о несовместимых изменениях. Теперь заменим руководителя на GitHub Copilot или другую большую языковую модель (LLM). Она предлагает рефакторинг метода, новую зависимость или готовый шаблон реализации. Ответ выглядит аккуратно и звучит уверенно. Модель не предупреждает, что может ошибаться. Возникает вопрос: проверяем ли мы такой код столь же строго, как заявление руководителя, или сразу принимаем его? По данным отчёта Sonatype за 2026 год , 27,76% из 36 870 сгенерированных LLM рекомендаций по обновлению зависимостей ссылались на несуществующие версии этих зависимостей. Получается, одна из трёх-четырёх зависимостей — выдуманная. И проблема не ограничивается зависимостями: та же ложная уверенность может присутствовать в любой строке кода, созданной ИИ.

https://habr.com/ru/companies/axiomjdk/articles/1071236/

#Java #ИИ #LLM #Maven #GitHub_Copilot #Spring_Boot #CVE #SCA #slopsquatting

Top AIs invent same fake #PyPl and #npm package names. Research reveals that #slopsquatting remains a threat to developers using #AI to aid coding (#vibecoding):

👇
https://www.infoworld.com/article/4200884/top-ais-invent-same-fake-pypl-and-npm-package-names.html

Top AIs invent same fake #PyPl and #npm package names. Research reveals that #slopsquatting remains a threat to developers using #AI to aid coding (#vibecoding):

👇
https://www.infoworld.com/article/4200884/top-ais-invent-same-fake-pypl-and-npm-package-names.html

Top AIs invent same fake #PyPl and #npm package names. Research reveals that #slopsquatting remains a threat to developers using #AI to aid coding (#vibecoding):

👇
https://www.infoworld.com/article/4200884/top-ais-invent-same-fake-pypl-and-npm-package-names.html

Top AIs invent same fake #PyPl and #npm package names. Research reveals that #slopsquatting remains a threat to developers using #AI to aid coding (#vibecoding):

👇
https://www.infoworld.com/article/4200884/top-ais-invent-same-fake-pypl-and-npm-package-names.html

VentureBeat: Forget typosquatting; slopsquatting is the software supply chain threat created by AI coding tools. “Slopsquatting is a new type of supply chain attack that uses large language model (LLM) hallucinations to inject malicious code into development workflows. The term combines ‘AI slop’ and ‘typosquatting,’ a deceptive practice where attackers register misspelled or lookalike versions […]

VentureBeat: Forget typosquatting; slopsquatting is the software supply chain threat created by AI coding tools. “Slopsquatting is a new type of supply chain attack that uses large language model (LLM) hallucinations to inject malicious code into development workflows. The term combines ‘AI slop’ and ‘typosquatting,’ a deceptive practice where attackers register misspelled or lookalike versions […]

VentureBeat: Forget typosquatting; slopsquatting is the software supply chain threat created by AI coding tools. “Slopsquatting is a new type of supply chain attack that uses large language model (LLM) hallucinations to inject malicious code into development workflows. The term combines ‘AI slop’ and ‘typosquatting,’ a deceptive practice where attackers register misspelled or lookalike versions […]

VentureBeat: Forget typosquatting; slopsquatting is the software supply chain threat created by AI coding tools. “Slopsquatting is a new type of supply chain attack that uses large language model (LLM) hallucinations to inject malicious code into development workflows. The term combines ‘AI slop’ and ‘typosquatting,’ a deceptive practice where attackers register misspelled or lookalike versions […]

Vibe-coding и зависимости: как не дать Claude и Cursor затащить дырявый пакет

На прошлой неделе я попросил Claude Code добавить рендеринг markdown в проект. Через секунду в зависимостях появился flutter_markdown — нормальный пакет от flutter.dev, паблишер проверенный. Я нажал accept. А потом случайно открыл его карточку, а там прямо в шапке: «This project has been discontinued, and will not receive further updates.» Пакет уже больше года как мёртв. Другой пример: Cursor добавляет minio/minio:latest в docker-compose для S3-совместимого хранилища. Только репозиторий архивирован 25 апреля 2026 года, и MinIO Inc. толкает всех в коммерческий AIStor. В статье разбираю: — что такое slopsquatting и почему эта атака работает только из-за ИИ-агентов; — что показала USENIX Security 2025 на 576 000 примерах кода (спойлер: 19,7% рекомендованных LLM пакетов вообще не существуют); — что реально творилось с npm и PyPI в 2024–2025 — от ultralytics до Shai-Hulud-червя и атаки на chalk с 2 млрд weekly downloads; — готовый skill для Claude Code, который заставит агента проверять пакет до установки.

https://habr.com/ru/articles/1051000/

#slopsquatting #supply_chain #Claude_Code #Cursor #vibe_coding #npm #pypi #безопасность_зависимостей

Vibe-coding и зависимости: как не дать Claude и Cursor затащить дырявый пакет

На прошлой неделе я попросил Claude Code добавить рендеринг markdown в проект. Через секунду в зависимостях появился flutter_markdown — нормальный пакет от flutter.dev, паблишер проверенный. Я нажал accept. А потом случайно открыл его карточку, а там прямо в шапке: «This project has been discontinued, and will not receive further updates.» Пакет уже больше года как мёртв. Другой пример: Cursor добавляет minio/minio:latest в docker-compose для S3-совместимого хранилища. Только репозиторий архивирован 25 апреля 2026 года, и MinIO Inc. толкает всех в коммерческий AIStor. В статье разбираю: — что такое slopsquatting и почему эта атака работает только из-за ИИ-агентов; — что показала USENIX Security 2025 на 576 000 примерах кода (спойлер: 19,7% рекомендованных LLM пакетов вообще не существуют); — что реально творилось с npm и PyPI в 2024–2025 — от ultralytics до Shai-Hulud-червя и атаки на chalk с 2 млрд weekly downloads; — готовый skill для Claude Code, который заставит агента проверять пакет до установки.

https://habr.com/ru/articles/1051000/

#slopsquatting #supply_chain #Claude_Code #Cursor #vibe_coding #npm #pypi #безопасность_зависимостей

AI-ассистент пишет код: 8 антипаттернов, из-за которых он падает в проде

AI-ассистент пишет код быстрее — и ломает прод чаще. Звучит как парадокс, но цифры 2026 года это подтверждают: pull request'ов на разработчика стало на 20% больше, а инцидентов на каждый PR — на 23,5%. Самое неприятное, что эти баги почти не видны на ревью: код чистый, тесты зелёные, апрув за пять минут — а через неделю алерт. Разобираем восемь антипаттернов, которые ловят даже сеньоров: от галлюцинированных зависимостей и slopsquatting до context rot и архитектуры, которая по кускам деградирует в God Service. На каждый — симптом, причина, последствия и конкретное исправление. Плюс готовый чек-лист ревьюера AI-кода, который можно забрать и повесить рядом с шаблоном PR.

https://habr.com/ru/companies/otus/articles/1047046/

#AIассистент #антипаттерны #code_review #качество_кода #безопасность_цепочки_поставок #разработка_с_ai #slopsquatting

AI-ассистент пишет код: 8 антипаттернов, из-за которых он падает в проде

AI-ассистент пишет код быстрее — и ломает прод чаще. Звучит как парадокс, но цифры 2026 года это подтверждают: pull request'ов на разработчика стало на 20% больше, а инцидентов на каждый PR — на 23,5%. Самое неприятное, что эти баги почти не видны на ревью: код чистый, тесты зелёные, апрув за пять минут — а через неделю алерт. Разобираем восемь антипаттернов, которые ловят даже сеньоров: от галлюцинированных зависимостей и slopsquatting до context rot и архитектуры, которая по кускам деградирует в God Service. На каждый — симптом, причина, последствия и конкретное исправление. Плюс готовый чек-лист ревьюера AI-кода, который можно забрать и повесить рядом с шаблоном PR.

https://habr.com/ru/companies/otus/articles/1047046/

#AIассистент #антипаттерны #code_review #качество_кода #безопасность_цепочки_поставок #разработка_с_ai #slopsquatting

#AI #code often includes references to non-existent dependencies. These references are commonly called “#hallucinations”. A new type of #attack has arisen that involves an attacker registering a package whose name is frequently hallucinated. When AI code containing this #hallucination is accepted, and this dependency is installed, the attacker can ship #malicious code into the project’s build, introducing a major #security vulnerability. This type of attack has become known as “#slopsquatting”.

#AI #code often includes references to non-existent dependencies. These references are commonly called “#hallucinations”. A new type of #attack has arisen that involves an attacker registering a package whose name is frequently hallucinated. When AI code containing this #hallucination is accepted, and this dependency is installed, the attacker can ship #malicious code into the project’s build, introducing a major #security vulnerability. This type of attack has become known as “#slopsquatting”.

#AI #code often includes references to non-existent dependencies. These references are commonly called “#hallucinations”. A new type of #attack has arisen that involves an attacker registering a package whose name is frequently hallucinated. When AI code containing this #hallucination is accepted, and this dependency is installed, the attacker can ship #malicious code into the project’s build, introducing a major #security vulnerability. This type of attack has become known as “#slopsquatting”.

#AI #code often includes references to non-existent dependencies. These references are commonly called “#hallucinations”. A new type of #attack has arisen that involves an attacker registering a package whose name is frequently hallucinated. When AI code containing this #hallucination is accepted, and this dependency is installed, the attacker can ship #malicious code into the project’s build, introducing a major #security vulnerability. This type of attack has become known as “#slopsquatting”.

Фантазии LLM воплощаются в реальности — фальшивые опенсорсные библиотеки

LLM придумывает названия несуществующих библиотек и предлагает разработчикам-вайбкодерам пользоваться ими. Если есть спрос — возникнет и предложение. Вскоре эти библиотеки действительно появляются в реальности , но уже с вредоносным кодом.

https://habr.com/ru/companies/globalsign/articles/946872/

#llm #галлюцинации #slopsquatting #генерация_кода #фальшивки

Фантазии LLM воплощаются в реальности — фальшивые опенсорсные библиотеки

LLM придумывает названия несуществующих библиотек и предлагает разработчикам-вайбкодерам пользоваться ими. Если есть спрос — возникнет и предложение. Вскоре эти библиотеки действительно появляются в реальности , но уже с вредоносным кодом.

https://habr.com/ru/companies/globalsign/articles/946872/

#llm #галлюцинации #slopsquatting #генерация_кода #фальшивки

**Check this out: techno feudalism, chatons, slopsquatting and more (9. 8. 2025)**

• The future is not self-hosted: https://www.drewlyton.com/story/the-future-is-not-self-hosted

(Self-sustainable organic farms (and self-hosted IT stuff) are a nice idea, but they are difficult to maintain in ‘island mode’. Are community owned shared data servers a solution?)

• Chatons: https://www.chatons.org/en/presentation

(Examples of community data servers in France)

• Your first FOSS contribution: https://collaboraonline.github.io/post/easyhacks/

(If you’re masochistic enough to join FOSS development and don’t know where to start, well, you can do it here. A list of open issues that are ‘easy’ solvable.)

• Slopsquatting: https://en.wikipedia.org/wiki/Slopsquatting

(If you’re using LLM for code generation and then you install a non-existing library (that is hosted by the attacker), well, it’s your own fault.)

• Home Assistant and 433Mhz devices: https://www.wswapps.com/books/home-assistant/page/433-mhz-devices

(You want to see what are your neighbours’ devices, like garage opener, up to? )

• Nice fonts – 7 and 14-segment display: https://www.keshikan.net/fonts-e.html

(You never know when you need retro-style display fonts)

• Replace your Windows 10 with Linux, https://endof10.org/

(Windows 10 support is running out soon. Don’t buy a new computer, shoot yourself in the foot with a Linux! You will limp, but you’ll be free from mass-scale espionage.)

• How to detect AI writing: https://en.wikipedia.org/wiki/Wikipedia:Signs_of_AI_writing

(Forget AI detector tools, hoomanz are also able to detect AI slop. Actually, the signs of slop are pretty straight forward. AI sounds like you listened to a hyped ultra positive grifter salesman/politician)

https://blog.rozman.info/check-this-out-techno-feudalism-chatons-slopsquatting-and-more-9-8-2025/

#endof10 #fonts #FOSS #homeassistant #LLM #slopsquatting

#Slopsquatting: nabbing nonexistent names AI chatbots likely to hallucinate - https://boingboing.net/2025/08/06/slopsquatting-nabbing-nonexistent-names-ai-chatbots-likely-to-hallucinate.html

#Slopsquatting: nabbing nonexistent names AI chatbots likely to hallucinate - https://boingboing.net/2025/08/06/slopsquatting-nabbing-nonexistent-names-ai-chatbots-likely-to-hallucinate.html

#Slopsquatting: nabbing nonexistent names AI chatbots likely to hallucinate - https://boingboing.net/2025/08/06/slopsquatting-nabbing-nonexistent-names-ai-chatbots-likely-to-hallucinate.html

#Slopsquatting: nabbing nonexistent names AI chatbots likely to hallucinate - https://boingboing.net/2025/08/06/slopsquatting-nabbing-nonexistent-names-ai-chatbots-likely-to-hallucinate.html

"#Slopsquatting is a type of #cybersquatting. It is the practice of registering a non-existent software package name that a large language model (#LLM) may hallucinate in its output, whereby someone unknowingly may copy-paste and install the #software package without realizing it is #fake."

https://en.wikipedia.org/wiki/Slopsquatting

"#Slopsquatting is a type of #cybersquatting. It is the practice of registering a non-existent software package name that a large language model (#LLM) may hallucinate in its output, whereby someone unknowingly may copy-paste and install the #software package without realizing it is #fake."

https://en.wikipedia.org/wiki/Slopsquatting

"#Slopsquatting is a type of #cybersquatting. It is the practice of registering a non-existent software package name that a large language model (#LLM) may hallucinate in its output, whereby someone unknowingly may copy-paste and install the #software package without realizing it is #fake."

https://en.wikipedia.org/wiki/Slopsquatting

"#Slopsquatting is a type of #cybersquatting. It is the practice of registering a non-existent software package name that a large language model (#LLM) may hallucinate in its output, whereby someone unknowingly may copy-paste and install the #software package without realizing it is #fake."

https://en.wikipedia.org/wiki/Slopsquatting

Ok, ich lass mich mal zu einer #Prophezeiung hinreißen.

#Slopsquatting ist ja ein alter Hut.

Aber was haltet ihr von #Slopswatting? Also das gezielte Platzieren von Falschinfos im Internet, sodass AI-aided Policing-Systeme kunkludieren, dass eine bestimmte Person ein ganz gefährlicher Gefährder ist, den man mal hochnehmen sollte?

Ok, ich lass mich mal zu einer #Prophezeiung hinreißen.

#Slopsquatting ist ja ein alter Hut.

Aber was haltet ihr von #Slopswatting? Also das gezielte Platzieren von Falschinfos im Internet, sodass AI-aided Policing-Systeme kunkludieren, dass eine bestimmte Person ein ganz gefährlicher Gefährder ist, den man mal hochnehmen sollte?

#LLM can't stop making up software dependencies and sabotaging everything
Hallucinated package names fuel '#slopsquatting'
As #AI #coding assistants invent nonexistent software libraries to download and use, enterprising attackers create and upload libraries with those names—laced with #malware, of course.
https://www.theregister.com/2025/04/12/ai_code_suggestions_sabotage_supply_chain/

#LLM can't stop making up software dependencies and sabotaging everything
Hallucinated package names fuel '#slopsquatting'
As #AI #coding assistants invent nonexistent software libraries to download and use, enterprising attackers create and upload libraries with those names—laced with #malware, of course.
https://www.theregister.com/2025/04/12/ai_code_suggestions_sabotage_supply_chain/

#LLM can't stop making up software dependencies and sabotaging everything
Hallucinated package names fuel '#slopsquatting'
As #AI #coding assistants invent nonexistent software libraries to download and use, enterprising attackers create and upload libraries with those names—laced with #malware, of course.
https://www.theregister.com/2025/04/12/ai_code_suggestions_sabotage_supply_chain/

#LLM can't stop making up software dependencies and sabotaging everything
Hallucinated package names fuel '#slopsquatting'
As #AI #coding assistants invent nonexistent software libraries to download and use, enterprising attackers create and upload libraries with those names—laced with #malware, of course.
https://www.theregister.com/2025/04/12/ai_code_suggestions_sabotage_supply_chain/

📢 AI coding tools are creating silent vulnerabilities through "slopsquatting"—where attackers register package names hallucinated by AI.
This attack vector “exploits vibecoding" (using AI without review) and specifically targets less technical developers. 

#AISecurityRisks #Slopsquatting #VibeCoding #SecureCoding #CyberSecurity

https://www.lotharschulz.info/2025/05/12/the-hidden-poison-in-ai-generated-code-how-vibecoding-enables-slopsquatting-attacks/

📢 AI coding tools are creating silent vulnerabilities through "slopsquatting"—where attackers register package names hallucinated by AI.
This attack vector “exploits vibecoding" (using AI without review) and specifically targets less technical developers. 

#AISecurityRisks #Slopsquatting #VibeCoding #SecureCoding #CyberSecurity

https://www.lotharschulz.info/2025/05/12/the-hidden-poison-in-ai-generated-code-how-vibecoding-enables-slopsquatting-attacks/

📢 AI coding tools are creating silent vulnerabilities through "slopsquatting"—where attackers register package names hallucinated by AI.
This attack vector “exploits vibecoding" (using AI without review) and specifically targets less technical developers. 

#AISecurityRisks #Slopsquatting #VibeCoding #SecureCoding #CyberSecurity

https://www.lotharschulz.info/2025/05/12/the-hidden-poison-in-ai-generated-code-how-vibecoding-enables-slopsquatting-attacks/

📢 AI coding tools are creating silent vulnerabilities through "slopsquatting"—where attackers register package names hallucinated by AI.
This attack vector “exploits vibecoding" (using AI without review) and specifically targets less technical developers. 

#AISecurityRisks #Slopsquatting #VibeCoding #SecureCoding #CyberSecurity

https://www.lotharschulz.info/2025/05/12/the-hidden-poison-in-ai-generated-code-how-vibecoding-enables-slopsquatting-attacks/

Curious about the buzzwords shaping the future of AI?

From vibe coding to ‘slopsquatting’, we're breaking down what these mean and their impact on tech and cybersecurity. Check out the latest @sharedsecurity episode for insights!

Watch on YouTube:
https://youtu.be/vi7a9ciHPjg

Listen and subscribe to the podcast!
https://sharedsecurity.net/subscribe

https://sharedsecurity.net/2025/05/05/what-vibe-coding-mcp-and-slopsquatting-reveal-about-the-future-of-ai-development/

#cybersecurity #ai #podcast #vibecoding #slopsquatting #mcp

Curious about the buzzwords shaping the future of AI?

From vibe coding to ‘slopsquatting’, we're breaking down what these mean and their impact on tech and cybersecurity. Check out the latest @sharedsecurity episode for insights!

Watch on YouTube:
https://youtu.be/vi7a9ciHPjg

Listen and subscribe to the podcast!
https://sharedsecurity.net/subscribe

https://sharedsecurity.net/2025/05/05/what-vibe-coding-mcp-and-slopsquatting-reveal-about-the-future-of-ai-development/

#cybersecurity #ai #podcast #vibecoding #slopsquatting #mcp

Curious about the buzzwords shaping the future of AI?

From vibe coding to ‘slopsquatting’, we're breaking down what these mean and their impact on tech and cybersecurity. Check out the latest @sharedsecurity episode for insights!

Watch on YouTube:
https://youtu.be/vi7a9ciHPjg

Listen and subscribe to the podcast!
https://sharedsecurity.net/subscribe

https://sharedsecurity.net/2025/05/05/what-vibe-coding-mcp-and-slopsquatting-reveal-about-the-future-of-ai-development/

#cybersecurity #ai #podcast #vibecoding #slopsquatting #mcp

Curious about the buzzwords shaping the future of AI?

From vibe coding to ‘slopsquatting’, we're breaking down what these mean and their impact on tech and cybersecurity. Check out the latest @sharedsecurity episode for insights!

Watch on YouTube:
https://youtu.be/vi7a9ciHPjg

Listen and subscribe to the podcast!
https://sharedsecurity.net/subscribe

https://sharedsecurity.net/2025/05/05/what-vibe-coding-mcp-and-slopsquatting-reveal-about-the-future-of-ai-development/

#cybersecurity #ai #podcast #vibecoding #slopsquatting #mcp

Researchers have uncovered a new supply chain attack called #Slopsquatting where threat actors exploit hallucinated, non-existent package names generated by #AI coding tools like #GPT4 and #CodeLlama

These believable yet fake packages (amounting to 19.7% or 205,000 packages), recommended in test samples were found to be fakes., can be registered by attackers to distribute malicious code.

Open-source models -- like #DeepSeek and #WizardCoder -- hallucinated more frequently, at 21.7% on average, compared to the commercial ones (5.2%) like GPT 4.

We Have a Package for You! A Comprehensive Analysis of Package Hallucinations
by Code Generating LLMs (PDF) https://arxiv.org/pdf/2406.10279

Researchers have uncovered a new supply chain attack called #Slopsquatting where threat actors exploit hallucinated, non-existent package names generated by #AI coding tools like #GPT4 and #CodeLlama

These believable yet fake packages (amounting to 19.7% or 205,000 packages), recommended in test samples were found to be fakes., can be registered by attackers to distribute malicious code.

Open-source models -- like #DeepSeek and #WizardCoder -- hallucinated more frequently, at 21.7% on average, compared to the commercial ones (5.2%) like GPT 4.

We Have a Package for You! A Comprehensive Analysis of Package Hallucinations
by Code Generating LLMs (PDF) https://arxiv.org/pdf/2406.10279

Researchers have uncovered a new supply chain attack called #Slopsquatting where threat actors exploit hallucinated, non-existent package names generated by #AI coding tools like #GPT4 and #CodeLlama

These believable yet fake packages (amounting to 19.7% or 205,000 packages), recommended in test samples were found to be fakes., can be registered by attackers to distribute malicious code.

Open-source models -- like #DeepSeek and #WizardCoder -- hallucinated more frequently, at 21.7% on average, compared to the commercial ones (5.2%) like GPT 4.

We Have a Package for You! A Comprehensive Analysis of Package Hallucinations
by Code Generating LLMs (PDF) https://arxiv.org/pdf/2406.10279

Researchers have uncovered a new supply chain attack called #Slopsquatting where threat actors exploit hallucinated, non-existent package names generated by #AI coding tools like #GPT4 and #CodeLlama

These believable yet fake packages (amounting to 19.7% or 205,000 packages), recommended in test samples were found to be fakes., can be registered by attackers to distribute malicious code.

Open-source models -- like #DeepSeek and #WizardCoder -- hallucinated more frequently, at 21.7% on average, compared to the commercial ones (5.2%) like GPT 4.

We Have a Package for You! A Comprehensive Analysis of Package Hallucinations
by Code Generating LLMs (PDF) https://arxiv.org/pdf/2406.10279

[Перевод] Когда ИИ становится троянским конем: 43% «галлюцинированных» имен пакетов регулярно повторяются в сгенерированном коде

AI-помощники регулярно "галлюцинируют" несуществующие пакеты, а злоумышленники используют эти имена для размещения вредоносного кода в репозиториях. Исследования показывают, что 5.2% рекомендаций пакетов от коммерческих моделей не существуют, а для open-source моделей этот показатель достигает 21.7%. Эта техника, названная "слопсквоттингом" (slopsquatting), особенно опасна в эпоху "vibe coding", когда разработчики безоговорочно доверяют рекомендациям AI.

https://habr.com/ru/articles/901198/

#искусственный_интеллект #кибербезопасность #slopsquatting #разработка #галлюцинации_ии #npm #pypi #vibecoding

[Перевод] Когда ИИ становится троянским конем: 43% «галлюцинированных» имен пакетов регулярно повторяются в сгенерированном коде

AI-помощники регулярно "галлюцинируют" несуществующие пакеты, а злоумышленники используют эти имена для размещения вредоносного кода в репозиториях. Исследования показывают, что 5.2% рекомендаций пакетов от коммерческих моделей не существуют, а для open-source моделей этот показатель достигает 21.7%. Эта техника, названная "слопсквоттингом" (slopsquatting), особенно опасна в эпоху "vibe coding", когда разработчики безоговорочно доверяют рекомендациям AI.

https://habr.com/ru/articles/901198/

#искусственный_интеллект #кибербезопасность #slopsquatting #разработка #галлюцинации_ии #npm #pypi #vibecoding

“Users of LLM generated code, packages, and information should be double-checking LLM outputs against reality before putting any of that information into operation, otherwise there can be real-world consequences.”

https://www.theregister.com/2025/04/12/ai_code_suggestions_sabotage_supply_chain/
h/t @macmanx #slopsquatting #TheMoreYouKnow

“Users of LLM generated code, packages, and information should be double-checking LLM outputs against reality before putting any of that information into operation, otherwise there can be real-world consequences.”

https://www.theregister.com/2025/04/12/ai_code_suggestions_sabotage_supply_chain/
h/t @macmanx #slopsquatting #TheMoreYouKnow

“Users of LLM generated code, packages, and information should be double-checking LLM outputs against reality before putting any of that information into operation, otherwise there can be real-world consequences.”

https://www.theregister.com/2025/04/12/ai_code_suggestions_sabotage_supply_chain/
h/t @macmanx #slopsquatting #TheMoreYouKnow

“Users of LLM generated code, packages, and information should be double-checking LLM outputs against reality before putting any of that information into operation, otherwise there can be real-world consequences.”

https://www.theregister.com/2025/04/12/ai_code_suggestions_sabotage_supply_chain/
h/t @macmanx #slopsquatting #TheMoreYouKnow

New “Slopsquatting” Threat Emerges from AI-Generated Code Hallucinations – Source:hackread.com https://ciso2ciso.com/new-slopsquatting-threat-emerges-from-ai-generated-code-hallucinations-sourcehackread-com/ #1CyberSecurityNewsPost #artificialintelligence #CyberSecurityNews #cybersecurity #Hallucination #Slopsquatting #Typosquatting #Hackread #security #LLM #AI

New “Slopsquatting” Threat Emerges from AI-Generated Code Hallucinations – Source:hackread.com https://ciso2ciso.com/new-slopsquatting-threat-emerges-from-ai-generated-code-hallucinations-sourcehackread-com/ #1CyberSecurityNewsPost #artificialintelligence #CyberSecurityNews #cybersecurity #Hallucination #Slopsquatting #Typosquatting #Hackread #security #LLM #AI

New “Slopsquatting” Threat Emerges from AI-Generated Code Hallucinations – Source:hackread.com https://ciso2ciso.com/new-slopsquatting-threat-emerges-from-ai-generated-code-hallucinations-sourcehackread-com/ #1CyberSecurityNewsPost #artificialintelligence #CyberSecurityNews #cybersecurity #Hallucination #Slopsquatting #Typosquatting #Hackread #security #LLM #AI