#риски_ai — Public Fediverse posts

AI на фронтире кибервойны. Как LLM меняют ИБ-ландшафт

Искусственный интеллект в информационной безопасности — такая обширная тема, что можно легко заблудиться в дебрях спекулятивных прогнозов. Понятие ИИ охватывает все — от рекомендательных алгоритмов, подсовывающих видео с котиками, до роботов, которые хотят убить всех человеков. Чтобы не написать вместо статьи сценарий низкобюджетного sci-fi, стоит сузить фокус. Представим, что мир ИИ застыл. Никаких революций, никаких сверхразумных AGI на горизонте. Сосредоточимся на анализе больших языковых моделей (LLM) и их влиянии на информационную безопасность. Конечно, выпуск новой мощной модели может разнести вдребезги все эти выкладки, но примем этот риск. Ведь с чего-то надо начинать. В этой статье я рассмотрю, какие новые возможности открываются перед атакующими и защитниками, и что за вызовы стоят перед отраслью. Под катом вас ждет увлекательное путешествие на ИБ-фронтир. Поехали!

https://habr.com/ru/companies/bastion/articles/856180/

#ai_в_кибербезопасности #нейросети_в_ИБ #LLM_в_руках_хакеров #ии_как_инструмент_хакера #киберугрозы_ИИ #ИИ_в_руках_мошенников #LLM_в_социальной_инженерии #LLM_в_кибербезе #потенциал_ИИ #риски_AI