#угрозы_безопасности — Public Fediverse posts

Обратная сторона ИИ: подводные камни передачи процессов нейросетям

Искусственный интеллект потихоньку делает жизнь проще, но он же становится источником рисков, особенно когда речь идет о нейросетях как о новом подрядчике. Когда компании их интегрируют, не всегда получается досконально продумать то, чем это может быть чревато. Сегодня я пытаюсь понять реальные риски внедрения нейросетей в рабочие процессы. Надеюсь на твои комментарии, наблюдения и страхи, Хабр! Читать

https://habr.com/ru/articles/949248/

#машинное+обучение #машинное_обучение #искусственный_интеллект #информационная_безопасность #нейросети #machine_learning #prompt_injection #угрозы_безопасности #интеграция_сервисов #бизнеспроцессы

Теория большого пентеста

Привет! Меня зовут Сергей Домнин, со мной моя коллега Анастасия Есина. Мы руководители направлений по информационной безопасности в SM Lab. В этой статье мы расскажем о таком методе оценки защищенности, как тестирование на проникновение, или пентест. Немного печальной статистики Начнем с определения понятия «уровень защищенности». Уровень защищенности – это состояние системы, компании, продукта, их способность противостоять угрозам и внешнему негативному воздействию. Высокий уровень защищенности позволяет оберегать данные клиентов, обеспечивать безопасность транзакций, а также поддерживать бесперебойную работу продуктов и систем.

https://habr.com/ru/companies/sportmaster_lab/articles/883654/

#пентест #кибербезопасность #информационная_безопасность #тестирование_на_проникновение #угрозы_безопасности #чёрный_ящик

БЕЗОПАСНОСТЬ ОБЛАЧНЫХ ВЫЧИСЛЕНИЙ

В последние годы наблюдается тренд на использование облачных вычислений, все чаще компании отдают предпочтение именно им при развитии своей информационной инфраструктуры. Стремительное увеличение сферы облачных услуг приводит и к росту числа атак на облачные ресурсы. По данным из открытых источников прогнозируется рост числа кибератак на облачные ресурсы до конца 2024 года на 30% относительно 2023 года. В связи с этим, вопросы информационной безопасности облачных вычислений остаются одними из самых острых при принятии бизнесом решений о переносе части инфраструктуры или хранении данных в облаках.

https://habr.com/ru/companies/ussc/articles/860484/

#информационная_безопасность #облачные_вычисления #облачные_ресурсы #облачные_услуги #iaas #paas #saas #угрозы_безопасности #сетевая_безопасность #управление_уязвимостями

Операция «пейджер» может стать катастрофой для гражданской авиации (мнение)

Несколько дней назад одна неназванная организация произвела дистанционный подрыв тысяч пейджеров "Хезболлы". Если оставить в стороне моральные аспекты этой операции, на мой взгляд, то, что произошло, может принести большие проблемы гражданской авиации по всему миру. Ливан, конечно, бедная страна, но это не КНДР, и люди туда и оттуда вполне себе летают. Работает аэропорт Бейрута, принимает десятки рейсов в день. То есть есть весьма ненулевые шансы, что на борту самолетов вылетающих из аэропорта Бейрута, были члены "Хезболлы". Далее, мы знаем, что пейджеры оставались необнаруженными в течении нескольких месяцев. Если никто из этих тысяч владельцев не путешествовал с пейджером/рацией за границей, то можно выдохнуть спокойно. Но, как пел классик, а что ... если нет. Тогда получается, что один или несколько человек прошли досмотр и были необнаружены. И они знают это! Есть известная гипотеза Театра Безопасности (https://ru.wikipedia.org/wiki/Театр_безопасности). Ее суть, в том, что принимаемые в области безопасности меры могут быть не настолько эффективными, как их оценивают обыватели. Однако, пока это остается в тайне -- это не является проблемой. Сам факт наличия мер безопасности может отпугнуть потенциальных злоумышленников, и дает успокоение миллионам авиапассажиров. Если аэропортные сканеры оказались неэффективны, в общем это было бы небольшой проблемой. Но сейчас об этом может узнать весь арабский мир. И вот это уже реальная проблема

https://habr.com/ru/articles/844454/

#авиация #безопасность_полетов #угрозы_безопасности

Сказки про ИБ в машинном обучении

Всем привет! На связи Ozon, и мы спешим вас поздравить с наступающим Новым Годом! С вами Дед Мороз Никита Губорев — специалист по информационной безопасности Ozon Tech. В настоящее время модели машинного обучения становятся все более популярными и широко применяются в различных сферах — от финансов до медицины, от маркетинга до транспорта. Однако с ростом популярности и использования этих моделей возникают новые угрозы и проблемы безопасности. Модели обучаются на больших объемах данных, исходя из которых они учатся принимать решения. Хакеры изучают и используют возможности моделей машинного обучения и манипулируют входными или обучаемыми данными, чтобы получить конфиденциальную информацию или влиять на результаты принимаемых решений. Сегодня мы рассмотрим, как злоумышленники атакуют модели машинного обучения, что они для этого делают и как от этого можно защищаться. А учитывая, что скоро Новый год, давайте я расскажу вам об этом новогоднюю сказочную историю... Мы окунемся в атмосферу подготовки к празднику, понаблюдаем за захватывающим приключением двух друзей, которые спасли Новый год, защищаясь от атак на системы машинного обучения, которые я аккуратно вписал в рассказ.

https://habr.com/ru/companies/ozontech/articles/783206/

#Сказка #ozon_tech #машинное_обучение #искуственный_интеллект #информационная_безопасность #mitre_atlas #угрозы_иб #угрозы_безопасности

People-Centric Security, или Человекоцентричная безопасность — забытая концепция или ключ к защите современных компаний?

В последние два года мы видим много новостей про утечки данных , в том числе из популярных сервисов: СДЭК, Яндекс.Еда, Delivery Club, Литрес и других. В результате таких утечек стали доступны более 660 миллионов записей персональных данных в России и до 15 миллиардов в мире. Кажется, что утечки сами по себе стали синонимом инцидента безопасности. Но почти никто не задает вопрос — а почему они происходят? Меня зовут Сергей Волдохин, я CEO в команде Start X, ранее руководил безопасностью в международной компании со штатом более 9 000 человек. В этой статье я расскажу о главных причинах утечек и других инцидентов, а также о том, как организовать процессы информационной безопасности в компании, чтобы снизить их вероятность.

https://habr.com/ru/companies/StartX/articles/780822/

#информационная_безопасность #уязвимости_и_их_эксплуатация #инциденты_безопасности #угрозы_безопасности #idm #iam #dlpсистемы #soc

People-Centric Security, или Человекоцентричная безопасность — забытая концепция или ключ к защите современных компаний?

В последние два года мы видим много новостей про утечки данных , в том числе из популярных сервисов: СДЭК, Яндекс.Еда, Delivery Club, Литрес и других. В результате таких утечек стали доступны более 660 миллионов записей персональных данных в России и до 15 миллиардов в мире. Кажется, что утечки сами по себе стали синонимом инцидента безопасности. Но почти никто не задает вопрос — а почему они происходят? Меня зовут Сергей Волдохин, я CEO в команде Start X, ранее руководил безопасностью в международной компании со штатом более 9 000 человек. В этой статье я расскажу о главных причинах утечек и других инцидентов, а также о том, как организовать процессы информационной безопасности в компании, чтобы снизить их вероятность.

https://habr.com/ru/companies/StartX/articles/780822/

#информационная_безопасность #уязвимости_и_их_эксплуатация #инциденты_безопасности #угрозы_безопасности #idm #iam #dlpсистемы #soc