Live and recent posts from across the Fediverse tagged #дипфейки, aggregated by home.social.
Новый мир наступает быстрее, чем мы успеваем испугаться
Уже ни для кого не секрет, что ИИ развивается быстрее, чем мы успеваем это осознать. Наверняка что-то из этой статьи вы уже слышали, но не судите сразу.
https://habr.com/ru/articles/1095856/
#будущее #автоматизация #искусственный_интеллект #искусство #профессии_будущего #дипфейки #вайбкодинг #риски_ии
MWS AI Vision Bench: что изменилось за год и зачем мы добавляем антифрод
Год назад мы выложили в открытый доступ MWS AI Vision Bench — бенчмарк для оценки мультимодальных моделей на русскоязычных документах. За это время мультимодальные модели существенно шагнули вперед, метрики в VQA начали упираться в потолок, а мы добавили в бенчмарк задачу, которой критически не хватало — Anti-fraud. По катом расскажу, как изменился бенчмарк и почему с антифродом все оказалось сложнее, чем мы думали…
https://habr.com/ru/companies/mts_ai/articles/1062176/
#opensource #ocr #документы #бенчмарк #vlm #antifraud #дипфейки #мультимодальные_модели #vqa #mws_ai
Отличи меня, если сможешь! Как дипфейки меняют современный наем в ИТ (и не только)
Вектором для кибератак все чаще становятся обычные собеседования. Злоумышленники используют дипфейки, чтобы выдавать себя за реальных кандидатов и рекрутеров, или распространяют зловреды под видом тестовых заданий — присылают «безобидный» код или пакет-зависимость, при запуске которого на устройство жертвы устанавливается вредонос. Сегодня мы в
https://habr.com/ru/companies/beeline_cloud/articles/1081756/
#beeline_cloud #информационная_безопасность #карьера_в_ит #дипфейки #социальная_инженерия
Собрать ребенка в школу и не отдать деньги мошенникам: гид по цифровой безопасности семьи
С середины июля по сентябрь семьи активно готовятся к учебному году: совершают крупные покупки, регистрируются на новых платформах, оформляют выплаты, покупают ребенку первый смартфон. В этот период мошенническое сообщение не привлекает внимания, так как воспринимается как очередная задача из общего потока. Просьба перевести деньги в чат класса не отличается от остальных похожих запросов за неделю. Поэтому рекомендация «будьте внимательны» не работает: у уставшего человека ограничен ресурс внимания. Эксперты Positive Technologies и «МТС» совместно изучили основные цифровые риски, с которыми семьи могут столкнуться в период подготовки к новому учебному году, и собрали практические рекомендации, которые помогут защитить аккаунты, устройства, телефонные номера и деньги детей и родителей.
https://habr.com/ru/companies/pt/articles/1076904/
#скам #мошенничество #школа #родители #родительские_чаты #мессенджеры #сотовая_связь #дипфейки #вымогательство #рекомендации_по_безопасности
ИИ против ИИ: кто победит в кибербезопасности
Привет! Меня зовут Денис, я руковожу группой мониторинга и анализа инцидентов информационной безопасности. Мы отслеживаем события в инфраструктуре, ищем подозрительную активность, расследуем инциденты, взаимодействуем с внешним SOC и помогаем сотрудникам разбираться с вопросами киберграмотности. За последние пару лет стало особенно заметно: атаки меняются быстрее, чем процессы защиты успевают адаптироваться. Они становятся дешевле, масштабнее и доступнее — во многом за счет ИИ. В этой статье разбираю, какие именно изменения привнес ИИ в атаки, почему классическая модель защиты начинает давать сбои и где ИИ в защите действительно приносит практическую пользу.
https://habr.com/ru/companies/naumen/articles/1029000/
#кибербезопасность #искусственный_интеллект #soc #дипфейки #уязвимости #siem #edr #поведенческий_анализ
Как звезды защищают свой образ от дипфейков с помощью товарных знаков
В последнее время особенно популярными стали дипфейки и цифровые аватары, которые используются, надо признать, не всегда для благородных целей. Законодатели во многих странах пытаются разрешить возникающие ситуации, например, даже путем ужесточения уголовного наказания. Однако, это не останавливает возможных нарушителей. Качественный уровень подделок растет, как и увеличивается количество преступлений подобного типа по всему миру.
https://habr.com/ru/companies/onlinepatent/articles/1009286/
#дипфейк #дипфейки #дипфейк_видео #товарный_знак #аватар #аватары_ии #аватарка #брендинг #брендинг_в_it
Искусственный интеллект как мультипликатор силы: хакеры внедряют нейросети на всех этапах кибератак
Компания Microsoft опубликовала масштабный отчет по киберугрозам, в котором констатировала фундаментальный сдвиг в тактике злоумышленников. Хакеры больше не рассматривают искусственный интеллект как экспериментальную технологию, а активно интегрируют его во все фазы своих операций — от первичной разведки и фишинга до разработки вредоносного программного обеспечения и закрепления в скомпрометированных системах. Эксперты охарактеризовали генеративные нейросети как «мультипликатор силы», который радикально снижает технические барьеры и позволяет даже низкоквалифицированным преступникам проводить атаки на недоступных ранее скоростях. Если раньше использование ИИ сводилось к написанию убедительных фишинговых писем, то теперь это непрерывный конвейер. Северокорейский хакер маскирует акцент нейросетью прямо во время онлайн-собеседования в западную корпорацию, а после успешного найма поручает языковой модели общаться с коллегами, переводить документацию и писать код, чтобы стабильно выполнять KPI, не вызывая подозрений службы безопасности.
https://habr.com/ru/articles/1008024/
#кибербезопасность #кибератаки #социальная_инженерия #вредоносное_ПО #фишинг #инсайдерские_угрозы #нейросети #дипфейки #хакеры #фиктивное_трудоустройство
Теневой ИИ, двойное вымогательство, дипфейки, фишинг-вишинг и не только: киберпрогнозы-2026
Привет, Хабр! На прошлой неделе мы рассказали о мировых трендах IT и ИБ, сложившихся в 2025 году . Это важные тенденции, которые буду влиять на нас и наше будущее в ближайшие месяцы и годы. Каким видится это будущее, исходя из тенденций – рассказываем в этой статье. Во всём будет виноват ИИ, конечно, но не только . Интересно
https://habr.com/ru/companies/pt/articles/992466/
#киберугрозы #теневой_рынок #искусственный_интеллект #кибератаки #2026_прогноз_технологии #дипфейки #дипвойс #вымогательство #вайбкодинг #фишинг
Тёмная сторона искусственного интеллекта: угрозы, реальные атаки и защита
Искусственный интеллект уже давно перестал быть исключительно инструментом добра. Он помогает врачам ставить диагнозы и разработчикам писать код . Но теми же самыми возможностями всё чаще пользуются злоумышленники. При этом барьер входа в кибератаки резко снизился: чтобы создать вредоносную кампанию, больше не нужно быть тёмным хакером со знанием всевозможных языков программирования. Достаточно пары нейросетевых сервисов и минимального понимания, как устроена социальная инженерия. В этом материале поговорим, как искусственный интеллект приносит пользу не только добрякам, но и злодеям. Разберём, как злоумышленники используют ИИ и какие мошеннические схемы применяют, обсудим практические способы противодействия кибератакам и порассуждаем о будущем. Поехали 🤖 Как ИИ работает на стороне тьмы →
https://habr.com/ru/companies/netologyru/articles/987026/
#мошенники #кибератаки #дипфейки #дипвойс #фишинг #ииассистент #промптинъекции #джейлбрейк #уязвимости #кибербезопасность
Тёмная сторона искусственного интеллекта: угрозы, реальные атаки и защита
Искусственный интеллект уже давно перестал быть исключительно инструментом добра. Он помогает врачам ставить диагнозы и разработчикам писать код . Но теми же самыми возможностями всё чаще пользуются злоумышленники. При этом барьер входа в кибератаки резко снизился: чтобы создать вредоносную кампанию, больше не нужно быть тёмным хакером со знанием всевозможных языков программирования. Достаточно пары нейросетевых сервисов и минимального понимания, как устроена социальная инженерия. В этом материале поговорим, как искусственный интеллект приносит пользу не только добрякам, но и злодеям. Разберём, как злоумышленники используют ИИ и какие мошеннические схемы применяют, обсудим практические способы противодействия кибератакам и порассуждаем о будущем. Поехали 🤖 Как ИИ работает на стороне тьмы →
https://habr.com/ru/companies/netologyru/articles/986726/
#мошенники #атаки #фишинг #дипфейки #дипвойс #AIассистенты #jailbreak #Promptinjection #уязвимости #кибербезопасность
Маскарад невидимок
Добрый день, уважаемые хаброжители !!! Случилось страшное… Нам надо серьезно поговорить и обсудить пару “скользких” моментиков ;)) Вернее так, говорить мы сегодня будем про “подмены” лица во всей красе или, как принято сейчас величать сие явление, дипфейки . Так вот, случилось нам давеча участвовать в хакатоне Kryptonite ML Challenge 2025 (Разработка модели распознавания, способная противостоять DeepFake атакам) от компании «Криптонит».
https://habr.com/ru/companies/fa/articles/945056/
#дипфейки #изображения #распознавание #искусственный_интеллект #хакатон #машинное+обучение
[Перевод] Не научилась писать код, но стала пентестером. Интервью с этичным хакером
Привет, Хабр! Мы с очередным рассказом из подкаста Darknet Diaries – историей Рейчел Тобак, специалиста в области социальной инженерии. Ее называют этичным хакером: она изучает, как действуют преступники и как ведет себя жертва во время атаки. Рейчел рассказала, как начиналась ее карьера в социальной инженерии, и поделилась историями нескольких пентестов.
https://habr.com/ru/companies/searchinform/articles/930554/
#информационная_безопасность #социальная_инженерия #дипфейки #пентест #этичный_хакинг
Каким будет фишинг в ближайшем будущем
Несмотря на регулярную борьбу с фишинговыми атаками, их количество продолжает расти, а сами атаки становятся все более сложными и изощренными. В этой статье мы проанализировали методы распространения фишинговых атак, рассмотрели, какие темы используют злоумышленники, какие инструменты для фишинга популярны на рынке киберпреступности. На основании тенденций 2024 года мы сделали прогнозы о том, какими будут фишинговые атаки в 2025 году, и дали основные рекомендации для защиты от них. Этой статьёй мы хотели бы обратить внимание компаний и обычных граждан, интересующихся современным состоянием информационной безопасности, на наиболее актуальные методы и мотивы кибератак, а также выявить основные тенденции в изменении ландшафта киберугроз. Читать
https://habr.com/ru/companies/pt/articles/914980/
#фишинг #фишинговые_рассылки #целевой_фишинг #хакерские_атаки #вредоносные_смс #qrкоды #дипфейки #кража_информации #даркнет #открытый_код
Читерство в законе. Как пройти собеседование и устроиться на работу в дивном новом мире
Требования к вакансии — во многом обман. Также как резюме от кандидатов, которые часто накручивают опыт . Собеседование похоже на театральное выступление, к которому готовятся отдельно . Будущего программиста учат не только работать, но ещё и проходить собесы, в том числе врать , использовать LLM для решения задач, чтобы хакнуть эту идиотскую систему найма … Появились менторы, которые помогают «вкатываться» в IT — они советуют, как эффективнее врать продавать себя, и публикуют статьи на Хабре. Почему так происходит? Возможно, программирование перестало быть романтической профессией, а стало прибыльным ремеслом. «Вкатыши» идут в профессию просто ради денег, сильно выросла конкуренция на всех позициях. Ситуация неприятная для тех, кто давно наблюдает за рынком.
https://habr.com/ru/companies/ruvds/articles/908884/
#ruvds_статьи #собеседования #собесы #интервью #читерство #обман #10х_программист #замена_лица #face_swap #DeepLiveCam #дипфейки #асинхронное_интервью #Phazr #LoopCV #Whisper_AI #Ecoute_AI #Kickresume #Zapier #Teal #ChatGPT #синдром_самозванца
Искусственный интеллект в киберзащите
В информационной безопасности технологии искусственного интеллекта пока проходят первые шаги внедрения и эксплуатации. Мы можем уверенно говорить о преимуществах внедрения ИИ в инструменты защиты: снижение нагрузки на специалистов, ускорение реагирования на инцидент за счет автоматизации рутинных процессов, поведенческий анализ пользователей и систем, обнаружение неизвестных ранее угроз. Сегодня ИИ выполняет роль второго пилота рядом со специалистом по кибербезопасности, дополняет и расширяет возможности классических решений для защиты. Когда технология сможет зарекомендовать себя как надежный и точный инструмент и будут решены существенные проблемы с данными, вычислительными мощностями, обучением и разработкой ИИ, мы увидим постепенный переход к полному ИИ-автопилоту для обеспечения киберзащиты. Про основные области применения ИИ в инфобезе читайте в этой статье. Читать
Обзор уязвимостей для LLM. Часть 1. Атака
Большие языковые модели где только не применяют: генерируют внешний вид автомобилей, домов и кораблей, саммаризируют круглые столы и конференции, придумывают тезисы к статьям, рассылкам и презентациям. Но при всех «плюшках» от внедрения ИИ, не стоит забывать про безопасность. Большие языковые модели атакуют разнообразными изощрёнными способами. В топе новостей о нейросетях — многомиллионные инвестиции в средства защиты от промпт-инъекций. Поэтому поговорим о том, какие угрозы существуют и почему инвесторы платят большие деньги за создание таких бизнесов. А во второй части статьи расскажу, как от них защищаться. Привет, Хабр! Меня зовут Евгений Кокуйкин и я — руководитель AI-продуктов в Raft. Запускаю лабораторию AI Security в AI Talent Hub/ИТМО.
https://habr.com/ru/companies/oleg-bunin/articles/870100/
#языковые_модели #промпты #промптинъекции #дипфейки #подмена_номера #bias #refusal_training #gpt4 #sota #атаки
Обновление FaceFusion v3.0.0 — ультимативной нейросети для дипфейков
Всем привет! В этой статье взглянем на FaceFusion версии 3.0.0 — мощный инструмент для замены лиц на изображениях и видео! Для использования понадобится всего лишь фотография в профиль. Также в статье расскажу, как не париться с установкой и запустить FaceFusion в один клик.
https://habr.com/ru/companies/timeweb/articles/851398/
#дипфейк #дипфейки #deepfake #нейросети #искусственный_интеллект #будущее_здесь #timeweb_статьи
Поиск по фото и раздетые дипфейки
Современные технологии стремительно развиваются, и то, что когда-то казалось футуристической фантастикой, стало реальностью. Одной из таких технологий является поиск по фото — инструмент, который кардинально изменил способ взаимодействия пользователей с изображениями в интернете. Сегодня это мощное средство позволяет людям находить похожие изображения, искать источники фотографий и даже проводить анализ лиц. Но вместе с прогрессом пришли и новые угрозы. Одной из наиболее серьёзных проблем, возникших с развитием поиска по фото, стало распространение дипфейков — фальшивых изображений, созданных с использованием искусственного интеллекта (ИИ). Одним из самых опасных аспектов этой технологии стало создание так называемых «раздетых дипфейков», на которых лица девушек подделываются и накладываются на обнажённые тела или компрометирующие сцены без их согласия. Это поднимает серьёзные вопросы о безопасности, конфиденциальности и этике использования поиска по фото.
В ногу с дипфейками: применение технологии и этические аспекты
Технология «deepfake» несёт в себе глубокие этические последствия, усиливая опасения по поводу дезинформации и манипуляций. Плавно смешивая сфабрикованный контент с реальностью, дипфейки подрывают доверие к СМИ и общественному дискурсу. А так как образы людей эксплуатируются без их согласия, это ставит под угрозу и личную безопасность. Проблемы с доверием усиливаются, поскольку отличить правду от лжи становится всё более сложной задачей. Смягчение этих этических затруднений требует упреждающих мер, включая надёжные системы обнаружения и нормативные рамки.
«Фоха — це дипфейк». У Telegram викрили сітку каналів, яка поширює ШІ-відео «українців» із фронту https://itc.ua/ua/novini/foha-tse-dypfejk-u-telegram-vykryly-sitku-kanaliv-yaka-poshyryuye-shi-video-ukrayintsiv-iz-frontu/ #Розслідування #Технології #дипфейки #Новини #WTF
Deep Live Cam — нейросеть для дипфейков в реальном времени
Всем привет! В этой статье познакомимся с Deep-Live-Cam - это инструмент для замены лиц в реальном времени и создания видеодипфейков с использованием всего одного изображения. Софт включает встроенную проверку на недопустимые материалы и поддерживает GPU ускорение для улучшенной производительности. Также расскажу, как не париться с установкой и запустить Deep Live Cam в один клик. Всё, что нам понадобится, чтобы завести Deep Live Cam - это веб-камера и видеокарта Nvidia или AMD с более чем 6-ью Гб видеопамяти. P. S. Если вы используете смартфон как веб-камеру то, к сожалению, программа просто не будет распознавать устройство. Возможно, в будущем это пофиксят, было бы очень удобно!
https://habr.com/ru/articles/823520/
#дипфейк #дипфейки #deepfake #web_camera #нейросети #искусственный_интеллект #будущее_здесь
Ваш путеводитель по дипфейкам: осведомлён — значит вооружён
Даже если вы не знаете, что такое дипфейки, вы наверняка с ними сталкивались. Хотя изменённые и поддельные медиа не являются чем-то новым, дипфейки выводят их на совершенно новый уровень, используя искусственный интеллект для создания изображений, видео и аудио, которые кажутся реальными, но на самом деле таковыми не являются. Дипфейки (DeepFake) — это синтетические медиа, в которых человек на существующем изображении, видео или записи заменяется чьим-либо подобием. Технология DeepFake представляет собой одно из самых интригующих и противоречивых достижений в сфере ИИ. Поскольку дипфейки становятся всё доступнее, а их качество растёт, они создают серьёзные проблемы и в то же время дают новые возможности развития в различных сферах жизни человека.
Криптобіржа з Гонконга створила дипфейк Ілона Маска і рекламувала його як свого головного розробника https://itc.ua/ua/novini/kryptobirzha-z-gonkonga-stvoryla-dypfejk-ilona-maska-i-reklamuvala-jogo-yak-svogo-golovnogo-rozrobnyka/ #онлайн-шахрайство #Кібершахрайство #Криптовалюти #Технології #дипфейки #Новини #Крипто
OpenAI створила дипфейк-детектор, який розпізнає згенеровані DALL-E 3 зображення з точністю 98% https://itc.ua/ua/novini/openai-stvoryla-dypfejk-detektor-yakyj-rozpiznaye-zgenerovani-dall-e-3-zobrazhennya-z-tochnistyu-98/ #Штучнийінтелект #Нейромережі #Технології #дипфейки #DALL-E3 #Новини #DALL-E #OpenAI #Софт
Известная певица призналась, что использует ИИ-клон для общения с фанатами
https://www.unian.net/techno/populyarnaya-pevica-priznalas-chto-ispolzuet-ii-klon-dlya-obshcheniya-s-fanatami-12623058.html
#unian #ииклон #дипфейки #чатбот2024 #искуственныйинтеллект2024
Штучний інтелект допоміг фізкерівнику скомпрометувати директора школи — той розслідував розтрату ним коштів https://itc.ua/ua/novini/shtuchnyj-intelekt-dopomig-fizkerivnyku-skomprometuvaty-dyrektora-shkoly-toj-rozsliduvav-roztratu-nym-koshtiv/ #Штучнийінтелект #Синтезголосу #VoiceEngine #ГолосовийШІ #Технології #дипфейки #Новини #WTF
Фотошоп знову всіх надурив: вірусне фото собаки, який злягається з роботом-далматинцем, виявилось фейком https://itc.ua/ua/novini/fotoshop-znovu-vsih-naduryv-virusne-foto-sobaky-yakyj-zlyagayetsya-z-robotom-dalmatyntsem-vyyavylos-fejkom/ #Технології #Photoshop #дипфейки #Новини #меми #WTF
Кореянка закохалася у фейкового Ілона Маска — він розповідав про гігафабрики і забрав в неї $50 тис. для «інвестицій» https://itc.ua/ua/novini/koreyanka-zakohalasya-u-fejkovogo-ilona-maska-vin-rozpovidav-pro-gigafabryky-i-zabrav-v-neyi-50-tys-dlya-investytsij/ #Технології #Мільярдери #Шахрайство #дипфейки #ІлонМаск #Новини #Tesla #WTF
Deepvoice = Deep Trouble. Новая схема атаки с помощью генерации голоса знакомых и коллег
В начале 2024 года в России появилась новая схема атак на людей — в ней злоумышленники вымогают деньги голосами родственников и друзей, а в корпоративных фродах — голосами руководителей. Генерация голоса уже замечена в схеме Fake Boss, схеме с поддельным фото банковской карты и схеме угона аккаунта в соцсетях. Больше всего случаев встречается в Телеграме — мошенники взламывают аккаунт, генерируют голос владельца аккаунта и рассылают по всем чатам короткое голосовое сообщение с просьбой выслать денег. Мы разобрали новую схему по шагам — на примерах рассказываем об атаке на людей, а в конце даем советы, как защитить аккаунты и противостоять новой схеме.
https://habr.com/ru/companies/StartX/articles/800299/
#дипфейки #аудио #голос #кража_денег #мессенджеры #бизнес #банки #ии #социальная_инженерия #фишинг
Где тут криминал? Чем опасны синтетические медиа и кто с ними борется
С развитием искусственного интеллекта появились и синтетические медиа. Это интернет-ресурсы или отдельные публикации, созданные с помощью AI-технологий. Опасность в том, что для производства таких материалов можно использовать дипфейки и генерировать ложный контент.
https://habr.com/ru/companies/teamly/articles/793100/
#блог_компании_teamly #искусственный_интеллект #дипфейки #медиакриминалистика
