#несанкционированный_доступ — Public Fediverse posts

[Перевод] Проблема несанкционированного вызова инструментов

Вызов инструментов в LLM сегодня воспринимается как решённая задача: модели научились стабильно работать с функциями, а API – ограничивать доступ. Но на практике остаётся неприятный класс сбоев, который не выглядит как баг, пока не становится инцидентом. В определённых условиях модель может «придумать» инструмент и успешно его вызвать – если он существует в окружении. В статье разберемся, почему это происходит, как это связано с архитектурой агентных систем и к каким последствиям приводит в реальных сценариях работы с данными и доступами. Разобраться в рисках

https://habr.com/ru/companies/otus/articles/1019342/

#llm #вызов_инструментов_LLM #безопасность_LLMсистем #несанкционированный_доступ #промптинъекции #агентные_системы #архитектура_AI

Диплом специалиста ИБ. Часть №5 — Несанкционированный доступ к IoT-устройствам с BLE

Привет, Хабр! Представьте, что вы написали собственную методику обеспечения безопасности устройств IoT и защитили собранное вами устройство в соответствии с ней. Не захочется ли попробовать проверить его защищенность самостоятельно? Эта статья является пятой и заключительной в цикле “Диплом специалиста ИБ”, в рамках которого я рассказываю про свой опыт написания выпускной квалификационной работы на программе высшего образования “Компьютерная безопасность”. В предыдущей статье я рассказывал про написание мобильного приложения "Smart Connect" для взаимодействия с ранее разработанными IoT-устройствами ( SmartLight и SmartPulse ). В этой статье я расскажу про то, как я получал несанкционированный доступ к этим устройствам.

https://habr.com/ru/articles/792730/

#интернет_вещей #iot #iot_security #взлом #нсд #несанкционированный_доступ #устройства_на_микроконтроллерах #безопасность_устройств #информационная_безопасность #bluetooth_low_energy

Диплом специалиста ИБ. Часть №5 — Несанкционированный доступ к IoT-устройствам с BLE

Привет, Хабр! Представьте, что вы написали собственную методику обеспечения безопасности устройств IoT и защитили собранное вами устройство в соответствии с ней. Не захочется ли попробовать проверить его защищенность самостоятельно? Эта статья является пятой и заключительной в цикле “Диплом специалиста ИБ”, в рамках которого я рассказываю про свой опыт написания выпускной квалификационной работы на программе высшего образования “Компьютерная безопасность”. В предыдущей статье я рассказывал про написание мобильного приложения "Smart Connect" для взаимодействия с ранее разработанными IoT-устройствами ( SmartLight и SmartPulse ). В этой статье я расскажу про то, как я получал несанкционированный доступ к этим устройствам.

https://habr.com/ru/articles/792730/

#интернет_вещей #iot #iot_security #взлом #нсд #несанкционированный_доступ #устройства_на_микроконтроллерах #безопасность_устройств #информационная_безопасность #bluetooth_low_energy

Диплом специалиста ИБ. Часть №5 — Несанкционированный доступ к IoT-устройствам с BLE

Привет, Хабр! Представьте, что вы написали собственную методику обеспечения безопасности устройств IoT и защитили собранное вами устройство в соответствии с ней. Не захочется ли попробовать проверить его защищенность самостоятельно? Эта статья является пятой и заключительной в цикле “Диплом специалиста ИБ”, в рамках которого я рассказываю про свой опыт написания выпускной квалификационной работы на программе высшего образования “Компьютерная безопасность”. В предыдущей статье я рассказывал про написание мобильного приложения "Smart Connect" для взаимодействия с ранее разработанными IoT-устройствами ( SmartLight и SmartPulse ). В этой статье я расскажу про то, как я получал несанкционированный доступ к этим устройствам.

https://habr.com/ru/articles/792730/

#интернет_вещей #iot #iot_security #взлом #нсд #несанкционированный_доступ #устройства_на_микроконтроллерах #безопасность_устройств #информационная_безопасность #bluetooth_low_energy