#детерминированность — Public Fediverse posts

Принципиальная детерминированность нейросетей и безопасность

Одним из ключевых требований к информационной системе является воспроизводимость результатов. Однако многие специалисты сталкиваются с трудностями, когда попытка повторить эксперименты приводит к отличающимся показателям. Такая ситуация известна как недетерминированность: модель выдаёт различные результаты при одинаковых входных данных и конфигурации. Вместе с тем, несмотря на распространённое заблуждение, источником проблемы чаще всего становятся не свойства самой нейросети, а упущения на этапах проектирования разработки и эксплуатации. Меня зовут Черкас Руслан. Я архитектор в СберЗдоровье — МедТех-компании №1 в России. По роду деятельности я часто сталкиваюсь с утверждениями о принципиальной недетерминированности нейросетей. И в этой статье хочу опровергнуть заблуждения, с которыми сталкиваюсь чаще всего.

https://habr.com/ru/companies/docdoc/articles/1023416/

#llm #ai #ии #безопасность #детерминированность

Механическая вселенная и свобода воли

Бывают такие научные опыты, после которых хочется просто выйти на улицу, вдохнуть холодного воздуха и долго смотреть в пустоту, пытаясь переварить услышанное. Для многих таким моментом стало знакомство с экспериментами Бенджамина Либета , которые он проводил в восьмидесятых годах прошлого века. Либет подключал датчики к голове добровольцев и просил их совершить простое действие: в любой произвольный момент, когда им захочется, пошевелить кистью руки. Это должен был быть максимально свободный, ничем не обусловленный выбор. Учёный измерял так называемый потенциал готовности — это нарастание электрических сигналов в мозге, которое происходит непосредственно перед началом движения. О том, что мозг готовится к действию чуть раньше, чем мышца сокращается, знали и до него. Но Либет добавил в схему важную деталь. Он поставил перед участниками циферблат с быстро движущейся точкой, чтобы они могли зафиксировать точный момент, когда у них возникло осознанное желание пошевелить рукой. Результаты оказались обескураживающими. Измерения показали, что испытуемые осознавали своё решение примерно за одну пятую секунды до самого движения. Но вот потенциал готовности в мозге начинал формироваться значительно раньше — примерно за полсекунды до действия. Если верить этим цифрам, мозг принимал решение «сделать это» раньше, чем человек успевал об этом подумать. Как будто сознание — это не капитан корабля, а просто пассажир, которому приносят уведомление о манёвре, когда штурвал уже повёрнут.

https://habr.com/ru/companies/ruvds/articles/994094/

#свобода_воли #детерминированность #эмерджентность #хаос #ruvds_статьи_выходного_дня

Механическая вселенная и свобода воли

Бывают такие научные опыты, после которых хочется просто выйти на улицу, вдохнуть холодного воздуха и долго смотреть в пустоту, пытаясь переварить услышанное. Для многих таким моментом стало знакомство с экспериментами Бенджамина Либета , которые он проводил в восьмидесятых годах прошлого века. Либет подключал датчики к голове добровольцев и просил их совершить простое действие: в любой произвольный момент, когда им захочется, пошевелить кистью руки. Это должен был быть максимально свободный, ничем не обусловленный выбор. Учёный измерял так называемый потенциал готовности — это нарастание электрических сигналов в мозге, которое происходит непосредственно перед началом движения. О том, что мозг готовится к действию чуть раньше, чем мышца сокращается, знали и до него. Но Либет добавил в схему важную деталь. Он поставил перед участниками циферблат с быстро движущейся точкой, чтобы они могли зафиксировать точный момент, когда у них возникло осознанное желание пошевелить рукой. Результаты оказались обескураживающими. Измерения показали, что испытуемые осознавали своё решение примерно за одну пятую секунды до самого движения. Но вот потенциал готовности в мозге начинал формироваться значительно раньше — примерно за полсекунды до действия. Если верить этим цифрам, мозг принимал решение «сделать это» раньше, чем человек успевал об этом подумать. Как будто сознание — это не капитан корабля, а просто пассажир, которому приносят уведомление о манёвре, когда штурвал уже повёрнут.

https://habr.com/ru/companies/ruvds/articles/994094/

#свобода_воли #детерминированность #эмерджентность #хаос #ruvds_статьи_выходного_дня

Механическая вселенная и свобода воли

Бывают такие научные опыты, после которых хочется просто выйти на улицу, вдохнуть холодного воздуха и долго смотреть в пустоту, пытаясь переварить услышанное. Для многих таким моментом стало знакомство с экспериментами Бенджамина Либета , которые он проводил в восьмидесятых годах прошлого века. Либет подключал датчики к голове добровольцев и просил их совершить простое действие: в любой произвольный момент, когда им захочется, пошевелить кистью руки. Это должен был быть максимально свободный, ничем не обусловленный выбор. Учёный измерял так называемый потенциал готовности — это нарастание электрических сигналов в мозге, которое происходит непосредственно перед началом движения. О том, что мозг готовится к действию чуть раньше, чем мышца сокращается, знали и до него. Но Либет добавил в схему важную деталь. Он поставил перед участниками циферблат с быстро движущейся точкой, чтобы они могли зафиксировать точный момент, когда у них возникло осознанное желание пошевелить рукой. Результаты оказались обескураживающими. Измерения показали, что испытуемые осознавали своё решение примерно за одну пятую секунды до самого движения. Но вот потенциал готовности в мозге начинал формироваться значительно раньше — примерно за полсекунды до действия. Если верить этим цифрам, мозг принимал решение «сделать это» раньше, чем человек успевал об этом подумать. Как будто сознание — это не капитан корабля, а просто пассажир, которому приносят уведомление о манёвре, когда штурвал уже повёрнут.

https://habr.com/ru/companies/ruvds/articles/994094/

#свобода_воли #детерминированность #эмерджентность #хаос #ruvds_статьи_выходного_дня

Механическая вселенная и свобода воли

Бывают такие научные опыты, после которых хочется просто выйти на улицу, вдохнуть холодного воздуха и долго смотреть в пустоту, пытаясь переварить услышанное. Для многих таким моментом стало знакомство с экспериментами Бенджамина Либета , которые он проводил в восьмидесятых годах прошлого века. Либет подключал датчики к голове добровольцев и просил их совершить простое действие: в любой произвольный момент, когда им захочется, пошевелить кистью руки. Это должен был быть максимально свободный, ничем не обусловленный выбор. Учёный измерял так называемый потенциал готовности — это нарастание электрических сигналов в мозге, которое происходит непосредственно перед началом движения. О том, что мозг готовится к действию чуть раньше, чем мышца сокращается, знали и до него. Но Либет добавил в схему важную деталь. Он поставил перед участниками циферблат с быстро движущейся точкой, чтобы они могли зафиксировать точный момент, когда у них возникло осознанное желание пошевелить рукой. Результаты оказались обескураживающими. Измерения показали, что испытуемые осознавали своё решение примерно за одну пятую секунды до самого движения. Но вот потенциал готовности в мозге начинал формироваться значительно раньше — примерно за полсекунды до действия. Если верить этим цифрам, мозг принимал решение «сделать это» раньше, чем человек успевал об этом подумать. Как будто сознание — это не капитан корабля, а просто пассажир, которому приносят уведомление о манёвре, когда штурвал уже повёрнут.

https://habr.com/ru/companies/ruvds/articles/994094/

#свобода_воли #детерминированность #эмерджентность #хаос #ruvds_статьи_выходного_дня

ADSM: путь от вероятности к детерминизму

В этой публикации я предлагаю взглянуть на языковую модель (LLM) как на вероятностный вычислитель, который при определённой организации контекста способен давать детерминированный результат. При таком подходе ADSM (Agent-Driven Software Management) становится архитектурой вычислений, где человек задаёт смысловую базу, агент выполняет циклы, а предсказуемость возникает из внутренней согласованности контекста.

https://habr.com/ru/articles/954756/

#adsm #llm #языковые_модели #детерминированность #точка_зрения

ADSM: путь от вероятности к детерминизму

В этой публикации я предлагаю взглянуть на языковую модель (LLM) как на вероятностный вычислитель, который при определённой организации контекста способен давать детерминированный результат. При таком подходе ADSM (Agent-Driven Software Management) становится архитектурой вычислений, где человек задаёт смысловую базу, агент выполняет циклы, а предсказуемость возникает из внутренней согласованности контекста.

https://habr.com/ru/articles/954756/

#adsm #llm #языковые_модели #детерминированность #точка_зрения

ADSM: путь от вероятности к детерминизму

В этой публикации я предлагаю взглянуть на языковую модель (LLM) как на вероятностный вычислитель, который при определённой организации контекста способен давать детерминированный результат. При таком подходе ADSM (Agent-Driven Software Management) становится архитектурой вычислений, где человек задаёт смысловую базу, агент выполняет циклы, а предсказуемость возникает из внутренней согласованности контекста.

https://habr.com/ru/articles/954756/

#adsm #llm #языковые_модели #детерминированность #точка_зрения

ADSM: путь от вероятности к детерминизму

В этой публикации я предлагаю взглянуть на языковую модель (LLM) как на вероятностный вычислитель, который при определённой организации контекста способен давать детерминированный результат. При таком подходе ADSM (Agent-Driven Software Management) становится архитектурой вычислений, где человек задаёт смысловую базу, агент выполняет циклы, а предсказуемость возникает из внутренней согласованности контекста.

https://habr.com/ru/articles/954756/

#adsm #llm #языковые_модели #детерминированность #точка_зрения

Идемпотентность: искусство не менять мир дважды

Привет! Я - Лера, и я — человек, который однажды понял, что прошлый опыт не помешает построить что‑то новое. Эту статью я пишу для тех, кто хочет разобраться в сложных понятиях простыми словами. Идемпотентность стала моей «любимой» темой после одного из первых собеседований, где меня попросили объяснить её так, чтобы понял кот. Тогда это было для меня вызовом, но спустя время я поняла, что вдохновение приходит из простых вещей и самый простой способ объяснить их — через примеры, которые мы видим каждый день. Надеюсь, после прочтения статьи это будет понятно не только вам, но и вашему коту, если вдруг он читает.

https://habr.com/ru/articles/868382/

#Идемпотентность_запросов #HTTP_методы_GET_POST_PUT_DELETE #Idempotent_API #REST_и_идемпотентность #Безопасные_запросы #Детерминированность #Идемпотентные_транзакции #Стабильность_API #Консистентность_данных #Повторение_запросов