#сложные_системы — Public Fediverse posts
Live and recent posts from across the Fediverse tagged #сложные_системы, aggregated by home.social.
-
Эволюция морали: чему биология может научить разработчиков AGI
Современные подходы к безопасности ИИ часто сводятся к внешним запретам и попыткам заставить системы выглядеть «этичными». Однако системный анализ и опыт биологической эволюции указывают на то, что подобные методы прямого ограничения могут оказаться неэффективными при масштабировании систем до уровня искусственного интеллекта общего назначения (AGI). В данной статье анализируется переход от биологических основ принятия решений к математическим моделям кооперации искусственного интеллекта. Мы рассмотрим, почему для стабильности ИИ-систем необходим контролируемый хаос, как парадокс бессмертия ведет к когнитивной ригидности и почему истинная безопасность ИИ лежит в плоскости проектирования среды, а не в попытках тотального контроля над кодом.
https://habr.com/ru/articles/983592/
#искусственный_интеллект #AGI #безопасность_ИИ #эмерджентность #теория_игр #кооперация #сложные_системы #эволюция #оптимизация #исследование_и_эксплуатация
-
Эволюция морали: чему биология может научить разработчиков AGI
Современные подходы к безопасности ИИ часто сводятся к внешним запретам и попыткам заставить системы выглядеть «этичными». Однако системный анализ и опыт биологической эволюции указывают на то, что подобные методы прямого ограничения могут оказаться неэффективными при масштабировании систем до уровня искусственного интеллекта общего назначения (AGI). В данной статье анализируется переход от биологических основ принятия решений к математическим моделям кооперации искусственного интеллекта. Мы рассмотрим, почему для стабильности ИИ-систем необходим контролируемый хаос, как парадокс бессмертия ведет к когнитивной ригидности и почему истинная безопасность ИИ лежит в плоскости проектирования среды, а не в попытках тотального контроля над кодом.
https://habr.com/ru/articles/983592/
#искусственный_интеллект #AGI #безопасность_ИИ #эмерджентность #теория_игр #кооперация #сложные_системы #эволюция #оптимизация #исследование_и_эксплуатация
-
Эволюция морали: чему биология может научить разработчиков AGI
Современные подходы к безопасности ИИ часто сводятся к внешним запретам и попыткам заставить системы выглядеть «этичными». Однако системный анализ и опыт биологической эволюции указывают на то, что подобные методы прямого ограничения могут оказаться неэффективными при масштабировании систем до уровня искусственного интеллекта общего назначения (AGI). В данной статье анализируется переход от биологических основ принятия решений к математическим моделям кооперации искусственного интеллекта. Мы рассмотрим, почему для стабильности ИИ-систем необходим контролируемый хаос, как парадокс бессмертия ведет к когнитивной ригидности и почему истинная безопасность ИИ лежит в плоскости проектирования среды, а не в попытках тотального контроля над кодом.
https://habr.com/ru/articles/983592/
#искусственный_интеллект #AGI #безопасность_ИИ #эмерджентность #теория_игр #кооперация #сложные_системы #эволюция #оптимизация #исследование_и_эксплуатация
-
Эволюция морали: чему биология может научить разработчиков AGI
Современные подходы к безопасности ИИ часто сводятся к внешним запретам и попыткам заставить системы выглядеть «этичными». Однако системный анализ и опыт биологической эволюции указывают на то, что подобные методы прямого ограничения могут оказаться неэффективными при масштабировании систем до уровня искусственного интеллекта общего назначения (AGI). В данной статье анализируется переход от биологических основ принятия решений к математическим моделям кооперации искусственного интеллекта. Мы рассмотрим, почему для стабильности ИИ-систем необходим контролируемый хаос, как парадокс бессмертия ведет к когнитивной ригидности и почему истинная безопасность ИИ лежит в плоскости проектирования среды, а не в попытках тотального контроля над кодом.
https://habr.com/ru/articles/983592/
#искусственный_интеллект #AGI #безопасность_ИИ #эмерджентность #теория_игр #кооперация #сложные_системы #эволюция #оптимизация #исследование_и_эксплуатация
-
[Перевод] Как менеджеры становятся причиной ИТ-катастроф
«Зачем беспокоиться о том, чего не произойдёт?» Этот вопрос председателя КГБ Чаркова из сериала «Чернобыль» может стать хорошей эпитафией для сотен закончившихся катастрофами проектов по разработке, модернизации и эксплуатации ПО. Провалы в этой сфере происходят везде, они не зависят от страны и размеров компаний. Они случаются в коммерческих, некоммерческих и государственных организациях, вне зависимости от статуса и репутации. За двадцать лет мировые траты на ИТ в расчёте на доллары 2025 года увеличились втрое, с 1,7 триллиона до 5,6 триллиона, и продолжают расти. Несмотря на дополнительные траты, показатели успеха за эти годы повысились незначительно. Из-за этого потери бизнесов и общества становятся всё серьёзнее, ведь ПО проникает во всё большее количество аспектов нашей жизни. Не стоит и надеяться на то, что ИИ-помощники и кодинг-копилоты вскоре обеспечат успех крупномасштабных ИТ-проектов. В обозримом будущем возможности ИИ в контролировании миллиона аспектов и компромиссов системной разработки, управления проектами, финансами и бизнесом останутся сильно ограниченными. Лишь немногие ИТ-проекты демонстрируют примеры рационального принятия решений, на которых может учиться ИИ. Как знают люди, занимающиеся разработкой ПО, такие проекты и так страдают от галлюцинаций и иллюзий руководства, поэтому ИИ лишь усугубит ситуацию. Как я говорил двадцать лет назад, причинами краха проектов часто становятся крах человеческого воображения, нереалистичные или несформулированные цели проектов, неспособность справиться со сложностью проекта или неучтённые риски. Всё это регулярно приводит к ИТ-катастрофам и сегодня. Существует и множество других причин, часть которых выявил глава кафедры бизнес-технологий Школы бизнеса Университета Виллановы Стефен Андриоле; его диаграмма, показанная ниже, впервые была опубликована в Forbes в 2021 году. Было бы крайне удивительно обнаружить проект, потерпевший крах каким-то уникальным, незадокументированным ранее образом, потому что подавляющее большинство таких неудач вызваны вполне преодолимыми факторами, за десятки лет изложенными в сотнях отчётов, научных исследований, технических книг и учебников по управлению. Читая литературу о таких катастрофах, часто испытываешь дежавю.
https://habr.com/ru/companies/ruvds/articles/970836/
#управление_проектами #ошибки_управления #сложные_системы #ошибки_проектирования #ruvds_перевод
-
Фильтры в таблицах
В B2B-системах и корпоративных интерфейсах фильтры — не «приятный бонус», а спасательный круг в работе пользователя. Когда у вас таблица на 10 000 строк и 100+ колонок, обычным поиском или сортировкой не обойтись. Тут уже нужны сложные фильтры: с несколькими условиями, каскадными зависимостями, сохранёнными пресетами и продуманной логикой применения. В этой статье разберём, как подойти к проектированию таких фильтров с точки зрения дизайнера: что спросить у фронтендера и бэкендера, какие ограничения учесть заранее и как сделать так, чтобы фильтр реально помогал работать, а не превращался в ещё одну головную боль.
https://habr.com/ru/articles/937918/
#ux_design #фильтры #таблицы_данных #фронтендразработка #сложные_системы
-
ИТ-архитекторы: приручение корпоративной энтропии
В этой статье изложен взгляд на перспективы профессии ИТ-архитекторов. В ней не будет ещё одного перечня сортов и разновидностей со всеми подробностями. Вместо этого будут размышления о ценности работы ИТ-архитекторов с точки зрения управления хаосом.
https://habr.com/ru/articles/920178/
#энтропия #системный_подход #сложные_системы #хаос_в_компании #рынок_труда_в_ит #проектирование_систем #архитектура #прогнозы_в_ит #итархитектор
-
Почему катастрофы неизбежны и можно ли их предсказать
Что объединяет финансовые крахи, эпидемии, землетрясения и падения великих империй? На первый взгляд, это абсолютно разные явления. Но американский физик, бывший редактор журналов Nature и New Scientist, лауреат Премии Лагранжа в области науки о сложности и один из ведущих мыслителей на стыке физики, биологии, социальных наук и истории Марк Бьюкенен обнаружил удивительную закономерность: в основе самых разных катастроф лежит единый фундаментальный механизм . Мы привыкли думать, что катастрофы — это сбои, нарушения естественного порядка вещей. Но книга Марка Бьюкенена «Ubiquity» («Вездесущность») утверждает обратное. Катастрофы вовсе не являются исключениями или ошибками системы; они — её естественное состояние . Это состояние называется самоорганизованной критичностью. Представьте себе кучу песка. Каждая новая песчинка, падающая сверху, приближает её к состоянию нестабильности. И когда куча достигает критической точки, малейшее воздействие может привести к лавине. Причём размер этой лавины заранее не определить — она может быть совсем небольшой, а может превратиться в глобальную катастрофу. Бьюкенен объясняет, что это не просто красивый образ, а строгая научная закономерность, известная как степенной закон (power law). Согласно ему, мелкие события происходят очень часто, а крупные — крайне редко, но все они подчиняются единой математической логике. Такой механизм действует повсюду: в экономике и экологии, в социальных и технологических системах, в истории и даже в дорожном движении. Финансовый кризис, внезапно вспыхнувшие протесты, эпидемия новой болезни или обрушение фондового рынка — все эти события следуют одной и той же логике.
https://habr.com/ru/articles/906216/
#сложность #сложные_системы #теория_хаоса #power_law #пожары #катастрофы
-
Кнопки размером с вселенную: почему сложные интерфейсы часто уродливы?
Однажды в B2B‑продукте… — Давайте сделаем красиво! — Ха‑ха, нет. Если вы хоть раз работали с корпоративными системами, CRM или внутренними панелями аналитики, вы видели этот кошмар: серые кнопки, Arial, нулевые отступы и ощущение, что за дизайн отвечал программист с болью в душе. Но давайте разберёмся, почему так происходит?
-
Бабочка Шрёдингера: как квантовая неопределенность формирует наши решения
Вопрос о свободе воли – один из самых фундаментальных и сложных в философии. Под свободой воли обычно понимается способность человека делать осознанный выбор и принимать решения независимо от внешних обстоятельств или предопределенности. Это понятие лежит в основе наших представлений о моральной ответственности, личности и человеческом достоинстве. В философии сформировались несколько основных позиций по этому вопросу: либертарианство, детерминизм, компатибилизм и жесткий инкомпатибилизм. Каждый из этих подходов основывается на своих предпосылках и гипотезах, предлагая различные интерпретации свободы воли. Либертарианство утверждает полную свободу воли, постулируя, что люди способны делать выбор, не полностью обусловленный предшествующими причинами. Детерминизм, напротив, рассматривает все события, включая человеческие решения, как предопределенные предыдущими состояниями и законами природы. Компатибилизм пытается примирить идею свободы воли с детерминизмом, предлагая пересмотреть наше понимание свободы. Жесткий инкомпатибилизм идет еще дальше, отрицая свободу воли независимо от истинности детерминизма. На мой взгляд, ключевыми аспектами в определении свободы воли являются две фундаментальные проблемы:
https://habr.com/ru/articles/848074/
#свобода_воли #детерминизм #квантовая_механика #теория_хаоса #точка_бифуркации #сложные_системы #принятие_решений #социальная_динамика #философия_сознания
-
Бабочка Шрёдингера: как квантовая неопределенность формирует наши решения
Вопрос о свободе воли – один из самых фундаментальных и сложных в философии. Под свободой воли обычно понимается способность человека делать осознанный выбор и принимать решения независимо от внешних обстоятельств или предопределенности. Это понятие лежит в основе наших представлений о моральной ответственности, личности и человеческом достоинстве. В философии сформировались несколько основных позиций по этому вопросу: либертарианство, детерминизм, компатибилизм и жесткий инкомпатибилизм. Каждый из этих подходов основывается на своих предпосылках и гипотезах, предлагая различные интерпретации свободы воли. Либертарианство утверждает полную свободу воли, постулируя, что люди способны делать выбор, не полностью обусловленный предшествующими причинами. Детерминизм, напротив, рассматривает все события, включая человеческие решения, как предопределенные предыдущими состояниями и законами природы. Компатибилизм пытается примирить идею свободы воли с детерминизмом, предлагая пересмотреть наше понимание свободы. Жесткий инкомпатибилизм идет еще дальше, отрицая свободу воли независимо от истинности детерминизма. На мой взгляд, ключевыми аспектами в определении свободы воли являются две фундаментальные проблемы:
https://habr.com/ru/articles/848074/
#свобода_воли #детерминизм #квантовая_механика #теория_хаоса #точка_бифуркации #сложные_системы #принятие_решений #социальная_динамика #философия_сознания
-
Бабочка Шрёдингера: как квантовая неопределенность формирует наши решения
Вопрос о свободе воли – один из самых фундаментальных и сложных в философии. Под свободой воли обычно понимается способность человека делать осознанный выбор и принимать решения независимо от внешних обстоятельств или предопределенности. Это понятие лежит в основе наших представлений о моральной ответственности, личности и человеческом достоинстве. В философии сформировались несколько основных позиций по этому вопросу: либертарианство, детерминизм, компатибилизм и жесткий инкомпатибилизм. Каждый из этих подходов основывается на своих предпосылках и гипотезах, предлагая различные интерпретации свободы воли. Либертарианство утверждает полную свободу воли, постулируя, что люди способны делать выбор, не полностью обусловленный предшествующими причинами. Детерминизм, напротив, рассматривает все события, включая человеческие решения, как предопределенные предыдущими состояниями и законами природы. Компатибилизм пытается примирить идею свободы воли с детерминизмом, предлагая пересмотреть наше понимание свободы. Жесткий инкомпатибилизм идет еще дальше, отрицая свободу воли независимо от истинности детерминизма. На мой взгляд, ключевыми аспектами в определении свободы воли являются две фундаментальные проблемы:
https://habr.com/ru/articles/848074/
#свобода_воли #детерминизм #квантовая_механика #теория_хаоса #точка_бифуркации #сложные_системы #принятие_решений #социальная_динамика #философия_сознания
-
Диалектика vs Хаос: Или почему Гегель перевернулся бы в гробу
Привет, хабровчане! Готовы к небольшому философскому экскурсу с щепоткой безумия? Пристегните ремни, мы отправляемся в путешествие от чинной диалектики к дикому хаосу!
https://habr.com/ru/articles/843238/
#диалектика #теория_хаоса #философия_в_IT #системное_мышление #управление_проектами #сложные_системы #эффект_бабочки
-
Эффект бабочки и рынки(ч.2)
Перед прочтением этой публикации, советую ознакомиться с 1 частью: Ссылка на первую часть: https://habr.com/ru/articles/803783/ Бенуа Мандельброт об эффекте бабочки в экономике
https://habr.com/ru/articles/804907/
#Эффект_бабочки #Бенуа_Мандельброт #Теория_хаоса #Финансовые_рынки #Сложные_системы #Непредсказуемость #Глобализация #Волатильность_рынка #Модели_прогнозирования #Фракталы
-
[Перевод] Трудная проблема общества
Дополнительное примечание Оригинальное эссе о сложной проблеме общества, опубликованное ранее (DOI: 10.13140/RG.2.2.18884.19845), было значительно сокращено, чтобы избежать прочтения с помощью больших языковых моделей (LLM), с целью охвата только фундаментальных принципов и вопреки рекомендации соавтора, который не желает быть названным таковым. Эта дополнительная заметка служит цели заполнить этот пробел и исправить мои ошибки, планируя предоставить дополнительные примеры обществ разных уровней с путями перехода. Оригинальное эссе можно также рассматривать как создание модели консенсуса, решение фазового перехода для возникающих свойств любой неравновесной организованной сложности 3-й степени, при этом базовые принципы одинаково применимы к любой из этих систем.
-
Теория сложности
Привет, Хабр! Теория сложности представляет собой концепцию о том, что сложные системы — это не просто совокупность частей, но скорее сеть взаимодействий, которые порождают новые, часто непредсказуемые явления. Формулы, используемые в теории сложности, часто связаны с вычислительной сложностью задач. Например, NP-полные задачи, которые являются одними из самых сложных для вычисления, описываются с помощью полиномиальных уравнений. Сложность задачи может быть выражена как O(n^k), где n — размер входных данных, а k — степень, определяющая сложность алгоритма. Теория сложности помогает определить, как малые изменения в одной части системы могут вызывать значительные и часто неочевидные последствия в других ее частях.
-
Теория сложности
Привет, Хабр! Теория сложности представляет собой концепцию о том, что сложные системы — это не просто совокупность частей, но скорее сеть взаимодействий, которые порождают новые, часто непредсказуемые явления. Формулы, используемые в теории сложности, часто связаны с вычислительной сложностью задач. Например, NP-полные задачи, которые являются одними из самых сложных для вычисления, описываются с помощью полиномиальных уравнений. Сложность задачи может быть выражена как O(n^k), где n — размер входных данных, а k — степень, определяющая сложность алгоритма. Теория сложности помогает определить, как малые изменения в одной части системы могут вызывать значительные и часто неочевидные последствия в других ее частях.