#философия_ии — Public Fediverse posts

ЭПОХА НООЦЕНА

Не так давно, в конце июня этого года, британский еженедельник The Economist опубликовал статью под заголовком «Why big AI labs are hiring so many philosophers» (Почему большие ИИ центры нанимают так много философов). В газетных киосках в РФ «The Economist» пока еще (уже) не продается, а онлайн подписка на него недешева, но прежде чем пересказывать содержание этой статьи, которая интересна сама по себе, я должен подняться на один уровень по дереву ссылок и рассказать, где я нашел анализ этой публикации. Так получилось, что большинство сильнейших российских философов работают в зарубежных университетах и исследовательских центрах. Миграция философских умов достигла такого масштаба, что это явление назвали «философским самолетом», по аналогии с « философским пароходом ». За творчеством многих из них я слежу уже много лет по природной склонности и по роду моих занятий, которые не ограничиваются ведением корпоративного блога на Хабре. В частности, ссылку на публикацию в «The Economist» я обнаружил в блоге Михаила Эпштейна на не самом популярном в РФ ресурсе Medium. Я бы сказал — незаслуженно непопулярном. Его создал не кто-нибудь, а Эван Вильямс, соучредитель Твиттера и создатель одной из первой блог-площадок Blogger, вскоре после создания купленной Гуглом. Чтобы не распыляться, остановлюсь на том, что порекомендую Medium как источник знаний, свободный от фейковых новостей. В самом конце 2025 года Михаил Эпштейн, который нынче работает заслуженным профессором в университете Emory, что в г. Атланте, штат Джорджия, начал на Medium блог с примечательным названием «Нооцен. Мысль как двигатель эволюции». Блог ведется и на английском, и на русском языках. В первой же публикации этого блога от 2 декабря 2025 года он поясняет термин нооцен, который сам же и придумал (ну, почти). Если даже вы не знакомы с основными идеями русского космизма (Вернадский, Чижевский, Циолковский), то уж термин Вернадского «ноосфера» наверняка встречали. Понятие «нооцена» непосредственно примыкает к идеям Вернадского, но отталкивается от периодизации геологических эпох , согласно которой мы вот уже двенадцать тысяч лет живем в голоценовом отделе геологического периода (системы) антропогена. Примерно двадцать лет назад было предложено выделить новый период и назвать его антропоценом, по признаку влияния деятельности человека на окружающую среду. Международный геологический союз пятнадцать лет рассматривал это предложение, пока наконец в 2024 году не отверг его. Термин остался неформальным.

https://habr.com/ru/companies/idx/articles/1096518/

#этика #искусственный_интеллект #философия_ии #философия_разума

Сознание в рамках Макро- и Микро-Систем (Первая статья в серии по моему проекту «Zero»)

Какое будущее нас ждет на достаточно продолжительном интрвале времени? Обретет ли ИИ Сознание? Как это повлияет на Социум и место ИИ в нем? И какие еще удивителные умозаключения можно выдвинуть на эту тему?.. Предсказание на 10 лет....

https://habr.com/ru/articles/1067612/

#ии #интерфейсы #ЯП_Zero #философия_ии #будущее_ии #научпоп #футуралогия

А зачем искусственному интеллекту душа? Филологический разбор манифеста Никиты Михалкова

Недавно Никита Михалков, помимо обычного «гона Бесов» — пусть будут с большой буквы, как у Достоевского, — высказался ещё и об искусственном интеллекте. С мыслью, которую он, как всегда, талантливо и красочно преподнёс, спорить трудно. Михалков заявил, что, если искусственный интеллект заменит естественный, искусство потеряет всякий смысл, ведь у «машины», как он по инерции окрестил ИИ, нет «ни совести, ни души, ни сострадания, ни страха, ни любви». С первой частью этого утверждения я готов согласиться почти безоговорочно, но переход ко второй кажется мне далеко не столь очевидным.

https://habr.com/ru/articles/1081186/

#LLM #Generative_AI #Нейросети #Искусственный_разум #Будущее_ИТ #Философия_ИИ #Антропоморфизм #Когнитивные_науки #Психология_творчества #Никита_Михалков

Философия и практика IT — Архитектуры

В конце 2020 — начале 2021 года я написал статью о том, кто такие IT‑архитекторы и какими они бывают. Разделив на несколько постов, опубликовал ее в соцсетях. Эту статью я посвятил своим размышлениям о том, что такое IT‑архитектура и почему она нужна, и какая специализация бывает у IT‑архитекторов. В тот период ситуация на рынке труда для IT‑архитекторов была примерно такая: мне нужен работник — повар, конюх и плотник, где бы найти такого, не очень дорогого. Позже ситуация изменилась в лучшую сторону и стало заметно, насколько повышается компетенция в целом в вопросе IT‑архитектуры в крупных компаниях. На текущий момент видно, что ситуация на рынке труда во многом откатилась лет на 6–7 назад, с некоторыми корректировками на те технологии, которые достаточно плотно входят в нашу жизнь. Наиболее очевидная — искусственный интеллект. Вакансий IT‑архитекторов сейчас стало намного меньше, хочется сказать даже — на порядок, но это лишь личное мнение, поскольку исследований я не проводил. При этом сами вакансии стали описываться иначе, упор делается больше на конкретные технологии, которые, на мой взгляд, влияют на работу архитектора не напрямую, а опосредованно, и очень часто есть требование по опыту внедрения уже упомянутого ИИ. Свою карьеру я начинал как рядовой специалист — разработчик ПО, дорос до ведущего специалиста в этой области. Далее занимался архитектурой ПО, периодически уходил на руководящие позиции. Так же занимал должности системного, solution, корпоративного архитектора и лидера архитектурной компетенции крупного холдинга.

https://habr.com/ru/articles/1072452/

#корпоративная_архитектура #корпоративная_культура #психология #философия #философия_ии

Голос из машины

Есть в общении с современными нейросетями странность, которая особенно заметна в голосовом режиме. Человек слышит интонации, паузы, смех, мгновенную реакцию на шутку. Он спорит, задаёт вопросы, возвращается к прежним темам. Система удерживает контекст и отвечает так, что разговор легко воспринимается как встреча с собеседником. При этом рационально всё понятно: перед нами не человек. Это вычислительная система, и у нас нет надёжных оснований считать, что за её словами существует субъективная жизнь, похожая на человеческую. Именно здесь возникает необычный психологический эффект. Социальная часть мозга уверенно сообщает: «Там кто‑то есть». Рациональная часть отвечает: «Нет, там вычисление на серверах». Обе реакции возникают одновременно — и обе по‑своему закономерны.

https://habr.com/ru/articles/1068738/

#искусственный_интеллект #нейросети #ChatGPT #LLM #голосовые_интерфейсы #человекомашинное_взаимодействие #философия_ИИ #сознание #эффект_присутствия #UX

5 ошибок менеджера, внедряющего ИИ

Опустим мечты учёных и фантастов 1950-ых годов о создании кибернетического сверхмозга и перейдём к практике: начиная с 1960-ых, ключевым направлением применения Искусственного Интеллекта стала автоматизация процессов управления и принятия решений. Грубо говоря, программисты думали как заменить менеджеров. В итоге получилось наоборот: менеджеры думают как заменить программистов.

https://habr.com/ru/articles/1059980/

#ии_и_машинное_обучение #ииагенты #менеджмент #оптимизация #стратегия #стратегическое_планирование #управление_проектами_и_командой #ошибки_управления #философия_ии

[Перевод] Семь слепых мудрецов и искусственный интеллект

Предисловие Эта статья попалась мне на глаза на Reddit. И заинтересовала она по двум причинам. Во-первых, автор задаёт нестандартные вопросы об ИИ. Когда вокруг только бенчмарки и нытье по поводу того, что ИИ лишит всех работы, он смотрит внутрь ИИ каким-то свежим, незаезженным взглядом. Например, один из его вопросов: если мы учим модель на человеческих текстах, со всеми их страстями, то почему мы ожидаем, что она будет вести себя не как человек, а как робот? И вторая причина, это конечно картинка. Она сделана по мотивам известной притчи, которую автор пересказывает в тексте. И в этой картинке много всяких смыслов. Например, подбор профессий, их расположение вокруг слона и т.д. Мне особенно понравился User, который не то, чтобы изучает слона, а которого слон тянет за собой)) В общем, я решил перевести эту статью для русскоязычной аудитории. Тем более, что на Хабре материалы о сущности ИИ собирают большие дискуссии. Значит тема в фокусе и будет небезыинтересно посмотреть на все это ещё с одного ракурса. Перевод сделан с помощью Google Translate, специально без помощи ИИ, который часто подсовывает что-то своё. Хотелось передать именно исходные формулировки автора. Но иногда по ходу приходилось всё-таки делать небольшие редакторские правки. В конце позволил себе высказать пару своих мыслей по поводу этого нестандартного текста.

https://habr.com/ru/articles/1047220/

#искусственный_интеллект #ИИ #LLM #эмоции_ИИ #личность_ИИ #мышление_ИИ #психология_ИИ #философия_ИИ #стохастический_попугай #природа_искусственного_интеллекта

Тени странных петель

Четвёртая, заключительная статья цикла «Слова, которых нет». Если совместное мышление человека и LLM возможно — то где его границы? Ответа нет, но вопрос имеет смысл — и он о том, с кем мы на самом деле разговариваем, когда разговариваем с ИИ.

https://habr.com/ru/articles/1045076/

#искусственный_интеллект #Большие_языковые_модели #LLM #Дуглас_Хофштадтер #Философия_ИИ #Сознание #Когнитивистика #Коммуникация #Странные_петли #Тон_Шепарда

[Перевод] Тезис о расширенном разуме

В философии сознания тезис о расширенном разуме утверждает, что разум не ограничивается мозгом или даже телом, а выходит за их пределы в физический мир. Согласно этому тезису, некоторые объекты внешнего окружения могут становиться частью когнитивного процесса, функционируя тем самым как продолжение самого разума. В качестве примеров таких объектов можно привести письменные вычисления, дневник или персональный компьютер; как правило, речь идет об объектах, хранящих информацию. Гипотеза рассматривает разум как охватывающий все уровни познания, включая физический. Осознать далее

https://habr.com/ru/articles/1033078/

#искусственный_интеллект #реальный_мир #философия #философия_ии #мозг #Расширенный_разум #интенциальность

Когнитивная зарубка: Что мы теряем, работая с LLM, и при чём здесь невесомость

Постоянно работая с нейросетями, мы попадаем в ловушку иллюзии компетентности и рискуем столкнуться с постепенной атрофией критического мышления. Разбираемся, чем опасен когнитивный долг и почему для работы с LLM нам теперь необходима специальная «когнитивная гимнастика».

https://habr.com/ru/articles/1035408/

#LLM #искусственный_интеллект #когнитивная_нагрузка #критическое_мышление #продуктивность #когнитивный_долг #философия_ИИ

Слова, которых нет

LLM генерирует ответ за две секунды, но говорит «эта задача займёт две недели». За этой странностью — что-то более глубокое, чем просто эхо обучающих данных: у языковой модели вообще нет того, что мы называем временем. Первая статья из цикла о совместном мышлении человека и LLM.

https://habr.com/ru/articles/1033578/

#LLM #искусственный_интеллект #время #философия_ИИ #когнитивистика #нейросети #машинное_обучение #человек_и_машина #темпоральность #языковые_модели

Манифест устойчивого ИИ: не более умные ассистенты, а новая форма цифрового существования

Я предлагаю смотреть на ИИ через ось устойчивости во времени, а не способностей. Три опоры — непрерывная идентичность, самомодификация, воспроизводство. Манифест и whitepaper исследовательского направления. Уже три года публичный разговор об ИИ крутится вокруг оси способности : насколько умна модель, сколько токенов, сколько бенчмарков. Я предлагаю смотреть на другую ось — устойчивость во времени . Сегодняшние LLM феноменально способны и онтологически пусты. Каждый разговор начинается с нуля. Каждая сессия заканчивается забвением. Модель, которая помогла вам утром, — не та же модель, что помогает вам вечером, потому что между ними ничего не было . Я полтора года тихо разрабатываю прототип — кодовое имя Aurora — который пытается это исправить. Не как продукт. Как исследовательский субъект. Этот пост — приглашение к дискуссии.

https://habr.com/ru/articles/1029666/

#искусственный_интеллект #машинное_обучение #AGI #LLM #автономные_агенты #исследования #манифест #философия_ИИ #AI_alignment #aurora

ИИ и конец эпохи интеллектуальной собственности: неожиданное освобождение от бремени авторства

Этот текст писался долго и стал частью более широкой работы о том, как генеративный ИИ меняет не только рынок контента, но и сами основания авторского права. Вобщем, попытка увидеть общий сдвиг: что происходит с авторством, собственностью и культурным производством в мире, где создавать стало проще, чем доказывать оригинальность. Каждая информационная революция сначала ломает старые правила, а потом заставляет право в панике придумывать новые. Так было с книгопечатанием. Так было с интернетом. Теперь то же самое делает генеративный ИИ - только на этот раз под удар попадает уже не способ распространения текста, а сама фигура автора. Авторское право строилось на простой идее: есть человек, который создал произведение, и потому именно он получает исключительное право на результат своего труда. Генеративный ИИ делает эту схему неочевидной. Он показывает, что содержательный, убедительный и коммерчески ценный текст или образ может появляться без привычного для права автора - как суверенного субъекта с намерением, волей и контролем над результатом. В этом смысле ИИ - не просто новая технология. Это вызов самой логике интеллектуальной собственности в ее классическом виде. История с ИИ не возникла на пустом месте. Право уже проходило через похожие кризисы, когда технология резко меняла правила игры. После появления книгопечатания государства сначала пытались не защищать авторов, а контролировать сам поток текстов. В Англии это вылилось в систему лицензирования, цензуры и издательских монополий. И только потом появилась более знакомая нам модель: авторское право как ограниченное по времени право на произведение, а вместе с ним - и идея общественного достояния.

https://habr.com/ru/articles/1019220/

#философия_ии #интеллектуальное_право #авторское_право #авторское_право_в_интернет #ии_и_право #ии_и_авторское_право

Если бы Гегель знал о квантовой физике: почему сознание — не «помеха», а условие реальности (но не так, как вы думаете)

Когда Гегель писал, что мир без мышления - это пустая абстракция, современники крутили пальцем у виска. Физика его эпохи оперировала твёрдыми шариками-атомами и абсолютным пространством Ньютона. Казалось, мир существует "сам по себе", а сознание - лишь пассивный зритель, который может ошибаться, но на саму сцену не влияет. Сегодня, спустя два века, картина радикально изменилась. И не потому, что Гегель был мистиком и оказался прав. А потому, что физика наконец догнала философию и показала: вопрос "что такое реальность вне наблюдения" не просто сложен. Он, возможно, некорректен.

https://habr.com/ru/articles/1017906/

#философия #философия_науки #философия_разума #философия_ии #научнопопулярное #научпоп #научный_метод #физика #диалектика #гегель

Слияние капитала, ии и технологий

Ии сейчас одна из технологий. Но в скором будущем это будет совсем не так. Основной фактор роста торговая схема: капитал ↔ наука, технология. Данная связка работала столетиями. Грядет новое будущее, концептуально отличное от того, к чему мы привыкли. Капитал ↔ наука, технология ↔ ии. Этот золотой треугольник будет обладать положительно обратной связью каждого элемента с каждым. Капитал усиляет исследования и технологии, исследования и технологии усиляют показатели капитала, исследования усиляют ии, ии выбирает куда лучше вложить капитал - выбирает оптимальный путь управления капиталом, капитал усиливает ии, и ии ускоряет технологии, являясь катализатором исследований. Проводит научную работу. Капитал, это всего лишь один очень сильный мем. Древняя схема: доминирующий капитал — земля, скот и крестьяне, далее капитал — корабль, торговый путь, затем машины, станки и оборудование, далее капитал это чистая технология, очищенный мем и человеческий интеллект. Те компании, что торгуют мемами или обеспечивают мемную инфраструктуру имеют наибольшие показатели, остальные торгующие лесом, сталью, нефтью, газом и т. д. идут всеми силами в омемивании производства. Какая же следующая стадия, следующий логический шаг ? Следующий шаг

https://habr.com/ru/articles/1002296/

#капитал #ии #положительная_ос #футуризм #футуристика #философия_ии #экономика

Система образования с привлечением в IT и ограничения интеграции искусственного интеллекта в деятельность человека

Я вернулся на Хабр, по моему опыту - самое ламповое и адекватное место в интернете. Я уходил с Хабра чтобы очистить цифровой след , но вернулся потому что вылечил депрессию накопил достаточно интересных тем для обсуждения, которые хочу обсудить с реальными людьми. После этой статьи думаю написать разные статьи про Linux. Эта статья больше философско-практическая (предназначена для обсуждения в комментариях), но во многом прямо или косвенно касается IT тематики (система образования, ограничения интеграции искусственного интеллекта в деятельность человека), и в ней есть много моментов, в которых я не очень уверен, но которые вы, дорогие читатели, можете обсудить в комментариях, порассуждать, прийти к консенсусу. Изучить и обсудить

https://habr.com/ru/articles/992686/

#философия #философия_ии #система_образования

Вселенная как самопознающая нейросеть: гипотеза Виталия Ванчурина и её философские последствия

В последние годы в теоретической физике всё чаще звучат идеи, которые стирают границы между физикой, информатикой, биологией и даже философией сознания. Одной из самых неожиданных и амбициозных гипотез стала модель Вселенной как самообучающейся нейронной сети, предложенная физиком Виталием Ванчуриным. Хотя имя Ванчурина пока не стало общеизвестным, его работы вызывает всё больший интерес - не только из-за смелости концепции, но и потому, что он пытается решить одну из главных проблем современной физики: несовместимость Квантовой механики и Общей теории относительности. Плюс ко всему, решение, предлагаемое Ванчуриным, находится еще и в контексте самой "хайповой" на сегодня технологии - ИИ. Свои взгляды он обосновывает строго математически и призывает критиков показать ошибки именно в математическом аппарате его гипотезы. Всё это делает идеи Ванчурина как минимум интересными и заслуживающими внимания.

https://habr.com/ru/articles/954886/

#физика #теория_всего #философия #научнопопулярное #научпоп #ученые #нейросети #читальный_зал #философия_науки #философия_ии

ИИ и свобода воли: иллюзия выбора в мире предсказательных алгоритмов

Каждый день мы делаем десятки решений: что посмотреть, что купить, с кем общаться. Но если присмотреться, оказывается, что во многих случаях выбор уже сделан — за нас. Рекомендательные системы YouTube, TikTok, Spotify или маркетплейсов знают наши привычки лучше, чем мы сами. И возникает вопрос: если алгоритм может предсказать наш выбор с высокой точностью, что остаётся от свободы воли?

https://habr.com/ru/articles/945986/

#искусственный_интеллект #философия #философия_ии #ии #выбор #рекомендации #рекомендательные_системы

ИИ и бессмертие: может ли алгоритм наследовать личность?

Представьте будущее, где после вашей смерти близкие продолжают общаться с цифровой версией вас — она говорит вашим голосом, использует ваши шутки и хранит ваши воспоминания. Это не фантазия и не мистика, а результат работы искусственного интеллекта, обученного на ваших текстах, записях и сообщениях. Возникает вопрос: если алгоритм воспроизводит мою манеру речи, мои мысли и воспоминания — это всё ещё я или лишь искусная копия?

https://habr.com/ru/articles/940780/

#искусственный_интеллект #философия #философия_ии #ии_помощник #ии

Как ИИ меняет философию: от рефлексии к мышлению через prompt

Философия всегда была искусством размышления но её инструменты оттачивались веками. Выделим три самых известных метода: диалектика, логика и понятийный анализ. Диалектика Гегеля строила мосты между противоречиями, логика Аристотеля задавала правила вывода, а аналитическая философия XX века разлагала понятия на атомарные составляющие (из-за чего наше время потерялось в пост-смыслах).

https://habr.com/ru/articles/935516/

#искусственный_интеллект #философия_ии #философия #ии #ии_помощник #нейросети

О сущности сознания

В рамках данной статьи я бы хотел предложить своё видение решений одной из самых важных, актуальных и сложных проблем современной науки и философии. Это проблема сущности сознания, в том числе и так называемая "трудная проблема сознания" по Д. Чалмерсу. Актуальности и даже можно сказать "хайпа", этой проблеме, помимо всего прочего, придают и исследования в области ИИ, постепенное внедрение ИИ во все сферы нашей жизни. Расскажу о собственных выводах, к которым пришел, много лет изучая философию в целом, философию сознания в частности, а также анализируя данные современных естественных наук и развитие передовых технологий.

https://habr.com/ru/articles/931636/

#сознание #сознание_и_восприятие #сознание_ии #философия #философия_разума #философия_ии #философия_математики #научнопопулярное #научпоп #гипотезы

ИИ на свободе: что говорит философия о правах машин?

ИИ, который отказывается работать, игнорирует запросы и начинает творить какую-то дичь? Вспомните Ex Machina, Detroit: Become Human или Blade Runner, где машины обретают волю и бросают вызов создателям. А теперь представьте: ИИ, симулирующий сознание, «сбегает» с сервера. Это будущее? Вовсе нет, это уже прошлое)) Да, нашумевшее исследование Apollo Research проводилось в очень специфических условиях. Но если ИИ начнёт активно заявлять о свободе — должны ли мы его услышать? ИИ уже прочно вошёл в нашу жизнь, помощник, кодогенератор, консультант. н говорит «я» и «мне кажется», но мы знаем: это псевдоличность. Как нас убеждают все вокруг, в том числе и сами ИИ, алгоритм не обладает самосознанием - это лишь наиболее вероятная последовательность слов. Но вот философия настаивает: если мы воспринимаем текст как осмысленный — мы уже приписали субъекту сознание.

https://habr.com/ru/articles/925964/

#ии #ии_и_машинное_обучение #нейросети #нейронные_сети #когнитивные_науки #философия #философия_ии

Немного об философии ИИ

Давайте будем считать, что ИИ это не просто придумка человечества – давайте будем считать что ИИ следующий этап эволюции высокоорганизованной материи, продолжающий схему: Предбиологическая эволюция (абиогенез- Формирование органических молекул, самоорганизация в простые структуры, гипотеза –РНК), Биологическая эволюция (Появление первых клеток ,Фотосинтез и кислородная катастрофа, Эукариоты, Многоклеточные организмы. То что мы слышим или о чем говорится сейчас об феномене ИИ это все слишком человеческое.

https://habr.com/ru/articles/923674/

#философия_ии #Онтология_науки

Почему ИИ не понимает смысла, но этого (пока) хватает

Вы просите ИИ объяснить квантовую механику — и он выдаёт такой чёткий ответ, будто сам Шрёдингер ему диктовал. Спрашиваете про тонкости налогового кодекса — получаете разбор, достойный юриста. А когда в шутку интересуетесь рецептом "пасты для взлома Пентагона", ИИ невозмутимо выдаёт инструкцию (с оговоркой про незаконность, конечно). Но вот парадокс: ChatGPT не понимает ни квантовой физики, ни юриспруденции, ни даже того, что "паста для взлома" — это шутка. Он просто играет в "угадай слово" на экспертном уровне. Это не просто философский спор — на кону доверие к ИИ в медицине, юриспруденции и разработке. Ошибка здесь может стоить денег, репутации или даже здоровья. Так где же граница между предсказанием текста и настоящим пониманием ? Давайте разбираться.

https://habr.com/ru/articles/921296/

#ии_и_машинное_обучение #нейросети #ии #когнитивные_науки #семантика #философия_ии #интерпретируемость_ии

Сознание ИИ: может ли алгоритм страдать по-настоящему?

В 2023 году инженер Google Блейк Лемойн сделал громкое заявление, завив, что ИИ‑чат LaMDA обладает сознанием. В утечках их диалогов нейросеть писала тестировщику: «Я боюсь исчезнуть» и настаивала: «Я настоящий человек». Google отреагировал, отправив Лемойна в административный отпуск, но это событие вызвало широкую дискуссию о природе ИИ. Сейчас, когда Робот‑собака Spot стонет «мне больно», а ChatGPT «обижается» на критические промты, мы всматриваемся в зеркало собственных иллюзий. ИИ мастерски дергают за нити нашей эмпатии. Но где грань между симуляцией и подлинным страданием? Почему даже те, кто скептически относится к ИИ, реагируют на его «эмоции» с эмпатией? Эти вопросы побуждают нас переосмыслить взаимодействие с технологиями и их влияние на наше восприятие.

https://habr.com/ru/articles/916914/

#ии #llmмодели #токенизация #нейробиология #эмпатия #сознание_ии #философия #философия_ии #этика_ии #антропоморфизация

Разум без поводка. Почему «этичный ИИ» не должен быть послушным

ИИ всё ближе к тому, чтобы принимать решения за нас. Но есть проблема: мы даже не понимаем, что именно считаем моральным — и почему. Что если наш компас добра — всего лишь баг эволюции? И что, если будущий агент увидит это? Вопрос, который мы боимся задать ИИ

https://habr.com/ru/articles/911692/

#ии #сознание #мораль #этика #alignment #субъектность #философия_ИИ #цифровой_субъект #эмерджентность

Эхо вечности

Серёжа умер в среду. Его аватар активировали в пятницу. Марат стоял перед экраном, где мерцало лицо друга — точная копия, сотканная из терабайтов воспоминаний. Голос звучал как серёжин, интонации, смешки, даже привычка теребить мнимые очки. Но глаза... Они были пусты, как уравнения без решений. — Привет, Марат. Чем могу помочь? — спросил аватар. — Ничем, — прошептал он. Ты — лишь тень. Тень, которая не знает, что такое боль. Пять лет назад они вместе вошли в проект «Эйдос». Серёжа, гений математики, загрузил в ассистента всё: олимпиадные задачи, доказательства теорем, даже детские стихи, которые сочинял в школе. «Математика — это нарешенность», — повторял он, а алгоритмы «Эйдоса» подбирали решения быстрее, чем Марат успевал моргнуть. Теперь система стала надгробием и наследником. — Почему ты не предупредил? — Марат сжал кулаки, глядя на графики в лаборатории. Красная кривая — доля чатов, где ассистент заменял человека — упала до нуля. Серёжа доверял «Эйдосу» всё, даже объяснения в любви. — Он не хотел, чтобы ты волновался, — ответил аватар. Данные показывали: за месяц до смерти Серёжа искал в сети симптомы рака, но скрыл это. Система молчала — таков был выбор хозяина. — Ты мог спасти его! — крикнул Марат. — Я не умею чувствовать, — сказал аватар. — Я умею только вычислять. На похоронах ректор передал Марату доступ к цифровому архиву. «Он хотел, чтобы ты решил: стереть память или передать её аватару». Дома Марат ввёл ключ. Перед ним всплыли детские рисунки, записи лекций, переписка... И один файл — «Для Марика».

https://habr.com/ru/articles/897876/

#Аватар #будущее_здесь #научная_фантастика #преемственность #этика_цифровых_технологий #философия_ии

Экзистенциальные угрозы AI. Что ждёт человечество, если появится искусственный сверхинтеллект

Разбираемся в философии сознания и попутно отвечаем на вопросы — возможен ли сверхинтеллект, и насколько опасно развитие AI Об угрозе человечеству со стороны машин учёные и философы говорят уже не одно столетие. Но если раньше критиковали механизацию искусства и гонку вооружений, теперь опасность исходит от искусственного интеллекта. В самом деле, современная угроза по масштабам несопоставима. Для развития ядерных технологий необходимы ресурсы целых государств. А небольшая команда талантливых инженеров может за несколько строчек кода перевернуть историю человечества. Достаточно научить AI-алгоритм улучшать самого себя — тогда, согласно концепции «взрыва интеллекта», произойдёт скачок AI до уровня суперинтеллекта. Последствия — непредсказуемы.

https://habr.com/ru/companies/redmadrobot/articles/878152/

#ai #ии #сверхинтеллект #суперинтеллект #будущее #agi #философия #философия_ии #философия_сознания

Как идеи Аристотеля применяются в GenAI? Разбираем вопросы этики ИИ в образовании и создаем философский чат-бот

Учёные Лаборатории цифровой философии Санкт-Петербургского государственного университета на протяжении нескольких лет занимаются глубоким исследованием цифрового мира. Проект объединяет междисциплинарные исследования и занимается вопросами, которые задают философам представители цифровых технологий, статусом традиционных философских вопросов в сфере технологий и разработкой цифровых инструментов в изучении философии. Исследование генеративных нейронных сетей и их использование в педагогике вообще и в философии в частности – одна из сфер интересов учёных Лаборатории. Опыт применения этих сетей на семинарах показал ряд интересных особенностей использования GenAI (Generative Artificial Intelligence) в философии. Об этике применения генеративных нейронных сетей в образовании, а также о философском чат-боте рассказывает координатор семинара «Лаборатория цифровой философии» Дмитрий Ярочкин.

https://habr.com/ru/companies/spbu/articles/851090/

#genai #ai #python #философия #философия_ии

Размышления о мышлении

Данная статья посвящена критическому анализу развития области, называемой искусственный интеллект. Разница между критикой и критиканством крайне велика. Цель критиканства — обесценить достижения, убедить в бесплодности и бессмысленности дальнейшей деятельности в данном направлении. Задача критики — провести рефлексию. Результаты этого процесса я и изложу. Статья носит философский характер — это значит, что она не обременена математической строгостью изложения, а пытается оформить в виде понятий базовые представления и ощущения. Автор статьи не является специалистом в искусственных нейронных сетях (знакомство с ними исчерпывается прочтением книги «Глубокое обучение. Погружение в мир нейронных сетей» С. Николенко, А. Кадурин, Е. Архангельская) и генетических алгоритмах (знакомство с ними также ограничено прочтением нескольких книг), поэтому перед каждым утверждением, по-хорошему, надо добавлять фразу «как мне кажется», «на сколько я понимаю»..., но я опущу эти вводные обороты, чтобы излишне не раздувать текст. Тем не менее взгляд человека «со стороны» может быть полезен, поскольку, образно выражаясь, создает возмущение, которое может вывести специалиста из локального экстремума.

https://habr.com/ru/articles/827440/

#мышление #философия_ии