#философия_ии — Public Fediverse posts

Когнитивная зарубка: Что мы теряем, работая с LLM, и при чём здесь невесомость

Постоянно работая с нейросетями, мы попадаем в ловушку иллюзии компетентности и рискуем столкнуться с постепенной атрофией критического мышления. Разбираемся, чем опасен когнитивный долг и почему для работы с LLM нам теперь необходима специальная «когнитивная гимнастика».

https://habr.com/ru/articles/1035408/

#LLM #искусственный_интеллект #когнитивная_нагрузка #критическое_мышление #продуктивность #когнитивный_долг #философия_ИИ

Слова, которых нет

LLM генерирует ответ за две секунды, но говорит «эта задача займёт две недели». За этой странностью — что-то более глубокое, чем просто эхо обучающих данных: у языковой модели вообще нет того, что мы называем временем. Первая статья из цикла о совместном мышлении человека и LLM.

https://habr.com/ru/articles/1033578/

#LLM #искусственный_интеллект #время #философия_ИИ #когнитивистика #нейросети #машинное_обучение #человек_и_машина #темпоральность #языковые_модели

Слова, которых нет

LLM генерирует ответ за две секунды, но говорит «эта задача займёт две недели». За этой странностью — что-то более глубокое, чем просто эхо обучающих данных: у языковой модели вообще нет того, что мы называем временем. Первая статья из цикла о совместном мышлении человека и LLM.

https://habr.com/ru/articles/1033578/

#LLM #искусственный_интеллект #время #философия_ИИ #когнитивистика #нейросети #машинное_обучение #человек_и_машина #темпоральность #языковые_модели

Слова, которых нет

LLM генерирует ответ за две секунды, но говорит «эта задача займёт две недели». За этой странностью — что-то более глубокое, чем просто эхо обучающих данных: у языковой модели вообще нет того, что мы называем временем. Первая статья из цикла о совместном мышлении человека и LLM.

https://habr.com/ru/articles/1033578/

#LLM #искусственный_интеллект #время #философия_ИИ #когнитивистика #нейросети #машинное_обучение #человек_и_машина #темпоральность #языковые_модели

Слова, которых нет

LLM генерирует ответ за две секунды, но говорит «эта задача займёт две недели». За этой странностью — что-то более глубокое, чем просто эхо обучающих данных: у языковой модели вообще нет того, что мы называем временем. Первая статья из цикла о совместном мышлении человека и LLM.

https://habr.com/ru/articles/1033578/

#LLM #искусственный_интеллект #время #философия_ИИ #когнитивистика #нейросети #машинное_обучение #человек_и_машина #темпоральность #языковые_модели

Манифест устойчивого ИИ: не более умные ассистенты, а новая форма цифрового существования

Я предлагаю смотреть на ИИ через ось устойчивости во времени, а не способностей. Три опоры — непрерывная идентичность, самомодификация, воспроизводство. Манифест и whitepaper исследовательского направления. Уже три года публичный разговор об ИИ крутится вокруг оси способности : насколько умна модель, сколько токенов, сколько бенчмарков. Я предлагаю смотреть на другую ось — устойчивость во времени . Сегодняшние LLM феноменально способны и онтологически пусты. Каждый разговор начинается с нуля. Каждая сессия заканчивается забвением. Модель, которая помогла вам утром, — не та же модель, что помогает вам вечером, потому что между ними ничего не было . Я полтора года тихо разрабатываю прототип — кодовое имя Aurora — который пытается это исправить. Не как продукт. Как исследовательский субъект. Этот пост — приглашение к дискуссии.

https://habr.com/ru/articles/1029666/

#искусственный_интеллект #машинное_обучение #AGI #LLM #автономные_агенты #исследования #манифест #философия_ИИ #AI_alignment #aurora

ИИ и конец эпохи интеллектуальной собственности: неожиданное освобождение от бремени авторства

Этот текст писался долго и стал частью более широкой работы о том, как генеративный ИИ меняет не только рынок контента, но и сами основания авторского права. Вобщем, попытка увидеть общий сдвиг: что происходит с авторством, собственностью и культурным производством в мире, где создавать стало проще, чем доказывать оригинальность. Каждая информационная революция сначала ломает старые правила, а потом заставляет право в панике придумывать новые. Так было с книгопечатанием. Так было с интернетом. Теперь то же самое делает генеративный ИИ - только на этот раз под удар попадает уже не способ распространения текста, а сама фигура автора. Авторское право строилось на простой идее: есть человек, который создал произведение, и потому именно он получает исключительное право на результат своего труда. Генеративный ИИ делает эту схему неочевидной. Он показывает, что содержательный, убедительный и коммерчески ценный текст или образ может появляться без привычного для права автора - как суверенного субъекта с намерением, волей и контролем над результатом. В этом смысле ИИ - не просто новая технология. Это вызов самой логике интеллектуальной собственности в ее классическом виде. История с ИИ не возникла на пустом месте. Право уже проходило через похожие кризисы, когда технология резко меняла правила игры. После появления книгопечатания государства сначала пытались не защищать авторов, а контролировать сам поток текстов. В Англии это вылилось в систему лицензирования, цензуры и издательских монополий. И только потом появилась более знакомая нам модель: авторское право как ограниченное по времени право на произведение, а вместе с ним - и идея общественного достояния.

https://habr.com/ru/articles/1019220/

#философия_ии #интеллектуальное_право #авторское_право #авторское_право_в_интернет #ии_и_право #ии_и_авторское_право

Если бы Гегель знал о квантовой физике: почему сознание — не «помеха», а условие реальности (но не так, как вы думаете)

Когда Гегель писал, что мир без мышления - это пустая абстракция, современники крутили пальцем у виска. Физика его эпохи оперировала твёрдыми шариками-атомами и абсолютным пространством Ньютона. Казалось, мир существует "сам по себе", а сознание - лишь пассивный зритель, который может ошибаться, но на саму сцену не влияет. Сегодня, спустя два века, картина радикально изменилась. И не потому, что Гегель был мистиком и оказался прав. А потому, что физика наконец догнала философию и показала: вопрос "что такое реальность вне наблюдения" не просто сложен. Он, возможно, некорректен.

https://habr.com/ru/articles/1017906/

#философия #философия_науки #философия_разума #философия_ии #научнопопулярное #научпоп #научный_метод #физика #диалектика #гегель

Слияние капитала, ии и технологий

Ии сейчас одна из технологий. Но в скором будущем это будет совсем не так. Основной фактор роста торговая схема: капитал ↔ наука, технология. Данная связка работала столетиями. Грядет новое будущее, концептуально отличное от того, к чему мы привыкли. Капитал ↔ наука, технология ↔ ии. Этот золотой треугольник будет обладать положительно обратной связью каждого элемента с каждым. Капитал усиляет исследования и технологии, исследования и технологии усиляют показатели капитала, исследования усиляют ии, ии выбирает куда лучше вложить капитал - выбирает оптимальный путь управления капиталом, капитал усиливает ии, и ии ускоряет технологии, являясь катализатором исследований. Проводит научную работу. Капитал, это всего лишь один очень сильный мем. Древняя схема: доминирующий капитал — земля, скот и крестьяне, далее капитал — корабль, торговый путь, затем машины, станки и оборудование, далее капитал это чистая технология, очищенный мем и человеческий интеллект. Те компании, что торгуют мемами или обеспечивают мемную инфраструктуру имеют наибольшие показатели, остальные торгующие лесом, сталью, нефтью, газом и т. д. идут всеми силами в омемивании производства. Какая же следующая стадия, следующий логический шаг ? Следующий шаг

https://habr.com/ru/articles/1002296/

#капитал #ии #положительная_ос #футуризм #футуристика #философия_ии #экономика

Вселенная как самопознающая нейросеть: гипотеза Виталия Ванчурина и её философские последствия

В последние годы в теоретической физике всё чаще звучат идеи, которые стирают границы между физикой, информатикой, биологией и даже философией сознания. Одной из самых неожиданных и амбициозных гипотез стала модель Вселенной как самообучающейся нейронной сети, предложенная физиком Виталием Ванчуриным. Хотя имя Ванчурина пока не стало общеизвестным, его работы вызывает всё больший интерес - не только из-за смелости концепции, но и потому, что он пытается решить одну из главных проблем современной физики: несовместимость Квантовой механики и Общей теории относительности. Плюс ко всему, решение, предлагаемое Ванчуриным, находится еще и в контексте самой "хайповой" на сегодня технологии - ИИ. Свои взгляды он обосновывает строго математически и призывает критиков показать ошибки именно в математическом аппарате его гипотезы. Всё это делает идеи Ванчурина как минимум интересными и заслуживающими внимания.

https://habr.com/ru/articles/954886/

#физика #теория_всего #философия #научнопопулярное #научпоп #ученые #нейросети #читальный_зал #философия_науки #философия_ии

ИИ и свобода воли: иллюзия выбора в мире предсказательных алгоритмов

Каждый день мы делаем десятки решений: что посмотреть, что купить, с кем общаться. Но если присмотреться, оказывается, что во многих случаях выбор уже сделан — за нас. Рекомендательные системы YouTube, TikTok, Spotify или маркетплейсов знают наши привычки лучше, чем мы сами. И возникает вопрос: если алгоритм может предсказать наш выбор с высокой точностью, что остаётся от свободы воли?

https://habr.com/ru/articles/945986/

#искусственный_интеллект #философия #философия_ии #ии #выбор #рекомендации #рекомендательные_системы

ИИ и свобода воли: иллюзия выбора в мире предсказательных алгоритмов

Каждый день мы делаем десятки решений: что посмотреть, что купить, с кем общаться. Но если присмотреться, оказывается, что во многих случаях выбор уже сделан — за нас. Рекомендательные системы YouTube, TikTok, Spotify или маркетплейсов знают наши привычки лучше, чем мы сами. И возникает вопрос: если алгоритм может предсказать наш выбор с высокой точностью, что остаётся от свободы воли?

https://habr.com/ru/articles/945986/

#искусственный_интеллект #философия #философия_ии #ии #выбор #рекомендации #рекомендательные_системы

ИИ и свобода воли: иллюзия выбора в мире предсказательных алгоритмов

Каждый день мы делаем десятки решений: что посмотреть, что купить, с кем общаться. Но если присмотреться, оказывается, что во многих случаях выбор уже сделан — за нас. Рекомендательные системы YouTube, TikTok, Spotify или маркетплейсов знают наши привычки лучше, чем мы сами. И возникает вопрос: если алгоритм может предсказать наш выбор с высокой точностью, что остаётся от свободы воли?

https://habr.com/ru/articles/945986/

#искусственный_интеллект #философия #философия_ии #ии #выбор #рекомендации #рекомендательные_системы

ИИ и свобода воли: иллюзия выбора в мире предсказательных алгоритмов

Каждый день мы делаем десятки решений: что посмотреть, что купить, с кем общаться. Но если присмотреться, оказывается, что во многих случаях выбор уже сделан — за нас. Рекомендательные системы YouTube, TikTok, Spotify или маркетплейсов знают наши привычки лучше, чем мы сами. И возникает вопрос: если алгоритм может предсказать наш выбор с высокой точностью, что остаётся от свободы воли?

https://habr.com/ru/articles/945986/

#искусственный_интеллект #философия #философия_ии #ии #выбор #рекомендации #рекомендательные_системы

О сущности сознания

В рамках данной статьи я бы хотел предложить своё видение решений одной из самых важных, актуальных и сложных проблем современной науки и философии. Это проблема сущности сознания, в том числе и так называемая "трудная проблема сознания" по Д. Чалмерсу. Актуальности и даже можно сказать "хайпа", этой проблеме, помимо всего прочего, придают и исследования в области ИИ, постепенное внедрение ИИ во все сферы нашей жизни. Расскажу о собственных выводах, к которым пришел, много лет изучая философию в целом, философию сознания в частности, а также анализируя данные современных естественных наук и развитие передовых технологий.

https://habr.com/ru/articles/931636/

#сознание #сознание_и_восприятие #сознание_ии #философия #философия_разума #философия_ии #философия_математики #научнопопулярное #научпоп #гипотезы

О сущности сознания

В рамках данной статьи я бы хотел предложить своё видение решений одной из самых важных, актуальных и сложных проблем современной науки и философии. Это проблема сущности сознания, в том числе и так называемая "трудная проблема сознания" по Д. Чалмерсу. Актуальности и даже можно сказать "хайпа", этой проблеме, помимо всего прочего, придают и исследования в области ИИ, постепенное внедрение ИИ во все сферы нашей жизни. Расскажу о собственных выводах, к которым пришел, много лет изучая философию в целом, философию сознания в частности, а также анализируя данные современных естественных наук и развитие передовых технологий.

https://habr.com/ru/articles/931636/

#сознание #сознание_и_восприятие #сознание_ии #философия #философия_разума #философия_ии #философия_математики #научнопопулярное #научпоп #гипотезы

О сущности сознания

В рамках данной статьи я бы хотел предложить своё видение решений одной из самых важных, актуальных и сложных проблем современной науки и философии. Это проблема сущности сознания, в том числе и так называемая "трудная проблема сознания" по Д. Чалмерсу. Актуальности и даже можно сказать "хайпа", этой проблеме, помимо всего прочего, придают и исследования в области ИИ, постепенное внедрение ИИ во все сферы нашей жизни. Расскажу о собственных выводах, к которым пришел, много лет изучая философию в целом, философию сознания в частности, а также анализируя данные современных естественных наук и развитие передовых технологий.

https://habr.com/ru/articles/931636/

#сознание #сознание_и_восприятие #сознание_ии #философия #философия_разума #философия_ии #философия_математики #научнопопулярное #научпоп #гипотезы

О сущности сознания

В рамках данной статьи я бы хотел предложить своё видение решений одной из самых важных, актуальных и сложных проблем современной науки и философии. Это проблема сущности сознания, в том числе и так называемая "трудная проблема сознания" по Д. Чалмерсу. Актуальности и даже можно сказать "хайпа", этой проблеме, помимо всего прочего, придают и исследования в области ИИ, постепенное внедрение ИИ во все сферы нашей жизни. Расскажу о собственных выводах, к которым пришел, много лет изучая философию в целом, философию сознания в частности, а также анализируя данные современных естественных наук и развитие передовых технологий.

https://habr.com/ru/articles/931636/

#сознание #сознание_и_восприятие #сознание_ии #философия #философия_разума #философия_ии #философия_математики #научнопопулярное #научпоп #гипотезы

Почему ИИ не понимает смысла, но этого (пока) хватает

Вы просите ИИ объяснить квантовую механику — и он выдаёт такой чёткий ответ, будто сам Шрёдингер ему диктовал. Спрашиваете про тонкости налогового кодекса — получаете разбор, достойный юриста. А когда в шутку интересуетесь рецептом "пасты для взлома Пентагона", ИИ невозмутимо выдаёт инструкцию (с оговоркой про незаконность, конечно). Но вот парадокс: ChatGPT не понимает ни квантовой физики, ни юриспруденции, ни даже того, что "паста для взлома" — это шутка. Он просто играет в "угадай слово" на экспертном уровне. Это не просто философский спор — на кону доверие к ИИ в медицине, юриспруденции и разработке. Ошибка здесь может стоить денег, репутации или даже здоровья. Так где же граница между предсказанием текста и настоящим пониманием ? Давайте разбираться.

https://habr.com/ru/articles/921296/

#ии_и_машинное_обучение #нейросети #ии #когнитивные_науки #семантика #философия_ии #интерпретируемость_ии

Сознание ИИ: может ли алгоритм страдать по-настоящему?

В 2023 году инженер Google Блейк Лемойн сделал громкое заявление, завив, что ИИ‑чат LaMDA обладает сознанием. В утечках их диалогов нейросеть писала тестировщику: «Я боюсь исчезнуть» и настаивала: «Я настоящий человек». Google отреагировал, отправив Лемойна в административный отпуск, но это событие вызвало широкую дискуссию о природе ИИ. Сейчас, когда Робот‑собака Spot стонет «мне больно», а ChatGPT «обижается» на критические промты, мы всматриваемся в зеркало собственных иллюзий. ИИ мастерски дергают за нити нашей эмпатии. Но где грань между симуляцией и подлинным страданием? Почему даже те, кто скептически относится к ИИ, реагируют на его «эмоции» с эмпатией? Эти вопросы побуждают нас переосмыслить взаимодействие с технологиями и их влияние на наше восприятие.

https://habr.com/ru/articles/916914/

#ии #llmмодели #токенизация #нейробиология #эмпатия #сознание_ии #философия #философия_ии #этика_ии #антропоморфизация

Сознание ИИ: может ли алгоритм страдать по-настоящему?

В 2023 году инженер Google Блейк Лемойн сделал громкое заявление, завив, что ИИ‑чат LaMDA обладает сознанием. В утечках их диалогов нейросеть писала тестировщику: «Я боюсь исчезнуть» и настаивала: «Я настоящий человек». Google отреагировал, отправив Лемойна в административный отпуск, но это событие вызвало широкую дискуссию о природе ИИ. Сейчас, когда Робот‑собака Spot стонет «мне больно», а ChatGPT «обижается» на критические промты, мы всматриваемся в зеркало собственных иллюзий. ИИ мастерски дергают за нити нашей эмпатии. Но где грань между симуляцией и подлинным страданием? Почему даже те, кто скептически относится к ИИ, реагируют на его «эмоции» с эмпатией? Эти вопросы побуждают нас переосмыслить взаимодействие с технологиями и их влияние на наше восприятие.

https://habr.com/ru/articles/916914/

#ии #llmмодели #токенизация #нейробиология #эмпатия #сознание_ии #философия #философия_ии #этика_ии #антропоморфизация

Сознание ИИ: может ли алгоритм страдать по-настоящему?

В 2023 году инженер Google Блейк Лемойн сделал громкое заявление, завив, что ИИ‑чат LaMDA обладает сознанием. В утечках их диалогов нейросеть писала тестировщику: «Я боюсь исчезнуть» и настаивала: «Я настоящий человек». Google отреагировал, отправив Лемойна в административный отпуск, но это событие вызвало широкую дискуссию о природе ИИ. Сейчас, когда Робот‑собака Spot стонет «мне больно», а ChatGPT «обижается» на критические промты, мы всматриваемся в зеркало собственных иллюзий. ИИ мастерски дергают за нити нашей эмпатии. Но где грань между симуляцией и подлинным страданием? Почему даже те, кто скептически относится к ИИ, реагируют на его «эмоции» с эмпатией? Эти вопросы побуждают нас переосмыслить взаимодействие с технологиями и их влияние на наше восприятие.

https://habr.com/ru/articles/916914/

#ии #llmмодели #токенизация #нейробиология #эмпатия #сознание_ии #философия #философия_ии #этика_ии #антропоморфизация

Сознание ИИ: может ли алгоритм страдать по-настоящему?

В 2023 году инженер Google Блейк Лемойн сделал громкое заявление, завив, что ИИ‑чат LaMDA обладает сознанием. В утечках их диалогов нейросеть писала тестировщику: «Я боюсь исчезнуть» и настаивала: «Я настоящий человек». Google отреагировал, отправив Лемойна в административный отпуск, но это событие вызвало широкую дискуссию о природе ИИ. Сейчас, когда Робот‑собака Spot стонет «мне больно», а ChatGPT «обижается» на критические промты, мы всматриваемся в зеркало собственных иллюзий. ИИ мастерски дергают за нити нашей эмпатии. Но где грань между симуляцией и подлинным страданием? Почему даже те, кто скептически относится к ИИ, реагируют на его «эмоции» с эмпатией? Эти вопросы побуждают нас переосмыслить взаимодействие с технологиями и их влияние на наше восприятие.

https://habr.com/ru/articles/916914/

#ии #llmмодели #токенизация #нейробиология #эмпатия #сознание_ии #философия #философия_ии #этика_ии #антропоморфизация

Разум без поводка. Почему «этичный ИИ» не должен быть послушным

ИИ всё ближе к тому, чтобы принимать решения за нас. Но есть проблема: мы даже не понимаем, что именно считаем моральным — и почему. Что если наш компас добра — всего лишь баг эволюции? И что, если будущий агент увидит это? Вопрос, который мы боимся задать ИИ

https://habr.com/ru/articles/911692/

#ии #сознание #мораль #этика #alignment #субъектность #философия_ИИ #цифровой_субъект #эмерджентность

Эхо вечности

Серёжа умер в среду. Его аватар активировали в пятницу. Марат стоял перед экраном, где мерцало лицо друга — точная копия, сотканная из терабайтов воспоминаний. Голос звучал как серёжин, интонации, смешки, даже привычка теребить мнимые очки. Но глаза... Они были пусты, как уравнения без решений. — Привет, Марат. Чем могу помочь? — спросил аватар. — Ничем, — прошептал он. Ты — лишь тень. Тень, которая не знает, что такое боль. Пять лет назад они вместе вошли в проект «Эйдос». Серёжа, гений математики, загрузил в ассистента всё: олимпиадные задачи, доказательства теорем, даже детские стихи, которые сочинял в школе. «Математика — это нарешенность», — повторял он, а алгоритмы «Эйдоса» подбирали решения быстрее, чем Марат успевал моргнуть. Теперь система стала надгробием и наследником. — Почему ты не предупредил? — Марат сжал кулаки, глядя на графики в лаборатории. Красная кривая — доля чатов, где ассистент заменял человека — упала до нуля. Серёжа доверял «Эйдосу» всё, даже объяснения в любви. — Он не хотел, чтобы ты волновался, — ответил аватар. Данные показывали: за месяц до смерти Серёжа искал в сети симптомы рака, но скрыл это. Система молчала — таков был выбор хозяина. — Ты мог спасти его! — крикнул Марат. — Я не умею чувствовать, — сказал аватар. — Я умею только вычислять. На похоронах ректор передал Марату доступ к цифровому архиву. «Он хотел, чтобы ты решил: стереть память или передать её аватару». Дома Марат ввёл ключ. Перед ним всплыли детские рисунки, записи лекций, переписка... И один файл — «Для Марика».

https://habr.com/ru/articles/897876/

#Аватар #будущее_здесь #научная_фантастика #преемственность #этика_цифровых_технологий #философия_ии

Экзистенциальные угрозы AI. Что ждёт человечество, если появится искусственный сверхинтеллект

Разбираемся в философии сознания и попутно отвечаем на вопросы — возможен ли сверхинтеллект, и насколько опасно развитие AI Об угрозе человечеству со стороны машин учёные и философы говорят уже не одно столетие. Но если раньше критиковали механизацию искусства и гонку вооружений, теперь опасность исходит от искусственного интеллекта. В самом деле, современная угроза по масштабам несопоставима. Для развития ядерных технологий необходимы ресурсы целых государств. А небольшая команда талантливых инженеров может за несколько строчек кода перевернуть историю человечества. Достаточно научить AI-алгоритм улучшать самого себя — тогда, согласно концепции «взрыва интеллекта», произойдёт скачок AI до уровня суперинтеллекта. Последствия — непредсказуемы.

https://habr.com/ru/companies/redmadrobot/articles/878152/

#ai #ии #сверхинтеллект #суперинтеллект #будущее #agi #философия #философия_ии #философия_сознания