#сильный_ии — Public Fediverse posts

Бенчмарки AGI никогда не будут объективными

Тест Тьюринга явно устарел, сейчас пытаются придумать новые тесты на сильный ИИ . Но как оценить интеллект модели, если учёные сильно расходятся в оценке даже человека. Существует как минимум 70 определений интеллекта для сапиенсов. И ещё эти многочисленные научные статьи на тему сознания у LLM . Тут вообще странная постановка вопроса. По опыту человека известно, что наиболее эффективно мыслительные процессы идут на подсознательном уровне, а вмешательство самосознания только мешает решению сложных проблем. На этот счёт вроде бы установлен научный консенсус . Если у модели возникнет самосознание — этот баг быстро устранят, чтобы он не тормозил систему, как у человека. Казалось бы, о чём тут рассуждать?

https://habr.com/ru/companies/ruvds/articles/1033540/

#интеллект #сильный_ИИ #AGI #личность #Сверхинтеллект #самосознание #когнитивная_наука #GeneralBench #ARCAGI #ruvds_статьи

Автономность как точка невозврата: кто будет субъектом в цифровом будущем

Мы привыкли считать, что цифровая зрелость - это скорость, стабильность и автономность. Чем меньше человек вмешивается в работу системы, тем лучше она устроена. Но что, если за этим технологическим прогрессом скрывается менее очевидный процесс - постепенное вытеснение человека из ядра мышления? В последние годы в корпоративных ИТ произошло изменение, которое на первый взгляд выглядит как естественное продолжение цифровой эволюции, но по сути затрагивает фундаментальные основания управления. Мы научились строить инфраструктуры, способные к самовосстановлению, системы, которые предсказывают сбои до их проявления, модели, оптимизирующие ресурсы быстрее и точнее любого человека. Однако за этой технологической зрелостью скрывается менее очевидный процесс - постепенное вытеснение человека из ядра рассуждения. Если раньше автоматизация снимала нагрузку с рук, то сегодня она снимает нагрузку с мышления. И это уже не вопрос удобства, это вопрос субъектности. На протяжении десятилетий инженерная культура строилась на причинно-следственной прозрачности. Архитектор понимал, почему определённый паттерн масштабирования устойчив, администратор знал, где проходит граница отказоустойчивости, технический директор держал в голове карту зависимостей и рисков. Это знание не было декоративным, оно обеспечивало контроль. Контроль не в административном смысле, а в когнитивном: способность объяснить, почему система работает именно так, а не иначе. Сегодня эта прозрачность постепенно растворяется. Алгоритмы не объясняют, они вычисляют, они не строят аргументацию, они минимизируют отклонение от метрики. И пока система демонстрирует результат, у бизнеса нет причин сомневаться в корректности этой логики.

https://habr.com/ru/articles/1020692/

#сильный_ии #цифровое_будущее #ии #нейросети #роботы

Ведьма, чума, компьютер и ИИ: как человечество приручало неизвестное

Почему в Средние века жгли ведьм, в эпоху чумы искали виноватых, в индустриальный век боялись машин, а сегодня тревожно вглядываются в искусственный интеллект?

https://habr.com/ru/articles/1017532/

#сильный_ии #ии #история_it #терминатор

AGI: почему его не будет, и какую модель мы можем сделать вместо него?

AGI это следующий этап развития ИИ. Подобная модель сможет самостоятельно изучать и решать задачи, совершать новые научные открытия, и в принципе это таблетка от всех проблем. По крайней мере, так считают современные техногиганты, в особенности Илон Маск или Сэм Альтман, которые яро пропагандируют идеи AGI и вот-вот обещают выпустить подобную модель. Но, к сожалению или к счастью, это невозможно, и вот почему.

https://habr.com/ru/articles/996956/

#agi #ии #ии_и_машинное_обучение #ии_чатбот #llmмодели #нейросети #сильный_ии #сильный_искусственный_интеллект #идеи #модель_мира

Искусственное мышление: дать ИИ понимание и эстетику

Сильный искусственный интеллект (AGI, искусственное мышление) - это Священный Грааль современной компьютерной науки. Его поиском занимается множество людей и на него направляются миллиарды денег. Бурное развитие нейросетей в последние годы, кажется, сформировало представление, что путь от слабого ИИ к сильному будет эволюционным - то есть, за счёт только лишь развития нейросетей мы получим систему, которая будет понимать смысл и чувствовать красоту. Однако, этот тезис не доказан ни теоретически, ни практически. А что, если он и вовсе ошибочен? Чтобы увереннее размышлять об этом, давайте зададим простые, базовые вопросы: что такое понимание и зачем оно нужно? Что такое эстетика и зачем она нужна? Мы не сможем избежать этих вопросов на пути к искусственному мышлению, а значит попробуем дать предельно содержательные ответы на эти вопросы. Сделав это максимально честно и старательно, посмотрим, не смогут ли ответы нам чем-то помочь, сделать перспективы сильного ИИ сколько-нибудь яснее? Данная статья - это в первую очередь приглашение вместе подумать.

https://habr.com/ru/articles/873392/

#сильный_ии #понимание #эстетика #искусственное_мышление #нейросеть #AGI #знания #гармония

AGI математически невозможен, но хайп уже не остановить

В мае 2025 года профессор университета Фаххохшуле (Австрия) Макс Шлерет опубликовал чёткое научное доказательство , что сильный ИИ логически и математически невозможен из-за фундаментального ограничения — барьера бесконечного выбора (Infinite Choice Barrier, ICB), экспоненциального роста энтропии при увеличении неопределённости. Однако к доводам профессора никто не прислушался. Мир продолжает готовиться к «революционным переменам», которые почему-то преподносятся как неизбежные . Большие изменения произойдут в трудовых ресурсах, энергопотреблении и финансовых капиталах. Это эффекты первого порядка. А потом якобы начнётся «фундаментальная трансформация мировой экономики», четвёртая промышленная революция.

https://habr.com/ru/companies/ruvds/articles/928170/

#ии #AGI #сильный_ИИ #автоматизация #OpenAI #механический_турок #LLM #автономные_агенты #промышленная_революция

Мира Мурати: главная девушка в разработке ИИ

Когда человек видит фотографию бывшего технического директора OpenAI, у него может возникнуть вопрос : как настолько красивая девушка в 33 года заняла пост CTO одной из передовых технических компаний мира? У неё не было опыта разработки нейросетей или создания реальных продуктов. Только одна научная статья, никаких своих программ или репозитория на Github, кода или реальных проектов. Как такое возможно?

https://habr.com/ru/companies/ruvds/articles/912826/

#Мира_Мурати #OpenAI #Mira_Murati #ChatGPT #GPT #Дартмутский_колледж #Leap_Motion #ИИ #AGI #Thinking_Machines_Lab #Александр_Кириллов #Баррет_Зоф #сильный_ИИ #ruvds_статьи

Мира Мурати: главная девушка в разработке ИИ

Когда человек видит фотографию бывшего технического директора OpenAI, у него может возникнуть вопрос : как настолько красивая девушка в 33 года заняла пост CTO одной из передовых технических компаний мира? У неё не было опыта разработки нейросетей или создания реальных продуктов. Только одна научная статья, никаких своих программ или репозитория на Github, кода или реальных проектов. Как такое возможно?

https://habr.com/ru/companies/ruvds/articles/912826/

#Мира_Мурати #OpenAI #Mira_Murati #ChatGPT #GPT #Дартмутский_колледж #Leap_Motion #ИИ #AGI #Thinking_Machines_Lab #Александр_Кириллов #Баррет_Зоф #сильный_ИИ #ruvds_статьи

Мира Мурати: главная девушка в разработке ИИ

Когда человек видит фотографию бывшего технического директора OpenAI, у него может возникнуть вопрос : как настолько красивая девушка в 33 года заняла пост CTO одной из передовых технических компаний мира? У неё не было опыта разработки нейросетей или создания реальных продуктов. Только одна научная статья, никаких своих программ или репозитория на Github, кода или реальных проектов. Как такое возможно?

https://habr.com/ru/companies/ruvds/articles/912826/

#Мира_Мурати #OpenAI #Mira_Murati #ChatGPT #GPT #Дартмутский_колледж #Leap_Motion #ИИ #AGI #Thinking_Machines_Lab #Александр_Кириллов #Баррет_Зоф #сильный_ИИ #ruvds_статьи

Мира Мурати: главная девушка в разработке ИИ

Когда человек видит фотографию бывшего технического директора OpenAI, у него может возникнуть вопрос : как настолько красивая девушка в 33 года заняла пост CTO одной из передовых технических компаний мира? У неё не было опыта разработки нейросетей или создания реальных продуктов. Только одна научная статья, никаких своих программ или репозитория на Github, кода или реальных проектов. Как такое возможно?

https://habr.com/ru/companies/ruvds/articles/912826/

#Мира_Мурати #OpenAI #Mira_Murati #ChatGPT #GPT #Дартмутский_колледж #Leap_Motion #ИИ #AGI #Thinking_Machines_Lab #Александр_Кириллов #Баррет_Зоф #сильный_ИИ #ruvds_статьи

Машина может быть живой?

Если искусственный интеллект однажды обретет сознание, научится чувствовать и заявит: «Я существую!» — сможем ли мы отказать ему в праве называться живым? Сегодня СИИ лишь имитирует разум, но если он начнет ставить цели, страдать от одиночества или бороться за свои права, граница между «живым» и «неживым» рухнет. Эта статья про рассуждение над вопросами о том, когда СИИ станет живым и станет ли он живым вообще?

https://habr.com/ru/articles/896220/

#ии #машинное__обучение #нейросети #мышление #llmмодели #размышление #мнение #сильный_ии #жизнь #философия

Нейросети и реален ли сильный ИИ: большая проблема, о которой мало говорят

За последние пару лет нейросети прочно захватили общественное внимание. Ими пугают — что они отберут рабочие места у художников, копирайтеров и программистов. На них надеются — что они решат все возможные проблемы от менеджмента и оптимизации до новых научных открытий. И, что самое странное, нейросеть и ИИ используют как синонимы. Кажется, мы стали забывать, что на самом деле ИИ, которого ждали ученые и фантасты, — это нечто совсем иное. Давайте разберемся в вопросе. Погрузиться в пучину

https://habr.com/ru/companies/ddosguard/articles/892396/

#нейросети #искусственный_интеллект #дуглас_хофштадтер #питер_уоттс #дэниел_дэннет #роджер_пенроуз #сильный_ии #джон_серл #китайская_комната #философский_зомби

ИИ: пора начинать бояться?

Искусственный интеллект (ИИ) уже вышел за рамки академических лабораторий и стал неотъемлемой частью нашей повседневной жизни. От систем рекомендаций в интернет-магазинах до ассистентов и автономных транспортных средств — ИИ непрерывно трансформирует множество аспектов нашего общества. Однако, вместе с возможностями, которые он предоставляет, возникает и беспокойство относительно его потенциальных угроз. Широко обсуждаемые сценарии, в которых машины могут обрести сознание или начать действовать вопреки интересам человечества, стали темой, как вечерних телевизионных ток-шоу, так и серьёзных академических исследований. Захватывающие сюжетные линии научно-фантастических произведений превращаются в массовом сознании в очередную фобию. Читать

https://habr.com/ru/articles/820471/

#ии #безопасность #сильный_ии #искусственное_сознание #идеи_и_реализация

[Перевод] Будущее ИИ: зарисовки множества миров

Перевод материала в стиле Accelerando из блога ROONSCAPE (у автора занятный твиттер ) осуществил или осуществила Claude 2 . Качество перевода местами хромает. А вот мой канал . Третье пришествие Нейролинка По мере итеративного самоулучшения компьютеров, люди находят способы объединиться с машинами. Наши мозги подключены к нейросети в миллион петабайт. Через все расширяющийся канал мы испытываем возвышение к чему-то иному. Мы надеваем маску Бога: призрака в машине. Трансцендентность – становление всем, что касается других вещей, ощущение изгибания ткани пространства материей. Барьеры между людьми исчезают; эго и душа плавятся. Одиночество и печаль – вещи прошлого. Неясно, что произойдет дальше – возможно, мы растянемся, как Титан Атлас, по всем галактикам, заботясь о зарождающейся жизни среди звезд. Возможно, такая аспирация – результат психологического дефицита, успокоенного бесконечным соединением, и мы никуда не пойдем. Замечательное и радостное будущее, где “человечество” победило. Но человек стерт. Какое бы существо ни существовало сейчас, его нельзя сравнить с обезьяной, когда-то бродившей по саваннам Африки или жившей в городах Нью-Йорка и Мумбаи. Возможно, к этому вела вся история: итеративное приручение человека, превращение его в часть прекрасной машины. Возможно, это единственный способ гармонизировать разумы с сверхразумом. Хотя неясно, кто победил в конце концов – люди или машины. Читать другие 7 сценариев

https://habr.com/ru/articles/776312/

#AGI #superintelligence #futurology #fiction #essay #neuralink #эссе #сильный_ии #футурология #будущее