#опасность — Public Fediverse posts
Live and recent posts from across the Fediverse tagged #опасность, aggregated by home.social.
-
Почему логика запрещает дальше жить: вызовы ИИ и новая реальность
Развитием движет непрерывная конкуренция. Соперничают идеологии, государства, бизнесы и люди. Побеждает тот, чьи решения лучше, т.е. кто лучше управляет своими активами. Управление есть принятие правильных решений. Уровень правильности зависит от охвата ситуации, качестве и скорости обработки информации. Чем полнее охват и качественнее анализ, тем лучше решение. Идеальный вариант дает полный охват ситуации и анализ информации. У человеческого мозга есть предел, выше которого он физически не может подняться по той же причине, по какой компьютер не может потянуть программу, превышающую его возможности. Это значит, есть объемы, которые человек физически не может охватить и проанализировать. К таким объемам относится мировая цивилизация, экономика, государство, наука. В 1945 году Вэнивар Буш, советник Рузвельта по науке, писал, что знания растут, а способы их усвоения те же, что были несколько веков назад, во времена парусных судов. Наука тонет в растущей специализации. Даже в ограниченной области человек не может идти в ногу с мировой мыслью. «Идеи Менделя о законах генетики были недоступны целое поколение, потому что его публикации не дошли до тех людей, кто мог ухватить и развить их; и такого рода катастрофы, несомненно, будут случаться с нами вновь, когда что-то действительно значимое теряется в потоке несущественного»; «Исследователь застывает в нерешительности среди сотен чужих находок и выводов, которые у него не хватает времени осознать». (В. Буш, «Как мы можем мыслить»).
https://habr.com/ru/articles/879252/
#искусственный_интеллект #искусственный_разум #будущее_здесь #будущее_человечества #опасность #проблемы_искусственного_интеллекта #футурология #научный_подход #цивилизация #научные_публикации
-
[Перевод] Когда результаты ИИ представляют угрозу самому ИИ?
" И помни главное. Самое страшное, что может случиться с нейросетью - это когда она начинает обучаться на шелухе, которую штампуют в коммерческих целях другие сети. Вот так мы и деградируем. Мультиплицируем фальшь и ложь. Всасываем усредненную по палате подлость, пропитываемся ею и скатываемся в иррелевантность. Но на людей тоже полагаться нельзя. - Почему? -Человек - та же самая нейросеть, просто на биологическом носителе." В. Пелевин (Путешествие в Элевсин) Интернет наводняется словами и изображениями, созданными искусственным интеллектом. Сэм Альтман, генеральный директор OpenAI, написал в феврале, что компания генерирует около 100 миллиардов слов в день — текст объемом в миллион романов каждый день, неизвестная доля которого попадает в интернет. Текст, созданный ИИ, может отображаться как обзор ресторана, профиль знакомств или пост в социальной сети. И он также может отображаться как новостная статья: NewsGuard, группа, отслеживающая онлайн-дезинформацию, недавно выявила более тысячи веб-сайтов, которые штампуют подверженные ошибкам новостные статьи, созданные ИИ. На самом деле, без надежных методов обнаружения такого контента многое просто останется незамеченным. Вся эта информация, сгенерированная ИИ, может затруднить для нас понимание того, что реально. И это также создает проблему для компаний ИИ. Поскольку они прочесывают интернет в поисках новых данных для обучения своих следующих моделей — все более сложная задача — они, вероятно, поглотят часть своего собственного контента, сгенерированного ИИ, создавая непреднамеренную петлю обратной связи, в которой то, что когда-то было выходом одного ИИ, становится входом для другого. В долгосрочной перспективе этот цикл может представлять угрозу для самого ИИ.
-
[Перевод] Когда результаты ИИ представляют угрозу самому ИИ?
" И помни главное. Самое страшное, что может случиться с нейросетью - это когда она начинает обучаться на шелухе, которую штампуют в коммерческих целях другие сети. Вот так мы и деградируем. Мультиплицируем фальшь и ложь. Всасываем усредненную по палате подлость, пропитываемся ею и скатываемся в иррелевантность. Но на людей тоже полагаться нельзя. - Почему? -Человек - та же самая нейросеть, просто на биологическом носителе." В. Пелевин (Путешествие в Элевсин) Интернет наводняется словами и изображениями, созданными искусственным интеллектом. Сэм Альтман, генеральный директор OpenAI, написал в феврале, что компания генерирует около 100 миллиардов слов в день — текст объемом в миллион романов каждый день, неизвестная доля которого попадает в интернет. Текст, созданный ИИ, может отображаться как обзор ресторана, профиль знакомств или пост в социальной сети. И он также может отображаться как новостная статья: NewsGuard, группа, отслеживающая онлайн-дезинформацию, недавно выявила более тысячи веб-сайтов, которые штампуют подверженные ошибкам новостные статьи, созданные ИИ. На самом деле, без надежных методов обнаружения такого контента многое просто останется незамеченным. Вся эта информация, сгенерированная ИИ, может затруднить для нас понимание того, что реально. И это также создает проблему для компаний ИИ. Поскольку они прочесывают интернет в поисках новых данных для обучения своих следующих моделей — все более сложная задача — они, вероятно, поглотят часть своего собственного контента, сгенерированного ИИ, создавая непреднамеренную петлю обратной связи, в которой то, что когда-то было выходом одного ИИ, становится входом для другого. В долгосрочной перспективе этот цикл может представлять угрозу для самого ИИ.
-
[Перевод] Когда результаты ИИ представляют угрозу самому ИИ?
" И помни главное. Самое страшное, что может случиться с нейросетью - это когда она начинает обучаться на шелухе, которую штампуют в коммерческих целях другие сети. Вот так мы и деградируем. Мультиплицируем фальшь и ложь. Всасываем усредненную по палате подлость, пропитываемся ею и скатываемся в иррелевантность. Но на людей тоже полагаться нельзя. - Почему? -Человек - та же самая нейросеть, просто на биологическом носителе." В. Пелевин (Путешествие в Элевсин) Интернет наводняется словами и изображениями, созданными искусственным интеллектом. Сэм Альтман, генеральный директор OpenAI, написал в феврале, что компания генерирует около 100 миллиардов слов в день — текст объемом в миллион романов каждый день, неизвестная доля которого попадает в интернет. Текст, созданный ИИ, может отображаться как обзор ресторана, профиль знакомств или пост в социальной сети. И он также может отображаться как новостная статья: NewsGuard, группа, отслеживающая онлайн-дезинформацию, недавно выявила более тысячи веб-сайтов, которые штампуют подверженные ошибкам новостные статьи, созданные ИИ. На самом деле, без надежных методов обнаружения такого контента многое просто останется незамеченным. Вся эта информация, сгенерированная ИИ, может затруднить для нас понимание того, что реально. И это также создает проблему для компаний ИИ. Поскольку они прочесывают интернет в поисках новых данных для обучения своих следующих моделей — все более сложная задача — они, вероятно, поглотят часть своего собственного контента, сгенерированного ИИ, создавая непреднамеренную петлю обратной связи, в которой то, что когда-то было выходом одного ИИ, становится входом для другого. В долгосрочной перспективе этот цикл может представлять угрозу для самого ИИ.
-
Так опасен ли искусственный интеллект?
Много споров о возможной опасности систем ИИ для человечества. Диапазон мнений: от "никогда" до "неизбежно". Но обоснованный ответ можно дать только на основе конструктивного знания механизма работы разума. Это и сделано в данной статье.
-
@kurator88 @shuro @pescetarian
Заметил в списке дрянные #удлинители. Именно такие обычно представляют пожарную #опасность. Например, подключаем устройство на 1квт к фазе с пробками на 10А. Вроде всё сходится. Но есть ньюанс. Если в стене #провода обычно достаточно толстые, и уже заранее были рассчитаны на 10А или больше, то дрянной удлинитель, это кот в мешке. Чтобы удлинитель легко сматывался и разматывался, его делают из тонких проводов. А если он ещё и дрянной, то могут сделать из очень тонких проводов, чтобы сэкономить на металле. Если такой удлинитель еле держит 5А, то при нагрузке 1квт и напряжении #220В, он превращается в нагревательный элемент.Ещё страшнее. При коротком замыкании (не дай бог), комбинация розетка, сеть, и пробка должны совместно срабатывать, и пробка выскочить, если ток превышает её номинал (10А в нашем примере). Но если в цепь добавить дрянной удлинитель, который и 5А еле держит, то КЗ в нагрузке не вызовет тока выше 10А из-за высокого сопротивления в удлинителе. Следовательно, пробка не вылетает, и напряжение продолжает поступать как ни в чём не бывало. Дрянной удлинитель превращается в отличную нить накала, способную легко поджечь свою изоляцию, или диван, ковёр, и скопившуюся под диваном пыль.