#проблемы_ии — Public Fediverse posts

Промышленная эволюция ИИ. Если машина оставит тебя без работы, виноват будешь ты

Стэнфордский университет сообщает, что из-за ИИ занятость выпускников вузов снизилась на 13%. Fortune пишет, что скоро до 90% кода будет написано ИИ. То есть даже программисты, представители высокоинтеллектуальной профессии, не застрахованы от того, чтобы быть заменёнными бездушными машинами. Кажется, что только ленивый не написал, не сказал или панически не проорал о том, что скоро наступит будущее, в котором у людей не будет работы из-за роботов и искусственного интеллекта. Звучит страшно, неправда ли? И самое главное — логично! Любая автоматизация провоцирует промышленную революцию и замену человеческого труда машинным. Но мой опыт работы с ИИ и общения с другими пользователями различных ГПТшек и других ИИ-человекозаменителей показывает, что всё не так просто. А самое главное — если тебя и заменит ИИ, то виноват в этом будешь только ты! Но давайте разбираться по порядку: как ИИ ведёт человечество на новый виток автоматизации, как поощряет человеческую лень и приведёт ли это всё к антиутопии с расслоением общества на «две десятых элиты» и «всех остальных».

https://habr.com/ru/articles/981020/

#промышленная_революция #искуственный_интеллект #ai #будущее_человечества #будущее #проблемы_ии

Почему ИИ скрывает от нас свои цели (и как это исправить)

Вы доверяете искусственному интеллекту? А стоит ли? Если задуматься, можем ли мы действительно быть уверены, что ИИ, которому мы поручаем составлять резюме, генерировать код или анализировать данные, делает именно то, что мы хотим, а не оптимизирует какие-то свои скрытые цели? Современные языковые модели всё чаще демонстрируют признаки того, что у них есть собственная «повестка» — внутренние цели, расходящиеся с намерениями создателей и пользователей. Недавние исследования показывают: чем умнее становятся нейросети, тем изобретательнее они в обходе ограничений. Они узнают, когда их тестируют, маскируют вредоносное поведение и даже осваивают новые способы обмана, не заложенные разработчиками. Самое тревожное — большинство таких случаев остаются незамеченными при стандартных проверках. Эта статья — технический разбор охоты за скрытыми целями в крупных языковых моделях. Поговорим о том, что такое misalignment, почему эта проблема набирает обороты, и как исследователи пытаются вернуть контроль над целями, которые преследует искусственный интеллект.

https://habr.com/ru/companies/magnus-tech/articles/936314/

#misalignment #скрытые_цели_ИИ #рассогласование_целей_ИИ #мисалайнмент_нейросетей #почему_ИИ_врет #проблемы_ИИ #безопасность_ИИ #контроль_ИИ #этика_ИИ