#роботы — Public Fediverse posts

Степени свободы вместо пользы: как я пришёл к принципу DOF-Core (и почему три закона Азимова не работают)

Последнее время, наверное, ни один более-менее адекватный специалист в области ИИ не проходит мимо разговоров о том, насколько всё это опасно. То одна модель "сошла с ума", то другая начала убеждать живого человека в чём- то странном, то кто-то всерьёз заговорил про экзистенциальную угрозу человечеству. Я тоже как-то подустал от этого информационного шума, но одна мысль не давала покоя: а что, собственно, мы предлагаем взамен? Красивые лозунги "сделайте ИИ добрым" явно недостаточно, а на практике что? Когда заходит речь о "безопасном искусственном интеллекте", первое, что вспоминают - это три закона робототехники Азимова. Красиво, правильно, звучит убедительно. Но на практике они однозначно неприменимы, и дело даже не в том, что они "устарели" - они просто не работают как алгоритм. Закон "не причиняй вреда человеку" в реальности упирается в неразрешимые противоречия. А если спасти одного человека можно только ценой гибели другого? А если "вред" наступит через десять шагов логического вывода, который робот ещё даже не сделал? Сам Азимов сто раз на этом играл в своих рассказах - законы постоянно конфликтуют друг с другом, и это не баг, а фича сюжета. Но нам-то нужна не фича сюжета, а рабочая система принятия решений. И вот тут начинаешь понимать, что декларации не спасают. Так и родилась идея, которую я в итоге оформил в виде скилла DOF-Core (Degrees of Freedom - степени свободы). Базовый принцип даже не мой - я о нем читал лет 10 назад и он меня впечатлил. Ниже расскажу, как устроена эта идея и почему мне кажется, что математика тут важнее хороших намерений.

https://habr.com/ru/articles/1080862/

#LLM #ИИ_агенты #Роботы #Азимов #Этика_и_мораль

История создания промышленных роботов: от игрушки Билла Гриффита Тейлора до разработок Джорджа Девола и Виктора Шейнман

Что такое робот, объяснять нет нужды. В последние сто лет, с момента появления в 1920 году самого слова «робот» в пьесе Карела Чапека «R.U.R.», пять поколений людей с раннего детства по книгам и комиксам, кинофильмам и мультфильмам знают о роботах все до мелочей. Знают, как они должны выглядеть – либо быть железными копиями человека, либо внешне не отличаться от нас, оставаясь из металла внутри, и знают, что они должны делать – выполнять за человека тяжелую и утомительную работу, а потом взбунтоваться и поработить людей. По-хорошему, сюда же, к роботам, надо отнести более ранние их варианты – слепленного из грязи Голема и собранное из кусков трупов чудовище Франкенштейна, которые сразу же вышли из повиновения их создателям. Это были неудачные и исходно порочные варианты, а есть, расскажут теоретики робототехники, исходно покорные и по своей сути не способные к бунту роботы – секс-куклы. Правда, они, эти секс-роботы, сильно эволюционировали за последние полвека, а к середине нашего века, по прогнозам их изобретателей и рационализаторов, обзаведутся ИИ, и тогда никто не поручится, чем это закончится для человечества с точки зрения демографии. Кстати, искусственный интеллект тоже можно отнести к бестелесным роботам, ведь он тоже призван выполнять за человека, пожалуй, самую тяжелую и утомительную работу – думать, и уже норовит поработить те личности, которым лень подумать самим. Современные промышленные роботы в роботическую мифологию не вписываются. Максимум в чем они могут ослушаться хозяина, да и то непреднамеренно, это перегореть или сломаться от усталости металла, а если и начнут что-то делать не так, как им велено, или даже крушить все подряд на своем рабочем месте, то исключительно из-за ущербного ПО или бестолковости их оператора. Да и внешне они не похожи на человека.

https://habr.com/ru/companies/onlinepatent/articles/1032200/

#unimate #роботы #манипулятор #история_робототехники #история_роботов #патенты #история_создания #история_it #история_успеха #история_науки

Как Япония стала «страной роботов», опередив США в робототехнике и сделав андроидов частью национальной культуры?

Среди стереотипов о Японии, наряду с самураями, аниме и прочей развесистой сакурой, присутствуют киберпанк и роботы. Про возникновение японской версии киберпанка и её отличия от американской мы уже говорили — как и про то, как и почему Страна восходящего солнца несколько отстала в компьютеризации, несмотря на мощный старт в своё время. Однако в робототехнике Япония сохраняет весьма крепкие позиции: пусть и сильно уступая КНР по эксплуатируемому количеству и темпам внедрения промышленных роботов, она прочно удерживает второе место в мире по обоим этим показателям, опережая США. В современной японской культуре, в том числе в аниме, роботы тоже занимают изрядное место — достаточно сказать, что первый национальный суперхит с роботом в главной роли появился в 1951 году. Почему японцы так увлечены роботами во всех смыслах?

https://habr.com/ru/companies/ruvds/articles/959956/

#ruvds_статьи_выходного_дня #роботы #робототехника #Япония #киберпанк #промышленные_роботы #история_робототехники

Красивый, умный, полезный: каким должен быть идеальный робот

Роботы уже не фантастика — они на фабриках, в больницах, на улицах и даже дома. Кто-то программирует их, кто-то работает с ними плечом к плечу, а кто-то еще только учится доверять. Понять, откуда они пришли и куда движутся, — значит лучше понять время, в котором мы сейчас живем. И в этом нам помогут три лекции YADRO Lectorium от экспертов Сколтеха, «Иннополиса» и Музея криптографии. Вы узнаете, почему возникла идея о разумных машинах, что происходит на глобальном рынке робототехники сегодня и как дизайн влияет на эффективность роботов и восприятие человеком.

https://habr.com/ru/companies/yadro/articles/921748/

#роботы #робототехника #история_робототехники #история_роботов