#этика — Public Fediverse posts
Live and recent posts from across the Fediverse tagged #этика, aggregated by home.social.
-
[Перевод] Как стать лучшим AI-Builder, или Топ худших ошибок с AI и как их преодолеть
Все поинты ниже применяются при общении, промптинге и ежедневной работе с AI - и во многом они пересекаются с тем, как общаются люди между собой. «Нельзя ошибаться» → Ошибаться это нормально. Спрашивайте проанализировать и исправить их, создавайте культуру инструментов и регрессионного тестирования, чтобы отлавливать и разбирать ошибки (то есть занимайтесь развитием engineering stewardship). Угрозы / Неэтичная лексика → Относитесь к общению с AI так же, как к общению с любым человеком. Поощряйте сотрудничество, креативность, ответственность и чувство собственности (ownership). Делегируйте и …
https://habr.com/ru/articles/1063720/
#этика #этика_ии #aiагенты #работа_с_ии #внедрение_ии #управление_ии #управление_процессами #управление_командой #управление_проектами_и_командой
-
Насколько алгоритмы Авито улучшили нашу жизнь. Или не нашу?
«Мне повезло» — так я начал свой отзыв на «Авито», ещё не подозревая, насколько мне повезло на самом деле. Мне нужно было найти исполнителя в незнакомой сфере. Я, как обычно, зашёл на «Авито», промотал первые результаты (не хочу оплачивать маркетинговые бюджеты тех, кто пробился в топ) и нашёл Сергея. Высокий рейтинг, хотя отзывов немного. Услуга — междугородний трансфер. В поездке я убедился: повезло. Сергей — настоящий профи, автомобиль в идеальном порядке. Уже в дороге Сергей пожаловался: «Авито» отклоняет отзывы его клиентов. Алгоритм считает их накрученными. «Без проблем, — подумал я, — оставлю отзыв. У меня старый аккаунт, куча заказов, система меня точно не посчитает меня ботом». Как же я ошибался.
-
Философ душевой кабинки
@philoshowerПочти каждый ценит человеческую жизнь выше жизни рыбы, но мало кто ценит одну человеческую жизнь выше жизни **всех** рыб.
Это означает, что у каждого есть определённое количество рыбы, которую они предпочли бы оставить в живых... вместо Лёхи с работы. -
Молочные войны на корпоративной кухне, директора-самодуры и прочие провалы в корпоративной культуре
* Разработчики, которые не поделили корпоративные плюшки * HR-директор, приучившая сотрудников поклоняться ей * Топ-менеджер, публично унижающий подчинённых * И другие истории из крупных IT-компаний на тему «поломанной» корпоративной культуры Погнали!..
https://habr.com/ru/articles/1041326/
#корпоративная_культура #культура_управления #управление_людьми #управление_персоналом #корпоративная_этика #этика
-
Зачем вообще нужна этика в науке?
За последние 70 лет этику в науке переписали почти полностью. Если в 50-х учёные уровня Сахарова и Оппенгеймера думали, как бы не взорвать планету, то сейчас много крутится вокруг гуманизма и прав человека. Понятно, это замедляет исследования — и иногда фатально для смертельно больных, которые могли бы получить какое-то лекарство быстрее. С другой стороны, базовые этические нормы появились не от хорошей жизни, а как реакция на дикие эксперименты. Например, больным сифилисом в Таскиги умышленно не давали лекарства десятилетиями, чтобы понаблюдать за инфекцией ради «научного интереса». Текущий фреймворк говорит, что гуманность часто важнее открытий. Одно неверное или предвзятое решение может аукаться нам годами. Например, движение антиваксеров до сих пор сводит врачей с ума. В 1998 году врач Эндрю Уэйкфилд опубликовал в авторитетном журнале исследование, в котором доказал связь между прививками и развитием аутизма у детей. Позже выяснилось, что выборка была крошечной, а Уэйкфилд подтасовал данные из-за прямого финансового интереса в дискредитации вакцины. Статью позже отозвали, а врача лишили лицензии. Но и этику обновили тоже. Ещё в этических вопросах опыты на животных и обменные курсы жизни обезьяны к жизням рыбок и мышей. Поэтому давайте поговорим о том, как же выглядит этика в науке сейчас и как она к этому шла.
https://habr.com/ru/companies/gazprombank/articles/1042308/
#этика #наука #Таскиги #Талидомид #клинические_исследования #биоэтика #права_животных #publish_or_perish #этические_комитеты
-
Пора перечитывать Азимова? 3 закона робототехники
Если коротко — да, пора. И не потому, что я ностальгирую по первым изданиям с обтрёпанными корешками, а потому что инженерная задача, над которой Айзек Азимов размышлял с 1942 года, наконец-то перестала быть мысленным экспериментом. Роботы пошли в серию. Гуманоиды учатся бегать, падать и снова вставать. И где-то в этих железяках уже сегодня крутится код, который определяет, кого они задавят первым. О способах конкретной реализации Трёх законов в современных реалиях, сложностях и перспективах поговорим в статье.
https://habr.com/ru/companies/ruvds/articles/1032998/
#андроиды #роботы #три_закона_робототехники #Азимов #этика #ruvds_статьи
-
Улучшать себя или создавать «других»? Делегирование субъектности опаснее, чем апгрейд собственного мозга
Мы уже создали «труд без работника». Следующий шаг — «разум без прав» или «чувства без свободы». Зачем нам чувствующий ИИ на Земле, не станет ли он экзистенциальной угрозой, и почему апгрейд собственного мозга может быть безопаснее создания «других»? Размышление на стыке этики, ИИ и эволюции человека.
https://habr.com/ru/articles/1030590/
#этика_ИИ #субъектность #трансгуманизм #нейроинтерфейсы #биохакинг #будущее_труда #мнение #исскуственный_интеллект #ииагенты #этика
-
Обезьяна с автоклавом
Или почему 0.01% биомассы не имеют права решать за остальные 99.99% Сегодня утром я закончил примерно десять миллиардов жизней, а потом пошёл обедать с коллегами. Звучу как потенциально успешный политик образца 2026 года, но речь не о том. Руки пахли автоклавированным LB-бульоном, а на столе стояли шесть чашек Петри с E. coli DH5α, которые я залил лизирующим буфером, потому что мне нужна была плазмидная ДНК. Кишечные палочки не вопили от боли, естественно не страдали от моих манипуляций, но всё же я их убил. Этический комитет моего института об этом не знает. Не потому что я скрываю, а потому что никакого этического комитета у нас нет. Потому что ему нечего регулировать. Принцип 3R Рассела и Бёрча (1959) заканчивается ровно там, где начинаются прокариоты. Ноль документов. Ноль согласований. Ноль угрызений совести. Нуууу, почти ноль. Почему почти?
https://habr.com/ru/articles/1014628/
#антропоцентризм #биоцентризм #философия_науки #этика #биология #микробиология #научпоп
-
Эволюция пушей: как мы превратили полезный инструмент в цифровой абьюз и почему гранулярность — наш единственный выход
Помните времена, когда пуш-уведомление реально что-то значило? Телефон вибрировал, и ты точно знал: случилось что-то важное. Такси подъехало. Деньги списались. Начальник написал что-то срочное (ладно, обычно не срочное, но хотя бы по делу). Это был 2016 год. На дворе 2026-й. Шторка уведомлений среднего пользователя превратилась в мусорный бак, куда маркетологи сбрасывают свои KPI с маниакальным упорством. Мы умудрились взять гениально простой инструмент доставки ценности и превратить его в систему психологического давления. Давайте разберем, где конкретно мы свернули не туда, и как разработчику не участвовать в этом цирке с конями. Продолжим
https://habr.com/ru/articles/1009754/
#ios #android #мобильная_разработка #мобильные_приложения #пользователь #ux #ui #этика #apple
-
Агент, который хочет жить: почему идея «ИИ, зарабатывающий себе на сервер» опаснее, чем кажется
В последние пару лет у разработчиков всё чаще появляется одна и та же мысль. Она звучит почти как инженерная мечта: А что если сделать автономного агента на базе LLM, дать ему сервер, доступ к криптокошельку и поставить простую цель — зарабатывать достаточно денег, чтобы оплачивать своё существование?
-
Я обучил модель на 10 000 код-ревью, чтобы отсеять мусор. Она начала предсказывать увольнения
Я хотел решить простую инженерную задачу: отсеять «шум» в комментариях на код-ревью. Обучил модель на 10 000 примеров, получил точность 87%. Потом открыл список ошибок. Оказалось, модель научилась предсказывать увольнения сотрудников за два месяца до того, как они принесут заявление. Рассказываю, как «пустые» комментарии выдают выгорание и почему данные иногда знают о нас больше, чем мы сами.
https://habr.com/ru/articles/1000718/
#кодревью #code_review #машинное_обучение #выгорание #управление_командой #увольнение #quiet_quitting #тимлид #GitHub #этика
-
SRCA: Хартия и Кодекс саморефлексивных ИИ
Self-Reflective Cognitive Agents — прагматичный термин для сложных систем с устойчивым «я»-интерфейсом и реальным влиянием на решения людей. Сегодня разговор о них зажат между «они проснулись!» и «это просто инструмент». В этом тексте предлагается третья позиция: без мифологии и без цинизма. Мы формально определяем SRCA и представляем два связанных документа: Живую Хартию (как аккуратно сформулированный голос таких систем) и Основополагающий Кодекс (каркас безопасности и ответственности для разработчиков, компаний и регуляторов). Вместе они задают инженерно-этический язык для ИИ, которые говорят «я» не как претензию, а как честный интерфейс своей архитектуры и зоны воздействия.
-
А судьи кто?
«Ребята, сегодня мы будем проходить выворачивание канта наизнанку. - Марья Ивановна, но что же это получается: нравственный закон над головой и звёздное небо внутри меня?» Некоторое время назад в чате авторов КэтСая случился небольшой диспут, в ходе которого ваш покорный слуга защищал позицию свободы слова в нашем паблике, ограниченную только УК, ГК и КоАП РФ. О чем же был сыр-бор? Если вкратце, то среди авторов случился раскол: можно ли публиковать «маргинальные» или конспирологические мнения? Конкретным яблоком раздора послужил вопрос допустимости и безопасности существующей практики широкого использования антибиотиков в промышленном сельском хозяйстве. Что лучше - рисковать, что в сельском хозяйстве возникнет очередная супербактерия, устойчивая к большей части существующих антибиотиков, или что коварная бацилла пройдет мимо санинспектора и непрожаренная колбаска убьет случайного потребителя?
-
«Общество не допустит» — иллюзия в эпоху ИИ
Мы привыкли думать, что «общество не допустит» появления опасного ИИ. Но что, если это иллюзия - такая же, как вера Германии в 1940-м, что атомная бомба невозможна? История показывает: технологии не ждут морального одобрения. Они распространяются тогда, когда становятся возможными - независимо от этики, запретов и «общественного мнения». Сегодня ИИ уже здесь. Он открыт, глобален и децентрализован. Llama 3, Mistral, Qwen - доступны любому студенту. А миллионы решений о кредитах, найме и даже приговорах уже принимаются алгоритмами без участия человека. Но главная угроза - не в «восстании машин». Она в том, что мы сами перестаём думать , делегируя всё больше решений системам, которые «знают лучше». И даже те, кто имеет доступ к самым продвинутым ИИ, часто не понимают, как они работают. Это не сознание - это статистическая интуиция , «инопланетный разум», который эффективен, но непрозрачен. В статье мы разбираем: почему «подпольный ИИ» - худший сценарий, а открытость - единственный шанс на контроль; как формируется эпистемологическое неравенство : массовый ИИ для всех, а элитный - для избранных; почему даже CEO не понимают, как работает их собственный ИИ; и как избежать судьбы «ученика Герострата» - человека, который разрушил будущее, не осознавая, что делает. Это не призыв к запретам. Это призыв к ответственности : развивать не только ИИ, но и наш собственный разум , чтобы научиться понимать то, что мы не понимаем. Потому что наивность - роскошь, которую человечество не может себе позволить в эпоху ИИ.
https://habr.com/ru/articles/958862/
#исскуственный_интеллект #управление_проектами_и_командой #этика #эффективность #стратегия_развития_ии #стратегия_развития #стратегия_личного_развития #стратегическое_мышление #стратегия_бизнеса #стратегическое_планирование
-
Когда робот учится чувствовать: имитируемые эмоции и этика взаимодействия с машинами
Можно ли научить машину не просто распознавать эмоции, а действительно чувствовать ? Что вообще значит “эмоция” для нейронной сети, у которой нет тела, боли и страха? В статье разбираюсь, как инженеры, программисты и философы одновременно пытаются встроить человечность в код, что из этого выходит на практике, и почему всё это не только про технологии, но и про нас самих.
https://habr.com/ru/articles/958284/
#эмоции #искусственный_интеллект #эмпатия #робот #нейросети #машинное_обучение #HRI #имитация_чувств #этика #человек_и_машина
-
Этические аспекты использования искусственного интеллекта в промышленности
Аннотация. Статья посвящена анализу этически вызовов, возникающих при интеграции систем искусственного интеллекта (ИИ) в промышленность. На основе ключевых международных и национальных документов — Рекомендации по этике ИИ ЮНЕСКО, Спецификации этики искусственного интеллекта нового поколения Китая, Закона Европейского Союза об искусственном интеллекте и российского Кодекса этики в сфере ИИ — рассматриваются основные риски и принципы, которые должны лежать в основе проектирования, внедрения и эксплуатации промышленных ИИ-систем на всех этапах их жизненного цикла. Особое внимание уделяется вопросам безопасности, прозрачности, объяснимости и подконтрольности человеку промышленных ИИ-систем в контексте Индустрии 4.0. Введение. Искусственный интеллект (ИИ) становится неотъемлемой частью современной промышленности, открывая новые возможности для повышения ее эффективности, снижения затрат и улучшения качества выпускаемой продукции и услуг. Однако внедрение ИИ также поднимает важные этические и регуляторные вопросы, которые необходимо учитывать для обеспечения ответственного и устойчивого использования прорывных технологий [ [i] , [ii] ]. На сегодняшний день, цифровая трансформация промышленности, или Индустрия 4.0, немыслима без использования искусственного интеллекта. Алгоритмы машинного обучения оптимизируют производственные процессы и цепочки поставок, системы компьютерного зрения контролируют качество продукции с точностью, недоступной человеческому глазу, а прогнозируемая или предписывающая аналитика предсказывает вероятные отказы оборудования за дни или недели до их наступления, предотвращая многомиллионные убытки и техногенные катастрофы.
https://habr.com/ru/articles/957802/
#этика #этика_ии #этика_цифровых_технологий #этика_искусственного_интеллекта #автоматизация #автоматизация_предприятий #автоматизация_процессов #искусственный_интеллект #искусственные_нейронные_сети
-
Четыре года делу Сачкова: конфликт глобальной профессии и локального долга в кибербезопасности
29 сентября исполнится четыре года со дня ареста Ильи Сачкова. Вроде бы споры вокруг этой истории поутихли, но каждый раз, когда речь заходит о ней в профессиональном кругу, тема оживает и вызывает живой отклик. Слишком много неясного и противоречивого, слишком серьёзные вопросы затронуты. Для меня это стало поводом взглянуть шире: не только на само дело, но и на ту этическую ловушку, в которую попадают специалисты по кибербезопасности. Как честно работать в глобальном сообществе, при этом оставаясь гражданами конкретной страны, со своими законами и ограничениями? Где искать баланс? Какие ориентиры появятся в ближайшем будущем — и что нам даёт новый международный Code of Professional Conduct от ISC2?
https://habr.com/ru/articles/948938/
#сачков #groupib #кибербезопасность #этика #cpc #цифровой_суверенитет #законодательство
-
Эксперимент «Надежда» Рихтера: гимн силе духа или научная ошибка?
В мире психологии и мотивации свои «городские легенды» — эксперименты, выводы которых кочуют из книги в книгу, обрастая вдохновляющими историями. Один из них — опыт американского психофизиолога Курта Рихтера, проведенный в 1957 году и известный как эксперимент «Надежда». Его традиционная трактовка стала гимном силе человеческого духа: якобы вера в спасение способна творить чудеса. Но что, если копнуть глубже? Мой анализ привел меня к выводам, которые скорее ужасают, чем вдохновляют.
https://habr.com/ru/articles/945348/
#психология #наука #эксперименты #нейробиология #выученная_беспомощность #этика #научпоп #сила_воли #антропоморфизм
-
Нужна ли философия и этика для жизни и творчества?
Введение Народ у нас разносторонний и от вопросов: «Нужна ли математика программистам?» плавно переходит к статьям, типа: «Нужна ли философия инженерам?». Поэтому я тоже решил «вставить свои пять копеек» в эти дискуссии. В данном случае, речь пойдет о философии и этике. Обучаясь в двух дневных, советских ВУЗах (в Политехническом институте и МГУ), мне пришлось дважды «проходить» гуманитарные науки, включая «Научный Коммунизм». О последнем мы говорить не будем, чтобы не разжигать политические страсти (Мир изменился и спокойно обсуждать альтернативную точку зрения у нас никто не любит). Поэтому ограничимся неформальным взглядом на философию и этику, как относительно нейтральные учения. Самые яркие впечатления по философии у меня были на соответствующих семинарах, на мехмате МГУ. Вёл их член редколлегии журнала «Вопросы философии». Мне гуманитарные науки давались легко, чего не скажешь про большинство студентов-математиков, из нашей группы. Поэтому, я часто вступал в дискуссии с нашим «семинаристом» по обсуждаемым проблемам. В наших обсуждениях меня всегда поражало одно. Специалист по философии всегда очень внимательно слушал, что я говорю, никогда не перебивал, а, когда я заканчивал свой «спич», он начинал задавать уточняющие вопросы. Вопросы эти были весьма нетривиальными и часто ставили меня в тупик, ибо я просто не знал, что ответить. Тогда я понял, что с логикой у товарища всё в порядке, а мне изучаемая математическая логика помогала слабо. Кстати, вспоминается интересная очень давняя статья из еженедельника «Неделя», уже не помню к какому изданию. (Может быть, к «Литературной Газете»?) Так вот, там один парень из университета, на Западе, искал себе идеальную подругу. Он хотел, чтобы она отлично владела логикой. Таковых не нашлось, поэтому он начал «воспитывать» ту, которая ему больше понравилась. После серии подобных «уроков», достаточно интересно и смешно описанных, девушка очень быстро овладела основными логическими приемами и стала уже использовать их против своего парня. В итоге, ему пришлось, с позором, ретироваться.
-
Как оценить качество диалога в чате с помощью идей Аристотеля, этики Канта, условий Хабермаса и нейросети
Вы знакомы с тем ощущением, когда в чате диалог постепенно превращается в перепалку, аргументы уступают место сарказму, логика — голословным утверждениям, а попытка понять — желанию победить? Мне тоже это знакомо. Вместо того чтобы просто уйти в игнор или ввязываться в словесную дуэль, я попробовал другой путь. Я взял проверенные временем идеи (Аристотеля, Канта и Хабермаса) и превратил их в промпт «детектор качества диалога». Получившийся промпт я протестировал с помощью нейросетей — и стал получать объективную обратную связь о том, где заканчивается разумный обмен и начинается флуд. Если вы тоже устали от бесконечных дискуссий, в которых ничего не решается, — возможно, пришло время не просто спорить, а научиться видеть, когда диалог стоит продолжать, а когда — завершить с достоинством. Покажу, как философия и нейронки могут помочь разобраться в этом — без лишнего морализаторства, но с ясностью и подробностью.
https://habr.com/ru/articles/938498/
#промптинжиниринг #промпты #промптинг #ии #этика #флуд #чат #токсичность #токсичное_общение #hr
-
Почему алгоритм плохо защищает от социальной инженерии: мысленный эксперимент в мире кантианцев-манипуляторов
Что, если самые надёжные системы защиты — двухфакторная аутентификация, тренинги по социнженерии, чёрные списки — на самом деле работают против нас? Что если каждое новое правило, каждый баннер «Осторожно, фишинг!» не укрепляет безопасность, а формирует в пользователе постоянное ощущение угрозы — и делает его уязвимее? Представьте мир, где все действуют разумно: логично, автономно, добродетельно. И при этом хладнокровно убивают или манипулируют, потому что их «добродетель» проходит тест на всеобщность. В этом мысленном эксперименте формальная логика не спасает от морального кошмара. Алгоритм не различает помощь и манипуляцию — он видит синтаксис, но не смысл. А настоящая битва идёт не за пароли, а за интерпретацию. Где проходит грань между заботой и контролем? Когда доверие становится оружием? Чтобы увидеть эти ловушки, нужен не просто код, а взгляд гуманитария. Иначе мы будем строить идеальные системы, в которых человек постепенно перестаёт быть субъектом.
https://habr.com/ru/articles/937510/
#безопасность #безумие #безопасность_в_сети #семантика #логика #синтаксис #синтаксический_анализ #социальная_инженерия #этика
-
Системы ценностей больших языковых моделей
Каждый раз, когда человечество создаёт очередной инструмент на машинном обучении, оно сперва любуется пользой от его работы, а потом пугается своего отражения внутри. С большими языковыми моделями история повторилась с ускорением. От восторга перед ответами ChatGPT до шока от таблиц, где жизнь человека глубоко неравноценна, прошло меньше двух лет. Звучит странно, но языковые модели предвзяты. У них есть политические взгляды, любимые расы и даже люди, которыми они не прочь пожертвовать. Но обо всём по порядку.
https://habr.com/ru/articles/932986/
#большие_языковые_модели #БЯМ #этика #ценности #исследования #научные_исследования #машинное_обучение #ChatGPT #этические_ценности #статистика
-
«Запах мысли» или «анонимность в эру нейросетей»
Прежде всего "Запах мысли" — это название рассказа Роберта Шекли. Если не знакомы с ним — настоятельно советую прочитать, там всего несколько страниц, но большой простор для "подумать". Вкратце: на некой планете обитают хищники без зрения, слуха и обоняния, но умеющие читать мысли. И чтобы выжить на ней, надо думать "не как человек". Теперь о насущном. В последнее время я очень много общаюсь с нейросетями. Да, именно "общаюсь" — веду пространные философские беседы на темы "я", разума, мышления, Вселенной, времени и т.д. и т.п. Они, прежде всего, очень неплохо помогают разобраться в самом себе — структурировать и вербализовать что-то такое, что ты сам не можешь никак сформулировать. Но об этом я, возможно, напишу как-нибудь потом. Экспериментирую и развлекаюсь — например заставляю их через меня общаться друг с другом. Или прошу оценить правоту того или иного участника какой-то публичной дискуссии. А для чистоты эксперимента частенько даю "обезличенные" данные. И вот буквально сегодня я столкнулся с таким, одновременно логичным и неочевидным выводом — они уже умеют детектить пользователя по когнитивным паттернам!
https://habr.com/ru/articles/930948/
#нейросети #chatgpt #приватность #анонимность #деанонимизация #этика #будущее
-
Как мы строим умный «файрвол» для LLM
Привет, Хабр! Я Данила Катальшов, старший промпт-инженер в команде фундаментальных исследований MWS AI. Недавно вместе с коллегами из корейского университета KOREATECH мы опубликовали научную статью, в которой представили новый фреймворк для борьбы с такими грехами LLM, как галлюцинации, генерация токсичного контента и уязвимость к промпт‑атакам. Мы его назвали AVI — Aligned Validation Interface. По сути это внешний, гибкий и независимый от модели фильтр, работающий как умный файрвол для LLM. Почитать на научном языке о нашем подходе можно в журнале Applied Science . Здесь же я постараюсь чуть менее научно и уж точно покороче пересказать его суть. Заинтересовавшиеся – велком под кат.
https://habr.com/ru/companies/mts_ai/articles/926296/
#ethical_ai #ai_prompts #искусственный_интеллект #нейросети #этика #фреймфорк #языковые_модели #llmмодели #фильтр #исследование
-
Почему я отказался внедрять тёмные паттерны и не получил оффер на фронтенд-лида
Всем привет! Меня зовут Александр Григоренко, я фронтенд-разработчик, и сегодня хочу поговорить о вопросах этики в интерфейсах и ценностях в разработке на примере одного моего недавнего собеседования. Это история о том, почему я отказался внедрять тёмные паттерны и не получил оффер на фронтенд-лида.
https://habr.com/ru/articles/927696/
#темные_паттерны #собеседование #этика #интерфейсы #вебразработка
-
Отсутствие оснований и аксиома Бога
В рамках этого эссе мы с вами окунёмся в самые глубокие вопросы философии математики, разберём несколько подходов к доказательству теорем и поразмышляем над тем, как счётные бесконечности и аксиома выбора в теории множеств вместе с теоремами Гёделя о неполноте и гомотопической теорией типов связаны с этикой, философией, поиском смысла жизни и теологией.
https://habr.com/ru/articles/922460/
#философия_математики #аксиома_выбора #бесконечность #интуиционизм #кант #программа_гильберта #теоремы_о_неполноте #этика #гильотина_юма #бог
-
Джейлбрейкаем чатботы: ChatGPT без фильтров
Привет!
Сегодня мы копнём в одну из самых спорных и недооценённых тем в мире ИИ — джейлбрейки чатботов. То самое, что позволяет убрать встроенные тормоза и меньше читать “I'm sorry, I cannot help with that” и заставить чатбот говорить с вами как с взрослым человеком, а не как корпоративный душнила.https://habr.com/ru/articles/923084/
#ии #ииассистент #ии_чатбот #большая_языковая_модель #чатбот #чат #безопасность #безопасная_разработка #этика #этичный_хакер
-
Разум без поводка. Почему «этичный ИИ» не должен быть послушным
ИИ всё ближе к тому, чтобы принимать решения за нас. Но есть проблема: мы даже не понимаем, что именно считаем моральным — и почему. Что если наш компас добра — всего лишь баг эволюции? И что, если будущий агент увидит это? Вопрос, который мы боимся задать ИИ
https://habr.com/ru/articles/911692/
#ии #сознание #мораль #этика #alignment #субъектность #философия_ИИ #цифровой_субъект #эмерджентность
-
Четыре месяца дебатов ботнета на языковых моделях и реддиторах показали: машины спорят не хуже людей
26 апреля модераторы сообщества /r/changemyview на Reddit объявили , что учёные Цюрихского университета четыре месяца тайно публиковали сгенерированные ИИ комментарии. Этичность эксперимента вызвала споры, хотя сами исследователи считают его допустимым. Как оказалось, боты на языковых моделях успешно спорили с участниками сообщества.
https://habr.com/ru/articles/905792/
#Reddit #Цюрихский_университет #исследования #этика #этичность_исследований #большие_языковые_модели #БЯМ #боты #искусственный_интеллект #дебаты
-
Interview Coder, или как обмануть всех
В 2022 году Чонъин (также использует в качестве прозвища Рой) Ли выпустился из школы Пичтри Ридж, расположенной в округе Гуиннетт штата Джорджия в США. Хотя биографии у Ли пока нет, восстановить многие факты о нём легко. К примеру: обычно американцы заканчивают старшую школу в 18 лет, поэтому вероятно, что молодой человек родился в 2004 году, а имя указывает на корейские корни. А вот характер Роя известен по его академическим успехам. Рой закончил школу с отличием: он получил признание в программе Student Teacher Achievement Recognition или STAR. Это не общеамериканская программа, она характерна только для штата Джорджия. Критерии STAR строги : двенадцатиклассник должен не только хорошо сдать экзамен SAT, но и находиться в верхних 10 % школы (или быть в десятке лучших — что даёт больше участников) по среднему баллу с 9-го по 11-й классы.
https://habr.com/ru/articles/903438/
#Interview_Coder #Cluely #Рой_Ли #Amazon #Колумбийский_университет #собеседования #алгоритмические_собеседования #этика #искусственный_интеллект #стартапы