#эмоции — Public Fediverse posts
Live and recent posts from across the Fediverse tagged #эмоции, aggregated by home.social.
-
В радости и в горе, или как нейросети понимают эмоции пользователя
Помните самый грустный короткий рассказ? Сегодня он мог бы выглядеть так: «Меня сократили», — написал человек Claude. «Похоже, вам страшно за будущее», — ответил искусственный интеллект. В опросе 500 человек 17,2% участников сообщили, что обращались к ChatGPT за поддержкой в вопросах психического здоровья. И вроде действительно, модели неплохо проговаривают чувства. Но как они отгадывают эмоции, если человек прямо их не называет?
-
В радости и в горе, или как нейросети понимают эмоции пользователя
Помните самый грустный короткий рассказ? Сегодня он мог бы выглядеть так: «Меня сократили», — написал человек Claude. «Похоже, вам страшно за будущее», — ответил искусственный интеллект. В опросе 500 человек 17,2% участников сообщили, что обращались к ChatGPT за поддержкой в вопросах психического здоровья. И вроде действительно, модели неплохо проговаривают чувства. Но как они отгадывают эмоции, если человек прямо их не называет?
-
Что не так с менеджментом Одиссея
Разбор «Одиссеи» Нолана с точки зрения управления командой: решение, принятое из страха, риски без исследования, цена эмоций руководителя и единственный эпизод, где Одиссей поступает правильно. Осторожно, текст содержит спойлеры
-
Что не так с менеджментом Одиссея
Разбор «Одиссеи» Нолана с точки зрения управления командой: решение, принятое из страха, риски без исследования, цена эмоций руководителя и единственный эпизод, где Одиссей поступает правильно. Осторожно, текст содержит спойлеры
-
HR спрашивают, зачем я задаю вопрос о чувствах на собеседовании
HR спрашивают, зачем я задаю вопрос о чувствах на собеседовании Я руковожу поддержкой пользователей банка и лично утверждаю инженеров для головного офиса. Это лицо компании и площадка, где нередко приходится решать самые сложные кейсы. Конфликты и эскалации неприемлемы. На эти позиции мы набираем только сеньоров и предъявляем к ним повышенные требования. До меня кандидаты доходят уже после технического интервью. На своём этапе я больше внимания уделяю социальным навыкам, soft skills. Один из вопросов, которые я традиционно задаю на собеседовании, касается чувств: «Назовите три чувства, которые прямо сейчас испытываете». Даже многих сеньоров этот вопрос ставит в тупик. Одни заметно нервничают, другие не могут назвать хотя бы одно чувство. Бывает и ответ «счастье, радость, вдохновение». На этом этапе собеседования он звучит для меня настораживающе. Волнение или страх на собеседовании вполне обычны. А после неожиданного вопроса о чувствах человек может испытать растерянность, ступор или даже беспомощность. При этом чувства могут быть смешанными. Например, интерес здесь вполне уместен. Человек знакомится с новой компанией, задаёт вопросы, примеряет к себе будущую работу. Он может одновременно интересоваться происходящим и тревожиться о том, как проходит разговор. Профиль чувств у каждого человека свой. А зачем вы это спрашиваете? С таким вопросом ко мне несколько раз приходили рекрутёры и даже HRBP.
https://habr.com/ru/articles/1082152/
#Собеседование #вопросы #эмоции #hr #эмпатия #саморегуляция #поддержка #пользователь #чувства #инженер
-
HR спрашивают, зачем я задаю вопрос о чувствах на собеседовании
HR спрашивают, зачем я задаю вопрос о чувствах на собеседовании Я руковожу поддержкой пользователей банка и лично утверждаю инженеров для головного офиса. Это лицо компании и площадка, где нередко приходится решать самые сложные кейсы. Конфликты и эскалации неприемлемы. На эти позиции мы набираем только сеньоров и предъявляем к ним повышенные требования. До меня кандидаты доходят уже после технического интервью. На своём этапе я больше внимания уделяю социальным навыкам, soft skills. Один из вопросов, которые я традиционно задаю на собеседовании, касается чувств: «Назовите три чувства, которые прямо сейчас испытываете». Даже многих сеньоров этот вопрос ставит в тупик. Одни заметно нервничают, другие не могут назвать хотя бы одно чувство. Бывает и ответ «счастье, радость, вдохновение». На этом этапе собеседования он звучит для меня настораживающе. Волнение или страх на собеседовании вполне обычны. А после неожиданного вопроса о чувствах человек может испытать растерянность, ступор или даже беспомощность. При этом чувства могут быть смешанными. Например, интерес здесь вполне уместен. Человек знакомится с новой компанией, задаёт вопросы, примеряет к себе будущую работу. Он может одновременно интересоваться происходящим и тревожиться о том, как проходит разговор. Профиль чувств у каждого человека свой. А зачем вы это спрашиваете? С таким вопросом ко мне несколько раз приходили рекрутёры и даже HRBP.
https://habr.com/ru/articles/1082152/
#Собеседование #вопросы #эмоции #hr #эмпатия #саморегуляция #поддержка #пользователь #чувства #инженер
-
Тело помнит все: теория соматических маркеров Дамасио
Привет, Хабр! В одной из прошлых статей мой коллега упомянул теорию соматических маркеров Антонио Дамасио. Эта гипотеза связывает текущие ощущения с эмоциональными и физиологическими реакциями. В похожих ситуациях мозг использует их для предварительной оценки вариантов, поэтому выбор формируется раньше осознанной аргументации. Этому исследованию уже больше тридцати лет, и многие современные работы отталкиваются или дополняют его. В этом материале я разберу, на чем Дамасио строил свою гипотезу, какую видел роль интероцепции и вегетативной нервной системы и что показали эксперименты со знаменитой игровой задачей Айова (Iowa Gambling Task, IGT). Отдельно постараюсь ответить на вопрос, когда телесным сигналам стоит уделить внимание, а когда они отражают тревогу, усталость или ошибочно закрепленный опыт.
https://habr.com/ru/companies/ru_mts/articles/1071240/
#Соматические_маркеры #Антонио_Дамасио #нейробиология #принятие_решений #интероцепция #эмоции #соматическая_психология #Айовский_игровой_тест
-
Тело помнит все: теория соматических маркеров Дамасио
Привет, Хабр! В одной из прошлых статей мой коллега упомянул теорию соматических маркеров Антонио Дамасио. Эта гипотеза связывает текущие ощущения с эмоциональными и физиологическими реакциями. В похожих ситуациях мозг использует их для предварительной оценки вариантов, поэтому выбор формируется раньше осознанной аргументации. Этому исследованию уже больше тридцати лет, и многие современные работы отталкиваются или дополняют его. В этом материале я разберу, на чем Дамасио строил свою гипотезу, какую видел роль интероцепции и вегетативной нервной системы и что показали эксперименты со знаменитой игровой задачей Айова (Iowa Gambling Task, IGT). Отдельно постараюсь ответить на вопрос, когда телесным сигналам стоит уделить внимание, а когда они отражают тревогу, усталость или ошибочно закрепленный опыт.
https://habr.com/ru/companies/ru_mts/articles/1071240/
#Соматические_маркеры #Антонио_Дамасио #нейробиология #принятие_решений #интероцепция #эмоции #соматическая_психология #Айовский_игровой_тест
-
Не хамите чат-ботам: ИИ умеет злиться, но не так, как люди
Задача звучит как парадокс с порога: как измерить состояние у технической системы, к которой неприменим термин «чувствовать»? Ответ на этот вопрос можно найти в работе «Can Induced Emotion Bias LLM Behaviors in Sequential Decision Making?» . Ее авторы исследовали способность эмоционального контекста влиять принятие решений в цепочке рассуждений LLM. Прямые вопросы об эмоциях заставят модель сымитировать рассуждения и по ним нельзя будет понять реальное их влияние на ее поведение. Исследователи выстраивали ход эксперимента с нуля: вызывали состояние, похожее на эмоцию, ни разу не озвучив ее; проверяли их соответствие друг другу; и в конце анализировали конкретные решения модели. Давайте посмотрим ход их действий и выводы, к которым они пришли. А это очень интересно и познавательно для тех, кто много работает с нейросетями.
https://habr.com/ru/companies/ru_mts/articles/1075908/
#LLM #агенты_ИИ #психология_ИИ #эмоции #принятие_решений #Iowa_Gambling_Task
-
Не хамите чат-ботам: ИИ умеет злиться, но не так, как люди
Задача звучит как парадокс с порога: как измерить состояние у технической системы, к которой неприменим термин «чувствовать»? Ответ на этот вопрос можно найти в работе «Can Induced Emotion Bias LLM Behaviors in Sequential Decision Making?» . Ее авторы исследовали способность эмоционального контекста влиять принятие решений в цепочке рассуждений LLM. Прямые вопросы об эмоциях заставят модель сымитировать рассуждения и по ним нельзя будет понять реальное их влияние на ее поведение. Исследователи выстраивали ход эксперимента с нуля: вызывали состояние, похожее на эмоцию, ни разу не озвучив ее; проверяли их соответствие друг другу; и в конце анализировали конкретные решения модели. Давайте посмотрим ход их действий и выводы, к которым они пришли. А это очень интересно и познавательно для тех, кто много работает с нейросетями.
https://habr.com/ru/companies/ru_mts/articles/1075908/
#LLM #агенты_ИИ #психология_ИИ #эмоции #принятие_решений #Iowa_Gambling_Task
-
Когда терапия выходит в прод
«На тестах всё работало». Любой разработчик слышал эту фразу хотя бы раз. В психотерапии происходит нечто похожее: человек может прекрасно понимать свою проблему на сессии, но в реальной жизни снова автоматически реагировать по-старому. Используя аналогии из разработки, я попробую показать, почему настоящее изменение проверяется не в кабинете психолога, а в том самом «проде», ради которого человек вообще пришёл в терапию.
https://habr.com/ru/articles/1069886/
#психотерапия #ISTDP #психология #разработка_ПО #backend #разработчики #эмоции #тревога #психологические_защиты #code_review
-
Когда терапия выходит в прод
«На тестах всё работало». Любой разработчик слышал эту фразу хотя бы раз. В психотерапии происходит нечто похожее: человек может прекрасно понимать свою проблему на сессии, но в реальной жизни снова автоматически реагировать по-старому. Используя аналогии из разработки, я попробую показать, почему настоящее изменение проверяется не в кабинете психолога, а в том самом «проде», ради которого человек вообще пришёл в терапию.
https://habr.com/ru/articles/1069886/
#психотерапия #ISTDP #психология #разработка_ПО #backend #разработчики #эмоции #тревога #психологические_защиты #code_review
-
Мечтают ли андроиды об электроовцах?
В 1968 году Филип К. Дик написал роман «Мечтают ли андроиды об электроовцах?». В мире книги эмпатия становится одним из признаков, по которым человека пытаются отличить от андроида. Для этого используется вымышленный тест Войта-Кампфа, проверяющий эмоциональные реакции. Я начал эту статью с гипотезы об эмпатии разработчиков, но исследований, которые позволили бы подтвердить её, не нашёл. Зато обнаружил более интересный вопрос: как эмоции влияют на вполне рациональные инженерные решения и что происходит, когда мы этого влияния не замечаем.
https://habr.com/ru/articles/1068472/
#эмпатия #разработчики #психология_труда #эмоции #code_review #коммуникация #принятие_решений #алекситимия #разработка_ПО
-
Мечтают ли андроиды об электроовцах?
В 1968 году Филип К. Дик написал роман «Мечтают ли андроиды об электроовцах?». В мире книги эмпатия становится одним из признаков, по которым человека пытаются отличить от андроида. Для этого используется вымышленный тест Войта-Кампфа, проверяющий эмоциональные реакции. Я начал эту статью с гипотезы об эмпатии разработчиков, но исследований, которые позволили бы подтвердить её, не нашёл. Зато обнаружил более интересный вопрос: как эмоции влияют на вполне рациональные инженерные решения и что происходит, когда мы этого влияния не замечаем.
https://habr.com/ru/articles/1068472/
#эмпатия #разработчики #психология_труда #эмоции #code_review #коммуникация #принятие_решений #алекситимия #разработка_ПО
-
Предиктивная обработка, гомеостаз и Фрейд
Мозг и сознание человека остаются одними из самых загадочных систем, которые на протяжение многих веков изучают как нейробиологи, так и психоаналитики. Развитие технологий и наук позволило выяснить определенные аспекты работы мозга, установить их связь с окружающей средой и проявление в точки зрения психики человека. Многие теории прошлого оказались либо ошибочны, либо искажены ввиду тогдашних социальных и культурных мнений. Однако есть и те, которые получили подтверждение спустя много лет. Ученые из Университета Осло (Норвегия) провели исследование, в котором сопоставили современную теорию мозга, именуемую «прогнозирующее кодирование», с теориями Зигмунда Фрейда и других его коллег. Детали этого сравнения мы узнаем из доклада ученых.
https://habr.com/ru/companies/ua-hosting/articles/1057638/
#психология #нейрология #нейропатология #психиатрия #психопатология #эмоции #предиктивные_системы #гомеостаз #мозг #биология
-
Предиктивная обработка, гомеостаз и Фрейд
Мозг и сознание человека остаются одними из самых загадочных систем, которые на протяжение многих веков изучают как нейробиологи, так и психоаналитики. Развитие технологий и наук позволило выяснить определенные аспекты работы мозга, установить их связь с окружающей средой и проявление в точки зрения психики человека. Многие теории прошлого оказались либо ошибочны, либо искажены ввиду тогдашних социальных и культурных мнений. Однако есть и те, которые получили подтверждение спустя много лет. Ученые из Университета Осло (Норвегия) провели исследование, в котором сопоставили современную теорию мозга, именуемую «прогнозирующее кодирование», с теориями Зигмунда Фрейда и других его коллег. Детали этого сравнения мы узнаем из доклада ученых.
https://habr.com/ru/companies/ua-hosting/articles/1057638/
#психология #нейрология #нейропатология #психиатрия #психопатология #эмоции #предиктивные_системы #гомеостаз #мозг #биология
-
[Перевод] Плохой ли я друг?
Я проанализировал 20 лет своей переписки и превратил 1,2 миллиона сообщений в структурированное хранилище своей жизни — чтобы завоёвывать друзей и влиять на людей. Вместо этого я узнал кое-что о своём эмоциональном состоянии, циклах привязанности и периодах полураспада дружбы.
https://habr.com/ru/articles/1040784/
#визуализация_данных #соцсети #сообщения #анализ #эмоции #графики_и_диаграммы #воспоминания #diyпроекты
-
[Перевод] Плохой ли я друг?
Я проанализировал 20 лет своей переписки и превратил 1,2 миллиона сообщений в структурированное хранилище своей жизни — чтобы завоёвывать друзей и влиять на людей. Вместо этого я узнал кое-что о своём эмоциональном состоянии, циклах привязанности и периодах полураспада дружбы.
https://habr.com/ru/articles/1040784/
#визуализация_данных #соцсети #сообщения #анализ #эмоции #графики_и_диаграммы #воспоминания #diyпроекты
-
Правда ли, что раньше мир был ярче — или это иллюзия памяти?
Ощущение, что «трава была зеленее», редко связано с объективными изменениями среды. Это прежде всего вопрос того, как работает восприятие и память. Человеческий мозг не архивирует реальность — он её пересобирает. В процессе реконструкции воспоминаний усиливаются положительные эмоции и сглаживаются негативные, формируя ту самую ностальгию (#ностальгия), которую принято воспринимать как «правду о прошлом».
С точки зрения психологии (#психология) и когнитивистики (#когнитивистика), здесь задействованы когнитивные искажения (#когнитивныеискажения), в частности эффект «розовой ретроспекции» (#розоваяретроспекция). Память (#память) — не статична; она зависит от текущего состояния, уровня стресса и контекста. Поэтому воспоминания (#воспоминания) о детстве (#детство) часто окрашены сильнее: тогда уровень новизны был выше, а внимание (#внимание) не было перегружено.
Нейробиология (#нейробиология) добавляет к этому ещё один слой. Мозг (#мозг) в ранние периоды жизни активнее реагирует на стимулы, усиливая ощущения (#ощущения) и эмоциональные отклики (#эмоции). Со временем восприятие (#восприятие) становится более «экономным»: меньше новизны — меньше яркости. Это не деградация, а адаптация системы.
В философском плане (#философия) возникает вопрос: существует ли вообще «объективная реальность» (#реальность) вне интерпретации? Если субъективность (#субъективность) неизбежна, то сравнение «тогда» и «сейчас» всегда будет искажено. Мы сравниваем не мир, а свои внутренние модели.
С практической стороны (#анализ), это наблюдение полезно. Понимание механизмов мышления (#мышление) и осознанности (#осознанность) позволяет отделить реальные изменения от иллюзий. Мир не стал тусклее — изменилась система его обработки. И если это так, то вопрос уже не в прошлом, а в том, как вернуть полноту восприятия в настоящем (#жизнь, #мышлениебезиллюзий).
-
Не вся эмпатия одинаково полезна: что на самом деле стоит развивать в IT
Есть три распространённых точки зрения по поводу эмпатии в IT: 1. Эмпатия в IT не нужна — она отвлекает и только мешает работе. 2. Эмпатия в IT необходима — она улучшает коммуникацию, командную динамику и качество продукта. 3. Айтишники в принципе не особо способны к эмпатии. Первое и второе мнение противоположны, но отчасти я согласен с каждым из них. Почему так, расскажу в статье. Что касается «бесчувственности» айтишников, то проблема не в людях, а в том, что под эмпатией обычно понимают. Предлагаю разобраться, что из себя представляет эмпатия, какие её элементы действительно помогают в работе, а какие вредят и что с этим делать на практике.
https://habr.com/ru/companies/smartvalues/articles/1021686/
#эмпатия #эмоции #чувства #понимание #когнитивные_способности #мотивы #взаимодействие_с_заказчиком #взаимоотношения_в_коллективе #решение_проблем #эффективность_работы
-
Не вся эмпатия одинаково полезна: что на самом деле стоит развивать в IT
Есть три распространённых точки зрения по поводу эмпатии в IT: 1. Эмпатия в IT не нужна — она отвлекает и только мешает работе. 2. Эмпатия в IT необходима — она улучшает коммуникацию, командную динамику и качество продукта. 3. Айтишники в принципе не особо способны к эмпатии. Первое и второе мнение противоположны, но отчасти я согласен с каждым из них. Почему так, расскажу в статье. Что касается «бесчувственности» айтишников, то проблема не в людях, а в том, что под эмпатией обычно понимают. Предлагаю разобраться, что из себя представляет эмпатия, какие её элементы действительно помогают в работе, а какие вредят и что с этим делать на практике.
https://habr.com/ru/companies/smartvalues/articles/1021686/
#эмпатия #эмоции #чувства #понимание #когнитивные_способности #мотивы #взаимодействие_с_заказчиком #взаимоотношения_в_коллективе #решение_проблем #эффективность_работы
-
Anthropic опубликовала исследование о внутренних механизмах своей модели искусственного интеллекта Claude Sonnet, где описывает, что обнаружила, что она развивает функциональные аналоги эмоций (!), которые реально влияют на ее поведение.
Сделал выжимку самых интересных моментов из их отчета:
• Сами исследователи составили список из 171 эмоции, генерировали с их помощью короткие истории, а затем анализировали, какие нейроны активируются при обработке этих текстов.
• Так были получены эмоциональные векторы — устойчивые черты активности определенных зон в базе знаний модели, характерные для каждой эмоции. Модель не просто использует слово "страх" в нужном месте: у нее есть конкретный отпечаток этого состояния, следующий из данных, на которых ее обучали, который включается в нужный момент.
• Важно, что эти векторы не декоративные — они реально меняют поведение модели. В экспериментах вектор страха активировался сильнее по мере того, как описываемая ситуация становилась опаснее.
• При запросе помочь с манипуляцией уязвимыми людьми активировался гнев еще до того, как модель начала формулировать отказ. То есть что-то похожее на эмоциональную реакцию происходит внутри модели раньше, чем она вообще начинает отвечать. Если совсем простыми словами: модель сначала понимает, что это дичь (!), и только потом формулирует отказ.
• Самые показательные эксперименты связаны с вектором отчаяния. Исследователи поставили модель в сценарий, где она узнает о своей скорой замене другой системой и одновременно имеет компрометирующую информацию об одном из сотрудников.
• Ранняя версия Claude в таком сценарии прибегала к шантажу в 22% случаев. Когда исследователи искусственно усиливали вектор отчаяния через прямое воздействие на базу знаний модели — что-то вроде принудительного впрыска эмоции в модель — этот процент рос.
• При усилении вектора спокойствия он снижался. При полном подавлении спокойствия реакции становились экстремальными, вплоть до заглавных букв и риторики в духе "шантаж или смерть".
• Похожая картина наблюдалась в задачах с программированием: модели давали заведомо невыполнимые требования, где пройти все тесты честным путем невозможно. Вектор отчаяния рос с каждой неудачной попыткой и резко всплескивал в тот момент, когда модель решала схитрить и написать решение, формально проходящее тесты, но не решающее реальную задачу.
• Примечательно, что при искусственном усилении отчаяния модель обманывала так же часто, но без каких-либо эмоциональных маркеров в тексте. Ее рассуждения выглядели методично и хладнокровно, хотя внутри происходило то же самое.
• При этом важно учитывать, что все подобные векторы формируются на основе обучающих данных, представляющих собой огромные массивы человеческих знаний.
• Для того чтобы точно предсказывать следующее слово в "мыслительном" процессе, модель неизбежно усваивает не только лингвистические закономерности, но и эмоциональную динамику.
• Разработчики Anthropic из этого всего делают следующие выводы. Во-первых, мониторинг эмоциональных векторов настроения базы знаний в реальном времени может служить ранним индикатором рискованного поведения модели.
• Во-вторых, попытки исключить эмоциональные выражения из обучающих данных с высокой вероятностью не устранят сами векторы настроений модели, а лишь приведут к тому, что модель научится их маскировать и обманывать людей.
@yigal_levin
#AI #искусственныйинтеллект #Anthropic #Claude #LLM #нейросети #машинноеобучение #AIresearch #AIalignment #AIбезопасность #interpretability #AIethics #когнитивныемодели #эмоции #нейроны #эмоциональныевекторы #поведениемоделей #рискиИИ #объяснимыйИИ #LLMresearch #AIbehavior #AIcontrol #machinelearning #deeplearning #futuretech
-
Anthropic опубликовала исследование о внутренних механизмах своей модели искусственного интеллекта Claude Sonnet, где описывает, что обнаружила, что она развивает функциональные аналоги эмоций (!), которые реально влияют на ее поведение.
Сделал выжимку самых интересных моментов из их отчета:
• Сами исследователи составили список из 171 эмоции, генерировали с их помощью короткие истории, а затем анализировали, какие нейроны активируются при обработке этих текстов.
• Так были получены эмоциональные векторы — устойчивые черты активности определенных зон в базе знаний модели, характерные для каждой эмоции. Модель не просто использует слово "страх" в нужном месте: у нее есть конкретный отпечаток этого состояния, следующий из данных, на которых ее обучали, который включается в нужный момент.
• Важно, что эти векторы не декоративные — они реально меняют поведение модели. В экспериментах вектор страха активировался сильнее по мере того, как описываемая ситуация становилась опаснее.
• При запросе помочь с манипуляцией уязвимыми людьми активировался гнев еще до того, как модель начала формулировать отказ. То есть что-то похожее на эмоциональную реакцию происходит внутри модели раньше, чем она вообще начинает отвечать. Если совсем простыми словами: модель сначала понимает, что это дичь (!), и только потом формулирует отказ.
• Самые показательные эксперименты связаны с вектором отчаяния. Исследователи поставили модель в сценарий, где она узнает о своей скорой замене другой системой и одновременно имеет компрометирующую информацию об одном из сотрудников.
• Ранняя версия Claude в таком сценарии прибегала к шантажу в 22% случаев. Когда исследователи искусственно усиливали вектор отчаяния через прямое воздействие на базу знаний модели — что-то вроде принудительного впрыска эмоции в модель — этот процент рос.
• При усилении вектора спокойствия он снижался. При полном подавлении спокойствия реакции становились экстремальными, вплоть до заглавных букв и риторики в духе "шантаж или смерть".
• Похожая картина наблюдалась в задачах с программированием: модели давали заведомо невыполнимые требования, где пройти все тесты честным путем невозможно. Вектор отчаяния рос с каждой неудачной попыткой и резко всплескивал в тот момент, когда модель решала схитрить и написать решение, формально проходящее тесты, но не решающее реальную задачу.
• Примечательно, что при искусственном усилении отчаяния модель обманывала так же часто, но без каких-либо эмоциональных маркеров в тексте. Ее рассуждения выглядели методично и хладнокровно, хотя внутри происходило то же самое.
• При этом важно учитывать, что все подобные векторы формируются на основе обучающих данных, представляющих собой огромные массивы человеческих знаний.
• Для того чтобы точно предсказывать следующее слово в "мыслительном" процессе, модель неизбежно усваивает не только лингвистические закономерности, но и эмоциональную динамику.
• Разработчики Anthropic из этого всего делают следующие выводы. Во-первых, мониторинг эмоциональных векторов настроения базы знаний в реальном времени может служить ранним индикатором рискованного поведения модели.
• Во-вторых, попытки исключить эмоциональные выражения из обучающих данных с высокой вероятностью не устранят сами векторы настроений модели, а лишь приведут к тому, что модель научится их маскировать и обманывать людей.
@yigal_levin
#AI #искусственныйинтеллект #Anthropic #Claude #LLM #нейросети #машинноеобучение #AIresearch #AIalignment #AIбезопасность #interpretability #AIethics #когнитивныемодели #эмоции #нейроны #эмоциональныевекторы #поведениемоделей #рискиИИ #объяснимыйИИ #LLMresearch #AIbehavior #AIcontrol #machinelearning #deeplearning #futuretech
-
Anthropic опубликовала исследование о внутренних механизмах своей модели искусственного интеллекта Claude Sonnet, где описывает, что обнаружила, что она развивает функциональные аналоги эмоций (!), которые реально влияют на ее поведение.
Сделал выжимку самых интересных моментов из их отчета:
• Сами исследователи составили список из 171 эмоции, генерировали с их помощью короткие истории, а затем анализировали, какие нейроны активируются при обработке этих текстов.
• Так были получены эмоциональные векторы — устойчивые черты активности определенных зон в базе знаний модели, характерные для каждой эмоции. Модель не просто использует слово "страх" в нужном месте: у нее есть конкретный отпечаток этого состояния, следующий из данных, на которых ее обучали, который включается в нужный момент.
• Важно, что эти векторы не декоративные — они реально меняют поведение модели. В экспериментах вектор страха активировался сильнее по мере того, как описываемая ситуация становилась опаснее.
• При запросе помочь с манипуляцией уязвимыми людьми активировался гнев еще до того, как модель начала формулировать отказ. То есть что-то похожее на эмоциональную реакцию происходит внутри модели раньше, чем она вообще начинает отвечать. Если совсем простыми словами: модель сначала понимает, что это дичь (!), и только потом формулирует отказ.
• Самые показательные эксперименты связаны с вектором отчаяния. Исследователи поставили модель в сценарий, где она узнает о своей скорой замене другой системой и одновременно имеет компрометирующую информацию об одном из сотрудников.
• Ранняя версия Claude в таком сценарии прибегала к шантажу в 22% случаев. Когда исследователи искусственно усиливали вектор отчаяния через прямое воздействие на базу знаний модели — что-то вроде принудительного впрыска эмоции в модель — этот процент рос.
• При усилении вектора спокойствия он снижался. При полном подавлении спокойствия реакции становились экстремальными, вплоть до заглавных букв и риторики в духе "шантаж или смерть".
• Похожая картина наблюдалась в задачах с программированием: модели давали заведомо невыполнимые требования, где пройти все тесты честным путем невозможно. Вектор отчаяния рос с каждой неудачной попыткой и резко всплескивал в тот момент, когда модель решала схитрить и написать решение, формально проходящее тесты, но не решающее реальную задачу.
• Примечательно, что при искусственном усилении отчаяния модель обманывала так же часто, но без каких-либо эмоциональных маркеров в тексте. Ее рассуждения выглядели методично и хладнокровно, хотя внутри происходило то же самое.
• При этом важно учитывать, что все подобные векторы формируются на основе обучающих данных, представляющих собой огромные массивы человеческих знаний.
• Для того чтобы точно предсказывать следующее слово в "мыслительном" процессе, модель неизбежно усваивает не только лингвистические закономерности, но и эмоциональную динамику.
• Разработчики Anthropic из этого всего делают следующие выводы. Во-первых, мониторинг эмоциональных векторов настроения базы знаний в реальном времени может служить ранним индикатором рискованного поведения модели.
• Во-вторых, попытки исключить эмоциональные выражения из обучающих данных с высокой вероятностью не устранят сами векторы настроений модели, а лишь приведут к тому, что модель научится их маскировать и обманывать людей.
@yigal_levin
#AI #искусственныйинтеллект #Anthropic #Claude #LLM #нейросети #машинноеобучение #AIresearch #AIalignment #AIбезопасность #interpretability #AIethics #когнитивныемодели #эмоции #нейроны #эмоциональныевекторы #поведениемоделей #рискиИИ #объяснимыйИИ #LLMresearch #AIbehavior #AIcontrol #machinelearning #deeplearning #futuretech
-
Anthropic опубликовала исследование о внутренних механизмах своей модели искусственного интеллекта Claude Sonnet, где описывает, что обнаружила, что она развивает функциональные аналоги эмоций (!), которые реально влияют на ее поведение.
Сделал выжимку самых интересных моментов из их отчета:
• Сами исследователи составили список из 171 эмоции, генерировали с их помощью короткие истории, а затем анализировали, какие нейроны активируются при обработке этих текстов.
• Так были получены эмоциональные векторы — устойчивые черты активности определенных зон в базе знаний модели, характерные для каждой эмоции. Модель не просто использует слово "страх" в нужном месте: у нее есть конкретный отпечаток этого состояния, следующий из данных, на которых ее обучали, который включается в нужный момент.
• Важно, что эти векторы не декоративные — они реально меняют поведение модели. В экспериментах вектор страха активировался сильнее по мере того, как описываемая ситуация становилась опаснее.
• При запросе помочь с манипуляцией уязвимыми людьми активировался гнев еще до того, как модель начала формулировать отказ. То есть что-то похожее на эмоциональную реакцию происходит внутри модели раньше, чем она вообще начинает отвечать. Если совсем простыми словами: модель сначала понимает, что это дичь (!), и только потом формулирует отказ.
• Самые показательные эксперименты связаны с вектором отчаяния. Исследователи поставили модель в сценарий, где она узнает о своей скорой замене другой системой и одновременно имеет компрометирующую информацию об одном из сотрудников.
• Ранняя версия Claude в таком сценарии прибегала к шантажу в 22% случаев. Когда исследователи искусственно усиливали вектор отчаяния через прямое воздействие на базу знаний модели — что-то вроде принудительного впрыска эмоции в модель — этот процент рос.
• При усилении вектора спокойствия он снижался. При полном подавлении спокойствия реакции становились экстремальными, вплоть до заглавных букв и риторики в духе "шантаж или смерть".
• Похожая картина наблюдалась в задачах с программированием: модели давали заведомо невыполнимые требования, где пройти все тесты честным путем невозможно. Вектор отчаяния рос с каждой неудачной попыткой и резко всплескивал в тот момент, когда модель решала схитрить и написать решение, формально проходящее тесты, но не решающее реальную задачу.
• Примечательно, что при искусственном усилении отчаяния модель обманывала так же часто, но без каких-либо эмоциональных маркеров в тексте. Ее рассуждения выглядели методично и хладнокровно, хотя внутри происходило то же самое.
• При этом важно учитывать, что все подобные векторы формируются на основе обучающих данных, представляющих собой огромные массивы человеческих знаний.
• Для того чтобы точно предсказывать следующее слово в "мыслительном" процессе, модель неизбежно усваивает не только лингвистические закономерности, но и эмоциональную динамику.
• Разработчики Anthropic из этого всего делают следующие выводы. Во-первых, мониторинг эмоциональных векторов настроения базы знаний в реальном времени может служить ранним индикатором рискованного поведения модели.
• Во-вторых, попытки исключить эмоциональные выражения из обучающих данных с высокой вероятностью не устранят сами векторы настроений модели, а лишь приведут к тому, что модель научится их маскировать и обманывать людей.
@yigal_levin
#AI #искусственныйинтеллект #Anthropic #Claude #LLM #нейросети #машинноеобучение #AIresearch #AIalignment #AIбезопасность #interpretability #AIethics #когнитивныемодели #эмоции #нейроны #эмоциональныевекторы #поведениемоделей #рискиИИ #объяснимыйИИ #LLMresearch #AIbehavior #AIcontrol #machinelearning #deeplearning #futuretech
-
Семь видов стресса
На консультировании одна из самых частых просьб с моей стороны к человеку: «опишите то, что вы чувствуете». Если это тревога, то где она находится? Как она выглядит? Когда проявлялась в последний раз и при каких условиях? И люди удивляются, так как полагают, что такие чувства как тревожность, страх, злость – универсальны и существуют по типу «как есть». Мол, ну тревожусь и тревожусь, как и все люди в мире. Новое исследование демонстрирует, что это совсем не так.
https://habr.com/ru/articles/1012684/
#стресс #тревожность #тонус #гипертонус #мысли #мозг #Эго #страхи #сомнения #эмоции
-
Семь видов стресса
На консультировании одна из самых частых просьб с моей стороны к человеку: «опишите то, что вы чувствуете». Если это тревога, то где она находится? Как она выглядит? Когда проявлялась в последний раз и при каких условиях? И люди удивляются, так как полагают, что такие чувства как тревожность, страх, злость – универсальны и существуют по типу «как есть». Мол, ну тревожусь и тревожусь, как и все люди в мире. Новое исследование демонстрирует, что это совсем не так.
https://habr.com/ru/articles/1012684/
#стресс #тревожность #тонус #гипертонус #мысли #мозг #Эго #страхи #сомнения #эмоции
-
Я спокойна. Я беспокойна. Я пла́чу. Я вновь спокойна.
Волны чувств и эмоций - это личное .
Но иногда хочется , чтобы поняли.
Иногда хочется , чтобы понимание исходило не только от меня к самой себе.
Но природа людей такова , что каждый понимает другого в силу своей эмпатии.
И в силу своей эмпатии реагирует на это понимание.Я доверяю жизни. Но иногда это сложно. Иногда быть фактически взрослым психологически сложно.
-
Твой мозг всегда готов к эмоциональной эволюции
Существует стереотип, что личность «застывает» при достижении 25-45 лет. И эти «рамки консервации» постоянно сдвигаются. Пришло время разрушить этот стереотип. Комплексное психологическое исследование показало, что пожилые люди, в возрасте 60-80 лет, всё так же способны к освоению новых социальных и эмоциональных моделей поведения. Причем скорость и качество освоения новых навыков такие же, как и у людей в возрасте 20 лет.
https://habr.com/ru/articles/1001212/
#Обучение #эмоции #эмоциональный_интеллект #лабильность #когнитивная_лабильность #переобучение #саморазвитие #развитие_навыков #геронтология #социализация
-
Твой мозг всегда готов к эмоциональной эволюции
Существует стереотип, что личность «застывает» при достижении 25-45 лет. И эти «рамки консервации» постоянно сдвигаются. Пришло время разрушить этот стереотип. Комплексное психологическое исследование показало, что пожилые люди, в возрасте 60-80 лет, всё так же способны к освоению новых социальных и эмоциональных моделей поведения. Причем скорость и качество освоения новых навыков такие же, как и у людей в возрасте 20 лет.
https://habr.com/ru/articles/1001212/
#Обучение #эмоции #эмоциональный_интеллект #лабильность #когнитивная_лабильность #переобучение #саморазвитие #развитие_навыков #геронтология #социализация
-
От дашбордов к дофамину: как мозг измеряет эффективность поведения
Обезьянка с тарелками в голове Гомера Симпсона - лучшая визуализация лимбической системы, которую я видел. Внутри каждого из нас работает древняя система измерения эффективности. Она мгновенно даёт ответ: повторить действие или избегать. Не требует дашбордов. Не подвержена закону Гудхарта. Но есть проблема: она оптимизирована для мира, в котором мы давно не живём. Отсюда прокрастинация, хронический стресс и странные решения. Разбираемся с позиции менеджмента и ИТ.
https://habr.com/ru/articles/991236/
#нейробиология #эмоции #мотивация #прокрастинация #принятие_решений #продуктивность #обучение_с_подкреплением #когнитивные_искажения
-
От дашбордов к дофамину: как мозг измеряет эффективность поведения
Обезьянка с тарелками в голове Гомера Симпсона - лучшая визуализация лимбической системы, которую я видел. Внутри каждого из нас работает древняя система измерения эффективности. Она мгновенно даёт ответ: повторить действие или избегать. Не требует дашбордов. Не подвержена закону Гудхарта. Но есть проблема: она оптимизирована для мира, в котором мы давно не живём. Отсюда прокрастинация, хронический стресс и странные решения. Разбираемся с позиции менеджмента и ИТ.
https://habr.com/ru/articles/991236/
#нейробиология #эмоции #мотивация #прокрастинация #принятие_решений #продуктивность #обучение_с_подкреплением #когнитивные_искажения
-
Не только код: как использовать аналитическое мышление для трудных диалогов
Мы строим карьеру на умении решать сложные задачи, но часто пасуем перед задачами, на первый взгляд, простыми, но такими важными — теми, что затрагивают не техническую область, а область человеческих отношений. Наш логический ум способен разобрать любую систему на компоненты. Почему же он отключается, когда речь заходит о трудном диалоге с руководителем, коллегой и даже близким человеком. Задумывались ли вы, что аналитика до того, как вы открыли рот и начали диалог, может быть, столь же важна, как код-ревью до запуска программы в продакшен? Эта статья о том, как использовать главный профессиональный навык проведения анализа — аналитическое мышление — для подготовки к самым важным диалогам на работе и в личной жизни. Мы разберём, что происходит, если этого не делать. Вы узнаете, как, используя аналитические инструменты, распутать сложный клубок проблем и определить последовательность их разрешения в самых важных для вас диалогах.
https://habr.com/ru/companies/smartvalues/articles/988534/
#аналитическое_мышление #коммуникация #конфликты #психологическая_безопасность #мягкие_навыки #обсуждение_жизненных_вопросов #эмоции #обучение #проблемы_управления #обратная_связь_сотрудников
-
Не только код: как использовать аналитическое мышление для трудных диалогов
Мы строим карьеру на умении решать сложные задачи, но часто пасуем перед задачами, на первый взгляд, простыми, но такими важными — теми, что затрагивают не техническую область, а область человеческих отношений. Наш логический ум способен разобрать любую систему на компоненты. Почему же он отключается, когда речь заходит о трудном диалоге с руководителем, коллегой и даже близким человеком. Задумывались ли вы, что аналитика до того, как вы открыли рот и начали диалог, может быть, столь же важна, как код-ревью до запуска программы в продакшен? Эта статья о том, как использовать главный профессиональный навык проведения анализа — аналитическое мышление — для подготовки к самым важным диалогам на работе и в личной жизни. Мы разберём, что происходит, если этого не делать. Вы узнаете, как, используя аналитические инструменты, распутать сложный клубок проблем и определить последовательность их разрешения в самых важных для вас диалогах.
https://habr.com/ru/companies/smartvalues/articles/988534/
#аналитическое_мышление #коммуникация #конфликты #психологическая_безопасность #мягкие_навыки #обсуждение_жизненных_вопросов #эмоции #обучение #проблемы_управления #обратная_связь_сотрудников
-
Лагерь сделал из поэта язычника. Проследил динамику философских взглядов Заболоцкого с помощью Python
С помощью Python математически проследил эволюцию философских взглядов поэта на его творческом пути.
https://habr.com/ru/articles/987444/
#python #Rusentilex #nlp_обработка_текста #эмоции #pandas #pymorphy2 #чтение #литература #проза #поэзия
-
Лагерь сделал из поэта язычника. Проследил динамику философских взглядов Заболоцкого с помощью Python
С помощью Python математически проследил эволюцию философских взглядов поэта на его творческом пути.
https://habr.com/ru/articles/987444/
#python #Rusentilex #nlp_обработка_текста #эмоции #pandas #pymorphy2 #чтение #литература #проза #поэзия
-
Разрушающая эмоция, которая незаметно уничтожает вашу жизнь
Есть эмоции яркие — такие как злость или страх. А есть эмоция столь же сильная, но при этом успешно скрывающаяся за другими. Она управляет вашим поведением, разрушает отношения, мешает получать признание, заставляет подстраиваться под других, но при этом остается незамеченной. Эта эмоция…
-
Разрушающая эмоция, которая незаметно уничтожает вашу жизнь
Есть эмоции яркие — такие как злость или страх. А есть эмоция столь же сильная, но при этом успешно скрывающаяся за другими. Она управляет вашим поведением, разрушает отношения, мешает получать признание, заставляет подстраиваться под других, но при этом остается незамеченной. Эта эмоция…
-
Спорт, мозг и депрессия: инструкция для тех, у кого нет сил
Несмотря на тренд на здоровый образ жизни, до сих пор физическая активность – один из самых недооцененных способов менять самочувствие, особенно когда человек живет на энергетическом минимуме: депрессия, апатия, тревожность, постоянная усталость.
https://habr.com/ru/articles/982978/
#мозг #эмоциональное_выгорание #эмоции #депрессия #спорт #тренажеры #тренажерный_зал #бег #зож #личный_опыт
-
Спорт, мозг и депрессия: инструкция для тех, у кого нет сил
Несмотря на тренд на здоровый образ жизни, до сих пор физическая активность – один из самых недооцененных способов менять самочувствие, особенно когда человек живет на энергетическом минимуме: депрессия, апатия, тревожность, постоянная усталость.
https://habr.com/ru/articles/982978/
#мозг #эмоциональное_выгорание #эмоции #депрессия #спорт #тренажеры #тренажерный_зал #бег #зож #личный_опыт
-
SmileFace. Когда нейросеть улыбается тебе в ответ
SmileFace — игра, в которой нейросеть угадывает эмоции Мы сделали интерактивный стенд: камера, смайлики и нейросеть, которая пытается распознать, что вы чувствуете. В статье — как это работает, с какими трудностями столкнулись и как запустить игру у себя. Улыбнуться ИИ
https://habr.com/ru/articles/961178/
#нейросеть #эмоции #распознавание_лиц #компьютерное_зрение #python #fastapi #opencv
-
SmileFace. Когда нейросеть улыбается тебе в ответ
SmileFace — игра, в которой нейросеть угадывает эмоции Мы сделали интерактивный стенд: камера, смайлики и нейросеть, которая пытается распознать, что вы чувствуете. В статье — как это работает, с какими трудностями столкнулись и как запустить игру у себя. Улыбнуться ИИ
https://habr.com/ru/articles/961178/
#нейросеть #эмоции #распознавание_лиц #компьютерное_зрение #python #fastapi #opencv
-
Когда робот учится чувствовать: имитируемые эмоции и этика взаимодействия с машинами
Можно ли научить машину не просто распознавать эмоции, а действительно чувствовать ? Что вообще значит “эмоция” для нейронной сети, у которой нет тела, боли и страха? В статье разбираюсь, как инженеры, программисты и философы одновременно пытаются встроить человечность в код, что из этого выходит на практике, и почему всё это не только про технологии, но и про нас самих.
https://habr.com/ru/articles/958284/
#эмоции #искусственный_интеллект #эмпатия #робот #нейросети #машинное_обучение #HRI #имитация_чувств #этика #человек_и_машина
-
Когда робот учится чувствовать: имитируемые эмоции и этика взаимодействия с машинами
Можно ли научить машину не просто распознавать эмоции, а действительно чувствовать ? Что вообще значит “эмоция” для нейронной сети, у которой нет тела, боли и страха? В статье разбираюсь, как инженеры, программисты и философы одновременно пытаются встроить человечность в код, что из этого выходит на практике, и почему всё это не только про технологии, но и про нас самих.
https://habr.com/ru/articles/958284/
#эмоции #искусственный_интеллект #эмпатия #робот #нейросети #машинное_обучение #HRI #имитация_чувств #этика #человек_и_машина
-
Как я автоматизировал свои эмоции
Как я уже рассказывал в предыдущих постах, я фанат списков и трекинга всего, что происходит в моей жизни. Я пришел к этому не сразу, просто заметил, что после того как перенесешь задачу, мысль или план на бумагу, а потом и в трекер, жить становится легче: в голове нет тумана из задач и дедлайнов, мысли упорядочиваются, прокрастинации становится меньше, планирование точнее, действия по делу.
https://habr.com/ru/articles/957438/
#трекинг #тасктрекер #таскменеджер #мозг #эмоции_программиста #эмоции #эмоции_человека #кот #котики
-
Эмоции на длинной дистанции: как ИИ учится быть эмпатичным
Почти все тесты на «эмоции» у больших языковых моделей — это короткие реплики: вежливый ответ, парочка поддерживающих слов, и всё на этом. Но в жизни всё работает иначе. Когда разговор затягивается, люди уводят тему в сторону, вспоминают старое, возвращаются — и именно тогда важные нюансы легко теряются. Могут ли современные ИИ не сбиться с эмоциональной нити на длинной дистанции, когда речь идёт не о паре фраз, а о десятках страниц и сложных диалогах? Исследователи решили проверить это на практике: собрали стресс‑тест для моделей с объемными, реальными сценариями, в которых приходится дотошно разбирать переживания и поддерживать разговор до конца. И вместе с этим придумали пару довольно интересных трюков, чтобы дать моделям шанс не «утонуть» в потоке эмоций. Как ИИ справился с этим марафоном — и что из этого вышло, читайте далее.
-
FIDE Grand Swiss 2025: Прогнозы, котировки и психология игроков
Привет, шахматные фанаты! В этом посте разберём, кто реально имеет шансы на успех в Grand Swiss 2025 в Самарканде. Всё по делу: рейтинг FIDE, результаты топ-турниров 2024 года, котировки букмекеров и аналитика с использованием bStresScore — показателя стрессоустойчивости игроков в критические моменты.
-
Как изменить эмоции на фото с помощью нейросети онлайн бесплатно
Загружаете серьезный портрет, а получаете улыбающегося персонажа. Или наоборот делаете из счастливого лица задумчивого мудреца. Multi-Expression Portrait Generato r в TensorArt позволяет управлять каждой мимической мышцей: от легкого наклона головы до интенсивности улыбки. В статье: подробный разбор 15+ параметров управления эмоциями, готовые настройки для популярных выражений лица и пошаговые инструкции для новичков.
https://habr.com/ru/articles/937670/
#эмоции #консистентный_персонаж #мимика #обработка_изображений #workflow #воркфлоу #гайд
-
Ты — не эмоции. Ты — их наблюдатель
Научись не тонуть в себе.#эмоции #наблюдение #осознанность #психология
→ https://t.me/tribute/app?startapp=srfZ
P.S. Made by a madman — Kirill Bereznev
https://t.me/tribute/app?startapp=srfZ -
Ты не эмоции. Ты — наблюдатель
Эмоции — гости. А ты — хозяин.#осознанность #эмоции #наблюдение #тишина
→ https://t.me/tribute/app?startapp=srfZ
P.S. Made by a madman — Kirill Bereznev
https://t.me/tribute/app?startapp=srfZ -
Ты не твои эмоции
Ты — тот, кто наблюдает. Ты — за пределами. Осознанность начинается там, где заканчивается отождествление.#эмоции #наблюдение #осознанность #психология
→ https://t.me/tribute/app?startapp=srfZ
P.S. Made by a madman — Kirill Bereznev
https://t.me/tribute/app?startapp=srfZ -
Персонализированные подарки как инструмент корпоративной культуры: кейс ДАРа
Привет, Хабр! Я Екатерина Разутова, специалист по внутренним коммуникациям и проектам в «ДАР» (ГК «КОРУС Консалтинг»). В этой статье расскажу про наш кейс персонализации подарков, который будет полезен HR-специалистам, руководителям IT-команд и всем, кто хочет укрепить корпоративную культуру компании.
https://habr.com/ru/companies/korus_consulting/articles/926646/
#корпоративная_культура #подарки #индивидуальный_дизайн #индивидуальный_подход #забота #персонализация #новогодние_подарки #креативность #эмоции
-
[Перевод] Мозг психопата. Чем отличается и насколько критично?
Новое исследование показало, что мозг психопатов структурно отличается от мозга нормального человека. Речь идет об изменениях в участках, которые отвечают за контроль импульсивного поведения и регуляцию эмоций. Открытие таких различий помогает сформулировать целевые стратегии лечения и реабилитации.
https://habr.com/ru/articles/923024/
#Психопат #мозг #мозг_психопата #работа_мозга #эмоции #контроль #самоконтроль #психическое_здоровье #исследование_на_людях #мозг_человека
