[Перевод] Все демонические насельники ИИ… по старшинству
Гоблины, призраки, монстры, богини: фантастические твари и где они обитают. В конце апреля OpenAI опубликовала у себя в блоге пост , в котором объяснила, почему модели OpenAI то и дело говорят о гоблинах. А также о гремлинах. Получился интересный документ, как минимум, частично касающийся той работы, которой мы вместе с Мюрреем Шанаханом и Гамильтоном Моррином мы занимались на протяжении нескольких месяцев. Теперь, в зависимости от того, с кем именно мы беседуем, я могу сказать, что этот проект был призван помочь разобраться в глубинной психологии больших языковых моделей (БЯМ) и о том, как она влияет на коммуникацию нейронок с пользователями. Но другому собеседнику я мог бы сказать, что наша работа скорее сближалась с демонологией.
https://habr.com/ru/articles/1052874/
#большие_языковые_модели #искусственный_интеллект #демонология #Лоаб #Нова #Сидни #шоггот #галлюцинации #нейронные_сети #сознание