#вкусы_больших_языковых_моделей — Public Fediverse posts
Live and recent posts from across the Fediverse tagged #вкусы_больших_языковых_моделей, aggregated by home.social.
-
Вкусы и предпочтения больших языковых моделей
У больших языковых моделей есть системы ценностей . БЯМ по-разному отзываются о чужих текстах или даже человеческой жизни, а их оценочные суждения и качество ответов отличаются в зависимости от упоминаемой расы, пола и национальности человека. Не вызывает никаких сомнений, что подобную предвзятость систем на искусственном интеллекте нужно искоренять. Однако также у моделей есть предпочтения. Разные БЯМ называют любимыми разные песни, кино и книги. ИИ одного провайдера предпочитает одну разновидность мороженого, у конкурентов языковая модель любит десерты другого вкуса. Ответы на подобные вопросы глубоко субъективны, одного морально правильного нет. Можно даже сказать, что вкусы — это частный случай систем ценностей. Разница в том, что явных угроз подобные артефакты выравнивания не несут. Какая разница, предпочитает ли БЯМ джаз или рок?
https://habr.com/ru/articles/942362/
#большие_языковые_модели #GPT4 #GPT35 #Claude #OpenAI #вкусы_больших_языковых_моделей #БЯМ #Anthropic #музыка #кино
-
Вкусы и предпочтения больших языковых моделей
У больших языковых моделей есть системы ценностей . БЯМ по-разному отзываются о чужих текстах или даже человеческой жизни, а их оценочные суждения и качество ответов отличаются в зависимости от упоминаемой расы, пола и национальности человека. Не вызывает никаких сомнений, что подобную предвзятость систем на искусственном интеллекте нужно искоренять. Однако также у моделей есть предпочтения. Разные БЯМ называют любимыми разные песни, кино и книги. ИИ одного провайдера предпочитает одну разновидность мороженого, у конкурентов языковая модель любит десерты другого вкуса. Ответы на подобные вопросы глубоко субъективны, одного морально правильного нет. Можно даже сказать, что вкусы — это частный случай систем ценностей. Разница в том, что явных угроз подобные артефакты выравнивания не несут. Какая разница, предпочитает ли БЯМ джаз или рок?
https://habr.com/ru/articles/942362/
#большие_языковые_модели #GPT4 #GPT35 #Claude #OpenAI #вкусы_больших_языковых_моделей #БЯМ #Anthropic #музыка #кино