Почему нейросеть передумывает простое и недодумывает сложное, и что об этом знал Шерлок Холмс
Языковые модели научились рассуждать перед ответом. Теперь разработчики бьются над вопросом, который знаком каждому: сколько времени думать над конкретной задачей? На это хочется ответить парой метафор. В рассказе «Союз рыжих» сэра Артура Конан Дойла к Шерлоку Холмсу приходит владелец ссудной кассы Джабез Уилсон. Едва гость садится, сыщик сообщает, что тот нюхает табак, состоит в масонской ложе, а раньше занимался физическим трудом, бывал в Китае и в последнее время много писал. Все это Холмс читает по рукам, манжетам и булавке Джабеза за несколько секунд. История, которую рассказал сам Уилсон, потребовала другого подхода. «Это задача на три трубки, — сказал Холмс Ватсону, — и я попрошу вас минут пятьдесят со мной не разговаривать». Тут Конан Дойл показал обе скорости мышления своего героя. Молниеносная дедукция Шерлока известна всем, но для нашей темы важнее другое его умение. Он заранее знал, какой задаче хватит одного взгляда, а какой понадобятся три трубки на подумать. Но Холмс был литературным персонажем, а вот Даниэль Канеман, нобелевский лауреат по экономике и автор книги «Думай медленно… решай быстро», много лет изучал, как рефлекторный выбор быстрого мышления подводит обычных людей. В книге он приводит задачу психолога Шейна Фредерика. Бита и мяч вместе стоят доллар десять центов, бита дороже мяча на доллар. Сколько стоит мяч? Первым в голову приходит ответ «десять центов», и он неверен: тогда бита стоила бы 1,10, а вместе они стоили бы 1,20. Ошиблись больше половины студентов Гарварда, MIT и Принстона, которым давали эту задачу. Быстрое мышление, Система 1 по терминологии Канемана, выдает уверенный ответ. Медленная Система 2 могла бы его проверить, но включается неохотно, за что Канеман и назвал ее ленивым контроллером.
https://habr.com/ru/companies/ru_mts/articles/1102766/
#overthinking #claude #gpt5 #qwen #даниэль_канеман #deepseek #рассуждающие_модели #гибридное_мышление #система_1_и_система_2 #адаптивное_мышление
