home.social

#metr — Public Fediverse posts

Live and recent posts from across the Fediverse tagged #metr, aggregated by home.social.

  1. ИИ уже пишет 80% кода Anthropic. Самое тревожное спрятано в цифре, которую подают как успех

    Anthropic отчиталась, что больше 80% её кода теперь пишет Claude, — а её же автоматический проверяющий ловит лишь треть прошлых ошибок, то есть две трети пропускает. Если код пишет один ИИ, а проверяет такой же — они слепнут в одних и тех же местах, и второй контур даёт не защиту, а общую слепую зону. Разбираю на инженерном уровне, почему «проверка ИИ» не равна независимой проверке, как измерить слепое пятно и как сюда ложится двухконтурная схема из мира промышленной безопасности (IEC 61508).

    habr.com/ru/articles/1044850/

    #самогенерация_ИИ #независимая_проверка #валидаторы #мутационное_тестирование #формальная_верификация #ПЛК #IEC61508 #METR #надежность_кода #anthropic