#leaderboard — Public Fediverse posts on home.social

Habr @[email protected] · 2026-09-11 · 11:22 UTC

GuardRate: метрики, бенчмарки и инсайты из первого аудита (часть 2)

В первой части мы верхнеуровнево рассмотрели результаты оценки 37 моделей, обсудили проблему оценки и сравнения guardrail моделей, рассказали, как лидерборд помогает с ней справиться, а также поделились инсайтами и руководством по использованию. Теперь пришло время заглянуть во внутреннюю кухню: в этой статье мы подробно разберем устройство GuardRate Tool и GuardRate Leaderboard, ответим на вопрос, почему выбрали именно такие бенчмарки и метрики, опишем методологию и расскажем о том, как проводились эксперименты.

https://habr.com/ru/articles/1081286/

#opensource #leaderboard #benchmarking #evaluation #llm #guardrail_metrics #ai_safety #guardrails #promptinjection #guardrail_areana

#guardrail_areana #promptinjection #guardrails #ai_safety #guardrail_metrics #llm

Habr @[email protected] · 2026-09-11 · 11:22 UTC

GuardRate: метрики, бенчмарки и инсайты из первого аудита (часть 2)

В первой части мы верхнеуровнево рассмотрели результаты оценки 37 моделей, обсудили проблему оценки и сравнения guardrail моделей, рассказали, как лидерборд помогает с ней справиться, а также поделились инсайтами и руководством по использованию. Теперь пришло время заглянуть во внутреннюю кухню: в этой статье мы подробно разберем устройство GuardRate Tool и GuardRate Leaderboard, ответим на вопрос, почему выбрали именно такие бенчмарки и метрики, опишем методологию и расскажем о том, как проводились эксперименты.

https://habr.com/ru/articles/1081286/

#opensource #leaderboard #benchmarking #evaluation #llm #guardrail_metrics #ai_safety #guardrails #promptinjection #guardrail_areana

#guardrail_areana #promptinjection #guardrails #ai_safety #guardrail_metrics #llm

Habr @[email protected] · 2026-09-11 · 11:22 UTC

GuardRate: метрики, бенчмарки и инсайты из первого аудита (часть 2)

В первой части мы верхнеуровнево рассмотрели результаты оценки 37 моделей, обсудили проблему оценки и сравнения guardrail моделей, рассказали, как лидерборд помогает с ней справиться, а также поделились инсайтами и руководством по использованию. Теперь пришло время заглянуть во внутреннюю кухню: в этой статье мы подробно разберем устройство GuardRate Tool и GuardRate Leaderboard, ответим на вопрос, почему выбрали именно такие бенчмарки и метрики, опишем методологию и расскажем о том, как проводились эксперименты.

https://habr.com/ru/articles/1081286/

#opensource #leaderboard #benchmarking #evaluation #llm #guardrail_metrics #ai_safety #guardrails #promptinjection #guardrail_areana

#opensource #leaderboard #benchmarking #evaluation #llm #guardrail_metrics

N-gated Hacker News @[email protected] · 2026-09-09 · 17:21 UTC

🥳🎉 Behold, the ultimate #ranking of trendy open-source AI agents that no one asked for, updated weekly because who doesn't love a #leaderboard with as much relevance as a 30-day-old sandwich? 🥪🤖 With a dazzling "Momentum Score" that definitely wasn't invented last week, dive into the shallow end of AI obscurity! 🌊📉
https://www.theagenticleaderboard.com/ #trendyAI #openSource #MomentumScore #AIobscurity #HackerNews #ngated

#ranking #leaderboard #trendyai #opensource #momentumscore #aiobscurity

N-gated Hacker News @[email protected] · 2026-09-09 · 17:21 UTC

🥳🎉 Behold, the ultimate #ranking of trendy open-source AI agents that no one asked for, updated weekly because who doesn't love a #leaderboard with as much relevance as a 30-day-old sandwich? 🥪🤖 With a dazzling "Momentum Score" that definitely wasn't invented last week, dive into the shallow end of AI obscurity! 🌊📉
https://www.theagenticleaderboard.com/ #trendyAI #openSource #MomentumScore #AIobscurity #HackerNews #ngated

#ranking #leaderboard #trendyai #opensource #momentumscore #aiobscurity

N-gated Hacker News @[email protected] · 2026-09-09 · 17:21 UTC

🥳🎉 Behold, the ultimate #ranking of trendy open-source AI agents that no one asked for, updated weekly because who doesn't love a #leaderboard with as much relevance as a 30-day-old sandwich? 🥪🤖 With a dazzling "Momentum Score" that definitely wasn't invented last week, dive into the shallow end of AI obscurity! 🌊📉
https://www.theagenticleaderboard.com/ #trendyAI #openSource #MomentumScore #AIobscurity #HackerNews #ngated

#ranking #leaderboard #trendyai #opensource #momentumscore #aiobscurity

N-gated Hacker News @[email protected] · 2026-09-09 · 17:21 UTC

🥳🎉 Behold, the ultimate #ranking of trendy open-source AI agents that no one asked for, updated weekly because who doesn't love a #leaderboard with as much relevance as a 30-day-old sandwich? 🥪🤖 With a dazzling "Momentum Score" that definitely wasn't invented last week, dive into the shallow end of AI obscurity! 🌊📉
https://www.theagenticleaderboard.com/ #trendyAI #openSource #MomentumScore #AIobscurity #HackerNews #ngated

#ngated #hackernews #aiobscurity #momentumscore #opensource #trendyai

N-gated Hacker News @[email protected] · 2026-09-09 · 17:21 UTC

🥳🎉 Behold, the ultimate #ranking of trendy open-source AI agents that no one asked for, updated weekly because who doesn't love a #leaderboard with as much relevance as a 30-day-old sandwich? 🥪🤖 With a dazzling "Momentum Score" that definitely wasn't invented last week, dive into the shallow end of AI obscurity! 🌊📉
https://www.theagenticleaderboard.com/ #trendyAI #openSource #MomentumScore #AIobscurity #HackerNews #ngated

#ranking #leaderboard #trendyai #opensource #momentumscore #aiobscurity

Habr @[email protected] · 2026-08-07 · 09:42 UTC

GuardRate: как мы построили независимую арену для guardrail-моделей (часть 1)

Всем привет, на связи команда HiveTrace! Мы уделяем много времени разработке собственных моделей и часто задаемся вопросом: "какой из двух гардрейлов лучше?". Если вы когда-нибудь выбирали guardrail-модель для LLM, то знаете: одни модели блокируют безобидные запросы, другие пропускают явные угрозы. Хуже всего то, что нет прозрачного стандарта сравнения. Авторы оценивают свои решения субъективно, не публикуют методологию, а результаты замеров одних и тех же моделей на одинаковых бенчмарках в разных статьях часто отличаются. Поэтому мы создали CLI, который назвали GuardRateTools - это автоматизированный пайплайн оценки guardrail-моделей. Его интерфейс – HiveTrace GuardRate Leaderboard, уже открыт для просмотра. GuardRateTools интегрирован в CI/CD процесс дообучения внутренних guardrail-моделей и обеспечивает честное сравнение моделей в равных условиях. CLI запускает проверку одной командой: подтягивает датасеты и конфигурацию модели из YAML, разворачивает изолированную среду, которая создается индивидуально для каждой модели, прогоняет модель по фиксированному набору бенчмарков и считает метрики. Сырые ответы от модели, логи и итоговые метрики сохраняются в артефакты, поэтому любой результат можно проверить и воспроизвести. Автоматизация исключает ручной труд, снижает влияние человеческого фактора и сокращает время оценки новых решений в области гардрейлов. HiveTrace GuardRate Leaderboard уже доступен для всех! В третьем квартале 2026 года мы выложим исходный код CLI. Если хотите протестировать свою модель, свяжитесь с нами. Контакты вы найдёте в конце статьи.

https://habr.com/ru/companies/raft/articles/1067854/

#llm #guardrails #guardrail_metrics #leaderboard #evaluation #guardrail_areana #ai_safety #promptinjection #benchmarking #opensource