#guardrails — Public Fediverse posts
Live and recent posts from across the Fediverse tagged #guardrails, aggregated by home.social.
-
GuardRate: метрики, бенчмарки и инсайты из первого аудита (часть 2)
В первой части мы верхнеуровнево рассмотрели результаты оценки 37 моделей, обсудили проблему оценки и сравнения guardrail моделей, рассказали, как лидерборд помогает с ней справиться, а также поделились инсайтами и руководством по использованию. Теперь пришло время заглянуть во внутреннюю кухню: в этой статье мы подробно разберем устройство GuardRate Tool и GuardRate Leaderboard, ответим на вопрос, почему выбрали именно такие бенчмарки и метрики, опишем методологию и расскажем о том, как проводились эксперименты.
https://habr.com/ru/articles/1081286/
#opensource #leaderboard #benchmarking #evaluation #llm #guardrail_metrics #ai_safety #guardrails #promptinjection #guardrail_areana
-
GuardRate: метрики, бенчмарки и инсайты из первого аудита (часть 2)
В первой части мы верхнеуровнево рассмотрели результаты оценки 37 моделей, обсудили проблему оценки и сравнения guardrail моделей, рассказали, как лидерборд помогает с ней справиться, а также поделились инсайтами и руководством по использованию. Теперь пришло время заглянуть во внутреннюю кухню: в этой статье мы подробно разберем устройство GuardRate Tool и GuardRate Leaderboard, ответим на вопрос, почему выбрали именно такие бенчмарки и метрики, опишем методологию и расскажем о том, как проводились эксперименты.
https://habr.com/ru/articles/1081286/
#opensource #leaderboard #benchmarking #evaluation #llm #guardrail_metrics #ai_safety #guardrails #promptinjection #guardrail_areana
-
GuardRate: метрики, бенчмарки и инсайты из первого аудита (часть 2)
В первой части мы верхнеуровнево рассмотрели результаты оценки 37 моделей, обсудили проблему оценки и сравнения guardrail моделей, рассказали, как лидерборд помогает с ней справиться, а также поделились инсайтами и руководством по использованию. Теперь пришло время заглянуть во внутреннюю кухню: в этой статье мы подробно разберем устройство GuardRate Tool и GuardRate Leaderboard, ответим на вопрос, почему выбрали именно такие бенчмарки и метрики, опишем методологию и расскажем о том, как проводились эксперименты.
https://habr.com/ru/articles/1081286/
#opensource #leaderboard #benchmarking #evaluation #llm #guardrail_metrics #ai_safety #guardrails #promptinjection #guardrail_areana
-
Kaine says guardrails on Pentagon firings could see bipartisan support
Washington — Democratic Sen. Tim Kaine of Virginia said Sunday that following a string of high-level officers exiting…
#UnitedStates #US #USA #AdmiralBillMcRaven #armedservicescommittee #armyofficers #bipartisansupport #ChrisDonahue #Død #guardrails #osamabinladen #pentagon #petehegseth #SecretaryofDefense #TimKaine
https://www.europesays.com/3094854/ -
https://www.europesays.com/people/132708/ Kaine says guardrails on Pentagon firings could see bipartisan support #AdmiralBillMcRaven #ArmedServicesCommittee #ArmyOfficers #BipartisanSupport #ChrisDonahue #guardrails #OsamaBinLaden #pentagon #PeteHegseth #TimKaine
-
via #AIFoundry : What’s New in Hosted Agents in Foundry Agent Service
https://ift.tt/2xMKeOl
#HostedAgents #FoundryAgentService #AIagents #AzureFoundry #AgentRuntime #SourceCodeDeployment #AzD #VoiceLive #WebSocket #WebRTC #InvocationsWebSocket #Guardrails #ContentSafety #Res… -
#AI pervades everyday life w almost no #oversight
"Those who study AI’s penchant to #discriminate say states r already behind in establish'g #guardrails. The use of AI to make #consequentialdecisions — “automated decision tools” — is pervasive but largely #hidden .. 83% of employers use algorithms to help in hiring .. A more intensive but accurate way to identify #discrimination wld be to require bias #audits & to make e results #public. Tt’s where e industry pushes back"
https://www.seattlepi.com/news/politics/article/ai-pervades-everyday-life-with-almost-no-18704307.php -
The threat of #automated #misinformation is only getting #worse. #Microsoft definitely doesn’t have this #UnderControl # jailbreaking #ChatGPT #Bing #guardrails #AI #FalseNarrative https://garymarcus.substack.com/p/the-threat-of-automated-misinformation @garymarcus