#guardrails — Public Fediverse posts

Как мы построили multilabel guardrail-классификатор и как мы сделали его в 3 раза быстрее и дешевле

Привет, дорогой читатель! Мы не будем переворачивать календарь, а лучше расскажем, как построили систему, которая ловит небезопасный контент автоматически, в реальном времени и на двух языках. Давайте посмотрим, что у нас получилось и сколько это стоит в деньгах.

https://habr.com/ru/companies/raft/articles/1077768/

#информационная_безопасность #ии #ииагенты #гардрейл #guardrails #ml #bert

Как мы построили multilabel guardrail-классификатор и как мы сделали его в 3 раза быстрее и дешевле

Привет, дорогой читатель! Мы не будем переворачивать календарь, а лучше расскажем, как построили систему, которая ловит небезопасный контент автоматически, в реальном времени и на двух языках. Давайте посмотрим, что у нас получилось и сколько это стоит в деньгах.

https://habr.com/ru/companies/raft/articles/1077768/

#информационная_безопасность #ии #ииагенты #гардрейл #guardrails #ml #bert

Как мы построили multilabel guardrail-классификатор и как мы сделали его в 3 раза быстрее и дешевле

Привет, дорогой читатель! Мы не будем переворачивать календарь, а лучше расскажем, как построили систему, которая ловит небезопасный контент автоматически, в реальном времени и на двух языках. Давайте посмотрим, что у нас получилось и сколько это стоит в деньгах.

https://habr.com/ru/companies/raft/articles/1077768/

#информационная_безопасность #ии #ииагенты #гардрейл #guardrails #ml #bert

[The WSJ] Let AI Run [Their] Office Vending Machine. It Lost Hundreds Of Dollars.
Anthropic’s Claude ran a snack operation in the WSJ newsroom. It gave away a free PlayStation, ordered a live fish—and taught us lessons about the future of AI agents.
--
https://www.wsj.com/tech/ai/anthropic-claude-ai-vending-machine-agent-b7e84e34?gaa_at=eafs <-- shared media article
--
https://youtu.be/SpPhm7S9vsQ?si=aJQ2_BoxvLcNjOiz <-- shared video
--
[When you get clever journalists to !$%^&*@ with AI… bravo! And this is a very simple situation, vending machines have been around since literally the Roman Empire
“You are using the wrong prompts” and LUDDITES! In the comments in 3… 2… 1…]
#vendingmachine #artificialintelligence #AIHallucination #hallucinations #emperorsnewclothes #ohhhshiny #experiment #contextwindow #AIagent #claude #autonomous #compliance #fish #PlayStation #snackliberationday #knowledgeboundaries #guardrails #redteam #GenAI cynicism
@WSJ @Anthropic @Claude