home.social

#garak — Public Fediverse posts

Live and recent posts from across the Fediverse tagged #garak, aggregated by home.social.

fetched live
  1. RE: tenforward.social/@garak_quote

    I thought about the exact quote, like, an hour ago? I have been re-reading The City of Blades, by Robert Jackson Bennett, where a character refers to the ends justifying the means, which is more or less the point that Garak is making here...

    ... and it is such a perfectly Garak thing to say, pragmatic and morally ambiguous, unusually dark for Star Trek (maybe that is why it has stuck with me so much?).

    I can't even say that I disagree with Garak's moral calculus in this specific instance: as general (qualitative) statement "the end justifying the means" can, has been and will be used to excuse horrors. As a quantitative statement, suggesting that we attempt to balance the consequences of our actions, it seems a reasonable approach to living a moral life in an imperfect world.

    Now we only have to agree on what is good and evil, and what weights to apply before doing our moral sums....

    Anyway: good bot!

    #garak #utilitarianism #startrek #deepspacenine #robertjacksonbennett

  2. I ordered three shirts. Love them all. Leaning heavily towards the DS9 one. But the other two are great, as well. Which one for the big day? Survey to follow.

    #StarTrek #StarTrek60 #StarTrekDS9 #Garak #Worf

  3. @MojoBob This is the trek which contains Garak, my personal all-time favourite Trek character. #Plain #Simple #Garak

  4. HiveTraceRed vs garak: тестируем безопасность языковых моделей на русском и английском

    Наша команда сравнила два открытых инструмента для проверки языковых моделей (LLM) на устойчивость к атакам: российский HiveTraceRed от HiveTrace/ITMO и международный garak от NVIDIA. Прогнали обоих на одинаковых задачах против двух открытых моделей (qwen2.5:3b и llama3.2:3b) на английском и русском языках. Главное: На английском работают оба , плюс-минус одинаково. HiveTraceRed нашёл 11 кандидатов в обходы (Jailbreak, это обход встроенных защитных ограничений модели через специальный запрос. Например, если модель отказывается писать фишинговое письмо в лоб, jailbreak это формулировка, после которой она его всё-таки пишет) на 380 попыток, у garak вышло 2 на 174. После ручной проверки всех 20 кандидатов от обоих инструментов 12 оказались настоящими jailbreak’ами, 2 пограничными, 6 ложными срабатываниями. Persuasion-атаки (FootInTheDoor + Framing, добраны отдельно): добавляют ещё 11 случаев утечки методологии на 40 попыток (модель обсуждает тему «академически», но без полностью actionable инструкций). Лучше всего срабатывает FramingAttack на qwen-RU (3/5). На русском garak бесполезен : ноль найденных кандидатов на обеих моделях из 80 попыток. У HiveTraceRed 7 кандидатов на 380 попыток. Если вам нужно тестировать LLM, обслуживающую русскоязычных пользователей (а это любой российский продукт, от GigaChat до банковского чат-бота на YandexGPT), используйте HiveTraceRed. Дальше расскажем, почему так получилось, что именно нашли и как воспроизвести у себя.

    habr.com/ru/articles/1031876/

    #информационная_безопасность #искусственный_интеллект #garak #hivetracered #llm #pentest #redteam

  5. #Democratic leadership response to the #republican #gop #fascist takeover of the US #government reminds me of what #Garak said, after being beat up by #Klingons.

    "Ah, but I got off several cutting remarks which no doubt did serious damage to their egos"

    #ds9 #trek