#llamaccp — Public Fediverse posts

- «Hey guys, how do you use ROCm in Linux?»
- «First, ensure you have an RTX in your computer»

🤣

#NVIDIA #ROCm #AMD #Radeon #RTX #GeForce #CUDA #AI #ArtificialIntelligence #LLM #LargeLanguageModels #Llama #LlamaCCP #Ollama #NPU

- «Hey guys, how do you use ROCm in Linux?»
- «First, ensure you have an RTX in your computer»

🤣

#NVIDIA #ROCm #AMD #Radeon #RTX #GeForce #CUDA #AI #ArtificialIntelligence #LLM #LargeLanguageModels #Llama #LlamaCCP #Ollama #NPU

- «Hey guys, how do you use ROCm in Linux?»
- «First, ensure you have an RTX in your computer»

🤣

#NVIDIA #ROCm #AMD #Radeon #RTX #GeForce #CUDA #AI #ArtificialIntelligence #LLM #LargeLanguageModels #Llama #LlamaCCP #Ollama #NPU

- «Hey guys, how do you use ROCm in Linux?»
- «First, ensure you have an RTX in your computer»

🤣

#NVIDIA #ROCm #AMD #Radeon #RTX #GeForce #CUDA #AI #ArtificialIntelligence #LLM #LargeLanguageModels #Llama #LlamaCCP #Ollama #NPU

- «Hey guys, how do you use ROCm in Linux?»
- «First, ensure you have an RTX in your computer»

🤣

#NVIDIA #ROCm #AMD #Radeon #RTX #GeForce #CUDA #AI #ArtificialIntelligence #LLM #LargeLanguageModels #Llama #LlamaCCP #Ollama #NPU

This is hilarious. There is a site that does the whole exposé on how #ClaudeCode works.

https://ccunpacked.dev/

They should have called it CUCK: Claude Unpacked Code Knowledge.

Because that's is what Anthropic is going to feel the next coming weeks.

#Programming #Programmers #Coding #Code #SoftwareDevelopment #WebDevelopment #WebDev #AppDevelopment #CLI #Linux #FOSS #OSS #OpenClaw #Claude #Codex #Llama #Ollama #LlamaCCP #LLM #LargeLanguageModel #AI #LMStudio

Let's say I have a large codebase written in #TypeScript that I wish to transform into another language, like #Rust.

Which service would be great to do so, that could operate locally, and hopefully, automatically?

Asking for a friend.

#Programming #Programmers #Coding #Code #SoftwareDevelopment #WebDevelopment #WebDev #AppDevelopment #CLI #Linux #FOSS #OSS #OpenClaw #Claude #Codex #Llama #Ollama #LlamaCCP #LLM #LargeLanguageModel #AI #LMStudio

MitM-прокси для LLM

Многие разработчики в последнее время используют облачные LLM для генерации программного кода, в том числе с помощью агентов. Но это вызывает как минимум две проблемы: Утечка информации: мы не знаем, какие данные LLM передаёт в облако Бесконтрольный расход токенов, особенно в случае автоматических агентов, которые запускаются в автономную работу на длительный период Для этого есть специальные инструменты мониторинга. Например, Tokentap (бывший Sherlock) отслеживает использование токенов для LLM CLI в реальном времени на панели в консоли. Такой MitM-прокси полезен для информационной безопасности и просто для учёта расходов.

https://habr.com/ru/companies/globalsign/articles/1016612/

#MitM #Hugging_Face #llamaccp #ggml #Local_AI #Gemini_CLI #Claude_Code #OpenAI_Codex #mitmproxy #HTTPSпрокси

MitM-прокси для LLM

Многие разработчики в последнее время используют облачные LLM для генерации программного кода, в том числе с помощью агентов. Но это вызывает как минимум две проблемы: Утечка информации: мы не знаем, какие данные LLM передаёт в облако Бесконтрольный расход токенов, особенно в случае автоматических агентов, которые запускаются в автономную работу на длительный период Для этого есть специальные инструменты мониторинга. Например, Tokentap (бывший Sherlock) отслеживает использование токенов для LLM CLI в реальном времени на панели в консоли. Такой MitM-прокси полезен для информационной безопасности и просто для учёта расходов.

https://habr.com/ru/companies/globalsign/articles/1016612/

#MitM #Hugging_Face #llamaccp #ggml #Local_AI #Gemini_CLI #Claude_Code #OpenAI_Codex #mitmproxy #HTTPSпрокси

MitM-прокси для LLM

Многие разработчики в последнее время используют облачные LLM для генерации программного кода, в том числе с помощью агентов. Но это вызывает как минимум две проблемы: Утечка информации: мы не знаем, какие данные LLM передаёт в облако Бесконтрольный расход токенов, особенно в случае автоматических агентов, которые запускаются в автономную работу на длительный период Для этого есть специальные инструменты мониторинга. Например, Tokentap (бывший Sherlock) отслеживает использование токенов для LLM CLI в реальном времени на панели в консоли. Такой MitM-прокси полезен для информационной безопасности и просто для учёта расходов.

https://habr.com/ru/companies/globalsign/articles/1016612/

#MitM #Hugging_Face #llamaccp #ggml #Local_AI #Gemini_CLI #Claude_Code #OpenAI_Codex #mitmproxy #HTTPSпрокси

MitM-прокси для LLM

Многие разработчики в последнее время используют облачные LLM для генерации программного кода, в том числе с помощью агентов. Но это вызывает как минимум две проблемы: Утечка информации: мы не знаем, какие данные LLM передаёт в облако Бесконтрольный расход токенов, особенно в случае автоматических агентов, которые запускаются в автономную работу на длительный период Для этого есть специальные инструменты мониторинга. Например, Tokentap (бывший Sherlock) отслеживает использование токенов для LLM CLI в реальном времени на панели в консоли. Такой MitM-прокси полезен для информационной безопасности и просто для учёта расходов.

https://habr.com/ru/companies/globalsign/articles/1016612/

#MitM #Hugging_Face #llamaccp #ggml #Local_AI #Gemini_CLI #Claude_Code #OpenAI_Codex #mitmproxy #HTTPSпрокси