#nanochat — Public Fediverse posts

Т9 за сотню долларов, ассистент за миллиард: сколько на самом деле стоит обучить LLM с нуля

«Лучший ChatGPT за $100», «китайцы обучили GPT-4 за шесть миллионов», «модель с нуля на одной игровой карте за вечер» — за последний год такие заголовки идут потоком. Почти все цифры в них честные. Беда в том, что они про разные вещи. За словами «обучить LLM» прячется лестница в семь порядков: от десятков долларов на карте под столом до миллиарда на фронтире. На каждой ступени за деньги покупают разное, и перепутать ступени дорого. Я работаю CTO ML-команды. Расчет «взять открытые веса / дообучить / обучить с нуля» мы проделываем регулярно, и почти всегда он заканчивается не там, где ждет заказчик. Ниже — вся лестница с числами и первоисточниками: что реально обучить на RTX 5090, где начинается аренда кластера, из чего складывается смета фронтир-модели и почему «модель за $6 млн» и «компания с инфраструктурой на миллиард» — правда одновременно. Посчитать свою LLM

https://habr.com/ru/articles/1060916/

#LLM #обучение_LLM #pretraining #машинное_обучение #нейросети #GPU #RTX_5090 #H100 #стоимость_обучения_моделей #nanochat

🤣 Ah, the noble quest of porting #nanochat to a TPU—because apparently, #PyTorch wasn't hard enough! 🚀 Spoiler alert: everything breaks, but hey, at least you'll learn to love debugging! 😅
https://github.com/tucan9389/nanochat-jax/discussions/1 #TPU #debugging #techhumor #learningjourney #HackerNews #ngated

Porting nanochat to a TPU: what carries over from PyTorch, and what breaks

https://github.com/tucan9389/nanochat-jax/discussions/1

Comments: https://news.ycombinator.com/item?id=48917755

#HackerNews #nanochat #TPU #PyTorch #machinelearning #AI

habrGPT. Обучим LLM 0.5B с нуля на статьях Хабра с помощью nanochat от Карпатого. Обучение fp8 дома и сравнение с bf16

Раскрученный проект nanochat обещает "за $100 обучите свой ChatGPT". В оригинале правда обучение на 8xH100 80Gb, но никто не мешает обучить его на домашнем более слабом железе. Попробуем обучить LLM с нуля на статьях Хабра, посмотреть хватит ли там материала, чтобы модель хотя бы смогла связать пару слов.

https://habr.com/ru/articles/1054710/

#nanochat #sft #dpo #обучение #llm #llm_с_нуля #saiga

@[email protected]

nanochat server in 916 bytes, implemented entirely in uxn :D

canon impl by @d6: https://git.phial.org/d6/nanochat

difference is that mine has a limit of 65535 messages before the count overflows and you can't read any more :P
oh and also you can DoS by starting a connection and never sending a newline…

but at least it can avoid buffer overflow by kicking you!

src: https://codeberg.org/notchoc/nanochat.tal
rom: https://codeberg.org/notchoc/nanochat.tal/raw/branch/main/bin/nanochat.rom
run: uxn2 -N nanochat.rom

!!! DISCLAIMER: YOU ACCEPT EVERYTHING THAT WILL HAPPEN FROM NOW ON !!! UXN2 STILL DOES NOT HAVE SANDBOXING (YET) SO USE AT YOUR OWN RISK

Ah yes, we've reached the zenith of #AI #enlightenment where 'agents' conduct 'research' on a 'nanochat' with a singular GPU — the equivalent of having a hamster power your nuclear reactor 🚀🔍⚡. Is this #progress or is the tech world just throwing #buzzwords on a digital dartboard and calling it innovation? 😂🤖
https://github.com/karpathy/autoresearch #Nanochat #Innovation #HackerNews #ngated

Autoresearch: Agents researching on single-GPU nanochat training automatically

https://github.com/karpathy/autoresearch

#HackerNews #Autoresearch #Nanochat #AI #SingleGPU #MachineLearning

💥 Build your own ChatGPT-style model in 4 hours for under $100. Nanochat shows what’s possible when you own your LLM.
🔗 https://medium.com/@rogt.x1997/benchmarking-nanochat-vs-gpt-2-what-a-100-llm-can-and-cant-do-724393507a45

#AI #Nanochat #LLM
https://medium.com/@rogt.x1997/benchmarking-nanochat-vs-gpt-2-what-a-100-llm-can-and-cant-do-724393507a45

Practicing #TUI app development with #python #textual package.

Femtochat is a #nanochat client for staying in the #uxn loop.

💡 Build your own ChatGPT-style AI in 4 hours for ₹10,000 💬
Yes — that’s real. Nanochat is unlocking AI for every curious mind in India 🇮🇳. No paywalls, no secrets — just open code, fast GPUs, and imagination.
Be the one who doesn’t just use AI — builds it. 🧠
#Nanochat #AIforAll #OpenSource
🔗
https://medium.com/@rogt.x1997/from-10-000-to-intelligence-how-nanochat-puts-ai-in-reach-of-indian-developers-5d020fa7cfe0

🚀 $100 to train your own AI assistant? Believe it. 1.9B parameters, 38B tokens — total control, zero mystery.
👉 Read more: https://medium.com/@rogt.x1997/the-100-shock-of-nanochat-1-9b-parameters-38b-tokens-and-what-it-means-for-you-bdea89c7108f

#DIYAI #AIOwnership #NanoChat
https://medium.com/@rogt.x1997/the-100-shock-of-nanochat-1-9b-parameters-38b-tokens-and-what-it-means-for-you-bdea89c7108f

Nanochat Lets You Build Your Own Hackable LLM - Few people know LLMs (Large Language Models) as thoroughly as [Andrej Karpathy], a... - https://hackaday.com/2025/10/20/nanochat-lets-you-build-your-own-hackable-llm/ #artificialintelligence #andrejkarpathy #softwarehacks #nanochat #gpt #llm #ai

Nanochat Lets You Build Your Own Hackable LLM https://hackaday.com/2025/10/20/nanochat-lets-you-build-your-own-hackable-llm/ #ArtificialIntelligence #AndrejKarpathy #SoftwareHacks #nanochat #GPT #LLM #ai

They said it was impossible to build ChatGPT in 4 hours.
Then Karpathy did it — with just $100 and open code.
What he built could change how we think about AI forever. 🤯
👇 Read the rebellion:
https://medium.com/@rogt.x1997/they-said-you-couldnt-build-chatgpt-karpathy-just-proved-them-wrong-405b41ad4bfd

#AI #Nanochat #OpenSource
https://medium.com/@rogt.x1997/they-said-you-couldnt-build-chatgpt-karpathy-just-proved-them-wrong-405b41ad4bfd

Karpathy's NanoChat gần 90% code do AI viết cùng nhiều chú thích, thể hiện sự kết hợp giữa trí tuệ nhân tạo và sự sáng tạo của người. #karpathy #nanochat #AI #technology #codingagent #vi versuchtech #artificialintelligence #code

https://www.reddit.com/r/singularity/comments/1o6rfhy/karpathys_nanochat/

💡 Andrej Karpathy e Nanochat: come costruire ChatGPT con 100 dollari e 4 ore di GPU

https://gomoot.com/andrej-karpathy-e-nanochat-come-costruire-chatgpt-con-100-dollari-e-4-ore-di-gpu

#blog #chatgpt #llm #nanochat #news #picks #tech #tecnologia @karpathy

Nanochat on Hiaku!! only required 30 minutes to find a tiny issue with the tcl implementation!

the shared MPD client is also able to be played with vlc!!!

client: https://git.amehut.dev/~aleteoryx/ntalk

#nanochat

🎉 Introducing NanoChat! The pinnacle of AI chatbots for those with $100 burning a hole in their pocket. 🤖💸 Because who doesn't want to pay for yet another glorified autocomplete, right? 😂 #InnovateOrDie
https://github.com/karpathy/nanochat #NanoChat #AIChatbots #TechInnovation #StartupHumor #PayForQuality #HackerNews #ngated

NanoChat – The best ChatGPT that $100 can buy

https://github.com/karpathy/nanochat

#HackerNews #NanoChat #ChatGPT #AI #$100 #TechNews