#smollm — Public Fediverse posts

Dans le même genre que #smolchat il y a #PocketPal qui permet également de lancer des #slm (petits modèles de language) en local sur son téléphone.
Ça semble un peu plus abouti d'ailleurs.

#llm #android #smollm

https://github.com/a-ghorbani/pocketpal-ai

https://play.google.com/store/apps/details?id=com.pocketpalai

Il se débrouille pas trop mal en Anglais (mieux que moi 😌), par contre les tests en Français sont catastrophiques ^^

#smolchat #smollm #llm #slm

On dirait bien que des gens sont déjà sur le coup ^^

https://github.com/shubham0204/SmolChat-Android?tab=readme-ov-file

#SmolChat #smollm

Ça devrait être possible de faire tourner ce petit #LLM en local sur un smartphone du coup.

#SmolLM

https://itsfoss.com/smollm-raspberry-pi/

Today I just want to quote smollm2:1.7b by HuggingFace:

"I don't know what to say, so I'll just say this:
Merry Christmas!"

hf_commit_hash=80befba1f034a5408e46a9aa03834e804170d7dc
prompt="Merry Christmas to you!"
seed=42
temperature=0.4
do_sample=true
num_beams=1
max length=50
top_k=50
top_p=0.1

#huggingface #llm #smollm #smollm2 #python #torch #transformers #ai #citation #quote #quotes #commit #merrychristmas #merryxmas #christmas #tech #programming

[ SmolLM2 Released: The New Series (0.1B, 0.3B, and 1.7B) of Small Language Models for On-Device Applications and Outperforms Meta Llama 3.2 1B - MarkTechPost ]
https://www.marktechpost.com/2024/10/31/smollm2-released-the-new-series-0-1b-0-3b-and-1-7b-of-small-language-models-for-on-device-applications-and-outperforms-meta-llama-3-2-1b/ #HuggingFace #SmolLM #LLM