#q8 — Public Fediverse posts

Nice! With a recent #llamacpp from @ggerganov, IBM #Granite 34B-code-instruct runs locally.
A 4090 (24GB) with #Q8 Bit quantization, offloading 58/88 layers, can generate C code at 4.12 tokens/second.

#llm #LocalLLaMA

Current Large SUV including #BMW #X5 #Audi #Q8 are 'Limited' to 155.3mph (250kph) I would like to propose that all cars exclusing emergency vehicles sold in the UK are limited to 70mph. My pedal assisted e-bike is limited to 15mph by law so why not cars?

Ajoimme tänään Lahdesta kohti Helsinkiä ja ensin meidät ohitti saksalaisissa IN-kilvissä ollut #Audi #Q8 (luultavasti), missä oli kiinni useita erilaisia antenneja.

Hetkeä myöhemmin meidät ohitti auton muotoilua hämäävällä valko-mustalla teippauksella peitetty pienehkö tai keskikokoinen SUV, myös IN-kilvissä. IN tarkoittanee #Ingolstadt'ia, Audin kotikaupunkia.

Mikähän #auto oli testattavana ja mistähän se oli tulossa? Monet valmistajat testaavat ainakin Lapissa.

@ildisinformatico #Q8 has been #breached and there has been a #data #leak as a person had their amex card cloned as well a few days after receiving this email

I guess it's time for a very big #gdpr fine if this is confirmed