#kielimallit — Public Fediverse posts

Yhden päivän Claude Code-kokeilua töissä lukuunottamatta en ole tekoälyjä käyttänyt koska homma jo pelkästään kuulostaa niin täysin älyvapaalta. Tuossa muistui vaan mieleen sitten että IBM:n Granite -mallit on koulutusmateriaalia myöten avoimia joten tämmöistä voisi nyt ehkä paikallisesti omalla koneella kokeilla, know your enemy -hengessä.

Fedorasta löytyy kyllä llama-cpp jolla tuota voisi ajaa, mutta koska oma kone näytönohjaimineen on muinaismuisto niin tuo Fedoran versio ei siitä ymmärrä mitään. Itse käännetty llama-cpp jo toimii sitten riittävän nopeasti tähän tarpeeseen.

Tämmöisellä komentorivillä sitä ajoin, jos joku haluaa kokeilla vastaavaa: "llama-cli -hf unsloth/granite-4.0-h-micro-GGUF:Q4_K_XL". Granitesta on monta eri versiota, isommat vaatii sitten jo niin paljon muistia että meikäläisen rakkineilla on turha kuvitellakaan. Kyllä tässä homman nimi tulee harvinaisen nopeasti selväksi. Kun malli on ladattu, käytin testipromptina:

"tell me about llm technology"

Ensimmäinen vastaus alkoi näin:

"LLM stands for "Legal Machine Learning." It is an emerging field that combines the fields of law and artificial intelligence. LLM technology seeks to leverage machine learning and artificial intelligence to automate and enhance various aspects of legal work."

Kun tarpeeksi monta kertaa hakkasi /regen ja/tai aloitti ohjelman alusta, sain myös tämmöisen:

"LLM, or Large Language Model, is a type of artificial intelligence (AI) model that is designed to understand, generate, and respond to human language. It is a form of deep learning, a subset of machine learning, where models are trained on vast amounts of data to learn patterns and relationships within the data, thereby enabling them to understand and generate human language."

Kolmas variantti jonka sain pari kertaa:

"LLM technology stands for "Legal Language Model" technology. This is a subfield of artificial intelligence (AI) and natural language processing (NLP) that is specifically designed to understand, process, and generate legal language. It leverages machine learning algorithms to interpret and understand legal texts, contracts, laws, and case law, enabling tasks such as legal document analysis, contract review, and legal research."

Varsinaiset vastaukset oli paljon pidempiä, mutta en jaksanut lähteä kamman kanssa kahlaamaan edes sitä oikealta näyttävää vastausta, koska sen oikeellisuus ei lopulta ole merkityksellistä: Jos tiedät vastauksen valmiiksi niin et oppinut yhtään mitään, ja jos et, niin et mitenkään voi tietää mikä vastauksista oli oikein, jos mikään. Eli tämä on ihan täydellisen hyödytöntä ajan ja energian haaskausta.

Ei tässä mitään yllättävää minulle ollut, näiden toimintaperiaate pääpiirteissään on selvä. Itse koetttu on kuitenkin aina itse koettu.

Ja tähän teknologiaan kaadetaan biljoonia biljoonien päälle koska ollaan mukamas aina juuri saavuttamaisillaan suurta läpimurtoa. Kun perusperiaate on pielessä niin ei se siitä oikeaksi muutu vaikka kuinka paljon laskenta-aikaa siihen hassataan.

Edit: Unohtui todeta että tälle tekniikalle saattaa olla ihan hyödyllisiä käyttökohteitakin olemassa. Tiedonhakuun, mihin niin monet sitä tuntuvat käyttävän, siitä ei todellakaan ole.

#tekoaly #kielimallit

Kuolen vähän sisältä aina, kun joku töissä sanoo kielimallien osaavan jotain, tai oppivan tekemään jotain.

Tekoäly ei osaa mitään, vaan laskee todennäköisyyksiä ja tekee tilastollista analyysiä ohjatusti.

Keisarilla ei ole vaatteita, vaikka torillinen väkeä niin kuvittelee.

#tekoäly #kielimallit #LLM

Uusi tutkimus tekoälyn energian tarpeesta kertoo taas, et kielimallien sähkönkulutus sen kuin kasvaa. Nyt julkaistu arvio asettaa yksittäisen kyselyn keskimääräiseksi energian kulutukseksi 18,9 Wh.

Monesta tämä on varmasti vähän, mut itse olen sitä mieltä et hyötyihin nähden määrä on kokonaisuudessaan aivan valtava (joitain poikkeuksia varmasti on). Mallien koulutuksen ja käytön energian tarpeen kasvuvauhti on myös todella kova. #kielimallit #tekoäly #energiankulutus

https://etn.fi/index.php/13-news/18692-yksi-chatgpt-kysely-kuluttaa-50-kertaa-enemmaen-saehkoeae-kuin-google-haku

Toisaalta on hienoa, että Yle tuo generatiivisen tekoälyn haittoja esille ( https://yle.fi/a/74-20209923 ) - mutta harmillisesti tässäkin artikkelissa generatiivinen ja muut tekoälyt niputetaan keskenään samaan kategoriaan:

"Ruotsalainen korostaa, että tekoälyllä on paljon potentiaalia myös hyvään.

Vaikka tekoäly on energia-, vesi- ja raaka-ainesyöppö, samalla sen avulla voidaan hillitä ilmastonmuutosta optimoimalla energiantuotantoa, liikennettä, teollisuutta, lämmitystä tai jopa ruoantuotantoa sellaiseksi, että päästöjä syntyy mahdollisimman vähän.

Tekoälyä on myös paljon muukin kuin pelkästään ChatGPT:n kaltainen generatiivinen tekoäly, Ruotsalainen muistuttaa.

– Tekoälymenetelmillä voidaan tehdä oikeasti isoja asioita. Tällä hetkellä esimerkiksi EU rakentaa maapallon kaksoismallia, jonka avulla voidaan tarkkailla ilman ja ihmisten toiminnan vaikutusta ilmastonmuutokseen, hän kertoo."

Ei generatiivista tekoälyä pitäisi puolustella* sillä, että joistain muunlaisista tekoälyistä on oikeaa hyötyä. Ne ovat ihan eri asioita, eivätkä liity toisiinsa muuten kuin markkinointiin käytetyn epämääräisen kattotermin kautta.

*) Ja nimenomaan sitä tuossa tehdään. Samaa sanaa "tekoäly" käytetään saman tekstin sisällä viittaamaan välillä generatiiviseen tekoälyyn, välillä muunlaisiin tekoälyihin ja välillä molempiin. Teksti vie lukijaa harhaan.

#kielimallit #LLM #AI

Testasimpa eilen vibekoodausta. Teetätin VS Coden copilotilla suht yksinkertasen Meshtastic-clientin pythonilla. Se sai käynnistyvän softan aikaan, mutta eihän se toiminut oikeasti. Se käytti meshtastic-kirjastoa ihan ihmeellisesti väärin, vissiin kielimalli opetellut jotain kirjaston vanhaa versiota. Poikkeuksia ei käsitelty mitenkään joten vian selvittely vaati käsin debuggausta.

Kun koodia alkoi korjaamaan, niin ehdotukset olivat välillä oikein välillä ihan mitä sattuu.

Aika paljon piti tehdä käsin korjauksia ja lopputulos oli että käsin olisin tehnyt paljon yksinkertaisemman ja vähemmällä koodilla toimivan version.

#kielimallit #vibekoodaus #ohjelmointi

Mikäköhän on edellinen teknologia, joka on aiheuttanut yhtä paljon kränää ja yliampuvia väitteitä joka suuntaan kuin AI, tai siis LLM eli suuret kielimallit.

Muu vektorointi ja koneoppiminen on jäänyt siinä keskustelussa aivan jyrän alle. Sateenkaaren väriskaala on typistetty mustaksi ja valkoiseksi.

#AI #LLM #kielimallit

@Matti_Vuori
Kiitos, viestisi jysäytti tajuntaani asian, jota en ollut aiemmin tullut ajatelleeksi:
"Kielimallit katsovat taaksepäin."

#kielimallit #AI

@jannepekkala @miiakosonen @anuko

Joku oli ihan tosissaan tarkistanut ChatGPT:ltä yhden firman mahdollista tulevaa takeover tarjousta koskevaa huhus, ja viestistä jäi vahva käsitys että henkilö meinasi toimia sen ”tiedon” mukaan.

Mitä ihmettä, eikö jengi oikeasti tajua mitä ne kielimallit on?? 🤯🤬

Tekis melkein kehoittaa toimimaan ja NOPEASTI 🤣

#kielimallit #GPT #sijoittaminen

Synteettinen teksti. Käsite jonka soisin leviävän käyttöön, kun tarkoitetaan kielimallien tuottamaa todennäköisyyspohjaista diibadaabaa.

AI on aivan liian yleistasoinen termi melkein mihinkään käyttöön, melkein kuin puhuttaisi sähkökoneista kaiken sähköllä toimivien kojeiden kohdalla.

Kieli ohjaa ajattelua.

#AI #kielimallit #käsittestö

Pistin kymmenvuotiaan Onnin tekemään videon siitä mikä se tekoäly ja kielimalli on. Tämä video on kokonaan hänen oman tutkimuksensa pohjalta tehty ja nauhoitettu - sekä leikattu. 👉 https://youtu.be/1RwN3pm_USM

#Tekoäly #Kielimallit #Esitelmä #ChatGPT #LapsetOsaa #TuoLapsiTöihin

Kielipankin Kuukauden tutkija -juttusarjassa on esittelyvuorossa Aku Rouhe. Hän kertoo meille puheentunnistukseen liittyvästä tutkimuksestaan. Lue juttu Kielipankin blogista: https://www.kielipankki.fi/uutiset/kuukauden-tutkija-aku-rouhe/

#Kielipankki #KuukaudenTutkija #tutkimus #yliopisto #yliopistot #kielitiede #puheentunnistus #kielimallit #llm #kieliteknologia

Twitterillä ei ole tekijänoikeuksia käyttäjiensä viesteihin, joten se ei voi kieltää niiden skrapaamista kielimallin kehittämiseen.

Jutussa kerrotaan 'voitokkaan' oloisesti, miten Twitter ei voi kieltää julkisen datan käyttöä, mutta ei puhuta yhtään siitä, että haluavatko julkisen datan muodostajat eli ihmiset olla skrapattavina.

Lähde: https://arstechnica.com/tech-policy/2024/05/elon-musks-x-tried-and-failed-to-make-its-own-copyright-system-judge-says/.

#kielimallit #tekoäly

Tykkäätkö pienistä malleista?

"Pieniä, avoimen lähdekoodin malleja on mahdollista ajaa myös paikallisesti omassa ympäristössä ja jopa mobiililaitteissa."

#tekoäly #kielimallit

https://www.tivi.fi/uutiset/tv/7ae6e24c-687d-46f8-bd04-e5033cec137c

Tykkäätkö enemmän isoista vai pienistä kielimalleista?

#kielimallit #tekoälyllisyys

Ymmärsinkö oikein että huippututkijoiden saamia rahoituspäätöksiä kritisoivat setähenkilöt ovat generatiivisten kielimallien parametriavaruuksien huippuasiantuntijoita?

#tutkimusrahoitus #tutkimus #kielimallit #tekoäly

Pitääkö antautua Yhdysvalloille?

"Houkutus käyttää amerikkalaisten teknologiayhtiöiden kehittämiä malleja on suuri, mutta samalla asiakkaiksi ryhtyvät yhtiöt vuotavat dataa yhdysvaltalaisille jättiläisille, mikä kasvattaa näiden etumatkaa entuudestaan."

#tekoäly #kielimallit

https://yle.fi/a/74-20025982?origin=rss