home.social

#optymalizacja-ai — Public Fediverse posts

Live and recent posts from across the Fediverse tagged #optymalizacja-ai, aggregated by home.social.

fetched live
  1. Google udostępnia Gemini 3.6 Flash i 3.5 Flash-Lite. Szybsze AI za mniejsze pieniądze, ale najmocniejsze narzędzie dostaną tylko nieliczni

    Google zaprezentowało trzy nowe warianty swoich modeli sztucznej inteligencji: Gemini 3.6 Flash, Gemini 3.5 Flash-Lite oraz specjalistyczny Gemini 3.5 Flash Cyber.

    Nowości stawiają na obniżkę kosztów, wyższą wydajność procesów automatycznych oraz ochronę przed cyberzagrożeniami.

    Wyścig na rynku sztucznej inteligencji już jakiś czas temu przestał dotyczyć wyłącznie tego, który model jest „mądrzejszy” w pisaniu wierszy. Dziś kluczowa walka toczy się o optymalizację tokenów, zapotrzebowanie na moc obliczeniową i stabilność tzw. agentów AI – autonomicznych programów wykonujących złożone zadania za człowieka. Google odpowiada na te potrzeby, wprowadzając aktualizacje celujące w dwa kluczowe wyzwania branży IT: koszty i bezpieczeństwo.

    Gemini 3.6 Flash: mniej zużytych tokenów i niższy rachunek za AI

    Głównym koniem pociągowym nowej oferty staje się Gemini 3.6 Flash. Google usprawniło ten model pod kątem zadań programistycznych, pracy na dokumentach oraz operacji multimodalnych. Według danych opublikowanych na oficjalnym blogu Google, nowa wersja zużywa średnio o 17% mniej tokenów wyjściowych w porównaniu do generacji 3.5 Flash. W określonych testach deweloperskich (jak benchmark DeepSWE) oszczędność ta sięga nawet 65%.

    Mniejsze zużycie zasobów idzie w parze z niższą ceną. Ustaloną stawkę $1.50 za milion tokenów wejściowych oraz $7.50 za milion tokenów wyjściowych uzupełnia fakt, że model potrzebuje mniej kroków rozumowania i wywołań narzędzi do wykonania złożonych zadań. W efekcie twórcy oprogramowania otrzymają narzędzie tańsze w utrzymaniu i podobno precyzyjniejsze w edycji kodu czy analizie danych finansowych.

    Gemini 3.5 Flash-Lite: błyskawiczne tempo dla masowych procesów

    Dla systemów wymagających wysokiej przepustowości i niskich opóźnień (np. autonomicznego przeszukiwania sieci czy przetwarzania tysięcy faktur) przygotowano Gemini 3.5 Flash-Lite. Model ten generuje 350 tokenów na sekundę, wyprzedzając pod względem jakości i możliwości agentowych nie tylko generację 3.1, ale w wielu zastosowaniach przebijając także model Gemini 3 Flash.

    Z ceną rzędu $0.30 za milion tokenów wejściowych i $2.50 za wyjściowe, Flash-Lite staje się podstawowym wyborem do zadań o wysokim wolumenie ruchu. Podobnie jak wariant 3.6, otrzymał on natywne wsparcie dla mechanizmów sterowania komputerem (Computer Use) z poziomu Gemini API i Gemini Enterprise.

    Gemini 3.5 Flash Cyber: cyfrowa tarcza wyłącznie dla wybranych

    Trzecią nowością jest Gemini 3.5 Flash Cyber. To wyspecjalizowany model stworzony z myślą o wykrywaniu i natychmiastowym naprawianiu luk w kodzie źródłowym, pracujący w ramach autonomicznego agenta bezpieczeństwa CodeMender.

    Z racji podwójnego zastosowania tej technologii Google podjęło decyzję o ograniczeniu do niej dostępu. Model zostanie udostępniony wyłącznie instytucjom rządowym oraz zweryfikowanym partnerom w ramach zamkniętych programów pilotażowych, by ograniczyć ryzyko wykorzystania go do celów przestępczych.

    Co to oznacza dla rynku i co czeka nas dalej?

    Szybkie tempo wdrażania modeli z serii Flash pokazuje, że Google przenosi ciężar rywalizacji z czystej mocy obliczeniowej na opłacalność biznesową. Wygrywa nie ten, kto stworzy największy model, ale ten, kto dostarczy wysoką wydajność przy niższym zużyciu zasobów i bardziej akceptowalnym koszcie dla klientów.

    Zarówno Gemini 3.6 Flash, jak i Gemini 3.5 Flash-Lite są już dostępne dla deweloperów i klientów biznesowych m.in. w Google AI Studio, Antigravity oraz aplikacji Gemini. Co ważne, także w Polsce. Zwykli użytkownicy odczują ich działanie m.in. w usprawnionej wyszukiwarce Google. Firma potwierdziła jednocześnie, że trwają już testy flagowego modelu Gemini 3.5 Pro, a w laboratoriach rozpoczęto proces uczenia wstępnego (pre-training) dla nowej generacji – Gemini 4.

    Google Images kończy 25 lat. Teraz zamiast szukać obrazów zaczyna je tworzyć

    #AI #Gemini35FlashCyber #Gemini35FlashLite #Gemini36Flash #GoogleAIStudio #GoogleGemini #optymalizacjaAI #sztucznaInteligencja
  2. Apple przyspiesza działanie modeli AI nawet 5 razy

    Apple opublikowało badania opisujące nową technikę, która pozwala modelom językowym (LLM) generować odpowiedzi nawet pięć razy szybciej, bez utraty jakości.

    Tradycyjnie modele LLM tworzą tekst token po tokenie (autoregresja), co spowalnia proces. Apple odkryło, że modele – mimo trenowania na przewidywanie jednego tokena – mają wiedzę o kilku kolejnych. Na tej podstawie powstał framework Multi-Token Prediction (MTP), w którym model przewiduje naraz kilka tokenów.

    Badacze wprowadzili specjalne tokeny maskujące w treści promptów (np. „Kot jest ”), które model wypełnia w jednym kroku („bardzo puszysty”). Jeśli przewidywanie nie jest zgodne z klasycznym trybem, system wraca do standardowej metody. Dzięki temu zachowana jest wysoka dokładność.

    Testy z modelem open-source Tulu3-8B pokazały:

    • 2–3 razy szybsze działanie w typowych zadaniach (Q&A, czat)
    • do 5 razy szybsze w przewidywalnych domenach, takich jak programowanie i matematyka
    • brak utraty jakości dzięki technice gated LoRA adaptation

    Pełny artykuł naukowy dostępny jest na stronach arXiv.

    #aiApple #Apple #AppleIntelligence #badaniaApple #gatedLoRAAdaptation #generowanieTekstu #LLM #modeleJęzykowe #MTP #MultiTokenPrediction #optymalizacjaAI #przyspieszenieAI #sztucznaInteligencja #szybkieAI #Tulu38B

Share on Mastodon

Enter the server where you have an account.