Meta predstavuje Muse Glimmer: Otvorený AI model, ktorý vám pobeží priamo na počítači
TL;DR
-
Plný výkon priamo na zariadení
Model s 30 miliardami parametrov je navrhnutý pre lokálny beh na bežných spotrebiteľských GPU. Zvládne prácu s kódom aj spracovanie dát plne offline.
-
Bezplatná licencia a otvorený kód
Meta sprístupnila váhy modelu na platforme Hugging Face pod licenciou Apache 2.0. Vývojári tak môžu začleniť Muse Glimmer do vlastných aplikácií úplne zadarmo.
-
Pokročilé schopnosti autonómnych agentov
Zvláda dlhodobé plánovanie, volanie externých nástrojov, opravu vlastných chýb aj multimediálny vstup. Vďaka kvantizácii a špeciálnym technológiám dosahuje vysokú rýchlosť generovania.
Meta Superintelligence Labs predstavuje výkonný otvorený 30-miliardový AI model Muse Glimmer. Je optimalizovaný na lokálne fungovanie pokročilých autonómnych agentov priamo na vašom vlastnom osobnom počítači.
Spoločnosť Meta prostredníctvom svojho divízneho pracoviska Meta Superintelligence Labs oficiálne predstavila nový umelointeligentský model Muse Glimmer. Ide o významný posun v oblasti autonómnych AI agentov, ktorí dokážu samostatne vykonávať komplexné úlohy, ako je práca s kódom, manažment kalendára či spracovanie rozsiahlych dokumentov. Najväčšou prednosťou novinky je, že celý proces prebieha priamo na vašom zariadení bez toho, aby ste museli odosielať citlivé dáta do cloudu.

Kompaktná architektúra optimalizovaná pre lokálny hardvér
Muse Glimmer disponuje 30 miliardami parametrov, čo predstavuje ideálny kompromis medzi vysokoúrovňovými schopnosťami a hardvérovou náročnosťou. Pri plnej precíznosti by takýto model vyžadoval vyše 55 GB pamäte, čo presahuje možnosti bežných grafických kariet. Inžinieri z Mety preto použiikvantizáciu na úroveň približne 4-bitov, čím zmenšili veľkosť modelu pod 20 GB.
Vďaka tomuto kroku dokáže Muse Glimmer plynule fungovať na zostavách s 24 GB alebo 32 GB VRAM – vrátane počítačov Mac s čipmi M4 Max či M5 Max alebo stolných PC s grafickými kartami typu Nvidia RTX 5090. Lokálna prevádzka zaručuje okamžitú odozvu, maximálne súkromie a funkčnosť aj bez pripojenia k internetu.
Pokročilé funkcie autonómneho agenta a vysoká rýchlosť
Na rozdiel od bežných četbotov bol Muse Glimmer od začiatku trénovaný pre dlhodobé plnenie úloh (long-horizon execution). Zvláda presné volanie externých funkcií a nástrojov cez presne definované schémy. Ak počas vykonávania príkazov nastane chyba, model sa nezasekne, ale dokáže zlyhanie sám diagnostikovať a pokúsiť sa o opravu. Integrovaný percepčný enkodér mu navyše umožňuje spracovávať kombinovaný textový aj obrazový vstup, vďaka čomu rozumie snímkam obrazovky, grafom či vizuálnym dokumentom.
Pre prekonanie pomalšieho generovania textu po jednotlivých tokenoch využíva Muse Glimmer takzvané špekulatívne dekódovanie pomocou sprievodného modelu DFlash. Tento odľahčený systém navrhuje celé bloky textu naraz a hlavný model ich iba paralelne overuje. Výsledkom je dramatické zrýchlenie plynulosti generovania pri zachovaní stopercentnej kvality výstupu.

Široká podpora ekosystému a otvorená licencia
Meta pokračuje vo svojej tradícii podpory otvoreného výskumu. Model Muse Glimmer sprístupnila na platforme Hugging Face pod veľmi benevolentnou licenciou Apache 2.0, čo umožňuje jeho komerčné využitie aj úpravy. Výrobca zároveň spolupracuje s poprednými technologickými hráčmi ako AMD, Nvidia, Intel či Arm na ďalšej optimalizácii.
V najbližších dňoch sa očakáva plná integrácia do obľúbených vývojárskych nástrojov a rámcov, medzi ktorými nechýbajú Ollama, LM Studio, llama.cpp, ExecuTorch či Apple MLX. Vývojári tak získajú kompletné zázemie na stavbu vlastných inteligentných asistentov, ktorí fungujú plne pod kontrolou používateľa.
Profil v článku
META Meta Platforms, Inc.
Meta Platforms, Inc. je americká technologická spoločnosť, ktorá vyvíja digitálne služby a zariadenia podporujúce komunikáciu, zdieľanie obsahu, tvorbu komunít a podnikanie. Prevádzkuje rodinu aplikácií a služieb sociálnych sietí…Zdroje
Ak vám naše články pomáhajú sledovať technológie, financie a AI v súvislostiach, pridajte si SmartArena medzi preferované zdroje v Google.
Komentáre