Technologičtí giganti stěhují AI lidem domů

Technologický svět se v posledních letech žene především za co největšími a nejschopnějšími modely umělé inteligence. Ty nejvýkonnější mají stovky miliard parametrů, běží v rozsáhlých datových centrech a jejich provoz vyžaduje obrovské množství výpočetního výkonu.

Vedle tohoto závodu se ale začíná rýsovat ještě jeden důležitý směr. Výrobci se snaží stále schopnější AI dostat přímo do zařízení, která používáme každý den. Nejde přitom jen o telefony. Cílem jsou také osobní počítače, na kterých by umělá inteligence mohla pracovat přímo s lokálními soubory a aplikacemi.

Právě na tento trend nyní sázejí společnosti Meta a Nvidia. Každá z nich k němu přistupuje trochu jinak, společná myšlenka je ale stejná: ne všechno musí nutně putovat na vzdálené servery.

Princip dnešních populárních AI služeb je většinou jednoduchý. Uživatel napíše dotaz, ten přes internet odejde na servery provozovatele a výkonný model jej tam zpracuje. Do počítače nebo telefonu se následně vrátí hotová odpověď.

Tak funguje většina známých chatbotů a dalších služeb založených na umělé inteligenci. Má to samozřejmě své výhody. Uživatel nemusí vlastnit extrémně výkonný počítač a může využívat modely, které by se mu domů jednoduše nevešly.

Existuje ale i druhá cesta. Model může běžet přímo na zařízení uživatele. Právě tomu se říká lokální AI. V takovém případě nemusí dokumenty, soubory nebo další data nutně opouštět počítač. Umělá inteligence může pracovat přímo tam, kde jsou uložená. To může být výhodné nejen z hlediska soukromí, ale také rychlosti nebo nezávislosti na internetovém připojení.

A právě tady se začínají plány velkých technologických firem překrývat. Meta před pár týdny představila model Muse Glimmer. Na první pohled může jít o další z dlouhé řady jazykových modelů, jeho zaměření je ale poněkud jiné.

Muse Glimmer není určený jen k tomu, aby odpovídal na otázky nebo vytvářel text. Má sloužit jako základ pro takzvané AI agenty. Jednoduše řečeno, jde o systémy, které by v budoucnu neměly pouze reagovat na jednotlivé pokyny, ale zvládnout také samostatně projít několik kroků potřebných k dokončení úkolu.

Představa může být například taková, že uživatel AI nezadá jen pokyn „napiš mi e-mail“. Agent by mohl dostat složitější úkol: podívat se do kalendáře, zjistit dostupný termín, připravit návrh zprávy a při tom pracovat s dalšími nástroji.

Právě schopnost používat nástroje, vyhodnocovat jejich výsledky a pokračovat v práci je jednou z věcí, na které Meta u nového modelu sází. Muse Glimmer má zvládat i situace, kdy se některý krok nepovede nebo nástroj vrátí neočekávaný výsledek.

Důležité je přitom to, kde má podobná AI fungovat. Meta model navrhla tak, aby jej bylo možné provozovat přímo na osobním počítači.

Muse Glimmer má 30 miliard parametrů. Pro běžného uživatele je to sice spíše abstraktní číslo, v praxi ale znamená, že model pracuje s obrovským množstvím dat a jeho provoz může být náročný na paměť.