Tiiny AI Pocket Lab – nejmenší osobní superpočítač pro umělou inteligenci na světě
Americká start-up společnost Tiiny AI nedávno uvedla na trh zařízení „Tiiny AI Pocket Lab“, které oficiálně získalo titul „nejmenší osobní superpočítač pro umělou inteligenci na světě“ podle encyklopedie „Guinness“.
Zařízení vypadá jako malý power bank a je výjimečné svou schopností provozovat modely hlubokého učení (LLMs) s až 120 miliardami parametrů, lokálně, bez nutnosti připojení k cloudu nebo spoléhání se na tradiční grafické procesory.
Cílem společnosti je prostřednictvím tohoto inovativního produktu umožnit jednotlivcům využívat pokročilou umělou inteligenci bez závislosti na datových centrech, s výkonem srovnatelným se superpočítači a s nižší spotřebou energie, což posiluje soukromí uživatelů.
Zařízení bylo uvedeno na trh 10. prosince jako praktické řešení čelící výzvám udržitelnosti a rostoucím nákladům na energii spojeným s tradičními infrastrukturami umělé inteligence.
V tiskové zprávě uvedl „Samir Boug“, ředitel marketingu a prodeje ve společnosti Tiiny AI: „Přestože umělá inteligence v cloudu udělala pokroky, stále čelí výzvám v oblasti spolehlivosti, bezpečnosti a udržitelnosti. S Tiiny AI Pocket Lab věříme, že umělá inteligence by měla být dostupná jednotlivcům a měla by být osobnější a více přizpůsobená každému zařízení.“
Zařízení je navrženo tak, aby splnilo různé potřeby osobního použití umělé inteligence a zaměřuje se na kreativce, vývojáře, výzkumníky a studenty.
Nabízí pokročilé funkce, jako je vícestupňová inference, kontextové porozumění, správa pracovních postupů agentů, vytváření obsahu a zpracování citlivých dat bezpečně, aniž by bylo třeba připojení k internetu. Data jsou ukládána lokálně s využitím bankovního úrovňového šifrování, což zvyšuje soukromí a poskytuje dlouhodobou paměť.
Zařízení podporuje provozování modelů od 10 do 100 miliard parametrů a může provozovat modely až s 120 miliardami parametrů, což poskytuje výkon srovnatelný s modelem GPT-4 v vícestupňové analýze, při zachování bezpečnosti dat.
Zařízení je vybaveno procesorem ARMv9.2 se 12 jádry a výkonem 65 wattů, což zajišťuje vysoký výkon s energetickou efektivitou a nízkou uhlíkovou stopou v porovnání s tradičními systémy.
Využívá dvě hlavní technologie:
- TurboSparse: Aktivuje pouze potřebné neuronové buňky pro zajištění efektivity bez ovlivnění výkonu.
- Powerinfer: Open-source engine, který distribuuje zátěž umělé inteligence mezi centrální procesor (CPU) a neuronové zpracování (NPU) pro snížení spotřeby energie.
Zařízení funguje na otevřeném zdrojovém systému, který podporuje instalaci populárních modelů, jako jsou Llama, DeepSeek a GPT-OSS, a uživatelům poskytuje pravidelné aktualizace a vylepšení. Tyto funkce budou odhaleny na veletrhu spotřební elektroniky CES v lednu 2026.
