Výpočty na zariadení vs. mimo zariadenia pre roboty

Každá úloha na robote sa nachádza na jednom z dvoch miest: na doske, napájaná batériou a ventilátormi na hrudi, alebo mimo dosky, na serveri napájanom zo siete, ktorý je vzdialený jeden LAN hop. Ťažká otázka nie je... či potrebujete oboje – takmer vždy potrebujete – ale ktorá pracovná záťaž kam ide a prečo. R08 argumentuje, že vôbec existuje vyhradená okrajová vrstva. Tento článok je rozhodnutím pre jednotlivé pracovné zaťaženia: riadenie motora tu, VLM tam, STT závisí atď.

Rámec je tvrdohlavý. Na každú pracovnú záťaž existuje správna odpoveď a správna odpoveď sa mení, keď sa integrovaný kremík vymkne. Povieme, akým smerom sa každý kus uberá v rokoch 2026 – 2027.

Dva rozpočty, ktoré rozhodujú o všetkom

Pracovná záťaž môže bežať na palube vtedy a len vtedy, ak sa zmestí do dvoch rozpočtov súčasne: energie a PamäťLatencia je tretím obmedzením, ale latencia vám zvyčajne prezradí ktorým smerom tlačiť pracovná záťaž, ktorá vyhovuje, nie to, či vôbec vyhovuje.

Rozpočet energie na humanoida. Humanoid s hmotnosťou 30 – 50 kg nesie batériu s kapacitou 700 – 900 Wh. Dlhodobá chôdza odoberá z aktuátorov 200 – 500 W, pričom počas dynamického pohybu dosahuje maximálnu hodnotu 800 W a viac. Státie v pokoji a premýšľanie odoberá z aktuátorov 80 – 150 W (udržiavací krútiaci moment je nízky, udržiavanie polohy stojí). Zostáva teda približne 60 – 120 W pre... všetko ostatné — výpočty, senzory, chladiace ventilátory, rádio — ak chcete použiteľný dvojhodinový prevádzkový čas. Výpočtový rozpočet v rámci tohto objemu je 30 – 80 W trvalo. Neustále používanie Jetsonu na MAX_N (60 W) skracuje prevádzkový čas robota na polovicu. Toto je nespochybniteľná fyzika, nie konštrukčná voľba.

Pamäťový rozpočet. Jetson AGX Orin 64 GB je 64 GB LPDDR5 zdieľané medzi CPU a GPUOdpočítajte OS (4–6 GB), ROS 2 a SDK výrobcu (2–4 GB), vyrovnávacie pamäte vnímania (2–4 GB pre stereo hĺbku a bodové mračná) a akýkoľvek aplikačný kód. Realistický rozpočet využiteľný pre LLM/VLM je 40–48 GB. Na module Jetson Thor 128 GB sa strop zvýši na ~96 GB použiteľných. Na Orin NX 16 GB sa zníži na ~8–10 GB použiteľných – dosť pre jeden malý model.

Mimochodom, oba rozpočty predstavujú odlišné problémy. K-AI 96 (4× RTX 5090) má 128 GB vyhradenej VRAM a 1.0–1.5 kW výkonu GPU pri zapojení do siete. K-AI 256 (8× RTX 5090) zdvojnásobuje oboje. Výkon a pamäť jednoducho prestávajú byť obmedzením – namiesto toho ich vymeníte za kapitálové výdavky, vykurovanie, vetranie a klimatizáciu a káblové pripojenie.

Vstavaný kremík, realita roku 2026

Palubné možnosti, ktoré sa dnes skutočne dodávajú v serióznych humanoidoch a štvornožcoch:

Thor je skoková zmena, nie iterácia. Pamäťový strop 128 GB a tenzorové jadrá Blackwell natívne pre FP4 posúvajú hranicu integrovaných procesorov z „7B VLM, bolestivo“ na „32B VLM, užitočne“ v priebehu jednej generácie. Pracovné zaťaženia, ktoré boli v roku 2025 štrukturálne mimo hry – stredne veľké VLM, kontinuálne titulkovanie scén, stredne veľké plánovače LLM – sa stávajú... kandidáti na palube v roku 2026, ak tepelné riešenie robota dokáže udržať výkon 100 – 130 W.

Hailo a špecializovaná trieda NPU nie sú akcelerátory LLM. Ide o odľahčenie vizuálneho kanála: hlavný Jetson nechajte voľný pre väčší model, spustite vždy zapnutú CV kamery (detekcia objektov, sledovanie, základný VLM-lite) na 3 W čipe.

Trieda Snapdragon QRB je riešením pre roboty zamerané predovšetkým na hlas – prebudenie slovami, tvarovanie lúča, STT – kde je Jetson prehnaný a Cortex-M poddimenzovaný. Užitočný, úzky, čoraz bežnejší.

Mimo paluby: úroveň K-AI ako referencia

Cieľom mimo dosky, na ktorý sa táto séria odvoláva, je rad K-AI – napájaný zo steny, 4U alebo 5U rack, 4 alebo 8 GPU na EPYC alebo Xeon, na 10 GbE prepínači jeden skok od robota. Tri úrovne, ktoré sú dôležité pre robotiku:

Rozhodovacia matica

Každé robotické zaťaženie sa dá jasne rozdeliť do jednej z piatich kategórií: vždy na palube, preferované na palube, buď, uprednostňované mimo paluby, iba mimo palubyDôvodom každého umiestnenia je záväzný rozpočet – výkon, pamäť alebo latencia.

Tri čítania tejto tabuľky, ktoré stoja za prečítanie.

Riadky „vždy na palube“ sú fyzika. Žiadna šírka pásma neopraví regulačnú slučku, ktorá vyžaduje odozvu 1 kHz. Tieto sa nikdy nepohnú, bez ohľadu na to, aká dobrá je sieť alebo externé výpočty.

Riadky „buď“ sú miesta, kde dochádza k skutočnému inžinierskemu úsudku. Väčšina zaujímavých kompromisov spočíva práve v tomto. To, či 7B VLM beží integrovane alebo externe, určuje skutočnú časť správania systému. Neexistuje globálne správna odpoveď.

Riadky „iba mimo paluby“ sa pohybujú pomaly. Model 72B pravdepodobne nebude dostupný až v roku 2027. Model 32B sa na palube objaví s tým, ako sa bude Thor dodávať vo veľkom. Hranica „čo sa zmestí do zariadenia“ sa posúva približne o jednu veľkostnú triedu modelu každých 18 – 24 mesiacov.

Mapovanie úrovní latencie

Štvorúrovňový rozpočet latencie od I01 mapy priamo na umiestnenie:

Dve stredné vrstvy sú miestom, kde sa prijímajú skutočné rozhodnutia o architektúre. Reflexívna pracovná záťaž, ktorá práve zmestí sa za 50 ms, môže sa zmestiť mimo dosky cez káblovú LAN (0.5 ms tranzit + 40 ms inferencia + 0.5 ms spätný prenos = 41 ms), ale prekročí rozpočet cez Wi-Fi 6E pri záťaži (8 ms × 2 + 40 ms = 56 ms plus jitter). Preto sú káblové tethery dôležité počas vývoja: umožňujú vám zistiť, či je pracovná záťaž zásadne pasuje mimo paluby skôr, ako budete bojovať s bezdrôtovou sieťou.

Sieťová realita

Offboard funguje iba vtedy, ak je sieťová. Skutočné čísla:

Pre deliberatívne úlohy (rozpočet 100 ms – 1 s) je Wi-Fi 6E na vyhradenom SSID a prístupovom bode v priamom dosahu postačujúca. Pre reflexívne úlohy (10 – 50 ms) je káblové pripojenie bezpečnou odpoveďou a Wi-Fi 6E je šťastnou odpoveďou. Naplánujte si to podľa toho: ak úloha robota obsahuje akýkoľvek reflexívny externý komponent, navrhnite ho s káblovou možnosťou pre vývoj a záložným režimom pre prípad, že by Wi-Fi klesla.

Hybridný vzorec – rýchle/pomalé rozdelenie

Vzor, ku ktorému sa zbližuje väčšina vážnych nasadení v roku 2026, je rýchle/pomalé rozdelenie VLMmalý VLM integrovaný pre okamžitú spätnú väzbu, veľký VLM externý pre premyslené rozhodnutia, pričom oba poskytujú údaje tomu istému plánovačovi.

Tvar betónu:

Rozdelenie na rýchle/pomalé operácie: palubná 7B sa stará o okamžitú reakciu; externá 72B sa stará o premyslené uvažovanie a aktualizácie plánu.

Rýchly model rieši situáciu „idúca ku mne osoba, spomaľte“. Pomalý model rieši situáciu „idúca ku mne je operátor, ktorý ma požiadal, aby som sa zastavil, ak sa priblíži s červenou doskou, a to je červená doska, takže sa zastavte“. Rýchly model sa najprv zaväzuje k bezpečnému správaniu; pomalý model ho vylepšuje.

Príbeh migrácie – čo sa stane v rokoch 2026 – 2027

Tri sily stláčajú externú stranu: Thor dosahuje objem (2070 FP4 TFLOPS, 128 GB unifikovanej pamäte, 130 W obálka – štrukturálny skok oproti Orinovi); účinnosť VLM sa neustále zlepšuje („dosť dobrý“ dojem, že VLM bol v roku 2024 70B+, v roku 2026 je 32B, v roku 2027 bude pravdepodobne 13B – 20B); a špekulatívne dekódovanie s malými tvorcami modelov vám umožňuje poskytovať kvalitu veľkých modelov s malou latenciou modelov.

Pracovné zaťaženia, ktoré s najväčšou pravdepodobnosťou migrujú na palube v priebehu nasledujúcich 18 mesiacov: scénický VLM triedy 7B (už sa presúva), plánovač LLM triedy 13B (Thor ho robí pohodlným), krátkokontextové STT-LLM-TTS pre hlas, doménovo špecifické doladené VLM triedy 7B.

Pracovné zaťaženia, ktoré nie migrovať: čokoľvek 70B+, pamäť scén v rozsahu flotily, tréning a simulácia, fúzia viacprúdových VLM. Tieto zostávajú mimo základne minimálne do roku 2027. Šírka pásma pamäte a napájanie batérie sa nemenia tak rýchlo.

Dve betónové konfigurácie

Jednotné vzdelávacie zariadenie G1, výskumné laboratórium. Integrovaný AGX Orin spúšťa ROS 2, YOLOv11-s pri 30 FPS, Whisper-distil STT a Qwen2.5-VL 7B INT4 pri 5–8 FPS (zámerne). Externý K-AI 96 (4× RTX 5090, 128 GB VRAM) spúšťa vLLM s Qwen2.5-VL 72B a Qwen2.5 32B textovo-priestorovou pamäťou, pgvector scénickou pamäťou a Isaac Sim na nečinných GPU.

Malá flotila, 3 humanoidi, trieda Thor na palube. Každá jednotka používa systém Hailo-15 Vision SoC pre neustále zapnutú detekciu viacerých kamier, technológiu Whisper-small na zariadení a grafickú kartu Qwen2.5-VL 32B INT4 s frekvenciou 10–15 FPS – natívne, už nie na okraji. Externá grafická karta K-AI 256 (8× RTX 5090, 256 GB VRAM) hostí zdieľané grafické karty Qwen2.5-VL 72B a Llama-3.1 70B na plánovanie, zdieľané úložisko pgvector medzi všetkými tromi robotmi a dve grafické karty vyhradené pre nočné doladenie LoRA.

Kde fungujú čisto jednovrstvové nasadenia

Čisto palubné práce pre úzko zamerané štvornožce (hliadkovanie po obvode s YOLO + termokamerou), teleoperované roboty (operátor je plánovač, v slučke nie je žiadny VLM), demonštračné/vzdelávacie roboty s najmenšími modelmi a akékoľvek nasadenie bez akejkoľvek siete (vonkajšia inšpekcia, vzdialené lokality).

Čistý cloud funguje pre robotickí asistenti ovládajúci iba hlasom bez uzavretej slučky vnímania, prototypy, kde rýchlosť nastavenia prevyšuje všetko ostatné, a nasadenia, kde sa dáta aj tak zámerne ukladajú do cloudového úložiska.

Hybrid je odpoveďou na všetko medzi tým – čo je v roku 2026 zhruba 90 % serióznej robotiky. Ak staviate niečo s vnímaním VLM-in-the-loop, skončíte s oboma úrovňami. Plánujte to od prvého dňa.

---

Toto je súčasť Kentino Wiki, referenčnej série o umelej inteligencii, robotike a systémoch, ktoré ich spájajú. Komentáre a opravy sú vítané na info@kentino.com.