Coding Fry

10 min čítania

AI agenti na serveri: makajú, aj keď spíš

Video: Orchestruj armádu AI agentov od kohokoľvek ako profík8,4 tis. pozretí

Keď mi vypadne web, agenti zistia príčinu skôr ako ja. Keď skončí porada, úlohy sú rozdelené a čakajú na moje schválenie. A počítač mám pritom vypnutý.

Moji AI agenti bežia na serveri, nie na notebooku. Ukážem ti, ako to mám postavené, koľko ma to stojí, ktorí agenti mi reálne šetria čas a čo ešte nefunguje.

Nie je to návod, ktorý musíš hneď skopírovať. Ak ti Claude Code na notebooku stačí, kľudne pri ňom ostaň. Ale ak opakovane spúšťaš toho istého agenta tým istým promptom, toto je pre teba.

V skratke

  • Model je motor, harness je auto, meta harness je garáž. Garáž vyberie správne auto na každú cestu.
  • Jeden univerzálny agent na všetko míňa limity. Špecializovaný agent s jasným postupom urobí malú úlohu lacnejšie a spoľahlivejšie.
  • Agenti na serveri nepotrebujú tvoj zapnutý počítač. Spúšťajú sa sami, podľa času alebo po udalosti.
  • Ja používam Omnigent na dedikovanom serveri za 40 až 50 eur mesačne, dostupnom len cez súkromnú sieť.
  • Nie je to bez práce. Vlastná garáž znamená čas, úsilie a údržbu.

Čo je harness a meta harness?

Pojmy sa v AI svete miešajú, tak si ich ujasnime na aute.

Model je motor. Opus, Astra alebo Fable zásadne ovplyvňujú výsledok. To, čo sa model naučil pri tréningu, už ale nezmeníš. Zmeníš iba to, čo mu dáš. A model sám o sebe iba píše odpoveď, takže motor bez kolies a volantu ťa nikam nezavezie.

Harness je zvyšok auta. Hovorovo sa mu hovorí AI agent: Claude Code alebo Codex. Dáva modelu nástroje. Sám si dohľadá kontext, prehľadá súbory, urobí prieskum na internete, použije skill alebo MCP server (doplnok, cez ktorý sa agent napojí na inú službu). Tým výstup veľmi zlepšíš, ale teoreticky aj zhoršíš.

Presnejšie je to Transformer, auto, ktoré sa premení na čokoľvek. Pridáš mu skill na plávanie a zrazu sa ponára, s inštrukciou „Prosím ťa, hlavne nás neutop.“

Meta harness je smart garáž. Podľa tvojho cieľa vie, aké auto ti má pripraviť, naštartovať a poslať na cestu. Na dva týždne k moru ti zahreje luxusný karavan. Na 10 minút do obchodu ti naštartuje oktávku.

Motor so štítkom MODEL, auto so štítkom HARNESS a garáž s mopedom, autom a karavanom so štítkom META HARNESS.

A so Zuckom to nemá absolútne nič spoločné.

Prečo nestačí jeden Claude Code na všetko?

Tu vidím častú chybu ľudí zvyknutých na Claude Code alebo Codex. Ich agent je mega Transformer, ktorý zvládne skoro všetko. Lenže keď s ním ideš do Lidla na nákup, spotreba môže byť kľudne 1000 litrov na 10 km.

Pritom by ti stačila babeta, ktorá zožerie prakticky veľký prd.

Obrovské vozidlo s množstvom nadstavieb a prázdnou nádržou pred malým obchodom, vedľa neho malý moped.

Aj keď si univerzálny agent vyberá výbavu sám, nemusí domyslieť všetko, čo po ňom chceš. Preto sa oplatí mať špecializovaných agentov. Každý má jasný postup a iba to, čo na svoju úlohu potrebuje.

Meta harness to zastreší. Šetrí limity, na každú úlohu vyberie vhodný model a koordinuje správnych agentov.

Ako mám AI agentov na serveri postavených ja

Meta harness, ktorý v poslednom čase testujem, je Omnigent. Je to jediný všeobecný meta harness, o ktorom viem, že vie natívne vytvárať špecializovaných agentov:

  • agenti môžu mať guardrails, teda mantinely, čo smú a čo nie,
  • môžu mať určené, ako riadia ďalších agentov pod sebou (subagentov),
  • môžu mať dané, kam smú zapisovať a odkiaľ čítať, a stráži to priamo operačný systém,
  • funguje aj na vzdialenom alebo dedikovanom serveri,
  • prepína harnessy: jednu úlohu robí Claude Code s Fable alebo Opusom, inú GPT-6.1 Sol.

Ak si zarytý fanúšik Claude Code, jedným tlačidlom sa prepneš na jeho konzolovú verziu. O to, na čo si zvyknutý, neprídeš, len máš nad tým nadstavbu.

Omnigent mám na dedikovanom serveri na Netcupe za nejakých 40 až 50 eur mesačne, s vyhradenými jadrami a 32 GB RAM. Stihol som ho ešte pred zdražením. Ak nechceš platiť za server, nasadíš to aj na Mac mini doma a pripájaš sa cez mobilnú appku alebo z počítača.

Zavretý notebook a mesiac v okne, vedľa zamknutá skrinka so serverom, ktorý svieti a odškrtáva úlohy.

Agenti makajú, aj keď vypnem počítač a idem spať. Server zvonku nie je vôbec dostupný, iba pre mňa a kolegov v našej Tailscale sieti. To je súkromná sieť, do ktorej pustíš len svoje zariadenia a ľudí, ktorých pridáš.

Keď potrebujem, aby agent ovládal prehliadač alebo plochu (computer use, browser use), napojím sa cez Windows App na vzdialenú plochu. S Windowsom to napriek názvu nemá nič spoločné: pripájam sa ňou z Macu na linuxový desktop.

Príklad 1: agent, ktorý spracuje poradu

Toto je agent, ktorý mi nahradil celú kategóriu softvéru.

Má 8-krokový proces, ktorý vždy dodrží od A po Z s čistým kontextom. Server ho sám prebudí, keď sa nahrávka porady objaví v inboxe. Nemusím písať žiadny prompt.

V skratke to ide takto:

  1. Nahrávka: robí ju Ottex, menej známa alternatíva Wispr Flow. Je zdarma a pri porade cez Google Meet sa spustí sám.
  2. Prepis: cez Soniox. Hodina ma stojí asi 10 centov a dáva mi najlepšiu slovenčinu, akú som pri prepisovacích nástrojoch videl. Zvládli by to aj lokálne modely, ale tých 10 centov mi fakt nevadí.
  3. Úlohy: rozhodnutia, kto čo robí a čo nám visí, idú do Superhuman Docs, niečo ako Notion.
  4. Schválenie: agent pošle udalosť, že má hotovo, a zachytí ju ďalší agent. Notifikuje tím, upraví naše operačné centrum a pošle mi na schválenie, kto čo rieši a čo sa dá zautomatizovať.

Reťaz štyroch krokov: mikrofón NAHRÁVKA, list PREPIS, zoznam ÚLOHY a ruka, ktorá klikne na fajku SCHVÁLENIE.

V operačnom centre vidíme, na aké rozhodnutia sa čaká a čo spraví agent sám. Na 100-dolárovom GPT pláne sa ukazovateľ limitu pri porade ani nepohne.

Ako samostatné softvéry by to bolo niečo ako Teamwork, Fireflies a ďalšie. Odhadom niekoľko stoviek dolárov mesačne, lebo veľa z nich sa platí za každého člena tímu. Takýchto agentov mám už viac ako 10 a sami sa medzi sebou spúšťajú.

Príklad 2: agent na vývoj, ktorý kontroluje podľa závažnosti

Môj hlavný cieľ: aby úpravy na webe zvládli aj neprogramátori a nevisel som na tom ja.

Jeden agent na to nestačí. Čím viac sa mu zapĺňa kontext, tým je zaslepenejší. Volá sa to efekt „lost in the middle“: pri dlhom kontexte model ľahšie prehliadne dôležité informácie, najmä tie uprostred. Potom nedomyslí bezpečnosť alebo výkon, niečo zhodí alebo vytvorí niečo absolútne hnusné.

Preto má môj vývojový agent pevný proces a kontrolu kódu robí podľa závažnosti zmeny. Inšpiroval som sa vstavaným agentom Polly v Omnigente:

Zmena Kontrola pred nasadením
preklep, výmena obrázka, malá úprava bez kontroly
bežná logika nezávislí kontrolóri GPT-6.1 Sol a Opus 5.5
predaj, fakturácia, bezpečnosť Sol aj Opus na najvyšší reasoning

Tri dráhy k serveru: MALÁ ZMENA ide priamo, BEŽNÁ LOGIKA cez dvoch kontrolórov, FAKTURÁCIA A BEZPEČNOSŤ cez dvoch kontrolórov a zámok.

Kontrolóri pozerajú na funkčnosť, bezpečnosť a či zmena nič nerozbije alebo nespomalí web. Nálezy zoradia podľa priority a opravuje sa, kým obaja nepovedia, že je to pripravené.

Agent spúšťa modely podľa úlohy. Návrh novej marketingovej stránky môže robiť Fable 5.1. Keď príde lepší model, jedným promptom ho v procese zamením. To mi rieši ďalší agent, ktorý spravuje ostatných agentov.

A keď mi minie 5-hodinový limit, v chate prepnem Opus na GPT-6.1 Sol a pokračujem.

Ako sa AI agenti spustia sami, bez promptu?

Toto je za mňa najdôležitejšia časť, vďaka nej sú agenti naozaj autonómni. Končí doba, kedy musíš agentov prebúdzať promptom.

Čo najviac procesov by sa malo spúšťať samo:

  • podľa času: raz denne, každé dve hodiny,
  • po udalosti: napríklad cez webhook, teda automatickú správu, ktorú iná služba pošle na tvoj server, keď sa niečo stane.

Konkrétne: keď mi vypadne web, monitoring pošle udalosť na server a ten spustí agentov. Pozrú sa, či sa práve nenasadzovala aktualizácia. Ak áno, chvíľu počkajú, či problém pretrváva. Potom zistia, či nemá výpadok tretia strana, u nás Convex, ktorý používame ako backend a databázu.

Keď nájdu príčinu a sú si dostatočne istí, opravu nasadia. Veľkú časť výpadkov tak nemusíš riešiť ručne. Pri chybe na webe môže agent opravu pripraviť a poslať ti ju na schválenie.

Na to ale potrebuješ agentov na serveri alebo v cloude. Nesmie to závisieť od toho, či máš práve zapnutý počítač.

Vlastný server alebo cloudový AI agent?

A čo Claude Duet, Dots od ChatGPT, Muse od Mety alebo Grok Bot? To sú osobní AI agenti, ktorí bežia v cloude a sami sa ti ozvú. Pre mňa je to taxík.

Vľavo taxík na pevnej trase, ktorú drží cudzia ruka. Vpravo vlastná dielňa, kde človek vymieňa motor v aute.

Taxík (cloudový agent) Vlastná garáž (meta harness na serveri)
Začiatok nasadneš a ideš musíš si ju postaviť
Server nerieši sa tvoj, vrátane údržby
Pravidlá a postup určuje poskytovateľ určuješ ty
Modely jeden poskytovateľ vymeníš, keď príde lepší
Kontext vidí len to, čo mu pripojíš súbory a históriu máš na svojom serveri

Duet alebo Muse u nás zatiaľ ani nespustíš, lebo sme v Európskej únii. Ak chceš začať rýchlo a jeden poskytovateľ ti nevadí, taxík môže byť OK. Len nad ním nemáš takú kontrolu.

Čo na tom ešte nefunguje

Omnigent je nový produkt a je to cítiť:

  • desktopová appka na Macu nie je úplne dotiahnutá,
  • pamäť si sám nerieši, obišiel som to cez natívnu podporu Hindsightu, ktorý používam ako zdieľanú pamäť pre všetky modely a harnessy,
  • obrázky a PDF do chatu dáš, video a audio nie, tak mám na Macu službu, ktorá súbor pošle na server jedným klikom,
  • GPT modely mi v ňom často padajú, oprava trvá pár sekúnd cez ďalší chat, ale je to otravné,
  • definície agentov vidím v Harnesses namiesto Agents a môj lokálny fix musím po každej aktualizácii aplikovať znova.

A údržba. Párkrát naraz jeden agent renderoval video, druhý nasadzoval do produkcie, tretí niečo kontroloval a úplne mi zahltili server. Musel som spraviť ošetrenia, aby sa to neopakovalo.

Aj údržbu vieš zautomatizovať agentmi, ktorí strážia, či sa nezapĺňa disk a či je všetko aktualizované. Ale tým procesom si musíš prejsť.

Ako začať s AI agentmi na serveri

Ako zistíš, či to potrebuješ: prejdi si posledné dva týždne. Spúšťaš toho istého agenta tým istým promptom viac ako raz týždenne? Alebo čakáš, kým sa vrátiš k počítaču, aby si niečo spustil? Ak áno, máš kandidáta na prvého agenta na serveri.

Nezačínaj armádou. Začni jedným opakovaným procesom s jasným výstupom, napríklad spracovaním porady alebo dennou kontrolou webu.

Napíš agentovi

Chcem, aby sa jeden môj opakovaný proces spúšťal sám, bez môjho promptu: [opíš proces, napríklad spracovanie nahrávky porady]. Najprv sa ma opýtaj, čo potrebuješ vedieť. Potom navrhni postup v číslovaných krokoch, čo presne smie agent čítať a kam zapisovať, čo musí ísť vždy na moje schválenie a čím sa spustí (čas alebo udalosť). Zatiaľ nič nenasadzuj ani nespúšťaj a heslá ani kľúče nikam nevypisuj.

Keď máš server, skontroluj ho skôr, než naň pustíš agentov. Server s agentmi nemá byť dostupný z internetu, ak to nie je nutné.

Napíš agentovi

Skontroluj tento server, ale nič nemeň. Vypíš, ktoré služby počúvajú na verejnej adrese a či ich firewall púšťa z internetu, či sa na SSH dá prihlásiť heslom a či nie sú súbory s heslami alebo kľúčmi čitateľné pre iných používateľov. Obsah takých súborov vôbec neotváraj, kontroluj len vlastníkov a oprávnenia. Čo nevieš overiť zvnútra servera, označ ako neoverené. Ku každému nálezu navrhni opravu a počkaj na moje schválenie.

A ešte jedna vec z vlastnej skúsenosti: obmedz, koľko ťažkých úloh môže bežať naraz. Render videa a nasadzovanie v jednej chvíli server zložia.

Časté otázky

Dá sa Claude Code spustiť na serveri?

Áno. Claude Code aj Codex sú programy do terminálu a bežia aj na linuxovom serveri. Pripojíš sa k nim cez SSH alebo cez nadstavbu, ako je Omnigent. Aby agent pracoval ďalej aj po zavretí notebooku, musí bežať ako služba alebo v relácii, ktorá prežije odpojenie (napríklad tmux), alebo ho spravuje nadstavba.

Koľko stojí server pre AI agentov?

Ja platím za dedikovaný server na Netcupe nejakých 40 až 50 eur mesačne. K tomu predplatné modelov, ktoré už pravdepodobne máš. Lacnejšia cesta je Mac mini doma, ktorý beží stále, najmä ak ho už máš.

Je bezpečné, aby AI agent sám nasadzoval opravy?

Len s mantinelmi. U mňa nasadzuje sám, keď si je dostatočne istý príčinou. Zmeny v logike kontrolujú dva nezávislé modely a predaj, fakturácia či bezpečnosť idú cez najprísnejšiu kontrolu. Kam smie agent zapisovať, stráži operačný systém, nie len pokyn v prompte. Ak začínaš, nechaj agenta nasadzovať sám len malé zmeny, ktoré vieš ľahko vrátiť, a ostatné nech ti posiela na schválenie.

Potrebujem meta harness, keď mi stačí Claude Code?

Nie. Ak ti Claude Code vyhovuje, používaj ho ďalej. Len vedz, že poskytovateľ ti môže kedykoľvek zmeniť podmienky alebo dať ban a nemusí vysvetliť prečo. Je to ako budovať všetko na jednej facebookovej stránke. Ak nič neporušuješ, riziko je nízke, ale je dobré o ňom vedieť.

Motor vymeníš, garáž ostáva

Od RunPodu v roku 2023, kde som si rozbehol vlastné modely na popisky k videám, som prešiel cez GPT, Gemini, Cursor, Codex, OpenCode a Claude Code. Dnes je pre mňa najlepší Opus 5.5. O pol roka to môže byť niečo úplne iné.

Agenti, pravidlá aj postupy ostávajú u teba a motor vymeníš, keď príde lepší. Najlepší model si môže kúpiť každý, ale tú garáž si musíš postaviť sám. Samozrejme, za pomoci agentov, že áno.

Ešte si prečítaj

  1. Decision modely · 10 min · 684 pozretíLacný AI model na triedenie: decision modely
  2. Automatizácia práce · 10 min · 3,3 tis. pozretíInterné nástroje s AI: 6 pomocníkov na každý deň
Všetky články