Drejtoni agjentët në modelet kufitare të menaxhuara sot—ose merrni me qira kapacitetin e GPU-së, vendosni peshat tuaja dhe drejtoni detyrat e Digio në pikat fundore private në të njëjtën hapësirë pune.
Caktoni një model të paracaktuar për agjent ose anuloni për detyrë. Përdorimi matet në Digio Tokens nga balanca e planit tuaj - i njëjti portofol pavarësisht nëse agjenti telefonon Sonnet, GPT-4o ose Gemini Flash.
Model list and token economics evolve with provider releases. Your workspace shows live options when you assign a model to an agent; Digio Tokens debit from the same balance as in pricing.
Koordinatori mund të rekomandojë Sonnet vs Opus vs një model më të lirë flash bazuar në llojin e detyrës. Përdoruesit e fuqisë vendosin parazgjedhje për rolin e agjentit—kërkim mbi Sonet, rishikim përfundimtar në Opus, etiketim në masë në Haiku ose Gemini Flash.
Per agent — default model in agent settings; override in To do or chat when needed.
Metered fairly — input, output, and cached tokens map to Digio Token charges (see usage in your wallet).
Skills stay the same — tools and integrations work across models; only latency and cost profile change.
Plan limits — more agents and monthly Digio Tokens on higher tiers; top up anytime on the pricing page.
Keni nevojë për një rregullim të imët, një pikë kontrolli me boshllëk ajri ose një çmim konkluzioni të parashikueshëm? Shtoni kapacitetin e dedikuar të GPU-së në hapësirën tuaj të punës Digio, instaloni grupin e shërbimit që preferoni dhe vendosni agjentët në pikën tuaj përfundimtare private.
Nyjet GPU për orë ose mujore (klasa A100, H100, L40S) të bashkangjitura me qiramarrësin tuaj—të izoluara nga klientët e tjerë.
Ngarko siguruesit, GGUF ose tërhiqe nga regjistri; ekzekutoni Llama, Mistral, Qwen dhe meloditë e personalizuara.
vLLM, TGI, Ollama ose imazhet e kontejnerit që mbani - agjentët e Digio thërrasin një URL bazë të pajtueshme me OpenAI.
Për të bërë, biseda në ekip, aftësitë dhe bashkëpunimi janë të pandryshuara - vetëm fundi i përfundimit është i juaji.
Dërgoni hapa të ndjeshëm te GPU-ja private dhe përdorni Claude ose GPT për kërkime publike në një rrjedhë pune.
VPC peering, dalje statike, regjistrat e auditimit dhe listat e modelit të lejeve për ekipet e rregulluara.
Konfigurimi tipik nga zero tek agjentët që thërrasin pikën tuaj përfundimtare:
Zgjidhni VRAM, rajonin dhe kohën e funksionimit (burst vs gjithmonë ndezur). Magazinimi për pesha dërgohet me shembullin ose monton kovën tuaj.
Filloni një imazh të shërbimit ose SSH, instaloni drejtuesit CUDA dhe ngarkoni pikat e kontrollit. Kontrollet shëndetësore konfirmojnë se modeli është gati.
Shto URL-në bazë, çelësin API dhe ID-në e modelit në cilësimet e hapësirës së punës. Digio vërteton vonesën dhe formatin e shenjave përpara se të transmetohet drejtpërdrejt.
Zgjidhni modelin tuaj privat si të paracaktuar për agjentët e zgjedhur; Modelet e menaxhuara Claude/GPT mbeten të disponueshme krah për krah.
Qiraja e GPU-së faturohet veçmas nga abonimet e planit Digio. Na kontaktoni për planifikimin e kapaciteteve, SLA-të dhe migrimin nga një grup ekzistues konkluzionesh.
Zgjedhja e API-ve të menaxhuara kundrejt konkluzionit të vetë-pritur në Digio.
Abonimi juaj Digio mbulon infrastrukturën, agjentët dhe Digio Tokens të përfshirë. Përdorimi i modelit të menaxhuar e debiton atë balancën e tokenit nga argumentet aktuale hyrëse/dalëse. Marrja me qira e GPU-së është një shtesë për makinat që kontrolloni.
Po - çdo agjent mund të ketë parazgjedhjen e tij. Detyrat dhe bisedat mund të anashkalohen për një ekzekutim të vetëm pa ndryshuar parazgjedhjen globale.
Opus është akorduar për arsyetim më të vështirë dhe plane më koherente; Soneti është më i shpejtë dhe më i lirë për lakimet e përditshme të agjentëve. Haiku dhe modelet e klasës flash janë më të mirat për nën-detyrat e vëllimit.
Hapësirat e punës të ndërmarrjeve mund të kufizojnë ofruesit e modeleve dalëse dhe të drejtojnë të gjithë trafikun e agjentëve në pikën e fundit të GPU-së. Modaliteti hibrid është i paracaktuar për shumicën e ekipeve.
Ofertat varen nga rajoni dhe kërkesa - zakonisht nivelet VRAM 24-80 GB për modelet e klasës 7B-70B dhe nyjet me shumë GPU për grupet më të mëdha. Ne ndihmojmë në madhësinë e VRAM nga numërimi dhe kuantizimi i parametrave tuaj.
Orkestrimi (agjentët, detyrat, ruajtja) qëndron në planin tuaj. Konkluzioni në GPU-në tuaj faturohet si kohë GPU; ju mund të matni opsionalisht përdorimin në formë token për rimbursim të brendshëm.
Agjentët, detyrat dhe aftësitë—hapësira e punës rreth modelit që zgjidhni.
Filloni në Claude dhe GPT sot, më pas shtoni GPU të dedikuar kur të jeni gati për të pritur peshat e personalizuara—të njëjtët agjentë, të njëjtat detyra, konkluzionet tuaja.
