Šablóny

Trooper.AI poskytuje rôznorodé predinštalované šablóny softvéru navrhnuté na zrýchlenie nastavenia vašho projektu. Pri vytváraní GPU serveru Blib môžete vybrať jednu alebo viacero šablón, alebo ich neskôr pridáte cez rozhranie správy.

Dôležité: Nepostavujte manuálne port ani nevytvárajte systémový servis pre instaláciu šablóny. Šablóna to za vás zabezpečí a stará sa o toto pri každej aktualizácii!

🚨🛡️ POZOR! Ak aktivujete svoj Firewall a nastavíte pravidlá príliš restriktívne, môžu sa nainštalovať šablóny neúspešne. Doporučujeme – počas instalácie šablón – obnoviť firewall na predvolené nastavenia. Neúspešná instalácia šablón pri zapnutých pravidlách firewallu je očekávané správanie, ktoré dokazuje, že firewall funguje správne.

Ak pridať šablónu

Na vašom serveri kliknite na menu akcie a vyberte „Pridať šablónu“:

Actions Menue
Akčné menu

Vyskakovacom okne kliknite na názov požadovaného šablónu:

Select a template (list shown here can change)
Vyberte šablónu (zobrazený zoznam sa môže meniť)

Ak je potrebné, vykonajte zmeny v konfigurácii:

Options of a template
Možnosti šablóny

Spustiť nainštalovanie modrým tlačidlom!

Opakujte pre každý šablónu, ktorú chcete nainštalovať na server. Uistite sa, že grafická karta má dostatok VRAM na spracovanie týchto šablón a ich modelov.

Spustenie/Zastavenie a ladenie Inštalácie Šablóny

Každý šablón je spravovaný ako samostatná služba systému Ubuntu, čo umožňuje jednoduchú kontrolu a ladenie. Služby môžete správať pomocou štandardných príkazov Linuxu. Napríklad:

bash
sudo service comfyui status

Tento príkaz získa aktuálny stav šablóny.

bash
sudo service comfyui stop

Tento príkaz zastaví comfyui služba. Nahraďte comfyui s názvom šablóny, ktorú chcete spravovať. Všetky šablóny sa štartujú automaticky.

Pre zobrazenie servisného protokolu, vrátane posledných 100 záznamov, použite nasledujúci príkaz:

bash
sudo journalctl -u comfyui -f -n 100

využite journalctl na efektívne odladenie nástrojov spustených na vašom GPU serveri a identifikáciu možných problémov.

Postup pri inštalácii šablóny

Successfully installs
Úspešne nainštalované

Šablóna prechádza niekoľkými farbami indikujúcimi aktuálny stav v procese inštalácie. Viac informácií nájdete tu: Install Status of Templates. Ale všeobecne trvá 3 až 10 minút na nainštalovanie šablóny, v závislosti od veľkosti stiahnutého súboru a už nainštalovaných spoločných závislostiach. Pozrite si tu, ako by malo vyzerieť po dokončení:

Oddelenie šablón pre vývoj umelých inteligentných systémov

Šablóny Trooper.AI na vašom Blib Server umožňujú spustiť viaceré aplikácie umelnej inteligencie alebo rôzne verzie rovnakej aplikácie na jednom serveri bez konfliktov. Myslite na ne ako na izolované kontejnery pre každú aplikáciu.

Takto to funguje:

  • Izolácia: Každý šablóna obaluje potrebnú inštaláciu pre konkrétnu aplikáciu umelého intelektu. To znamená, že všetky vyžadované knižnice, závislosti a nastavenia sú udržiavané oddelené od ostatných aplikácií na serveri.
  • Virtuálne prostredia: Šablóny používajú virtuálne prostredie (ako napríklad venv v Pythone alebo conda) na vytvorenie izolovaných priestorov pre závislosti každého aplikácie. To zabráni konfliktom, ktoré môžu nastávať, keď rôzne aplikácie vyžadujú rôzne verzie rovnakej knižnice.
  • Docker kontejnery (Voliteľné): Pre ešte väčšiu izoláciu a presunutosť môžu šablóny využívať Docker kontejnery. Docker balí aplikáciu a všetky jej závislosti do jedného celku, čím sa uistí, že spôsobuje konzistentný beh vo všetkých rôznych prostrediach.
  • Trvalé dáta: Šablóny sú vždy konfigurované na ukladanie dát trvale, čo znamená, že dáta vašej aplikácie budú uchované aj keď je server pozastavený alebo restartovaný.

Tento prístup ponúka viaceré výhody:

  • Organizácia: Udržuje vaše prostredie vývoja umelých inteligencií čisté a usporiadané.
  • Opakovateľnosť: Zabezpečuje konzistné výsledky izoláciou závislostí.
  • Flexibilita:umožňuje ľahké prepínanie medzi rôznymi aplikáciami umelého intelektu alebo experimentovanie s rôznymi verziami.
  • Účinnosť využitia zdrojov: Zvyšuje efektívne využitie zdrojov spustením viacerých aplikácií na jednom serveri.

Predkonfigurované šablóny GPU serverov pre Blib

Následne je prehľad dostupných šablón, z ktorých každá obsahuje podrobné informácie na svojich venovaných dokumentačných stránkach:

Šablóna ComfyUI pre GPU Server Blibs

Vizuálny, na uzloch založený pracovný prúd pre Flux a Stable Diffusion – ideálny pre pokročilú generáciu obrázkov umelou inteligenciou a prototypovanie.

vLLM kompatibilný s OpenAI Server

Rýchla a jednoduchá obsluha modelov veľkého jazykového modelu s vysokým prienikom pomocou jednoduchého API pre produkčné prostredia.

OpenWebUI & Ollama

Spustite a spravujte lokálne veľké jazykové modely (LLM), ako napríklad LLaMA alebo Gemma, cez priateľský a plne súkromný webový rozhranie.

FramePack

Umelá inteligencia napĺňajúca riešenie, ktoré obrázky transformuje na hladké a konzistentné videosekvencie rýchlo a efektívne.

Ubuntu Desktop

Plný prostredie Ubuntu Desktop prístupné cez xRDP, vrátane fungujúcich ovládačov GPU, prehliadača Chrome a podporu pre aplikácie pracujúce s GPU, ako napríklad Blender alebo DaVinci Resolve. Pozrite sa tiež na RDP Access, aby ste dosiahli najrýchlejší a kvalitný spojenie s užívateľským rozhraním.

InvokeAI

Prehliadačový umelý inteligentný editor obrázkov s pokročilými funkciami, vrátane viacnásobného zadávania promptov, integrovanej možnosti stiahnutia modeli Flux a ďalších.

Automatic1111 pre SDXL

Rýchlo nasadzujte pracovné postupy Stable Diffusion pomocou verzie Automatic1111 kompatibilnej so SDXL – ideálne pre generovanie vysokokvalitných obrázkov z textových návodov.

Jupyter Notebook

Interaktívne Pythonové notebooky plne urýchlené na GPU, ideálne pre vedecké výpočty s údajmi, prácu s umelou inteligenciou a rýchlu prototypovanie.

Qdrant

Škáľovateľná vektorová databáza navrhnutá pre vysoce výkonný podobnostný vyhľadávač, umožňujúca efektívny prístup k údajom pre aplikácie umelého intelektu a pokročilú analýzu dát.

n8n

Bezkódová platforma na automatizáciu pracovných prúdov umožňujúca spojenie aplikácií a automatizáciu úloh – ideálna pre vytváranie vlastných umelých inteligentných pipeline a integrácií.

Ľubovolný Docker

Flexibilný šablóna založená na Docker pre jednoduchý spustenie kompatibilných Docker obrazov s podporou GPU.

Webový proxyserver s SSL

Webový proxy obsahuje verejný certifikát SSL, čo umožňuje bezpečnú prenosovu komunikácie cez internet z vnútorného portu.


Odstránenie šablóny

Remove template button in template settings
Tlačidlo na odstránenie šablóny v nastaveniach šablóny

Odstránite šablónu kliknutím na tlačítko „Odstrániť šablónu“ v jej nastaveniach (prístupné cez ikonu kolieska na riadku nainštalovanej šablóny v Blib dashboarde – pozri snímok obrazovky). Tento krook odstráni len konfiguráciu šablóny; akékoľvek spojené softvér alebo služby ostávajú nedotknuté a musia byť ručne odstránené. Vaše dáta zostanú počas celého procesu bezpečné.


Požiadavka na ďalšie šablóny

Ak potrebujete ďalšie šablóny alebo príznačné nastavenia, kontaktujte prosím našiu podpornú tím via e-mail alebo WhatsAppom, pričom zaľahčite uvádzajte odkaz na relevantný GitHub repozitár. Naša tíma rýchlo nakonfiguruje požadované prostredie.

Pre ďalšiu podporu alebo personalizované požiadavky nás kontaktujte na: Kontakty podpory

🔒 Uvažovanie o autentifikácii

Dávejte prednosť bezpečnosti vašho serveru. Aplikácie ako OpenWebUI a n8n obsahujú funkcie autentifikácie, zatiaľ čo ComfyUI a Automatic1111 ponúkajú konfigurovateľné možnosti autentifikácie – odkazujte sa na ich oficiálnu dokumentáciu pre podrobnosti implementácie. Iné aplikácie, napríklad InvokeAI, môžu chýbať vbudovanú autentifikáciu. Pamatujte si, že udržiavanie bezpečnosti vašeho serveru je vaša zodpovednosť. Ak máte otázky, kontaktujte nás: Kontakty podpory