Táto stránka vysvetľuje, ako zverejniť aplikácie na GPU serveroch Trooper.AI. Môžete publikovať dashboardy, API, umelé inteligentné aplikácie, koncové body modelov a užívateľské rozhrania spustené v šablónach alebo vlastných projektoch.
Vaše GPU Server Bliby poskytujú 10 až 40 verejných portov prístupných cez internet. Všetky služby pripojené k týmto portom budú dostupné z vonkajšej siete pomocou verejnej adresy vašieho serveru.
Trooper.AI poskytuje dve prístupové cesty plus jednu vrstvu bezpečnostnej siete:
Okamžitá prístupnosť bez nastavenia.
Zabezpečený expozícia na úrovni výroby pre webové aplikácie a API. Aktívne vo všetkých šablónach predvolene a pre vlastné aplikácie použite toto: Web Proxy s SSL
Omezte prístup k vašiemu GPU serveru špecifikáciou povolených sieťových adresných rozsahov alebo jednotlivých IP adries, napríklad ako je korporátna sieť alebo váš webový server. To obmedzuje externý prístup a zvyšuje bezpečnosť. Ďalšie detaily nájdete tu: 🛡️ Trooper.AI nastaviteľný Hardvérny Firewall
Každý GPU server obsahuje verejné prístupové TCP+UDP porty automaticky pridelené šablónam a dostupné pre vlastné aplikácie. Aktívovanie UDP je možné cez správcovské panel ako potrebujúce.
Priamo prístupný URL:
http://connectXX.trooper.ai:PORT
Príklad zobrazenia na panelu:
V tomto zobrazení:
🤖 Prenos portu je automatizovaný proces s integrovanými kontrolami. Prosím, nariďte svojho AI agenta, aby sa sústredil na konfiguráciu a priradenie portov, pretože prenos portu funguje správne. Žiadne problémy so NAT nie sú možné ak má vaše zariadenie zelený stav.
Pripojte vašu aplikáciu na 0.0.0.0 použiť ľubovoľný z priradených verejných portov:
Príklad pre Flask:
flask run --host=0.0.0.0 --port=11307
Príklad Gradio:
app.launch(server_name="0.0.0.0", server_port=11307)
Výsledok:
http://connectXX.trooper.ai:11307
Tento prístup ostáva dostupný pre rýchle testovanie a vnútornú výhodnosť. Surové porty nie sú šifrované; viac informácií nájdete pri HTTPS.
Pre produkčnú prevádzku, autentifikáciu, užívateľské rozhrania, embeddingy, monitorovací panely a používanie API:
1️⃣ Spustiť aplikáciu internálne na bezpečný vnútorný port:
0.0.0.0:8080
2️⃣ Nainštalujte šablónu Webproxy
3️⃣ Konfigurovať:
8080)4️⃣ Vytvorený verejný HTTPS:
https://<token>.secure.trooper.ai
📌 Výhody:
Každý šablóna obsahuje predkonfigurovaný, bezpečný Webproxy a priradené koncové bodové miesto. Pre zabezpečené vystavenie vlastných aplikácií nasadených na vašom GPU serveri využite šablónu Webproxy: Web Proxy s SSL
Priamo pripojenie na porty 80 or 443 Nie je automaticky prístupný verejnej internéte. Použite šablónu Webproxy na vytvorenie HTTPS koncových bodov. Inštalácia vlastných certifikátov SSL nie je podporovaná. Pripojenie vlastných domén nie je podporované. Odporúčame používať port 8080 pre vašu aplikáciu, čo je medzi vývojármi obľúbený voľba.
Čítať viac: Web Proxy s SSL
HTTPS/Webproxy vrstvový routovací systém automaticky upravuje správanie podľa typu komunikácie. To zabezpečuje, aby krátke interaktívne volania ostali rýchle, zatiaľ čo úlohy pre umelú inteligenciu alebo streamovanie zostali stabilné.
| Typ prenosových dát | Metóda detekcie | Časový limit |
|---|---|---|
| Bežný HTTP | štandardná žiadost/odpoveď | 60s |
| Čat / Prúdový prenos (SSE/NDJSON) | /api/chat, /chat/completions, /api/generate, /generate, /stream, /events, or Accept: text/event-stream / hlavičky NDJSON |
10 minút |
| Veľké stiahnutia | typ podobný súboru, Range hlavičky, prílohy, binárny prenos |
30 minút |
| WebSockety | detekcia prechodov na WS/WSS | žiadny časový limit nečinnosti |
💡 Proxy sa dynamicky prispôsobí v prípade zmeny podmienok odpovedi. Príklad: Podávanie súboru = automatické zvýšenie času na čakanie pri stiahnutí.
Poslať správny typ obsahu:
text/event-streamapplication/x-ndjsonZahrňte výstup srdcového signálu každých 15–30 sekúnd.
Udržujte ping/pong aktívny (typicky každých 20–30 s).
Podpora Range požiadavky a stav 206.
Add Content-Disposition: attachment pri potrebe.
Príklad pre požiadanie typu SSE pomocou curl:
curl -N -H "Accept: text/event-stream" https://<ssl-id>.secure.trooper.ai/api/stream
Príklad NDJSON:
curl -N -H "Accept: application/x-ndjson" https://<ssl-id>.secure.trooper.ai/generate
Príklad stiahnutia s možnosťou pokračovať:
curl -O -H "Range: bytes=0-" https://<ssl-id>.secure.trooper.ai/files/model.bin
Interné:
ss -tlnp | grep :11307
Externé:
curl http://connectXX.trooper.ai:11307
Surové porty vyžadujú len:
0.0.0.0Veľmi často priradené verejné porty sú automaticky a zobrazujú sa v dashboarde vedľa nainštalovaných šablón.
Pre vlastné projekty použite:
8080→ Webproxy → HTTPS endpoint
Bežné problémy pri nastavovaní plne funkčnej HTTPS spojenia sú často spôsobené jednoduchými detailmi konfigurácie.
❌ Nedostupné: skontrolujte prístupový bod a väzanie
❌ Zlé prístupové porto: používať len pridelené porty
❌ Žiadne HTTPS: použite šablónu Webproxy
❌ Ohniska v kontejnere: vypnúť alebo nastaviť
❌ UDP nie je aktivované: TCP je náš predvolený protokol, aktivujte UDP cez správcovské panel ak ho opravdu potrebujete
❌ Dĺhe výpočtové úlohy: prúdiaci výstup alebo používanie režimu SSE/NDJSON
❌ Pokus o pripojenie vlastnej domény: Vlastné domény nepodporujeme.
Interná aplikácia:
uvicorn.run("main:app", host="0.0.0.0", port=8080)
Veřejné HTTPS:
https://<token>.secure.trooper.ai
Čítať viac: Web Proxy s SSL