Sécuriser votre connexion à votre serveur GPU est une considération essentielle pour chaque développeur. Assurer l’accessibilité de votre travail tout en maintenant la sécurité est crucial lorsque vous développez le prochain grand projet d’IA ! Avant de continuer, assurez-vous également de lire 🌍 Accès HTTPS (Comment accéder à votre Blib via SSL) et 🛡️ Pare-feu matériel personnalisable Trooper.AI.
👮 Pour une sécurité et une évolutivité optimales, ne pas exposer ce point de terminaison directement aux utilisateurs publics. Mettre en œuvre un serveur web dédié pour gérer les interactions utilisateur, qui communiquera ensuite avec votre serveur GPU. Cette architecture respecte les meilleures pratiques et les normes de l'industrie.
Ce modèle fournit un moyen simple aux clients d'exposer un service interne (HTTP ou WebSocket) à l'internet public via le système de routage Trooper.AI. Il crée automatiquement un point de terminaison HTTPS sécurisé avec un certificat SSL gratuit, tout en transférant le trafic vers n'importe quel port interne de la machine du client.
L'objectif est la simplicité : installer un petit proxy, spécifier deux ports et obtenir instantanément une URL sécurisée et accessible depuis l'extérieur.
Tout le trafic de l'endpoint SSL du Webproxy vers le port public de votre machine est acheminé dans notre réseau interne, contournant complètement Internet. Ceci est un avantage de sécurité significatif de Trooper.AI.
Votre service interne devient accessible sous un *.secure.trooper.ai sous-domaine, acheminé via l'infrastructure Trooper.AI avec des certificats SSL automatiques.
Le modèle transfère à la fois le trafic HTTP standard et les connexions WebSocket sans configuration supplémentaire.
Si un nom d'utilisateur et un mot de passe sont fournis, le point de terminaison est sécurisé avecauthentifié avec Basic gratuituit avec certificat gratuit. avec certificat gratuit avec certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit et gratuit avec certificat gratuit et avec certificat gratuit avec certificat gratuit avec certificat gratuit avec certificat gratuit avec certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit certificat gratuit avec certificat gratuit gratuit avec certificat gratuit gratuit avec certificat gratuit gratuit avec certificat gratuit gratuit avec certificat gratuit gratuit avec certificat gratuit gratuit avec certificat gratuit gratuit avec certificat gratuit gratuit avec certificat gratuit gratuit avec certificat gratuit gratuit avec certificat gratuit gratuit avec certificat gratuit gratuit avec certificat gratuit gratuit avec certificat gratuit gratuit avec certificat gratuit gratuit avec certificat gratuit gratuit avec certificat gratuit gratuit avec certificat gratuit gratuit avec certificat gratuit gratuit avec certificat gratuit gratuit avec certificat gratuit gratuit avec certificat gratuit gratuit avec certificat gratuit gratuit avec certificat gratuit gratuit avec certificat gratuit gratuit avec a user and a password are provided, the endpoint is secured with Basic Auth. Leaving both values empty disables authentication.
La configuration génère un point de terminaison proxy dédié, écoute sur un port choisi et transfère tout vers votre service interne.
Vous ne définissez que la configuration du modèle avant l'installation.
Le port externe sera attribué automatiquement et affiché à côté du nom du modèle, comme pour les autres modèles.
🚨 N'utilisez pas le port 443 et ne fournissez pas de certificat auto-signé sur votre port !
/etc/nginx/sites-available/trooperai-webproxy-<external_port>http://127.0.0.1:<internal_port>.| Type de trafic | Comment c'est détecté | Délai d'attente du proxy |
|---|---|---|
| Requête/réponse HTTP standard | Tout ce qui ne correspond pas ci-dessous | 60 s (DÉFAUT) |
| Chat/Streaming (SSE / NDJSON) | Le chemin contient /api/chat, /chat/completions, /api/generate, /generate, /stream, /events, or Accept: text/event-stream / application/x-ndjson |
10 min (LONGUE) |
| Téléchargements de fichiers volumineux | Range en-tête, chemin d'accès ou extension de fichier Accept: application/octet-stream |
30 min (TÉLÉCHARGEMENT) |
| WebSockets | Mise à niveau HTTP vers WS/WSS | Aucune limite d'inactivité du proxy |
Le proxy ajuste dynamiquement les délais d'expiration sur la réponse (par exemple, si votre serveur envoie un code
206ou l'en-têteContent-Disposition: attachment, il passe au délai de type TELECHARGEMENT, même si la requête n'avait pas été initialement classée comme téléchargement).
Une fois actif, le routeur de Trooper.AI détecte le port exposé, émet un certificat SSL gratuit et publie votre point de terminaison sécurisé.
Étant donné un nom de domaine attribué par Trooper.AI tel que :
myapp123-husky-delta.secure.trooper.ai
et un port publiquement disponible dans votre plage configurée (par exemple, 12345), avec un service interne écoutant sur le port 8080,
le flux de connexion sera : 8080 -> 12345 -> https://myapp123-husky-delta.secure.trooper.ai.
Ceci transfère en toute sécurité le trafic depuis le point de terminaison HTTPS public vers votre service interne.
Nous avons compilé des réponses aux questions fréquentes concernant la fonctionnalité webproxy. Pour une aide individuelle, veuillez contacter notre équipe de support : Contacts Support.
Assurez-vous que votre service interne fonctionne sur le port souhaité, puis installez ou mettez à jour le modèle webproxy. Le domaine attribué et l’état d’activation SSL (indiqué par une icône de cadenas) seront alors affichés.
C'est une question pertinente. En interne, votre service fonctionne comme un service HTTP standard sur un port configurable, tel que 8080. Ce port reste interne à votre instance de serveur. Le service proxy web installé via ce modèle gère le chiffrement SSL, provisionnant et gérant automatiquement le certificat SSL pour un accès externe sécurisé. Essentiellement, ce modèle établit une connexion HTTPS sécurisée entre votre port interne et l'internet public.
Ce modèle installe et configure Nginx pour router le trafic interne sur votre serveur GPU. Il ne remplacera pas les configurations existantes, mais la gestion directe de Nginx sur votre serveur GPU est généralement déconseillée en raison de la complexité potentielle. Déterminez si la gestion directe de Nginx est nécessaire pour votre flux de travail.
Notre Proxy SSL sécurisé inclut une protection au niveau de l'infrastructure pour maintenir la stabilité de la couche de routage et protéger votre service contre le trafic abusif. Il surveille en continu la santé des connexions ainsi que les schémas de trafic, et limite temporairement les sources responsables d'échecs répétés. Ainsi, le proxy peut distinguer une panne réelle d'un fonctionnement normal : votre service doit indiquer clairement les problèmes réels — en refusant ou fermant la connexion, ou en renvoyant une erreur 5xx du serveur lorsqu'il est effectivement indisponible.
L’authentification au niveau de l'application (par exemple les vérifications de connexion ou d'API-key renvoyant des codes 401/403) est gérée par votre propre service. Le proxy ne bloque pas intentionnellement ces cas, afin que les flux d'authentification normaux ne soient jamais perturbés.
Si vous rencontrez une page d'erreur lors de l'accès à votre point de terminaison, celle-ci affichera un code d'erreur unique (par exemple e-code: TP3) dans l’en-tête de la page. Veuillez inclure ce code lors du contact avec le support – cela nous permet d’identifier rapidement la cause.
| # | Statut | Signification | Que faire |
|---|---|---|---|
| TP1 | 502 | Erreur générique de passerelle lors de la connexion à votre service. | Vérifiez que votre service interne est en cours d'exécution et rechargez après quelques instants. |
| TP2 | 403 | Requête bloquée par une règle de pare-feu pour votre point d'accès. | Vérifiez les paramètres de votre pare-feu/liste blanche pour l'adresse IP et le port source. |
| TP3 | 502 | Votre service interne n'a pas pu être joint. | Vérifiez que le service écoute sur le port interne configuré. |
| TP4 | 503 | L'accès à votre service a été temporairement bloqué après des erreurs répétées. | Attendez un court instant, puis rechargez la page. Évitez les réessais automatiques côté client. |
| TP5 | 502 | La connexion à votre service a été refusée, introuvable ou a expiré. | Vérifiez que le service est actif, accessible et répond sur le bon port. |
💡 Évitez les réessais automatiques agressifs lorsque vous voyez une page d’erreur. Des requêtes répétées échouant peuvent entraîner un blocage temporaire (TP4).