Controladores de GPU

Nuestros Trooper.AI Blibs vienen preconfigurados con controladores NVIDIA instalados y probados durante el proceso de aprovisionamiento, garantizando compatibilidad inmediata y un rendimiento óptimo. Utilizamos los últimos controladores estables para Ubuntu 22.04 LTS para soportar una amplia gama de aplicaciones y cargas de trabajo. Aunque nosotros manejamos la configuración inicial, los usuarios avanzados tienen la flexibilidad de cambiar las versiones del controlador de forma independiente mediante acceso por SSH o utilizando nuestra plantilla dedicada para actualizar controladores GPU. Esto permite personalización según requisitos específicos de aplicación o experimentación con lanzamientos más recientes de controladores. Recomendamos probar cualquier cambio personalizado en controladores primero en un entorno no productivo.

Ejemplo de salida del controlador

Esto powerai.l1 Blib, que ejecuta nuestro modelo de lenguaje interno y funciona con Ubuntu 22.04, viene preconfigurado con el controlador NVIDIA versión 565.57.01, compatible con CUDA 12.7 y un consumo máximo de energía de 450W para rendimiento óptimo. Todos los clientes habituales tienen acceso raíz completo y pueden actualizar independientemente a versiones más recientes del controlador, como la 570 o superior, para cumplir requisitos específicos de aplicaciones tales como CUDA 12.8+.

nvidia-smi output example
ejemplo de salida de nvidia-smi

Apoyo Oficial de Controladores y Acuerdo de Nivel de Servicio (SLA) de NVIDIA

Obtenga más información sobre el soporte oficial del controlador para Linux aquí. Este es un anuncio en curso que se actualizará periódicamente por los desarrolladores de NVIDIA: https://forums.developer.nvidia.com/t/unix-graphics-feature-deprecation-schedule/60588