Qué hace
La herramienta de línea de comandos y el SDK de Python para gestionar recursos de GPU en la nube de Vast.ai. Permite buscar máquinas disponibles, crear y detener instancias y ver qué está en marcha. Incluye también un cliente serverless para inferencia en endpoints.
Casos de uso
- 01Buscar ofertas de GPU por modelo y cantidad
- 02Crear una instancia a partir de una imagen Docker
- 03Detener o destruir instancias que ya no necesitas