vLLM 0.33 pasa sus artefactos por defecto a CUDA 13 y suma endpoints para decisiones y embeddings

vLLM ha publicado la versión 0.33.0 con un cambio que obliga a mirar de nuevo la base de despliegue: sus ruedas e imágenes de lanzamiento pasan a CUDA 13.0 y dejan de publicarse los artefactos CUDA 12.9, incluidas las etiquetas cu129 y cu129-ubuntu2404. No es una mejora cosmética. Quien mantenga servidores de inferencia con imágenes fijadas o pipelines de construcción que dependían de CUDA 12.9 deberá comprobar compatibilidad antes de actualizar; la recomendación oficial para los artefactos estándar es usar los de CUDA 13.0.

La entrega también amplía la superficie de servicio. Según las notas oficiales, vLLM añade /v1/decisions, un endpoint compatible con OpenAI que queda activado por defecto para modelos de generación compatibles. Además, /v1/embeddings incorpora embeddings de tokens y late chunking opcional. Para los equipos que exponen un servicio de modelos detrás de una API, estas incorporaciones pueden reducir trabajo de integración, pero no sustituyen una prueba de contrato: hay que validar el comportamiento con el modelo, cliente y carga reales.

La lectura práctica de Signalia es que esta es una actualización de plataforma antes que una simple lista de modelos nuevos. La publicación mantiene artefactos para CPU, XPU, ROCm y CUDA, pero cambia el camino por defecto de NVIDIA y elimina opciones anteriores. Conviene inventariar drivers, runtime de contenedores y dependencias de PyTorch, probar una imagen de preproducción y revisar los cambios incompatibles de la versión antes de llevarla a producción. La compatibilidad de la API ayuda, pero no garantiza que un despliegue existente sea intercambiable sin pruebas.