vLLM: temperature=NaN and temperature=Infinity bypass validation and propagate to GPU kernels
Summary
All temperature validation gates use comparison operators (<, >), which silently evaluate to False for NaN and for positive Infinity in Python's IEEE 754 float semantics. Both values pass every guard and propagate to GPU sampling kernels, where they produce undefined behavior or CUDA errors that can crash the inference worker. Note: -Infinity is correctly caught.
Root Cause
sampling_params.py:384:
if 0 < self.temperature < _MAX_TEMP: # NaN → False; +Inf → False
sampling_params.py:462:
if self.temperature < 0.0: # NaN → False; +Inf → False
raise VLLMValidationError(...)
No math.isnan() or math.isinf() check exists anywhere in sampling_params.py.
Python semantics (verified): float('nan') < 0.0 → False, float('inf') < 0.0 → False.
Impact
Crash of inference worker on GPU kernel execution with NaN/Inf softmax input, degrading service for all concurrent users.
Remediation
Add math.isfinite(self.temperature) check in _verify_args(). Reject non-finite float values with a 400 error.
Fix
A fix for this vulnerability was merged here: https://github.com/vllm-project/vllm/pull/45116
Software afectado
Haz clic en una tecnología para ver todas sus vulnerabilidades.
| Plataforma | Paquete | Versiones vulnerables | Corregida en |
|---|---|---|---|
| Python (PyPI) | vllm | >= 0.8.5, < 0.24.0 | 0.24.0 |
Referencias
- https://github.com/vllm-project/vllm/security/advisories/GHSA-7h4p-rffg-7823
- https://github.com/vllm-project/vllm/pull/45116
- https://github.com/vllm-project/vllm/commit/d598d239737cfa37bcfcb98886ec3f3557fc7198
- https://github.com/vllm-project/vllm
- https://pypi.org/project/vllm
- https://github.com/advisories/GHSA-7h4p-rffg-7823
- https://nvd.nist.gov/vuln/detail/CVE-2026-54235
- https://github.com/pypa/advisory-database/tree/main/vulns/vllm/PYSEC-2026-3405.yaml
- Vector CVSS
CVSS:3.1/AV:N/AC:L/PR:N/UI:N/S:U/C:N/I:L/A:L- Debilidad (CWE)
CWE-1287- Plataforma
- Python (PyPI)
- Paquete
vllm- Publicada
- 17.06.2026
- Actualizado
- 11.10.2026 15:17
Fuentes y licencias
OSV / GitHub Advisory Database - PYSEC-2026-3405 - PyPA Advisory Database; CC BY 4.0
OSV / GitHub Advisory Database - GHSA-7h4p-rffg-7823 - CC BY 4.0
Historial de vulnerabilidades: vllm
Todas las vulnerabilidades publicadas de este paquete (Python (PyPI)), de la más reciente a la más antigua. Muestra si es un fallo aislado o un paquete que hay que vigilar.
- Entradas en total
- 94
- Primera → última
- 09.2024 10.2026
- Sin corrección
- 5
- Explotada en ataques
- 0
Distribución por gravedad
- Crítica 9
- Alta 23
- Media 47
- Baja 4
- Sin evaluar 11
Divulgaciones por año
- 2024: 2
- 2025: 30
- 2026: 62
-
vLLM: temperature=NaN and temperature=Infinity bypass validation and propagate to GPU kernels esta entrada
Identifica las vulnerabilidades de tu aplicación
Con la integración de DockRay y el inventario de software activado, DockRay compara las versiones notificadas de los componentes con las vulnerabilidades conocidas y avisa de las coincidencias confirmadas. La cobertura depende de la tecnología compatible y de los avisos disponibles.