280 B
280 B
Optional Parameters
Optional parameters for vLLM APIs.
(sampling-params)=
Sampling Parameters
.. autoclass:: vllm.SamplingParams
:members:
(pooling-params)=
Pooling Parameters
.. autoclass:: vllm.PoolingParams
:members: