复制.env.vll.example文件并改名成为.env。 .env文件关键部分如下: # api related API_PREFIX=/v1 MAX_SEQ_LEN_TO_CAPTURE=4096 # vllm related ENGINE=vllm TRUST_REMOTE_CODE=true TOKENIZE_MODE=auto TENSOR_PARALLEL_SIZE=2 NUM_GPUs = 2 GPU_MEMORY_UTILIZATION=0.95 DTYPE=auto 执行指令python api/ser...