vLLM 源码解读

[QingyaFan]

我们从vLLM 项目的 CONTRIBUTING.md 来看从哪里入手，这个文档把我们指向了 vLLM 的文档，文档里有两部分适合深入理解：Design 和 For Developers。

Design
-- Architecture Overview
-- Intergration with Huggingface
-- vLLM's Plugin System
-- Input Processing
-- vLLM Paged Attention
-- Multi-Modality
-- Python Multiprocessing

For Developers
-- Contributing to vLLM
-- Profiling vLLM
-- Dockerfile

要读源码来更深入了解一个项目的各种细节，就得从设计开始，否则读源码就成了无头苍蝇。

Design

设计的一个重要入口就是整体架构。

Architecture Overview

https://docs.vllm.ai/en/stable/design/arch_overview.html