无处不在的缓存，究竟有何作用？

从廉价笔记本电脑到价值一百万美元的服务器，任何一台计算机中CPU都有一个叫做“缓存”的东西。当然缓存的级别往往有所不同。

缓存很重要，不然也不会无处不在。但是缓存到底有什么作用，为什么是不同级别的呢？

而且 12 路路组相连到底意味着什么？

缓存到底是什么？

TL 和 DR 很小，但却非常快并位于CPU的逻辑单元旁边。当然，我们需要了解更多有关缓存的信息。

让我们从一个虚构的，神奇的存储系统开始说起。这个存储系统速度极快，可以一次处理无限的数据，并始终保持数据安全。对它来说甚至不存在任何需要远程操作的东西，但是如果的确存在，处理器的设计将更加简单。CPU仅需要具有用于加法，乘法等的逻辑单元，以及用于处理数据传输的系统。这是因为我们的理论存储系统可以立即发送和接收所需的所有编号；没有一个逻辑单元会等待数据处理。

但是，众所周知，实际上不存在任何上述魔术般的存储技术。反之，我们拥有硬盘驱动器或固态驱动器，即使其中最好的驱动器也无法远程处理典型 CPU 所需的所有数据传输。原因在于，现代 CPU 的运行速度非常快 - 它们仅需一个时钟周期即可将两个 64 位整数值相加，而对于以 4 GHz 运行的 CPU，则仅为 0.00000000025 秒或四分之一纳秒。同时，旋转硬盘驱动器仅需数千纳秒即可在内部磁盘上查找数据，更不用说传输数据了，而固态驱动器仍需数十或数百纳秒。

显然，此类驱动器无法内置在处理器中，因此这意味着两者之间将存在物理隔离。这只会增加数据移动的时间，使情况变得更糟。因此，我们需要的是另一个数据存储系统，它位于处理器和主存储之间。它需要比驱动器更快的速度，能够同时处理大量数据传输，并且离处理器更近一些。

如今它已成为现实，叫做RAM。每个计算机系统都有一些用于上述目的的装置。而几乎所有这类存储都是 DRAM（动态随机存取存储器），它能够比任何驱动器更快地传输数据。但是，尽管 DRAM速度极快，但它无法存储尽可能多的数据。

美光公司是 DRAM 的少数制造商之一，其中一些最大的 DDR4 存储器芯片可容纳 32 Gbit 或 4 GB 数据。最大的硬盘驱动器的容量是此容量的 4000 倍。因此，尽管我们提高了数据网络的速度，但仍需要附加系统（硬件和软件），以便确定应将哪些数据保留在有限数量的 DRAM 中，以备 CPU 使用。或者至少可以将 DRAM 置于芯片封装中（称为嵌入式 DRAM）。不过，CPU 很小，所以您不能在其中塞太多。

绝大多数 DRAM 位于处理器旁边（插入主板）。在计算机系统中，它始终是最接近 CPU 的组件。然而，这还是不够快。DRAM 仍需要约 100 纳秒的时间才能找到数据，但至少每秒可以传输数十亿比特。看来我们需要另一级存储器，才能进入处理器单元和 DRAM 之间。

左级输入：SRAM（静态随机存取存储器）。在 DRAM 使用微观电容器以电荷形式存储数据的情况下，SRAM 使用晶体管做同样的事情，并且它们的工作速度几乎与处理器中的逻辑单元一样快（大约比 DRAM 快 10 倍）。

当然，SRAM 有一个缺点，那就是空间。

基于晶体管的内存比 DRAM 占用更多的空间：对于相同大小的 4 GB DDR4 芯片，您将获得不到 100 MB 的 SRAM。但是，由于它是通过与创建 CPU 相同的过程制成的，因此 SRAM 可以直接在处理器内部构建，并尽可能靠近逻辑单元。每增加一个环节，我们就增加了数据移动的速度，从而增加了存储量。我们可以继续添加更多的环节，每个环节更快但简洁。

因此，我们对高速缓存下了一个更为专业的定义：它是全部位于处理器内部的多个 SRAM 块，通过以超快的速度发送和存储数据来确保逻辑单元保持尽可能繁忙。

对这个定义满意吗？很好 - 因为从现在开始它将变得更加复杂！

高速缓存：多层停车场

如上所述，需要缓存是因为没有一种神奇的存储系统可以满足处理器中逻辑单元的数据需求。现代的 CPU 和图形处理器包含许多 SRAM 块，这些 SRAM 块在内部组织成一个层次结构，即一系列高速缓存，其顺序如下：

在上图中，CPU 由黑色虚线矩形表示。ALU（算术逻辑单元）在最左边；这些是为处理器提供动力，处理芯片运算能力的结构。从专业角度来讲，它不是缓存，而最接近 ALU 的内存级别是寄存器（它们组合在一起成为一个寄存器文件）。

其中的每一个都拥有一个数字，例如 64 位整数。该值本身可能是有关某物的一条数据，一条特定指令的代码或某些其他数据的内存地址。

台式机 CPU 中的寄存器文件非常小 - 例如，在 Intel 的 Core i9-9900K 中，每个内核中有两个存储区，而一个整数存储区仅包含 180 个 64 位寄存器。另一个寄存器文件，用于向量（数字的小数组），具有 168 个 256 位条目。因此，每个内核的总寄存器文件略低于 7 kB。相比之下，Nvidia GeForce RTX 2080 Ti 的流式多处理器（GPU 等效于 CPU 内核）中的寄存器文件大小为 256 kB。

寄存器是 SRAM，就像高速缓存一样，但是它们和它们所服务的 ALU 一样快，可以在一个时钟周期内输入和输出数据。但是它们的设计并不是要容纳太多数据（仅存储其中的一部分），这就是为什么附近总是存在一些更大的内存块的原因：这是 1 级缓存。

上图是英特尔 Skylake 台式机处理器设计的单核的放大照片。

可以在最左侧看到 ALU 和寄存器文件（以绿色突出显示）。图片的顶部中间是白色的 1 级数据缓存。它容纳的信息并不多，仅为 32 kB，但是与寄存器一样，它非常靠近逻辑单元，并以与它们相同的速度运行。

（编辑：ASP站长网）