【CPU】CPU Cache 介紹
最後更新日期：2024年09月14日
CPU Cache（中央處理器快取） 是一種高速的臨時存儲器，用來儲存 CPU 頻繁使用的數據和指令。它旨在縮短處理器從主存（RAM）中讀取數據所需的時間，從而提高系統性能。由於 RAM 的存取速度相比 CPU 的運行速度要慢得多，因此引入 Cache 來緩解這一速度差異。
1. Cache 的工作原理
- 緩存機制：當 CPU 執行任務時，它會首先嘗試從 Cache 中獲取所需的數據。如果 Cache 中有該數據（稱為 Cache Hit），CPU 就能快速使用這些數據，避免從較慢的主存中讀取。如果 Cache 中沒有所需數據（稱為 Cache Miss），則必須從主存中檢索數據，並將這些數據存入 Cache，以備未來快速存取。
- 局部性原則：Cache 基於兩個存取模式來設計：
- 時間局部性（Temporal Locality）：如果某個數據被使用過，它可能會在短時間內再次被使用，這些數據會被暫時保留在 Cache 中。
- 空間局部性（Spatial Locality）：如果某個數據被使用過，與其地址相近的數據也可能很快會被用到，因此鄰近的數據塊也會被加載到 Cache 中。
2. Cache 等級（Levels of Cache）
CPU Cache 通常分為多個等級，每個等級的容量和速度各不相同：
- L1 Cache（Level 1 Cache）：
- 速度：最快的 Cache，直接集成在 CPU 核心內。
- 容量：容量較小，一般在 16 KB 到 128 KB 之間。
- 用途：存儲當前處理器最需要的數據和指令，通常分為兩部分：指令快取（Instruction Cache） 和 數據快取（Data Cache）。
- L2 Cache（Level 2 Cache）：
- 速度：比 L1 慢，但仍然比主存快，通常也集成在 CPU 內，但不直接在處理核心中。
- 容量：一般為 256 KB 到數 MB，比 L1 大。
- 用途：存儲更多數據，為 L1 Cache 提供支持，避免頻繁訪問主存。
- L3 Cache（Level 3 Cache）：
- 速度：比 L2 更慢，但仍比 RAM 快，通常與所有 CPU 核心共享。
- 容量：較大，通常為 數 MB 到數十 MB。
- 用途：進一步增強 CPU 的數據存取效率，作為多個 CPU 核心之間的共用 Cache。
- L4 Cache（Level 4 Cache）：
- 不常見於普通的 CPU 架構，通常出現在高性能伺服器或特殊應用的處理器中，作為更高層級的 Cache。
3. Cache 一致性與多核心
在多核心 CPU 系統中，每個核心可能有自己的 L1 和 L2 Cache，並且共享 L3 Cache。這種設計帶來了一個問題：當多個核心同時訪問和修改相同的數據時，如何確保它們的 Cache 中數據一致性？
這需要通過Cache 一致性協議（如 MESI 協議）來確保當一個核心修改了數據後，其他核心也能及時得到更新的數據。
4. Cache 對性能的影響
- 降低內存延遲：Cache 的主要目的是減少 CPU 訪問主存的延遲。相比 RAM，Cache 的存取速度快了數十甚至數百倍，這大幅減少了等待時間，從而提高了處理器的運行效率。
- 提高指令與數據預取效率：由於 Cache 提供了快速的數據訪問，CPU 可以更高效地預取數據，並減少處理器停頓的時間。
5. Cache 的替換策略
當 Cache 滿了，而新的數據需要加載時，CPU 必須決定哪個已經存在的數據塊需要被替換。這涉及到Cache 替換策略：
- LRU（Least Recently Used）：最近最少使用的數據優先被替換，基於時間局部性。
- FIFO（First In, First Out）：先進來的數據優先被替換。
- Random（隨機替換）：隨機選擇一個數據塊進行替換。
6. Cache 的挑戰
- 成本與大小平衡：Cache 使用的高速記憶體（如 SRAM）比主存（如 DRAM）昂貴得多，因此 Cache 的大小受到成本和物理空間的限制。
- Cache Miss 影響：Cache 失敗（Miss）會導致性能下降，特別是當頻繁發生 Cache Miss 時，CPU 需要反覆訪問速度較慢的主存。
總結
CPU Cache 是一種用於臨時存儲數據的高速記憶體，它能極大提高 CPU 的運行效率，減少內存訪問的延遲。Cache 通常分為多級（L1、L2、L3 等），每個級別有不同的容量與存取速度。隨著 CPU 的多核心化發展，Cache 一致性變得越來越重要，並且 Cache 的設計對系統性能有著深遠的影響。
本文由 ChatGPT 產生
