C++ 中的缓存：将应用程序加速 10 倍

C++ 数据缓存：当内存比磁盘更快时

想象一下，您的 C++ 应用程序就像一位图书管理员。每次读者借书时，管理员都要跑到遥远的书库（即数据库或文件系统）。这很慢。但如果管理员开始将最热门的书籍放在自己的办公桌上（内存中），借阅速度将成倍提升。这就是 C++ 数据缓存。

今天，我们将讨论如何将您的应用程序从乌龟变成猎豹。我们不仅会讲解理论，还会编写实际代码。您将了解有哪些缓存策略，如何避免在内存操作中犯错，以及在哪里可以找到现成的解决方案，避免重复造轮子。

为什么缓存是 C++ 开发者的必备技能？

C++ 是用于高负载系统的语言。交易机器人、游戏引擎、数据库服务器——在任何对微秒级响应至关重要的场景中，缓存都是救星。没有它，您将不断受限于 I/O（输入/输出）或重复计算。

实施缓存的主要好处：

• 降低响应时间——从 RAM 读取数据比从 HDD 快 100,000 倍。
• 减轻数据库负载——请求越少，延迟越低。
• 节省计算资源——无需重新计算开销大的函数。

但也有潜在风险：内存泄漏、数据过期（stale data）以及实现不当导致的性能下降。因此，让我们按顺序逐一了解。

C++ 中的主要缓存策略

策略的选择取决于您缓存的数据类型及其变化频率。我们来探讨三种最流行的策略。

1. LRU（最近最少使用）——淘汰最久未访问的数据

这是经典策略。假设您有一个能放 10 本书的箱子。当新书到来而箱子已满时，您会扔掉那本最久未被阅读的书。LRU 缓存 C++ 的工作原理与此相同。

使用 std::list 和 std::unordered_map 的 C++ 实现：

#include <iostream>#include <list>#include <unordered_map>#include <string>

template <typename K, typename V>class LRUCache {private:    size_t capacity;    std::list<std::pair<K, V>> items;    std::unordered_map<K, typename std::list<std::pair<K, V>>::iterator> cache;

public:    LRUCache(size_t cap) : capacity(cap) {}

    V get(const K& key) {        auto it = cache.find(key);        if (it == cache.end()) {            return V(); // 如果未找到键，返回默认值        }        // 将元素移动到列表开头（最新）        items.splice(items.begin(), items, it->second);        return it->second->second;    }

    void put(const K& key, const V& value) {        auto it = cache.find(key);        if (it != cache.end()) {            // 更新现有元素            it->second->second = value;            items.splice(items.begin(), items, it->second);            return;        }

        if (cache.size() >= capacity) {            // 删除最旧的元素（列表末尾）            auto last = items.back();            cache.erase(last.first);            items.pop_back();        }

        // 在开头插入新元素        items.emplace_front(key, value);        cache[key] = items.begin();    }};

int main() {    LRUCache<std::string, int> lru(3);    lru.put("one", 1);    lru.put("two", 2);    lru.put("three", 3);    lru.get("one"); // 访问 "one" —— 它变为最新    lru.put("four", 4); // 将淘汰 "two"，因为它最久未被访问