C++ 用于机器学习：实际能力与实践限制

面向初学者的在线Python训练器

轻松学习Python，无需理论负担。在浏览器中直接解决带自动检查的实践任务，无需安装任何东西。

开始课程

C++在机器学习中的应用：实践中的能力与局限

谈到机器学习(ML)，Python牢牢占据着"默认语言"的地位。然而，在对速度、延迟和内存控制要求苛刻的生产环境中，C++成为了不可或缺的工具。在本文中，我们将探讨C++在机器学习中的实际应用案例、其优势、局限性，并提供实用的代码示例。

在机器学习中，C++在哪些方面优于Python？

C++在原型开发阶段无法与Python竞争，但在三个关键领域中胜出：

推理（模型输出）——预测执行时间通常至关重要（实时环境中以毫秒计）。
高性能计算——处理海量数据时，Python的开销变得不可接受。
嵌入式系统——无人机、机器人、物联网设备等，这些场景根本不支持Python。

来看一个示例：使用dlib库在C++中加载并运行一个简单的神经网络。

#include <dlib/dnn.h>#include <iostream>

using namespace dlib;

int main() {    // 定义一个简单网络：输入层784 -> 隐藏层100 -> 输出层10    using net_type = loss_multiclass_log<        fc<10,         relu<fc<100,         input<matrix<float>>>>>;        net_type net;    deserialize("model.dlib") >> net;        // 创建一个测试图像（例如来自MNIST的数字7）    matrix<float> img(28, 28);    // ... 用数据填充img ...        auto prediction = net(img);    std::cout << "Predicted class: " << argmax(prediction) << std::endl;        return 0;}

这段代码加载了一个训练好的模型，并在几毫秒内完成了一次预测。类似的Python代码配合Keras运行，由于解释器开销，速度会更慢。

用于机器学习的主要C++库

与拥有scikit-learn和PyTorch的Python不同，C++提供了更专业的工具：

1. Dlib — 通用工具

包含SVM、决策树、神经网络以及著名的人脸检测器实现。主要优点是无需外部依赖且文档优秀。

2. TensorRT — 针对NVIDIA的优化

允许将TensorFlow/PyTorch模型编译成针对GPU高度优化的格式。使用示例：

#include <NvInfer.h>#include <fstream>

int main() {    // 加载.engine格式的模型    std::ifstream file("model.engine", std::ios::binary);    // ... 读取并创建执行上下文 ...    // 在GPU上执行推理    context->enqueueV2(buffers.data(), stream, nullptr);    return 0;}