为什么 NumPy 数组如此快？

问题描述：

由于遇到了性能问题，我刚刚将正在编写的程序改为将数据保存为 numpy 数组，效果令人难以置信。它原本需要 30 分钟才能运行，现在只需 2.5 秒！

我想知道它是如何做到的。我猜是因为它消除了for循环的需要，但除此之外我感到很困惑。

解决方案 1：

Numpy 数组是密集的同类数组。相比之下，Python 列表是指向对象的指针数组，即使它们都是同一类型。因此，您可以获得引用局部性的好处。

此外，许多 Numpy 操作都是用 C 实现的，从而避免了 Python 中循环、指针间接寻址和每个元素动态类型检查的一般成本。速度提升取决于您正在执行的操作，但在数字运算程序中，几个数量级的提升并不罕见。

解决方案 2：

numpy 数组是专门的数据结构。这意味着您不仅可以获得高效的内存表示，还可以获得高效的专门实现。

例如，如果要对两个数组求和，则将使用专门的CPU 矢量运算来执行加法，而不是在循环中调用 int 加法的 python 实现。

解决方案 3：

考虑以下代码：

import numpy as np
import time

a = np.random.rand(1000000)
b = np.random.rand(1000000)

tic = time.time()
c = np.dot(a, b)
toc = time.time()

print("Vectorised version: " + str(1000*(toc-tic)) + "ms")

c = 0
tic = time.time()
for i in range(1000000):
    c += a[i] * b[i]
toc = time.time()

print("For loop: " + str(1000*(toc-tic)) + "ms")

输出：

Vectorised version: 2.011537551879883ms
For loop: 539.8685932159424ms

这里 Numpy 的速度更快，因为它利用了并行性（单指令多数据 (SIMD) 的情况），而传统的 for 循环无法利用它。

解决方案 4：

Numpy 数组在内存中以连续的内存块形式存储，而 python 列表则以分散在内存中的小块形式存储，因此在 numpy 数组中访问内存很容易且很快，而在 python 列表中访问内存则很困难且很慢。

来源：https ://algorithmdotcpp.blogspot.com/2022/01/prove-numpy-is-faster-than-normal-list.html

解决方案 5：

Numpy 数组与“普通”数组（例如 c 中的数组）极其相似。请注意，每个元素都必须是同一类型。加速效果非常好，因为您可以利用预取功能，并且可以通过索引立即访问数组中的任何元素。

解决方案 6：

您仍然有 for 循环，但它们是在 c 中完成的。Numpy 基于 Atlas，它是一个线性代数运算库。

http://math-atlas.sourceforge.net/

当面对大型计算时，它将使用几种实现运行测试，以找出目前我们计算机上最快的实现。使用某些 numpy 构建，计算可以在多个 CPU 上并行化。因此，您将拥有在连续内存块上运行的高度优化的 c。