Numpy二元运算的broadcasting机制

Numpy中有一个非常方便的特性:broadcasting。当我们对两个不同长度的numpy数组作二元计算(如相加,相乘)的时候,broadcasting就在背后默默地工作。本文我们就来介绍下numpy的broadcasting。

什么是broadcasting

我们通过一个简单的例子来认识一下broadcasting,考虑下面的代码

import numpy as np
a = np.array([0, 1, 2])
b = np.array([5, 5, 5])
c = a + b

a+b其实是把数组a和数组b中同样位置的每对元素相加。这里a和b是相同长度的数组。

那如果是不同长度的数组呢?考虑下面的情况

d = a + 5

这里就用到了broadcasting。broadcasting会把5扩展成[5, 5, 5],然后上面的代码就变成了对两个同样长度的数组相加。用图画出来,是这样的一个过程(半透明的方块表示被扩展出来的数值)

需要注意的是,broadcasting不会分配额外的内存来存取被复制的数据,这里为了描述方便作了简化。

接下来我们扩展一下上面的例子,看一下多维数组的情况

e = np.ones((3, 3))
# e is 
# array(
#   [[ 1., 1., 1.],
#    [ 1., 1., 1.],
#    [ 1., 1., 1.]])

e + a
# array([
#   [ 1., 2., 3.],
#    [ 1., 2., 3.],
#    [ 1., 2., 3.]])

这里一维数组a被扩展成了二维数组,和e的shape相同。用图的形式表示,是这样的

我们再来考虑一个更复杂的情况,需要对两个数组都做broadcasting的例子

b = np.arange(3).reshape((3, 1))
# b is
# array([
#    [0],
#    [1],
#    [2]])

b + a
# array([
#    [0, 1, 2],
#    [1, 2, 3],
#    [2, 3, 4]])

这里a和b都被扩展成相同shape的二维数组。用图的形式表示这个过程,如下

broadcasting的规则

对两个numpy数组之间的作二元计算,broadcasting须遵循一下规则:

    • 如果两个数组维数不相等,维数较低的数组的shape会从左开始填充1,直到和高维数组的维数匹配
    • 如果两个数组维数相同,但某些维度的长度不同,那么长度为1的维度会被扩展,和另一数组的同维度的长度匹配
    • 如果两个数组维数相同,但有任一维度的长度不同且不为1,则报错

我们来举例说明一下上面的规则

例1

a = np.arange(3)
b = np.ones((2, 3))

这两个数组的shape分别是

a.shape = (3,)
b.shape = (2, 3)

对这两个数组作二元计算,根据规则1,数组会被填充成

a.shape -> (1, 3)
b.shape -> (2, 3)

根据规则2,第一个维度不等,所以我们对维度作扩展

a.shape -> (2, 3)
b.shape -> (2, 3)

现在两个数组的shape一致了,可以相加得到下面的结果

a + b 
# array([
#    [ 1., 2., 3.],
#    [ 1., 2., 3.]])

例2

a = np.arange(3).reshape((3, 1))
b = np.arange(3)

两个数组的shape分别是

a.shape = (3, 1)
b.shape = (3,)

根据规则1,b的shape要被填充

a.shape -> (3, 1)
b.shape -> (1, 3)

根据规则2,维数相等,但维度内的长度不等,所以需要进一步扩展

a.shape -> (3, 3)
b.shape -> (3, 3)

现在两者shape一致了,作相加计算可以得到如下结果

a + b 
# array([
#    [0, 1, 2],
#    [1, 2, 3],
#    [2, 3, 4]])

例3

我们再来看一个broadcasting报错的例子

b = np.ones((3, 2))
a = np.arange(3)

两个数组的shape分别是

b.shape = (3, 2)
a.shape = (3,)

根据规则1,a的shape会被填充

b.shape -> (3, 2)
a.shape -> (1, 3)

根据规则2,数组a的第一个维度会被扩展

b.shape -> (3, 2)
a.shape -> (3, 3)

这里我们满足规则3的条件了,维数相等,但第二个维度的长度不等,且不为1,因此这两个数组相加会报错,如下

b + a
# output
ValueError                                Traceback (most recent call last)
<ipython-input-30-15a3d2288d92> in <module>()
----> 1 b + a
ValueError: operands could not be broadcast together with shapes (3,2) (3,) 

总结

broadcasting在numpy数组的计算中无处不在,任何二元运算的ufunc都实现了broadcasting机制。broadcasting也很方便,很多时候我们甚至感知不到它的存在,但深入地理解它背后的工作机制,可以帮助我们避开一些陷阱。