高阶函数

高阶函数英文叫Higher-order function。什么是高阶函数？我们以实际代码为例子，一步一步深入概念。 ### 变量可以指向函数 以Python内置的求绝对值的函数`abs()`为例，调用该函数用以下代码： ~~~ >>> abs(-10) 10 ~~~ 但是，如果只写`abs`呢？ ~~~ >>> abs <built-in function abs> ~~~ 可见，`abs(-10)`是函数调用，而`abs`是函数本身。 要获得函数调用结果，我们可以把结果赋值给变量： ~~~ >>> x = abs(-10) >>> x 10 ~~~ 但是，如果把函数本身赋值给变量呢？ ~~~ >>> f = abs >>> f <built-in function abs> ~~~ 结论：函数本身也可以赋值给变量，即：变量可以指向函数。 如果一个变量指向了一个函数，那么，可否通过该变量来调用这个函数？用代码验证一下： ~~~ >>> f = abs >>> f(-10) 10 ~~~ 成功！说明变量`f`现在已经指向了`abs`函数本身。直接调用`abs()`函数和调用变量`f()`完全相同。 ### 函数名也是变量 那么函数名是什么呢？函数名其实就是指向函数的变量！对于`abs()`这个函数，完全可以把函数名`abs`看成变量，它指向一个可以计算绝对值的函数！ 如果把`abs`指向其他对象，会有什么情况发生？ ~~~ >>> abs = 10 >>> abs(-10) Traceback (most recent call last): File "<stdin>", line 1, in <module> TypeError: 'int' object is not callable ~~~ 把`abs`指向`10`后，就无法通过`abs(-10)`调用该函数了！因为`abs`这个变量已经不指向求绝对值函数而是指向一个整数`10`！ 当然实际代码绝对不能这么写，这里是为了说明函数名也是变量。要恢复`abs`函数，请重启Python交互环境。 注：由于`abs`函数实际上是定义在`__builtin__`模块中的，所以要让修改`abs`变量的指向在其它模块也生效，要用`__builtin__.abs = 10`。 ### 传入函数 既然变量可以指向函数，函数的参数能接收变量，那么一个函数就可以接收另一个函数作为参数，这种函数就称之为高阶函数。 一个最简单的高阶函数： ~~~ def add(x, y, f): return f(x) + f(y) ~~~ 当我们调用`add(-5, 6, abs)`时，参数`x`，`y`和`f`分别接收`-5`，`6`和`abs`，根据函数定义，我们可以推导计算过程为： ~~~ x = -5 y = 6 f = abs f(x) + f(y) ==> abs(-5) + abs(6) ==> 11 return 11 ~~~ 用代码验证一下： ~~~ >>> add(-5, 6, abs) 11 ~~~ 编写高阶函数，就是让函数的参数能够接收别的函数。 ### 小结 把函数作为参数传入，这样的函数称为高阶函数，函数式编程就是指这种高度抽象的编程范式。 Python内建了`map()`和`reduce()`函数。 如果你读过Google的那篇大名鼎鼎的论文“[MapReduce: Simplified Data Processing on Large Clusters](http://research.google.com/archive/mapreduce.html)”，你就能大概明白map/reduce的概念。 我们先看map。`map()`函数接收两个参数，一个是函数，一个是`Iterable`，`map`将传入的函数依次作用到序列的每个元素，并把结果作为新的`Iterator`返回。 举例说明，比如我们有一个函数f(x)=x2，要把这个函数作用在一个list `[1, 2, 3, 4, 5, 6, 7, 8, 9]`上，就可以用`map()`实现如下：  现在，我们用Python代码实现： ~~~ >>> def f(x): ... return x * x ... >>> r = map(f, [1, 2, 3, 4, 5, 6, 7, 8, 9]) >>> list(r) [1, 4, 9, 16, 25, 36, 49, 64, 81] ~~~ `map()`传入的第一个参数是`f`，即函数对象本身。由于结果`r`是一个`Iterator`，`Iterator`是惰性序列，因此通过`list()`函数让它把整个序列都计算出来并返回一个list。 你可能会想，不需要`map()`函数，写一个循环，也可以计算出结果： ~~~ L = [] for n in [1, 2, 3, 4, 5, 6, 7, 8, 9]: L.append(f(n)) print(L) ~~~ 的确可以，但是，从上面的循环代码，能一眼看明白“把f(x)作用在list的每一个元素并把结果生成一个新的list”吗？ 所以，`map()`作为高阶函数，事实上它把运算规则抽象了，因此，我们不但可以计算简单的f(x)=x2，还可以计算任意复杂的函数，比如，把这个list所有数字转为字符串： ~~~ >>> list(map(str, [1, 2, 3, 4, 5, 6, 7, 8, 9])) ['1', '2', '3', '4', '5', '6', '7', '8', '9'] ~~~ 只需要一行代码。 再看`reduce`的用法。`reduce`把一个函数作用在一个序列`[x1, x2, x3, ...]`上，这个函数必须接收两个参数，`reduce`把结果继续和序列的下一个元素做累积计算，其效果就是： ~~~ reduce(f, [x1, x2, x3, x4]) = f(f(f(x1, x2), x3), x4) ~~~ 比方说对一个序列求和，就可以用`reduce`实现： ~~~ >>> from functools import reduce >>> def add(x, y): ... return x + y ... >>> reduce(add, [1, 3, 5, 7, 9]) 25 ~~~ 当然求和运算可以直接用Python内建函数`sum()`，没必要动用`reduce`。 但是如果要把序列`[1, 3, 5, 7, 9]`变换成整数`13579`，`reduce`就可以派上用场： ~~~ >>> from functools import reduce >>> def fn(x, y): ... return x * 10 + y ... >>> reduce(fn, [1, 3, 5, 7, 9]) 13579 ~~~ 这个例子本身没多大用处，但是，如果考虑到字符串`str`也是一个序列，对上面的例子稍加改动，配合`map()`，我们就可以写出把`str`转换为`int`的函数： ~~~ >>> from functools import reduce >>> def fn(x, y): ... return x * 10 + y ... >>> def char2num(s): ... return {'0': 0, '1': 1, '2': 2, '3': 3, '4': 4, '5': 5, '6': 6, '7': 7, '8': 8, '9': 9}[s] ... >>> reduce(fn, map(char2num, '13579')) 13579 ~~~ 整理成一个`str2int`的函数就是： ~~~ from functools import reduce def str2int(s): def fn(x, y): return x * 10 + y def char2num(s): return {'0': 0, '1': 1, '2': 2, '3': 3, '4': 4, '5': 5, '6': 6, '7': 7, '8': 8, '9': 9}[s] return reduce(fn, map(char2num, s)) ~~~ 还可以用lambda函数进一步简化成： ~~~ from functools import reduce def char2num(s): return {'0': 0, '1': 1, '2': 2, '3': 3, '4': 4, '5': 5, '6': 6, '7': 7, '8': 8, '9': 9}[s] def str2int(s): return reduce(lambda x, y: x * 10 + y, map(char2num, s)) ~~~ 也就是说，假设Python没有提供`int()`函数，你完全可以自己写一个把字符串转化为整数的函数，而且只需要几行代码！ lambda函数的用法在后面介绍。 ### 练习 利用`map()`函数，把用户输入的不规范的英文名字，变为首字母大写，其他小写的规范名字。输入：`['adam', 'LISA', 'barT']`，输出：`['Adam', 'Lisa', 'Bart']`： ### 参考代码 [do_map.py](https://github.com/michaelliao/learn-python3/blob/master/samples/functional/do_map.py) [do_reduce.py](https://github.com/michaelliao/learn-python3/blob/master/samples/functional/do_reduce.py) Python内建的`filter()`函数用于过滤序列。 和`map()`类似，`filter()`也接收一个函数和一个序列。和`map()`不同的时，`filter()`把传入的函数依次作用于每个元素，然后根据返回值是`True`还是`False`决定保留还是丢弃该元素。 例如，在一个list中，删掉偶数，只保留奇数，可以这么写： ~~~ def is_odd(n): return n % 2 == 1 list(filter(is_odd, [1, 2, 4, 5, 6, 9, 10, 15])) # 结果: [1, 5, 9, 15] ~~~ 把一个序列中的空字符串删掉，可以这么写： ~~~ def not_empty(s): return s and s.strip() list(filter(not_empty, ['A', '', 'B', None, 'C', ' '])) # 结果: ['A', 'B', 'C'] ~~~ 可见用`filter()`这个高阶函数，关键在于正确实现一个“筛选”函数。 注意到`filter()`函数返回的是一个`Iterator`，也就是一个惰性序列，所以要强迫`filter()`完成计算结果，需要用`list()`函数获得所有结果并返回list。 ### 用filter求素数 计算[素数](http://baike.baidu.com/view/10626.htm)的一个方法是[埃氏筛法](http://baike.baidu.com/view/3784258.htm)，它的算法理解起来非常简单： 首先，列出从`2`开始的所有自然数，构造一个序列： 2, 3, 4, 5, 6, 7, 8, 9, 10, 11, 12, 13, 14, 15, 16, 17, 18, 19, 20, ... 取序列的第一个数`2`，它一定是素数，然后用`2`把序列的`2`的倍数筛掉： 3, ~~4~~, 5, ~~6~~, 7, ~~8~~, 9, ~~10~~, 11, ~~12~~, 13, ~~14~~, 15, ~~16~~, 17, ~~18~~, 19, ~~20~~, ... 取新序列的第一个数`3`，它一定是素数，然后用`3`把序列的`3`的倍数筛掉： 5, ~~6~~, 7, ~~8~~, ~~9~~, ~~10~~, 11, ~~12~~, 13, ~~14~~, ~~15~~, ~~16~~, 17, ~~18~~, 19, ~~20~~, ... 取新序列的第一个数`5`，然后用`5`把序列的`5`的倍数筛掉： 7, ~~8~~, ~~9~~, ~~10~~, 11, ~~12~~, 13, ~~14~~, ~~15~~, ~~16~~, 17, ~~18~~, 19, ~~20~~, ... 不断筛下去，就可以得到所有的素数。 用Python来实现这个算法，可以先构造一个从`3`开始的奇数序列： ~~~ def _odd_iter(): n = 1 while True: n = n + 2 yield n ~~~ 注意这是一个生成器，并且是一个无限序列。 然后定义一个筛选函数： ~~~ def _not_divisible(n): return lambda x: x % n > 0 ~~~ 最后，定义一个生成器，不断返回下一个素数： ~~~ def primes(): yield 2 it = _odd_iter() # 初始序列 while True: n = next(it) # 返回序列的第一个数 yield n it = filter(_not_divisible(n), it) # 构造新序列 ~~~ 这个生成器先返回第一个素数`2`，然后，利用`filter()`不断产生筛选后的新的序列。 由于`primes()`也是一个无限序列，所以调用时需要设置一个退出循环的条件： ~~~ # 打印1000以内的素数: for n in primes(): if n < 1000: print(n) else: break ~~~ 注意到`Iterator`是惰性计算的序列，所以我们可以用Python表示“全体自然数”，“全体素数”这样的序列，而代码非常简洁。 ### 小结 `filter()`的作用是从一个序列中筛出符合条件的元素。由于`filter()`使用了惰性计算，所以只有在取`filter()`结果的时候，才会真正筛选并每次返回下一个筛出的元素。 ### 参考源码 [do_filter.py](https://github.com/michaelliao/learn-python3/blob/master/samples/functional/do_filter.py) [prime_numbers.py](https://github.com/michaelliao/learn-python3/blob/master/samples/functional/prime_numbers.py) ### 排序算法 排序也是在程序中经常用到的算法。无论使用冒泡排序还是快速排序，排序的核心是比较两个元素的大小。如果是数字，我们可以直接比较，但如果是字符串或者两个dict呢？直接比较数学上的大小是没有意义的，因此，比较的过程必须通过函数抽象出来。通常规定，对于两个元素`x`和`y`，如果认为`x y`，则返回`1`，这样，排序算法就不用关心具体的比较过程，而是根据比较结果直接排序。 Python内置的`sorted()`函数就可以对list进行排序： ~~~ >>> sorted([36, 5, -12, 9, -21]) [-21, -12, 5, 9, 36] ~~~ 此外，`sorted()`函数也是一个高阶函数，它还可以接收一个`key`函数来实现自定义的排序，例如按绝对值大小排序： ~~~ >>> sorted([36, 5, -12, 9, -21], key=abs) [5, 9, -12, -21, 36] ~~~ key指定的函数将作用于list的每一个元素上，并根据key函数返回的结果进行排序。对比原始的list和经过`key=abs`处理过的list： ~~~ list = [36, 5, -12, 9, -21] keys = [36, 5, 12, 9, 21] ~~~ 然后`sorted()`函数按照keys进行排序，并按照对应关系返回list相应的元素： ~~~ keys排序结果 => [5, 9, 12, 21, 36] | | | | | 最终结果 => [5, 9, -12, -21, 36] ~~~ 我们再看一个字符串排序的例子： ~~~ >>> sorted(['bob', 'about', 'Zoo', 'Credit']) ['Credit', 'Zoo', 'about', 'bob'] ~~~ 默认情况下，对字符串排序，是按照ASCII的大小比较的，由于`'Z' < 'a'`，结果，大写字母`Z`会排在小写字母`a`的前面。 现在，我们提出排序应该忽略大小写，按照字母序排序。要实现这个算法，不必对现有代码大加改动，只要我们能用一个key函数把字符串映射为忽略大小写排序即可。忽略大小写来比较两个字符串，实际上就是先把字符串都变成大写（或者都变成小写），再比较。 这样，我们给`sorted`传入key函数，即可实现忽略大小写的排序： ~~~ >>> sorted(['bob', 'about', 'Zoo', 'Credit'], key=str.lower) ['about', 'bob', 'Credit', 'Zoo'] ~~~ 要进行反向排序，不必改动key函数，可以传入第三个参数`reverse=True`： ~~~ >>> sorted(['bob', 'about', 'Zoo', 'Credit'], key=str.lower, reverse=True) ['Zoo', 'Credit', 'bob', 'about'] ~~~ 从上述例子可以看出，高阶函数的抽象能力是非常强大的，而且，核心代码可以保持得非常简洁。 ### 小结 `sorted()`也是一个高阶函数。用`sorted()`排序的关键在于实现一个映射函数。 ### 练习 假设我们用一组tuple表示学生名字和成绩： ~~~ L = [('Bob', 75), ('Adam', 92), ('Bart', 66), ('Lisa', 88)] ~~~ 请用`sorted()`对上述列表分别按名字排序： ~~~ # -*- coding: utf-8 -*- L = [('Bob', 75), ('Adam', 92), ('Bart', 66), ('Lisa', 88)] def by_name(t): L2 = sorted(L, key=by_name) print(L2)  Run 再按成绩从高到低排序： # -*- coding: utf-8 -*- L = [('Bob', 75), ('Adam', 92), ('Bart', 66), ('Lisa', 88)] print(L2) ~~~  Run ### 参考源码 [do_sorted.py](https://github.com/michaelliao/learn-python3/blob/master/samples/functional/do_sorted.py)