Myself
  • 1.Python历史
  • 2.安装Python
    • 2.1.Python解释器
  • 3.第一个Python程序
    • 3.1.使用文本编辑器
    • 3.2.输入和输出
  • 4.Python基础
    • 4.1.数据类型和变量
    • 4.2.字符串和编码
    • 4.3.使用list和tuple
    • 4.4.条件判断
    • 4.5.模式匹配
    • 4.6.循环
    • 4.7.使用dict和set
  • 5.函数
    • 5.1.调用函数
    • 5.2.定义函数
    • 5.3.函数的参数
    • 5.4.递归函数
  • 6.高级特性
    • 6.1.切片
    • 6.2.迭代
    • 6.3.列表生成式
    • 6.4.生成器
    • 6.5.迭代器
  • 7.函数式编程
    • 7.1.高阶函数
      • 7.1.1.map/reduce
      • 7.1.2.filter
      • 7.1.3.sorted
    • 7.2.返回函数
    • 7.3.匿名函数
    • 7.4.装饰器
    • 7.5.偏函数
  • 8.模块
    • 8.1.使用模块
    • 8.2.安装第三方模块

搜索结果

没有相关内容~~

7.1.1.map/reduce

最新修改于 2025-08-07 17:01
Python内建了 `map()`和 `reduce()`函数。 如果你读过Google的那篇大名鼎鼎的论文“[MapReduce: Simplified Data Processing on Large Clusters](https://research.google/pubs/mapreduce-simplified-data-processing-on-large-clusters/)”,你就能大概明白map/reduce的概念。 我们先看map。`map()`函数接收两个参数,一个是函数,一个是 `Iterable`,`map`将传入的函数依次作用到序列的每个元素,并把结果作为新的 `Iterator`返回。 举例说明,比如我们有一个函数f(x)=x^2^,要把这个函数作用在一个list `[1, 2, 3, 4, 5, 6, 7, 8, 9]`上,就可以用 `map()`实现如下: ``` f(x) = x * x │ │ ┌───┬───┬───┬───┼───┬───┬───┬───┐ │ │ │ │ │ │ │ │ │ ▼ ▼ ▼ ▼ ▼ ▼ ▼ ▼ ▼ [ 1 2 3 4 5 6 7 8 9 ] │ │ │ │ │ │ │ │ │ │ │ │ │ │ │ │ │ │ ▼ ▼ ▼ ▼ ▼ ▼ ▼ ▼ ▼ [ 1 4 9 16 25 36 49 64 81 ] ``` 现在,我们用Python代码实现: ```plain >>> def f(x): ... return x * x ... >>> r = map(f, [1, 2, 3, 4, 5, 6, 7, 8, 9]) >>> list(r) [1, 4, 9, 16, 25, 36, 49, 64, 81] ``` []( "复制到剪贴板") `map()`传入的第一个参数是 `f`,即函数对象本身。由于结果 `r`是一个 `Iterator`,`Iterator`是惰性序列,因此通过 `list()`函数让它把整个序列都计算出来并返回一个list。 你可能会想,不需要 `map()`函数,写一个循环,也可以计算出结果: ```python L = [] for n in [1, 2, 3, 4, 5, 6, 7, 8, 9]: L.append(f(n)) print(L) ``` []( "复制到剪贴板") 的确可以,但是,从上面的循环代码,能一眼看明白“把f(x)作用在list的每一个元素并把结果生成一个新的list”吗? 所以,`map()`作为高阶函数,事实上它把运算规则抽象了,因此,我们不但可以计算简单的f(x)=x^2^,还可以计算任意复杂的函数,比如,把这个list所有数字转为字符串: ```plain >>> list(map(str, [1, 2, 3, 4, 5, 6, 7, 8, 9])) ['1', '2', '3', '4', '5', '6', '7', '8', '9'] ``` []( "复制到剪贴板") 只需要一行代码。 再看 `reduce`的用法。`reduce`把一个函数作用在一个序列 `[x1, x2, x3, ...]`上,这个函数必须接收两个参数,`reduce`把结果继续和序列的下一个元素做累积计算,其效果就是: ```python reduce(f, [x1, x2, x3, x4]) = f(f(f(x1, x2), x3), x4) ``` []( "复制到剪贴板") 比方说对一个序列求和,就可以用 `reduce`实现: ```plain >>> from functools import reduce >>> def add(x, y): ... return x + y ... >>> reduce(add, [1, 3, 5, 7, 9]) 25 ``` []( "复制到剪贴板") 当然求和运算可以直接用Python内建函数 `sum()`,没必要动用 `reduce`。 但是如果要把序列 `[1, 3, 5, 7, 9]`变换成整数 `13579`,`reduce`就可以派上用场: ```plain >>> from functools import reduce >>> def fn(x, y): ... return x * 10 + y ... >>> reduce(fn, [1, 3, 5, 7, 9]) 13579 ``` []( "复制到剪贴板") 这个例子本身没多大用处,但是,如果考虑到字符串 `str`也是一个序列,对上面的例子稍加改动,配合 `map()`,我们就可以写出把 `str`转换为 `int`的函数: ```plain >>> from functools import reduce >>> def fn(x, y): ... return x * 10 + y ... >>> def char2num(s): ... digits = {'0': 0, '1': 1, '2': 2, '3': 3, '4': 4, '5': 5, '6': 6, '7': 7, '8': 8, '9': 9} ... return digits[s] ... >>> reduce(fn, map(char2num, '13579')) 13579 ``` []( "复制到剪贴板") 整理成一个 `str2int`的函数就是: ```python from functools import reduce DIGITS = {'0': 0, '1': 1, '2': 2, '3': 3, '4': 4, '5': 5, '6': 6, '7': 7, '8': 8, '9': 9} def str2int(s): def fn(x, y): return x * 10 + y def char2num(s): return DIGITS[s] return reduce(fn, map(char2num, s)) ``` []( "复制到剪贴板") 还可以用lambda函数进一步简化成: ```python from functools import reduce DIGITS = {'0': 0, '1': 1, '2': 2, '3': 3, '4': 4, '5': 5, '6': 6, '7': 7, '8': 8, '9': 9} def char2num(s): return DIGITS[s] def str2int(s): return reduce(lambda x, y: x * 10 + y, map(char2num, s)) ``` []( "复制到剪贴板") 也就是说,假设Python没有提供 `int()`函数,你完全可以自己写一个把字符串转化为整数的函数,而且只需要几行代码! [lambda函数](https://liaoxuefeng.com/books/python/functional/lambda/index.html)的用法在后面介绍。 ### 练习 利用 `map()`函数,把用户输入的不规范的英文名字,变为首字母大写,其他小写的规范名字。输入:`['adam', 'LISA', 'barT']`,输出:`['Adam', 'Lisa', 'Bart']`: ```python def normalize(name): pass # 测试: L1 = ['adam', 'LISA', 'barT'] L2 = list(map(normalize, L1)) print(L2) ``` []( "复制到剪贴板") Python提供的 `sum()`函数可以接受一个list并求和,请编写一个 `prod()`函数,可以接受一个list并利用 `reduce()`求积: ```python from functools import reduce def prod(L): pass print('3 * 5 * 7 * 9 =', prod([3, 5, 7, 9])) if prod([3, 5, 7, 9]) == 945: print('测试成功!') else: print('测试失败!') ``` []( "复制到剪贴板") 利用 `map`和 `reduce`编写一个 `str2float`函数,把字符串 `'123.456'`转换成浮点数 `123.456`: ```python from functools import reduce def str2float(s): pass print('str2float(\'123.456\') =', str2float('123.456')) if abs(str2float('123.456') - 123.456) < 0.00001: print('测试成功!') else: print('测试失败!') ``` []( "复制到剪贴板") ### 参考代码 [do\_map.py](https://liaoxuefeng.com/books/python/functional/higher-order-function/map-reduce/do_map.py) [do\_reduce.py](https://liaoxuefeng.com/books/python/functional/higher-order-function/map-reduce/do_reduce.py) ### 小结 `map`用于将一个函数作用于一个序列,以此得到另一个序列; `reduce`用于将一个函数依次作用于上次计算的结果和序列的下一个元素,以此得到最终结果。
开始访问