第1 章 数据挖掘基本概念............................... 1
1.1 数据挖掘的定义........................................... 1
1.1.1 统计建模.......................................... 1
1.1.2 机器学习.......................................... 1
1.1.3 建模的计算方法............................... 2
1.1.4 数据汇总.......................................... 2
1.1.5 特征抽取.......................................... 3
1.2 数据挖掘的统计限制................................... 4
1.2.1 整体情报预警................................... 4
1.2.2 邦弗朗尼原理................................... 4
1.2.3 邦弗朗尼原理的一个例子............... 5
1.2.4 习题.................................................. 6
1.3 相关知识...................................................... 6
1.3.1 词语在文档中的重要性................... 6
1.3.2 哈希函数.......................................... 7
1.3.3 索引.................................................. 8
1.3.4 二级存储器.................................... 10
1.3.5 自然对数的底e.............................. 10
1.3.6 幂定律............................................ 11
1.3.7 习题................................................ 12
1.4 本书概要.................................................... 13
1.5 小结............................................................ 14
1.6 参考文献.................................................... 14
第2 章 大规模文件系统及Map-
Reduce ................................................. 16
2.1 分布式文件系统......................................... 16
2.1.1 计算节点的物理结构..................... 17
2.1.2 大规模文件系统的结构................. 18
2.2 Map-Reduce................................................ 18
2.2.1 Map 任务........................................ 19
2.2.2 分组和聚合.................................... 20
2.2.3 Reduce 任务.................................... 20
2.2.4 组合器............................................ 21
2.2.5 Map-Reduce 的执行细节............... 21
2.2.6 节点失效的处理............................. 22
2.3 使用Map-Reduce 的算法.......................... 22
2.3.1 基于Map-Reduce 的矩阵—向量
乘法实现........................................ 23
2.3.2 向量v 无法放入内存时的处理..... 23
2.3.3 关系代数运算................................ 24
2.3.4 基于Map-Reduce 的选择运算...... 26
2.3.5 基于Map-Reduce 的投影运算...... 26
2.3.6 基于Map-Reduce 的并、交和差
运算................................................ 27
2.3.7 基于Map-Reduce 的自然连接
运算................................................ 27
2.3.8 一般性的连接算法......................... 28
2.3.9 基于Map-Reduce 的分组和聚合
运算................................................ 28
2.3.10 矩阵乘法...................................... 29
2.3.11 基于单步Map-Reduce 的矩阵
乘法.............................................. 29
2.3.12 习题.............................................. 30
2.4 Map-Reduce 的扩展................................... 31
2.4.1 工作流系统.................................... 31
2.4.2 Map-Reduce 的递归扩展版本....... 32
2.4.3 Pregel 系统..................................... 34
2.4.4 习题................................................ 35
2.5 集群计算算法的效率问题......................... 35
2.5.1 集群计算的通信开销模型............. 35
2.5.2 实耗通信开销................................ 36
2.5.3 多路连接........................................ 37
2.5.4 习题................................................ 40
2.6 小结............................................................ 40
2.7 参考文献.................................................... 42
第3 章 相似项发现.......................................... 44
3.1 近邻搜索的应用........................................ 44
3.1.1 集合的Jaccard 相似度................... 44
3.1.2 文档的相似度................................ 45
3.1.3 协同过滤——一个集合相似
问题................................................ 46
3.1.4 习题................................................ 47
3.2 文档的Shingling........................................ 47
3.2.1 k-Shingle ......................................... 47
3.2.2 shingle 大小的选择........................ 48
3.2.3 对shingle 进行哈希....................... 48
3.2.4 基于词的shingle ............................ 49
3.2.5 习题................................................ 49
3.3 保持相似度的集合摘要表示..................... 49
3.3.1 集合的矩阵表示............................. 50
3.3.2 最小哈希........................................ 50
3.3.3 最小哈希及Jaccard 相似度........... 51
3.3.4 最小哈希签名................................ 52
3.3.5 最小哈希签名的计算..................... 52
3.3.6 习题................................................ 54
3.4 文档的局部敏感哈希算法......................... 55
3.4.1 面向最小哈希签名的LSH............ 56
3.4.2 行条化策略的分析......................... 57
3.4.3 上述技术的综合............................. 58
3.4.4 习题................................................ 59
3.5 距离测度.................................................... 59
3.5.1 距离测度的定义............................. 59
3.5.2 欧氏距离........................................ 60
3.5.3 Jaccard 距离.................................... 60
3.5.4 余弦距离........................................ 61
3.5.5 编辑距离........................................ 62
3.5.6 海明距离........................................ 63
3.5.7 习题................................................ 63
3.6 局部敏感函数理论..................................... 64
3.6.1 局部敏感函数................................ 65
3.6.2 面向Jaccard 距离的局部敏感
函数族............................................ 66
3.6.3 局部敏感函数族的放大处理......... 66
3.6.4 习题................................................ 68
3.7 面向其他距离测度的LSH 函数族........... 68
3.7.1 面向海明距离的LSH 函数族....... 69
3.7.2 随机超平面和余弦距离................. 69
3.7.3 梗概................................................ 70
3.7.4 面向欧氏距离的LSH 函数族....... 71
3.7.5 面向欧氏空间的更多LSH
函数族............................................ 72
3.7.6 习题................................................ 72
3.8 LSH 函数的应用........................................ 73
3.8.1 实体关联........................................ 73
3.8.2 一个实体关联的例子..................... 74
3.8.3 记录匹配的验证............................. 74
3.8.4 指纹匹配........................................ 75
3.8.5 适用于指纹匹配的LSH
函数族............................................ 76
3.8.6 相似新闻报道检测......................... 77
3.8.7 习题................................................ 78
3.9 面向高相似度的方法................................. 79
3.9.1 相等项发现.................................... 79
3.9.2 集合的字符串表示方法................. 79
3.9.3 基于长度的过滤............................. 80
3.9.4 前缀索引........................................ 81
3.9.5 位置信息的使用............................. 82
3.9.6 使用位置和长度信息的索引......... 83
3.9.7 习题................................................ 85
3.10 小结.......................................................... 85
3.11 参考文献.................................................. 87
第4 章 数据流挖掘.......................................... 89
4.1 流数据模型................................................ 89
4.1.1 一个数据流管理系统..................... 89
4.1.2 流数据源的例子............................. 90
4.1.3 流查询............................................ 91
4.1.4 流处理中的若干问题..................... 92
4.2 流当中的数据抽样..................................... 92
4.2.1 一个富于启发性的例子................. 93
4.2.2 代表性样本的获取......................... 93