人工智能之图计算
报告摘要
人工智能之图计算 Research Report of Graph Computing 总结
核心内容
图计算是一种基于图数据结构的分析技术,能够高效地处理大规模图数据。它在人工智能领域扮演着使能技术的角色,尤其在社交网络分析、语义 Web 分析、生物信息网络分析、自然语言处理等新兴领域具有重要应用价值。
图计算系统是专门针对图结构数据进行处理的系统,具有高性能、可扩展性以及容错机制等关键特征。随着图数据量的指数级增长,传统的单机处理模式和分布式大数据平台如 MapReduce、Spark 已经无法满足需求,因此可扩展的分布式图计算系统成为研究热点。
主要观点
-
图计算特征:
- 基于图抽象的数据模型,能够表达复杂的关联关系。
- 图数据模型并行抽象,支持高效的并行计算。
- 图模型系统优化,包括数据划分、负载均衡和内存管理等。
-
图计算系统分类:
- 单机内存图处理系统:如 Ligra、GraphMat、Polymer 等,适用于小规模图处理。
- 单机外存图处理系统:如 GraphChi、X-Stream、GridGraph 等,利用外存扩展图处理能力。
- 分布式内存图处理系统:如 Pregel、GraphLab、PowerGraph、GraphX、Gemini 等,支持大规模图计算。
- 分布式外存图处理系统:如 Chaos,支持万亿级边的图处理。
-
图计算面临的挑战:
- 局部性差:图结构通常不规则,影响缓存效率。
- 数据及图结构驱动的计算:图算法依赖于图结构,难以统一处理。
- 非结构化特性:图数据难以有效划分,影响存储、通信和计算的负载均衡。
- 高访存/计算比:计算过程需要多次迭代,导致高 I/O 开销。
-
图算法与框架:
- 典型图算法包括 PageRank、最短路径、社区发现等。
- 图计算框架如 Pregel、GraphLab、PowerGraph、GraphX、Gemini 等,各有其优化策略。
关键信息
图计算系统与框架
- Pregel:Google 推出的首个基于 BSP 模型的分布式图计算系统。
- GraphLab:CMU 提出的开源图计算框架,支持异步计算模型。
- PowerGraph:通过顶点复制与同步机制减少通信开销。
- GraphX:基于 Spark 的图计算框架,支持图特定优化。
- Gemini:结合单机内存与分布式内存的优点,提出双模式计算引擎。
- Chaos:分布式外存图计算系统,支持万亿级边的图处理。
高引论文
- Pregel: A System for Large-Scale Graph Processing (2010)
- Distributed GraphLab: A Framework for Machine Learning and Data Mining in the Cloud (2012)
- PowerGraph: Distributed Graph-Parallel Computation on Natural Graphs (2012)
- GraphX: Graph Processing in a Distributed Dataflow Framework (2014)
- X-Stream: Edge-Centric Graph Processing Using Streaming Partitions (2013)
- Ligra: A Lightweight Graph Processing Framework for Shared Memory (2013)
- PowerLyra: Differentiated Graph Computation and Partitioning on Skewed Graphs (2015)
- GridGraph: Large-Scale Graph Processing on a Single Machine Using 2-Level Hierarchical Partitioning (2015)
领域专家与人才分布
- 全球图计算学者分布:主要集中于北美洲,其次为亚洲和欧洲西部。
- 中国学者分布:集中在长三角、珠三角和京津冀等沿海地区,内陆学者主要分布在华北及东北地区。
- 学者迁徙情况:美国为图计算人才流动的主要地区,中国、印度等国也存在一定的迁徙。
- h-index分布:全球图计算学者的平均 h-index 为 21,其中 61.97% 的学者 h-index 低于平均值,仅 6.99% 的学者 h-index ≥ 60。
- 性别比:男性学者占比 96.31%,女性学者仅占 3.69%。
典型学者简介
- Ion Stoica:卡内基梅隆大学教授,Spark 核心作者,研究领域包括分布式系统、云计算。
- Keshav K Pingali:德克萨斯大学教授,研究并行算法与编程语言,对图计算和数据挖掘有深入研究。
- Guy E. Blelloch:卡内基梅隆大学教授,以并行算法和数据结构研究著称。
- Carlos Guestrin:华盛顿大学教授,Turi 创始人,研究机器学习与图计算。
- Christos Faloutsos:卡内基梅隆大学教授,研究数据挖掘和数据库索引。
- 陈文光:清华大学教授,研究操作系统、并行计算与图计算系统,提出 GridGraph 和“双子座”系统。
- 陈海波:上海交通大学教授,研究系统软件与图计算,参与 PowerLyra 研究。
- 武永卫:清华大学教授,研究云计算与存储系统,提出 CGSP 中间件系统。
- 代亚非:北京大学教授,研究分布式系统与图计算,主持多项国家级科研课题。
产业应用
医疗行业
- 图计算用于智能诊断,分析患者病情、药物信息及健康数据之间的关系。
- 传统 SQL 数据库难以处理这种复杂的关联查询,而图计算系统可以高效地完成。
金融行业
- 图计算用于分析金融实体之间的关系,如企业股权、客户关系等。
- 图计算能够处理动态变化的金融数据,支持实时风险分析和欺诈检测。
互联网行业
- 图计算被广泛应用于社交网络、推荐系统、广告投放等场景。
- 例如,华为的 GES 和腾讯的 星图,均在图计算领域有具体应用。
趋势研究
- 图计算技术正在与机器学习、数据挖掘等领域深度融合。
- 未来图计算的发展趋势包括分布式部署、大图分析、实时可视化等。
- 图计算在多个行业中的应用潜力巨大,有望成为智能化的重要支撑技术。
展开完整摘要
试读结束,高清完整版pdf/doc/ppt,请点下载