版本更新:

1、框架模型更新:

• 将大部分GNN模型底层消息传递机制更新为 paddle.geometric 调用方式。
• 新增 UVA 图存储,UVA方式可以支持将图结构存储在CPU内存中,但仍可以通过GPU设备进行访问。
• 新增 BernNet、ChebNetII、FAGCN、GATv2、GPRGNN模型。

2、工具库更新:

• 新增超大规模GPU图表示学习训练引擎PGLBox,具备低成本、高性能、高稳定、灵活易用的全面优势。通过异构层次化存储技术,突破了显存瓶颈,单机即可支持百亿节点、数百亿边的图采样和训练,可用于快速搭建基于GNN的推荐系统、用户画像、图检索系统。(详情请参考这里)

1. Fix workflows for automatic build pgl in some linux enviroments.

版本小更新:

• 修复与paddlepaddle一些依赖上的冲突。

版本小更新

• 修改了框架动静图切换in_dygraph_mode的逻辑,兼容Paddle 2.3版本

1、发布Graph4Rec:一个用于推荐系统的通用大规模分布式图表示学习工具包(详情请参考这里)。

• 全面丰富: 预置丰富的图模型,包括walk-based和GNN-based 模型。
• 灵活易用:配置即模型,无需改动代码,一键即可启动单机和多机训练。
• 大规模: 大规模参数服务与图引擎无缝结合,可进行工业级图表示学习训练,实现应用落地。

2、发布Graph4KG:一个用于大规模知识图谱表示学习的工具包(详情请参考这里)。

• 异步数据读取:数据读取与模型训练异步进行,节省数据IO时间。
• 异构存储与计算:实体和关系参数存储在CPU,模型计算在GPU,节省显存占用。
• 异步梯度更新:GPU到CPU的梯度更新异步执行,进一步提升训练速度。
• OGB-LSC支持:提供了WikiKG90M数据集在KDD CUP2021中的解决方案。

3、发布GNNAutoScale:一个用于图学习异构设备训练的工具包(详情请参考这里)。

• GNN模型自动拓展:采样中间隐态CPU缓存技术,支持GNN模型自动拓展。
• 解决IO瓶颈:支持CUDA Stream异步读写,实现计算和IO操作并行化。
• 速度提升显著:支持消息传递Spmm化,大幅度提升图学习的显存利用和训练速度。
• 提高数据生成效率:Dataloader数据缓存策略,提高数据生成效率。

4、新特性

• 新增 pgl.partition图分片方法,包含random_partition和metis_partition,其中metis_partition暂不支持 Windows系统;
• 新增pgl.utils.transform,包含一些方便的图转换API,如to_undirected用于转无向图,add_self_loops用于给图增加自环边;
• 新增pgl.utils.stream_pool,支持 CUDA Stream异步读写;
• 新增 pgl.utils.shared_embedding,支持MMAP模式的共享 Embedding。

5、Bug修复

• 修复 DistGPUGraph无法在 PaddlePaddle版本大于2.0.0正确运行的 Bug;
• 修复 Dataloader在 num_workers 大于1时,不支持python3.8 mac os环境下正确运行的 Bug;

1. PGL全面支持Paddle 2.0动态图
2. 新增动态图模式的异构图建图, 支持异构图metapath采样与消息传递双机制, 详情请参考这里
3. 新增实验性的DistGPUGraph,利用NCCL通讯实现多卡FullBatch神经网络训练,更多的示例可见此
4. 全面更新动态图文档, 接口更加简洁, 使用更加方便. 详细文档可参考这里

• (重要更新)基于Paddle 2.0rc对PGL进行重构,依赖Segment系列OP构建动态图版本的PGL,在保证效率的同时,大大提升了易用性。注意!!本升级为不兼容升级,静态图版本PGL(<1.3)将处于不升级维护状态;
• 统一了旧版Graph、MultiGraph与GraphWrapper的概念为Graph,新增动态图PGL全新文档;
• 新增动态图版本PGL Model Zoo,支持Deepwalk、GCN、GAT、SGC、APPNP、GraphSage、GIN、GCNII等8个模型,并支持分布式能力。更多模型将会在后续版本发布;
• 新增DataLoader支持多进程图采样能力;
• 新增图神经网络7日打卡营课程资料;

• 发布业界首个结合语义信息与结构信息的图神经网络模型ERNIESage
• 新增PGL-KE,目前PGL涵盖游走类、消息传递类以及知识嵌入类等25+图学习模型
• 新增Graph Batch、Graph Pooling等Graph类操作算子
• 全面支持Open Graph Benchmark基准测试集
• Model Zoo新增ERNIESage、MetaPath2Vec++、Mulit-MetaPath2Vec++、STGCN、GIN、PinSage模型

发布飞桨图学习框架PGL v1.0正式版:

1. 易用性:新增异构图的Metapath采样与Message Passing消息传递双机制,支持包含多种类型节点和边特征的异构图建模,新增Metapath2vec、GATNE等异构图算法。同时,文档、API、Tutorial等材料也进一步完善。
2. 规模性:新增分布式图引擎和分布式Embedding,可支持十亿节点百亿边的超巨图的多种分布式训练模式。新增distributed deepwalk和distributed graphSage两个分布式样例。
3. 丰富性:新增8个、累计13个图学习模型,涵盖了图神经网络和图表征学习的主流模型。新增的8个模型分别是LINE、struc2vec、metapath2vec、GES、GATNE、SGC、Unsup-GraphSage、DGI。
4. 更新首页README。

图学习框架PGL(Paddle Graph Learning)preview版本
• 正式发布基于PaddlePaddle的图学习框架PGL,提供基于游走(Walk Based)以及消息传递(Message Passing)两种计算范式去搭建最前沿的图学习算法,如图表征学习、图神经网络等。PGL充分利用Paddle LoD Tensor特性大幅提升Message-Passing范式中信息聚合效率,兼顾了灵活性和高效性。
• 新增基于PGL复现的GCN、GAT,在多个数据集达到SOTA水平。
• 新增基于大规模子图采样模型Graphsage模型,单机可支持5千万节点、20亿条边的巨图。
• 新增node2vec,deepwalk等图表征学习方法,达到SOTA水平。
• 新增PGL文档、API、tutorial等易用性材料。