港大新型图基础模型AnyGraph:挑战Scaling Law,精准建模多样化结构模式和特征空间
港大新型图基础模型AnyGraph:挑战Scaling Law,精准建模多样化结构模式和特征空间新型图基础模型来了—— AnyGraph,基于图混合专家(MoE)架构,专门为实现图模型跨场景泛化而生。
来自主题: AI资讯
5816 点击 2024-09-17 21:57
新型图基础模型来了—— AnyGraph,基于图混合专家(MoE)架构,专门为实现图模型跨场景泛化而生。
AnyGraph聚焦于解决图数据的核心难题,跨越多种场景、特征和数据集进行预训练。其采用混合专家模型和特征统一方法处理结构和特征异质性,通过轻量化路由机制和高效设计提升快速适应能力,且在泛化能力上符合Scaling Law。
本文的主要作者来自香港大学的数据智能实验室 (Data Intelligence Lab@HKU)。