高性能计算应用软件技术工程研究中心在计算机体系结构和高性能计算领域取得系列重要进展

时间:2022-03-15 15:14 点击:

近日,信息科学与工程学院高性能计算应用软件技术工程研究中心在计算机体系结构和高性能计算取得系列重要进展,研究成果相继被DAC-2021, HPCA-2022、ISCA2022、EuroSys 2022等会议录用。

中心课题组成果《DyGNN: Algorithm and Architecture Support of Dynamic Pruning for Graph Neural Networks》,《ReGNN: A Redundancy-Eliminated Graph Neural Networks Accelerator》被DAC-2021, HPCA-2022接收。

研究采用算法与体系结构协同设计来去除图神经网络中的冗余计算与冗余消息传递,极大的加速了图神经网络的计算并显著的降低了能耗。近年来,“图神经网络(Graph Neural Networks,GNN)”成为了人工智能的研究热点。图神经网络在图学习领域展现了其强大的图表示学习能力。课题组通过深入分析图神经网络的运行机理,发现图神经网络中的邻域消息传递算法的简单实现存在大量的通信、计算和消息传递冗余。课题组创新的提出了动态冗余消除的邻域消息传递算法和针对图神经网络的动态裁剪算法,设计了高效的体系结构来支撑动态冗余消除。通过算法与体系结构的协同设计来消除消息传递过程中的冗余通信和计算,以及冗余消息传递,可以在不损失神经网络精度的情况下,给图神经网络计算带来可观的加速比并极大的降低能耗。

课题组创新地从基于计算机硬件和软件架构设计出一种支持Oblivious RAM(ORAM)系统的高效,可靠的PS-ORAM系统架构,提出了不同的持久性协议,以确保 ORAM 系统的崩溃一致性,并满足位置图(PosMap)中的元数据在可信(trusted)/不可信(untrusted)片外持久存储到 NVM 时的安全性。所提出的体系结构和持久性协议步骤将回写过程中的开销和隐私信息泄漏降至最低。该研究成果被国际顶级会议49届The IEEE/ACM International Symposium on Computer Architecture (ISCA2022)录用。

研究表明,在本项工作中持久性ORAM (PS-ORAM)与不具有崩溃一致性支持的系统进行了比较,结果表明,在非递归和递归情况下,PS-ORAM 仅产生3.36%和3.65%的性能开销。

课题组针对多GPU系统提出了解决负载均衡问题的GPU分配、缓存和角色动态切换策略。研究成果被国际著名会议17届European Conference on Computer Systems(EuroSys 2022)录用。研制的GNNLab系统相比于现有的图神经网络训练系统能够带来2.4-74.3倍的性能提升,预采样缓存策略的命中率能够达到最优理论值的90%-99%。

高性能计算应用软件技术工程研究中心依托国家超级计算长沙中心和湖南大学信息学科的特色与优势,建立了一支由团队学科带头人李克勤教授领衔的一流研究队伍,具有完整的学术梯队和较强的人才优势。通过多学科交叉与综合集成,形成以计算机科学与技术为核心,数学、物理学、电子科学与技术、软件工程、网络空间安全等学科为基础,大数据以及人工智能等多学科的高性能计算新型研究体系。

高性能计算应用软件技术工程研究中心长期在计算机体系结构和高性能计算等计算机核心领域开展深入研究,近年来利用新型人工智能技术解决体系结构和高性能计算问题进行了一些创新性工作,为该两个领域的交叉研究提供了新的思路与方向,研究工作分别得到了国家自然科学基金和国家重点研发计划的资助。

来源:信科院

通讯员:聂承锋

实习编辑:沈政岐

责任编辑:唐思

图说湖大
  • 【组图】大雪已落 来年再约!
  • 【组图】你好,九舍!
  • 【组图】“芷兰之声”2022新年交响音乐会奏响