2024年3月27日,在计算机科学与技术学院D4-409会议室,中国计算机学会会士、互联网专委会荣誉主任、我国计算机网络学术带头人苏金树教授以《大模型计算的网络技术》为题为KB体育·(中国)官方网站师生作学术报告。副院长王靖主持了本次报告会
苏教授围绕AI大模型计算与网络技术的融合创新,重点分析了智能计算中,张量并行、型并行、数据并行,以及专家并行等模式对网络的需求,以及面向智能计算的全定制网络技术,半定制网络技术和网络优化技术。
苏教授指出,AI技术在大数据的推动下,迎来了第三次发展热潮,以大模为核心的AI技术正成为行业关注的焦点。然而,这种技术热潮也对网络提出了更高的要求,需要网络能够提供高性能、多样化的服务,以应对搜索空间缩小和计算能力增强的挑战,特别是在大规模并行处理方面的挑战。从CPU到超级计算机,算力、算法、网络、能耗和平台都面临着前所未有的问题。他强调,要充分利用网络技术,实现更高效、更智能的数据处理。
在谈到网络发展机遇时,苏教授认为开源网络操作系统和软件定义网络正在推动开放网络的形成和发展。AI大模型的到来,为网络技术带来了新的发展机遇。他提出了模型缩压、全定制网络等策略,以减少信息量、提高网络通信速度,并在网络DSN方面采用半定制网络,实现网络通信的优化。
苏教授还分享了他对网络发展的构想,特别是领域定制网络DSN的概念。他提出,在通用基础框架下,通过不同的协议构件组合、模型选择、算法调用和硬件加速,可以解决不同领域网络灵活定制和智能技术高效应用的问题。然而,这一构想也面临着诸多技术挑战,包括体系架构、功能与协议、机制与算法、高效实现等方面。苏教授表示,为了应对这些挑战,需要从多个层次展开研究,包括基础设施即代码、功能和协议模块化、机制算法实例化和场景化、流水化等。他强调,领域定制网络DSN的研究不仅需要学术界的深入探讨,也需要工业界的积极参与,共同推动网络生态的可持续发展。
这场演讲为网络技术的研究提供了新的视角和思路,引发了在场师生的热烈讨论和深入思考,并就联邦计算、标准制定等问题与苏教授进行了深入探讨。展望未来,随着AI大模型计算与网络技术的深度融合,我们有理由相信,网络技术将迎来更加广阔的发展空间,为社会的信息化进程注入新的活力。我们期待更多的科研人员能够深度参与领域定制网络DSN的技术研讨,共同推动网络技术的创新与发展。