近日，，，，，，，我院黄建伟教授团队的论文“Federated Learning While Providing Model as a Service: Jointly Training and Inference Optimization”被IEEE推算机通讯国际会议IEEE International Conference on Computer Communications（INFOCOM）收录。。。。。。

会议介绍

INFOCOM（IEEE International Conference on Computer Communications）是推算机网络领域三大顶级国际会议之一，，，，，，，持久以来被中国推算机学会（CCF）推荐为A类国际学术会议。。。。。。每年由IEEE主办，，，，，，，在国际上享有盛誉并拥有宽泛的学术影响力，，，，，，，是推算机网络顶尖学者每年一度的学术盛宴。。。。。。

钻研布景

近年来，，，，，，，人为智能利用不休涌现，，，，，，，通过将模型部署在离用户更近的网络边缘节点，，，，，，，可能以散布式的方式为用户提供低时延、高质量的智能利用。。。。。。提供神经网络模型作为服务，，，，，，，性质上是通过模型推理处置用户的在线要求。。。。。。此表，，，，，，，在利用神经网络模型为用户的推理要求提供服务的同时，，，，，，，在线智能利用可能周期性地利用网络到的用户数据对模型进行升级，，，，，，，提高模型机能。。。。。。联国进建（federated learning）可能实现散布式用户之间的合作模型训练，，，，，，，同时保障用户数据不出本地。。。。。。联国进建模型训练和在客户端的散布式模型推理城市亏损推算和通讯资源。。。。。。

钻研问题

现有钻研忽视了模型升级过程中模型训练和模型推理共存的问题，，，，，，，然而，，，，，，，客户端的推算和通讯资源通常有限。。。。。。因而，，，，，，，本文重要钻研在客户端模型约束下，，，，，，，最大化客户端服务提供推理机能的联国进建模型训练和推理的结合优化问题。。。。。。

图1 结合联国进建和服务提供系统框架

钻研步骤与了局

本文提出了在线联国进建与服务提供结合优化算法（FedLS）。。。。。。针对客户端模型推理机能的数学表征较难的挑战，，，，，，，首先，，，，，，，我们推导了思考客户端部门参加模型训练和非凸损失函数的联国进建收敛率上界。。。。。。而后，，，，，，，我们界说了模型春秋来表征客户端模型相对于全局模型的新鲜度。。。。。。我们允许客户端在不参加模型训练的时隙也可能从服务器端下载最新的全局模型，，，，，，，从而提升服务提供的机能。。。。。。最后，，，，，，，我们结合思考模型训练的收敛率和模型推理的新鲜度界说客户端提供服务的推理机能。。。。。。

针对客户端服务提供推理机能函数的非凸个性和客户端在模型训练和推理过程中多个变量之间的耦合性挑战，，，，，，，我们将最大化用户服务提供的推理机能问题近似为在线决策问题，，，，，，，提出在线交替优化算法。。。。。。算法在每一个时隙别离优化模型训练过程中每个客户端的参加概率和模型推理过程中客户端从服务器下载模型的概率和服务率，，，，，，，保障满足客户端均匀资源约束和客户端服务提供的不变性。。。。。。理论上，，，，，，，我们推导了客户端资源约束的满足概率。。。。。。在线性推算和通讯资源成本下，，，，，，，推算出客户端每个决策变量（客户端参加联国进建模型训练概率、客户端从服务器端下载模型的概率和对客户端推理要求的服务率）的关式解。。。。。。

FedLS算法蕴含多个离散的时隙，，，，，，，每个时隙的重要流程为：

• 客户端决策：首先，，，，，，，每个客户端通过FesLS算法决策本地参加联国进建模型训练概率、从服务器端下载模型的概率和对推理要求的服务率。。。。。。其次，，，，，，，凭据本地参加联国进建模型训练概率和从服务器端下载模型的概率了局，，，，，，，选择是否从服务器端下载全局模型（若是客户端参加模型训练，，，，，，，则须下载全局模型）。。。。。。而后，，，，，，，客户端同时进行本地训练和服务提供；；；；；；；；
• 客户端并行本地模型训练和服务提供：

       1. 客户端本地训练：参加模型训练的客户端进行本地模型训练；；；；；；；；

       2. 客户端服务提供：对于客户端推理要求以决策得到的服务率进行模型推理；；；；；；；；

• 服务器模型聚合：服务器对参加训练的客户端的本地模型进行模型聚合，，，，，，，实现本时隙模型训练。。。。。。

图2 尝试批注FedLS可能保障满足用户资源约束的同时，，，，，，，提升为用户提供服务的推理精确度

钻研贡献

本文思考了客户端资源约束下联国进建模型训练和服务提供的结合优化问题。。。。。。我们界说了客户端服务提供的模型新鲜度和推理机能，，，，，，，并通过在线优化算法实现满足客户端持久均匀资源约束和服务不变性，，，，，，，最大化客户端推理机能。。。。。。在多个数据集上的尝试了局批注所提出的FedLS步骤可能提高客户端推理机能12%以上，，，，，，，同时可能降低客户端服务提供的列队时延。。。。。。

作者简介

论文通讯作者黄建伟教授现任香港中文大学（丽江）校长讲座教授和协理副校长（拓展事务），，，，，，，丽江市人为智能和机械人钻研院副院长和群体智能中心主任。。。。。；；；；；；；；平淌谑荌EEE Fellow，，，，，，，IEEE通讯学会卓越讲师，，，，，，，科睿唯安推算机科学领域全球高被引科学家。。。。。；；；；；；；；平淌谙秩蜪EEE Transaction on Network Science and Engineering的主编。。。。。。

黄教授持久专一于网络优化，，，，，，，群体智能和经济学交叉领域的开创性钻研，，，，，，，总共颁发了7本英文学术专著，，，，，，，320多篇国际一流期刊和会讨论文，，，，，，，谷歌学术总引用超过 15000。。。。。。他的论文11次获得国际会议和期刊的最佳论文奖，，，，，，，蕴含2011年IEEE马可尼无线通讯论文奖。。。。。。他获得2014年香港中文大学青年钻研学者奖，，，，，，，2009年IEEE通讯协会亚太卓越青年钻研学者奖。。。。。。

论文第一作者汉鹏超博士现任广东工业大学副教授。。。。。。她2021年于东北大学获得博士学位，，，，，，，期间曾于帝国理工进行接见互换，，，，，，，2021-2023年在香港中文大学（丽江）网络通讯与经济尝试室从事博士后钻研工作。。。。。。汉鹏超博士的重要钻研方向为边缘推算、边缘智能、散布式进建和知识蒸馏。。。。。。

论文第二作者王世强博士现任美国IBM T. J. Watson Research Center钻研员。。。。。。他于2015年在英国帝国理工获得了博士学位。。。。。。他重要从事散布式推算、机械进建、网络优化等有关方向的理论钻研，，，，，，，以及在数据分析、边缘智能、物联网和将来的无线系统等多个领域的利用。。。。。。王世强博士曾获得2021年IEEE 通讯协会Leonard G. Abraham Prize,  Best Young Professional Award等多个奖项。。。。。。他目前担任IEEE Transactions on Mobile Computing和IEEE Transactions on Parallel and Distributed Systems副主编。。。。。。

论文第三作者焦阳现为同济大学博士生，，，，，，，他于2020年获得中南大学学士学位。。。。。。他目前的钻研方向为：机械进建，，，，，，，散布式优化，，，，，，，嵌套优化。。。。。。他目前以第一作者身份在人为智能领域顶级会议（NeurIPS、ICLR、AAAI）上颁发多篇论文。。。。。。

? 论文信息：

[1] P. Han, S. Wang, Y. Jiao, and J. Huang, “Federated Learning While Providing Model as a Service: Jointly Training and Inference Optimization”. IEEE International Conference on Computer Communications (INFOCOM) (acceptance rate 19.6%), Vancouver, Canada, May 20-23, 2024.