必赢官网本科生唐坤生在人工智能国际学术期刊发表高层次成果

必赢官网2019级本科生唐坤生以共同第一作者向人工智能国际学术期刊《Machine Learning》投稿,近期被最终录用并在线出版,论文标题为《Reconci

必赢官网2019级本科生唐坤生以共同第一作者向人工智能国际学术期刊《Machine Learning》投稿,近期被最终录用并在线出版,论文标题为《Reconciling privacy and utility: an unscented Kalman filter‑based framework for differentially private machine learning》,该成果为我校二类层次成果。研究成果在学院青年英才李萍老师指导下完成。

Machine Learning(CCF B类期刊)是研究计算方法的国际学术期刊。本科生通过与必赢官网导师的科研项目,取得高质量的科研成果并在这个领域被认可,实属不易。这体现了学院在鼓励更多青年教师进行学术创新,加强本科生参与前沿科学研究指导力度方面的探索取得一定成效。

该论文主要探讨:如何在利用机器学习(Machine Leaning,ML)模型高效能计算的前提下,又能保护数据持有者数据的安全与隐私?通常,模型的私密性和实用性都有一个相互的约束。因此,进一步的,如何在保护隐私的同时提高(甚至最大化)模型的效用成为一个迫切需要解决的问题。为了解决这一问题,李萍老师团队提出将无味卡尔曼滤波器(Unscented Kalman Filter, UKF)应用于各种差分隐私(Differential Privacy,DP)使得基于DP的ML(DPML)得以实现。该团队提出一个基于UKF的DP-enabled ML (UKF-DPML)框架,在给定的隐私预算下实现更高的模型效用。在该框架中包含了一个评估模块,以确保对DPML模型的公平估计。团队还通过数学推理验证了该框架的有效性,然后分别对UKF-DPML和DPML的各种实现进行了实证评估。在评估中,团队测量了抵御真实世界隐私攻击并提供准确分类的能力,从而评估了模型的隐私性和实用性。在三个数据集上进行了一系列的隐私预算和实现,每个数据集都提供了相同的数学隐私保证。通过测量UKF-DPML和DPML模型对成员推断攻击和属性推断攻击的抵抗和分类精度,该团队得到,将UKF应用于受DP噪声干扰的聚合,在具有相同隐私的预算的情况下,可获得更高的效用,并且效用的改善与UKF应用的阶段相关。

1234.jpg

UKF-DPML框架