数据安全研究院论文成果亮相国际顶会ICASSP 2024

魅力之城

GLAMOROUS

CITY

在基础服务的基础上不断突破，尊重业主不同需求提供延伸的服务，满足住户个性化需求，幸福感持续增强。

姓名	性别	班级
王小明	男	五班
李小花	女	二班
张小强	男	三班
赵小华	男	三班
周小英	女	一班
吴小刚	男	四班

”如果说花开是一幅画，那么花落便是一首诗。到了谷雨，地面上的落花渐渐成了另一道风景。“

内容解释

枝头的花朵，最是贴近节气的。知道是到了晚春，就无声地告别枝头，降落在地面。谷雨时节，城市和乡间随处可见花落的情景。

”如果说花开是一幅画，那么花落便是一首诗。到了谷雨，地面上的落花渐渐成了另一道风景。“

内容解释

枝头的花朵，最是贴近节气的。知道是到了晚春，就无声地告别枝头，降落在地面。谷雨时节，城市和乡间随处可见花落的情景。

点击上方“蓝字” 关注数据安全研究院 !

4月18日，由哈尔滨工业大学（深圳）数据安全研究院刘川意教授和韩培义老师所指导的20级本科生张宇豪、查欣雨、苏锦杭三位同学的成果《EDKA: FEDERATED KNOWLEDGE AUGMENTATION FOR MULTI-CENTER MEDICAL IMAGE SEGMENTATION ON NON-IID DATA》受邀在国际顶会ICASSP（International Conference on Acoustics, Speech and Signal Processing）进行Lecture（前30%）。

（论文一作张宇豪同学做演讲）

ICASSP 2024于4月14日-4月19日在韩国首尔召开，ICASSP（International Conference on Acoustics, Speech and Signal Processing）即国际声学、语音与信号处理会议，是全世界最大的，也是最全面的信号处理及其应用方面的顶级会议。本届会议以“Signal Processing: The Foundation for True Intelligence”为主题，内容涵盖语音识别、语音合成、语音增强、自然语言处理、机器学习等多个领域。来自全球各地的学者、各行业的专业人士、应用厂商代表齐聚一堂，分享最新的研究成果，探讨未来技术的发展趋势。

此次，哈工大（深圳）数据安全研究院的论文成果收录于ICASSP 2024顶级学术会议，充分展示了研究院在医疗图像、数据价值挖掘等方面的前沿技术创新与实践探索。研究院一直致力于培养学生们创新实践、解决实际问题的能力。未来，研究院仍将继续探索学习，助力医疗等领域数据要素的安全使用，充分发挥数据要素价值！

论文分享

论文题目：FEDKA: FEDERATED KNOWLEDGE AUGMENTATION FOR MULTI-CENTER MEDICAL IMAGE SEGMENTATION ON NON-IID DATA

论文作者：张宇豪、段少明、查欣雨、苏锦杭、韩培义、刘川意

文章链接：https://ieeexplore.ieee.org/abstract/document/10445902

论文简介

医疗数据如医学影像、电子病历是精准医疗实现的基础。但与此同时，医疗数据常常孤立地分散于各医疗机构、病患，其具有高度的敏感性、从而使得难以向各方共享。联邦学习可以在不接触隐私数据的前提下使用模型参数聚合的方法进行这些医疗数据价值的挖掘，为这一问题提供了可行的解决方法。在传统应用场景中，数据存储在中心，机器学习模型可以获取所有数据的整体信息，但是在联邦学习中，由于数据仅存储在本地，导致数据之间分布的不一致性，这种不一致性会体现在训练的效果上，导致模型效果下降。

智慧医疗场景下，目前的医疗图像数据的Non-iid表现为：

Ø特征不平衡：不同数据中心的医学图像在特征空间上存在差异，这可能是由于不同的成像协议、采集设备、扫描参数、图像处理方法等因素造成的。

Ø标签不平衡：不同数据中心的医学图像在标签上存在差异，不同的数据标注方式、不同的医疗中心的数据来源都可能导致这个问题。

针对此问题，本文提出了一个知识增强方法FedKA，包含特征知识增强方法和基于像素修正的标签知识增强方法两个模块。特征知识增强方法通过共享各个客户端的高斯分布参数，在服务端为每个客户端分别集成高斯混合模型（GMM），每个客户端的GMM均使用除该客户端以外的高斯特征生成而来，再使用GMM生成反应全局平均分布的特征噪声，将特征噪声返回到客户端，混合到模型的中间变量中，从而平衡特征偏移带来的影响。标签知识增强方法通过设计新的损失函数，记录模型在训练过程中对本地未标记类别的预测，使本地模型记忆从全局模型中得到的自身数据不存在的标签类别的知识，平衡标签偏移带来的影响。算法总体架构图如下：

我们在两个分布式的真实联邦学习医疗图像数据集MnMs Dateset和Fundus Dataset上进行了医学图像分割任务和域偏移任务的实验验证，证明了所提出方法的有效性，实验结果如下。

我们的实验表明FedKA提供了出色的结果。如表2所示，FedKA优于fedag和其他最先进的(SOTA)方法，如Fedmix和FedFA，在M&MS和视网膜眼底图像数据集上分别实现了22.6%和9%的显著改进。这种卓越性能的关键组成部分来自特征知识增强(FKA)和个性化加权知识增强(PwKA)。FKA有效地学习了接近真实全局特征分布的分布，而PwKA在局部训练中保留了全局模型的标签知识。

为了评估泛化能力，我们采用了leave-one-client-out策略。我们在M-1客户机上训练模型，并在未见过的客户机上对其进行测试，模拟一个现实的联邦环境，在这个环境中，新客户机可能会在培训后加入，这可能会导致客户机分布的变化。我们的实验显示FedKA具有一致的泛化优势，在所有看不见的中心表现优于竞争数据增强方法，如表3所示。此外，FedKA在处理严重的领域转移方面显示出显著的优势。在M&MS数据集上，与FedFA相比，它的平均Dice得分提高了18.8%，显示了它在解决联邦学习环境固有的领域泛化挑战方面的有效性。这些结果表明，尽管FedKA是为非iid场景设计的，但其知识增强特性使其成为解决FL领域泛化挑战的强大技术。

END

图文 | 查欣雨、张宇豪

审核 | 刘川意

编辑 | 汪仁亮

相关阅读

扫码关注我们！

数据安全研究院