Deep Leakage from Gradients

Category
Federated Learning
Year/Month
2019-06
Status
Done
Publications
NeurIPS

TL;DR

  • Deep Leakage : gradient로부터 data 복원가능 (image, text)
  • 가장 좋은 방어기법은 network pruning임.
 
방어기법
  1. gaussian noise, magnitude laplacian noise
  1. fp16, int8 conversion
→ 모두 accuracy까지 떨어짐. 효과적이지 않음.
  1. gradient pruning
    1. 20% 이상의 sparsity를 가져가면 효과적으로 방어가능

Motivation

Method

Experiments