FEDBABU: TOWARD ENHANCED REPRESENTATION FOR FEDERATED IMAGE CLASSIFICATION

TL;DR

• Background: global model의 성능 향상 / personalized local model의 성능 향상 두가지 방식만으로 연구가 진행되고 있음

• FedBABU: global model + personalized model 모두 잡는 algorithm 제안.
• Federated Averaging w/ Body Aggregation and Body Update
• network를 body(extractor)와 head(classifier)로 구분.
• body는 universality, head는 personalization에 연관됨.
• training 단계에서 body만 업데이트, head는 random initialize
• evaluation 단계에서 head는 personalization을 위해 fine-tuned.

Motivation

Method

Experiments