이 연구는 요양병원 환자를 병상의 영상장치로 촬영하고, 이 영상으로 동작 인식 모델을 구축하여 요양병원의 많은 환자를 돌보는 간병인에게 도움을 주는 시스템 중 연합학습 구현에 해당한다. 그래프 기반 동작 인식 딥러닝 모델의 연합학습에 비식별화 및 경량화가 된 ETRI-Activity3D 관절 데이터를 활용하였고, 시계열 그래프의 연합학습을 위해 STGCN(Spatio-Temporal Graph Convolutional Networks) 기반 동작 인식 모델을 경량화 등의 모델 수정을 하였다. 연합학습은 오픈 소스인 Flower를 기반으로 구현하였다. 연합학습 클라이언트에서 집계 알고리즘으로 취합한 글로벌 모델이 로컬 소유의 원본 데이터만을 사용한 모델보다 우수한 정확도를 보였다. 동일한 물적 시간적 자원으로 수행한 중앙집중형 모델과 비교하여 약 98%의 성능을 달성하였다.
31 December 2023 in The Journal of Korean Institute of Information Technology
현재 연구되고 있는 많은 인공지능 관련 분야의 경우, 개인정보보호 문제 등으로 인하여 민감한 데이터의 공유가 불가능한 실정이다. 이러한 문제 해결을 위하여 연합학습이 주목받고 있으나, 기존의 연합학습 방법은 낮은 성능을 지닌 일부 클라이언트로 인하여 글로벌 모델 생성 시 성능 저하가 발생할 수 있다. 본 논문에서는 연합학습 과정에서 글로벌 모델의 성능에 악영향을 미치는 파라미터를 제외하고 집계하는 방법인 정확도 기반 참여 제한 연합학습을 제안한다. 제안하는 방법은 정확도를 기반으로 낮은 성능의 클라이언트를 감지하고 글로벌 모델 생성 시 참여를 제한하도록 동작한다. MNIST 데이터를 활용해 구성한 iid 및 non-iid환경에서 성능 평가를 시행하여 기존 연합학습 대비 글로벌 모델이 목표 성능에 도달하는 라운드 횟수를 iid 상황에서는 평균 2라운드, non-iid 상황에서는 평균 7.77라운드 단축하였음을 보인다.
To implement an encrypted dynamic controller based on homomorphic encryption that operates for an infinite time horizon, it is essential for every component of the controller's state matrix to be an integer. In this paper, we tackle the challenge of converting a pre-designed controller into a new one with an integer state matrix, while preserving its control performance. This enables encrypted dynamic systems to be realized without re-encryption and approximation of control parameters. To achieve this, we allow the order of the controller to be increased so that the resulting closed-loop system becomes a non-minimal realization of the original closed-loop, without losing internal stability. Two approaches are proposed to design such controller with an integer state matrix. The first approach is to design the new controller as an estimator of the original closed-loop system, and the conditions on the estimator gain are derived. Our second approach is to formulate a problem of finding certain polynomials, whose solution leads to the design of the new controller. In a special case when the numerator of the plant transfer function is a constant, we provide a constructive method to obtain such solution.
31 December 2023 in The Journal of Korean Institute of Information Technology
연합학습은 데이터 공유 문제의 해결책으로 떠오르고 있으나, 클라이언트의 데이터 분포가 불균형한 환경에서 특정 클라이언트가 글로벌 모델의 성능을 하락시키는 클라이언트 데이터 편향 문제가 존재한다. 본 논문에서는 이러한 글로벌 모델 학습 편향을 해결하기 위해 각 클라이언트의 기여도를 측정하고, 기여도에 비례하게 모델 파라미터를 가중 평균하여 기여도가 낮은 클라이언트(편향된 데이터를 가지고 있는 클라이언트)가 글로벌 모델에 주는 영향을 줄이는 방법을 제안한다. 실험 결과 FedAVG 대비 IID 상황에서는 동일한 성능의 글로벌 모델을 집계하였고, NON-IID 상황에서는 정확도가 1.5% 향상된 글로벌 모델을 집계하며 FedAVG 기본 성능은 유지하고 단점만을 보완한 알고리즘임을 증명하였다.