본문 바로가기

Papers

(10)
Introduction to generative models 이번 학기에 generative model의 전반을 다루는 수업을 청강하게 됐다. 작년엔 vision transformer가 주된 주제였는데, 배울것이 많았던 수업이라 크게 관심은 없었지만 요즘 워낙 생성모델에 대한 이야기가 많이 나와 공부해볼겸 청강하게 됐다. 한 학기동안 약 30편에 달하는 논문을 읽게될 예정인데 그중 인상 깊은 논문들은 정리해두려고 한다. What is a generative model?생성 모델은 generative power를 가진 모든 모델을 의미한다고 한다. 강의를 듣기 전에는 generative model은 새로운 데이터를 만들어 내야한다고 생각을 했었는데, generative power를 가지는 것과 데이터를 generation하는 것과는 차이가 좀 있다고 한다...
논문 리뷰) (JAMIA 2021) Federated learning improves site performance in multicenter deep learning without data sharing original paper INTRODUCTION 대부분의 FL paper들이 굉장히 시스템의 성능 측면에서 접근을 하다보니 실제로 FL이 적용된 어플리케이션이나 사례와 관련된 연구들을 찾아보기가 매우 힘들었다. FL의 특성을 생각해보면 Medical domain에서 굉장히 매력적인 기술이라 Medical informatics 쪽에서도 분명 재밌는 연구들이 있었을 것 같아서 (없으면 오히려 좋고...) JAMIA 논문들을 좀 찾아봤다. 그중에서 2021년에 나온 이 페이퍼가 가장 먼저 practical한 실제 임상 데이터를 기반으로 진행된 연구로 보여서 읽어봤는데, technical novelty 자체는 크게 없지만 읽은김에 정리해두려 한다. DL은 nature image와 medical image의 d..
논문 리뷰) (CVPR 2022) Towards Total Recall in Industrial Anomaly Detection (1) 들어가며... 이번에 소개하고자 하는 논문은 CVPR 2022년에 소개된 논문인 "Towards Total Recall in Industrial Anomaly Detection"이다. 저자인 Karsten Roth가 Amazon AWS에서 internship을 하면서 나온, Amazon AWS의 논문이라고 소개되고 있다. 개인적으로 제목이 인상적인데, 러프하게 직역하면 'Industrial Anomaly Detection에서 Total Recall을 하겠다.' 정도로 해석할 수 있지 않을까 싶다. Total Recall은 뭐냐? 이것도 직역하면 '모든 것을 회수한다'인데, 다음과 같은 뜻으로 사용된다고 한다. "완벽한 기억 능력" 정도가 되겠다. 조금 더 Total Recall에 대해서 이야기 하자면 학..
논문 리뷰) (NeurIPS 2019) Deep Leakage from Gradients Introduction 머신러닝과 딥러닝의 등장으로 많은 문제들이 해결되며 인공지능 기술의 가능성을, 그리고 그 가능성이 현실에서 충분히 적용될 수 있음을 확인하고 있다. 이러한 딥러닝 혹은 머신러닝 등의 성능을 높이고, 복잡하고 어려운 문제들에 적용하기 위해서 모델의 크기가 점점 커지고 있고, 뿐만 아니라 사용자들에게 뿌려져 있는 스마트폰과 같은 컴퓨팅 리소스를 활용하여서 학습을 하는 등 다양한, 새로운 접근을 하고 있다. 대부분의 딥러닝 모델들은 back-propagation을 기반으로 학습을 하며 그 과정에서 gradient를 계산한다. 이렇게 gradient 정보가 학습에 기반이 되다보니 여러 device나 server에서 학습을 하는 distributed learning이나 federated l..
논문 리뷰) (Mobisys 2022) Detecting Counterfeit Liquid Food Products in a Sealed Bottle Using a Smartphone Camera (2) 2023.01.13 - [Papers/Security] - 논문 리뷰) (Mobisys 2022) Detecting Counterfeit Liquid Food Products in a Sealed Bottle Using a Smartphone Camera (1) 논문 리뷰) (Mobisys 2022) Detecting Counterfeit Liquid Food Products in a Sealed Bottle Using a Smartphone Camera (1) 저번 학기 세미나에서 발표했었던 논문. Mobisys 2022년에 나온 논문이고 실생활과 관련된 논문으로 best-poster도 같이 받은 연구다. Introduction 우리가 평소에 소비하는 술, 꿀, 기름 등 액체로 된 상품 kichangl..
논문 리뷰) (Mobisys 2022) Detecting Counterfeit Liquid Food Products in a Sealed Bottle Using a Smartphone Camera (1) 저번 학기 세미나에서 발표했었던 논문. Mobisys 2022년에 나온 논문이고 실생활과 관련된 논문으로 best-poster도 같이 받은 연구다. Introduction 우리가 평소에 소비하는 술, 꿀, 기름 등 액체로 된 상품들 중 비싼 고급 상품들이 있다. 이러한 고급 상품에 값싼 액체를 섞어서 파는 경우가 있다고 한다. 나아가 단순히 값싼 액체를 섞는 것이 아니라 유독성 물질을 섞는 경우에는 소비자의 삶과 직결된 문제가 된다. 요컨데 결국 physical world에서의 attack이 가능하다는 것. 이 논문에서는 그러한 액체류들을 counterfeit liquid food product라고 이야기 하는데, 이러한 상품들은 보통 밀봉된 병 (sealed bottle)에 들어있기 때문에 해당 성분을..
논문 리뷰) (Mobisys 2022) FedBalancer: Data and Pace Control for Efficient Federated Learning on Heterogeneous Clients - (4) 이전 게시글 2023.01.11 - [Papers/Federated Learning] - 논문 리뷰) (Mobisys 2022) FedBalancer: Data and Pace Control for Efficient Federated Learning on Heterogeneous Clients - (1) 2023.01.11 - [Papers/Federated Learning] - 논문 리뷰) (Mobisys 2022) FedBalancer: Data and Pace Control for Efficient Federated Learning on Heterogeneous Clients - (2) 2023.01.11 - [Papers/Federated Learning] - 논문 리뷰) (Mobisys 2022..
논문 리뷰) (Mobisys 2022) FedBalancer: Data and Pace Control for Efficient Federated Learning on Heterogeneous Clients - (3) 이전 게시글 2023.01.11 - [Papers/Federated Learning] - 논문 리뷰) (Mobisys 2022) FedBalancer: Data and Pace Control for Efficient Federated Learning on Heterogeneous Clients - (1) 2023.01.11 - [Papers/Federated Learning] - 논문 리뷰) (Mobisys 2022) FedBalancer: Data and Pace Control for Efficient Federated Learning on Heterogeneous Clients - (2) FedBalancer 관련 세번째 게시글이다. 꽤나 이야기가 길어지고 있는데 다음부터는 적당히 요약해서 쓰는 방법..