Machine Learning/유튜브, 책, 아티클 정리15 만들면서 배우는 생성 AI 정리 6장 - Normalizing Flow 모델 이번 장에서는 노멀라이징 플로 모델에 대해서 살펴봅니다. 1. 개요 생성 AI모델의 대부분은 위와 같은 형태를 따르고 세부적으로 이걸 어떻게 구현하느냐에 따라서 모델의 분류가 갈린다고 볼 수 있습니다. 지금까지 배운 모델들을 아래와 같이 정리해볼 수 있습니다. (Autoregressive는 위의 방식과 다름) 오늘 배울 노멀라이징 플로 모델 (RealNVP 중심으로 설명)은 우리가 생성하려는 데이터셋의 분포를 저차원의 분포로 변환시켜주는 함수를 학습시키는 신경망 모델이라고 할 수 있습니다. 만일 우리가 신경망을 통해서 이 함수를 학습할 수 있고, 만일 이 함수가 역함수를 가진다면 우리는 역으로 간단한 분포에서 복잡한 이미지를 만들어낼 수 있지 않을까?가 이 모델의 핵심 아이디어입니다. 더 나아가 다른 모.. 2023. 12. 8. 만들면서 배우는 생성 AI 정리 5장 - Autoregressive 모델 앞서 VAE와 GAN은 생성하려고 하는 분포를 학습하기 위해 샘플링하기 쉬운 분포를 가지는 새로운 변수를 도입해서 학습시키는 방법이었다면 autoregressive model은 생성 모델링 문제를 순차적 과정(이전 값을 바탕으로 예측)으로 정의해서 해결하는 방식입니다. LSTM Network RNN RNN(Recurrent Neural Network)의 일종으로, 다른 신경망과 다르게 순차데이터를 처리하는 순환 층이 있다는 점입니다. 아래 그림을 통해 확인할 수 있는데 RNN이 해결하려는 문제 자체가 "문장"과 같이 앞의 context(문장의 경우 앞의 단어)를 이해하는 것이 중요하기 때문입니다. (한국말처럼 앞에 어떤 단어가 붙냐에 따라서 의미가 완전히 달라지기 때문에 이런 순차적인 컨텍스트를 같이 학.. 2023. 12. 4. 만들면서 배우는 생성 AI 정리 4장 - GAN 모델 생성 AI 분야에서 모델이 학습하는 것은 우리가 만들어내려는 이미지의 "분포"를 학습하는 것이다. 이 부분이 가장 중요하고 이번 장에서 이 개념을 인지하고 보는 것이 가장 중요하다. WGAN의 경우에는 특히 분포간의 거리를 측정하는 와서스테인 손실함수가 나오는데 사실 이해하는데 오래 걸리긴 했지만 원리 자체는 결국 분포와의 분포 거리를 좁히기 위해 이런 개념을 도입한 거라고 보면 된다. 6가지 생성 모델링 방식 : GAN 4.1 소개 우리나라에서 화폐를 위조하면 범죄가 된다. 범죄임에도 사람들이 위조 지폐를 만드는 이유는 돈이 되기 때문이다. 애초에 화폐를 위조하기 쉽게 만들면 선의의 피해자가 생길 수 있기 때문에 화폐를 만드는데는 위조하기 힘들게 여러 구분장치들을 마련해둔다. 그럼에도 불구하고 위조 지.. 2023. 11. 21. 만들면서 배우는 생성 AI 정리 3장 - VAE 모델 1장에 이어서 공부한 3장의 내용을 정리해보려고 한다. 2장은 딥러닝 기본에 대한 내용이기 때문에 해당 내용은 책으로만 읽고 별도의 정리는 하지 않았다. 혹시 궁금하신 분들은 모두를 위한 딥러닝이나, 이 블로그의 개념 정리쪽의 포스트들을 보셔도 좋을 것 같다. 3.1 오토 인코더 이 장에서는 생성 AI의 근간이라고 볼 수 있는 VAE에 대해서 설명한다. 사실 VAE의 기반이 오토인코더이기 때문에 우선 오토 인코더부터 책에서는 시작한다. 개요 오토인코더는 우리가 만들려는 원본 이미지를 임베딩(2차원 혹은 저차원의 차원으로 표현)하고, 이를 다시 원본으로 돌리는 신경망을 학습시키는 방식이다. 이를 잘 학습시키게 되면 우리는 원본 이미지가 가지고 있는 본질적인 정보를 가장 잘 내포하고 있는 벡터를 만들어낼 수.. 2023. 10. 1. 이전 1 2 3 4 다음
