본문 바로가기

생성 AI2

만들면서 배우는 생성 AI 7장 : Energy Based 모델 이전까지의 생성모델은 모두 배우려는 이미지들의 분포를 단순한 분포로 변환시키는 함수를 찾는 형태로 발전되어왔습니다. 이번 장은 에너지 기반 모델로, 물리 시스템 모델링(물리학에서 분자 등의 운동을 연구하기 위해 연구한 함수, 식 등)을 이미지 생성 분포에 활용한 내용을 다룹니다. 따라서 이전까지의 방법과 다른 방식을 적용한 것이 EBM의 차이입니다. 1. 사전 개념 볼츠만 분포 시스템이 해당 상태의 에너지와 온도의 함수로 특정 상태 에 있을 확률을 제공 하는 확률 분포 또는 확률 척도로 이 분포를 이미지 생성의 분포에 적용합니다. E(x)는 샘플 x의 에너지 함수(또는 점수)로 신경망이 학습시킬 대상입니다. 적분으로 표현되어서 복잡해보이지만, 마치 SoftMax 함수와 매우 유사해보입니다. 직관적으로 해.. 2023. 12. 10.
만들면서 배우는 생성 AI 정리 1장 computer vision 쪽을 더 공부하기 위해서, 이전 기법부터 지금까지의 흐름이 잘 정리된 책을 찾고 있었는데 마침 새로 나왔길래 읽으면서 정리해보려고 한다. 각 장의 내용 중 굳이 정리할 필요가 없는 내용은 건너뛸 예정이라 목차의 번호가 띄엄띄엄 있을 수 있다. Chapter 1. 생성 모델링 1.1 생성 모델링이란? 생성모델링이란, 주어진 데이터셋과 유사한 새로운 데이터를 생성하도록 모델을 훈련하는 머신러닝의 한 분야입니다. 도식화해보면, 1) 우리가 만들려는 이미지와 유사한 샘플들을 훈련데이터로 모아서, 2) 생성모델이 훈련데이터가 가진 픽셀 간의 복잡한 관계를 정의하는 규칙을 학습하고 3) 새롭고 사실적인 이미지를 만들기 위해 생성모델에 랜덤한 잡음을 더해서 만들어진 것이 최종적인 outp.. 2023. 9. 28.