본문 바로가기

Machine Learning41

만들면서 배우는 생성 AI 정리 1장 computer vision 쪽을 더 공부하기 위해서, 이전 기법부터 지금까지의 흐름이 잘 정리된 책을 찾고 있었는데 마침 새로 나왔길래 읽으면서 정리해보려고 한다. 각 장의 내용 중 굳이 정리할 필요가 없는 내용은 건너뛸 예정이라 목차의 번호가 띄엄띄엄 있을 수 있다. Chapter 1. 생성 모델링 1.1 생성 모델링이란? 생성모델링이란, 주어진 데이터셋과 유사한 새로운 데이터를 생성하도록 모델을 훈련하는 머신러닝의 한 분야입니다. 도식화해보면, 1) 우리가 만들려는 이미지와 유사한 샘플들을 훈련데이터로 모아서, 2) 생성모델이 훈련데이터가 가진 픽셀 간의 복잡한 관계를 정의하는 규칙을 학습하고 3) 새롭고 사실적인 이미지를 만들기 위해 생성모델에 랜덤한 잡음을 더해서 만들어진 것이 최종적인 outp.. 2023. 9. 28.
시각적 이해를 위한 머신러닝 1~2강 (Machine learning for Visual Understanding) 본 강의는 유튜브에 올라와 있는 "시각적 이해를 위한 머신러닝"이라는 서울대 데이터 사이언스 대학원(GSDS) 강의를 보고 정리한 글입니다. 대학원을 다니지 않고도 이렇게 좋은 강의를 들을 수 있어서 강의를 공유해주신 이준석 교수님께도 너무 감사합니다... 1강은 사실 강의 소개 및 개요들을 주로 다루다 보니까 내용이 별로 없어서 2강까지 합쳐서 정리했고 기본적으로 이전에 공부한 내용들이라 간략하게 메모용으로만 정리했습니다. 1강. Course Introduction & Introduction to Computer Vision Visual Understanding이란? 픽셀 단위 -> 사람이 이해할 수 있는 지식, 정보 형태로 변환하는 것 + 단순히 시각적으로 보이는 것을 넘어서 보는 사람/만든 사람의 .. 2023. 9. 28.
디퓨전 모델 논문 리뷰 : Denoising Diffusion Probabilistic Models 아직 갈길이 멀지만 Computer Vision에 대해 관심이 많아서 디퓨전 모델에 대한 논문을 리뷰해보려고 한다. 이걸 시작으로 앞으로 CV쪽 논문에 대해서도 정리를 해보려고 한다. Learned 1. 생성 모델 특히, 이미지 생성모델에 대해서 전반적으로 파악하고 비교할 수 있었던 논문.(데이터 분포와 이를 추정하는 접근 방식에 대한 내용이 인상깊었다. 특히 DBMS 연구실에서 정리해주신 도식이 명확하게 한눈에 각 모델의 차이를 이해하기 좋았다.) 2. Diffusion 모델이 실제로 수학적으로 어떻게 작동하는지 원리에 대해서 배우면서 각 개념들에 대해서 좀 더 단단하게 이해할 수 있었다. 특히 마코프 체인의 특성과 가우시안 분포를 활용해서 문제를 단순화하는 것이 인상깊었다. 3. Tractable한 .. 2023. 9. 23.
전체 인공신경망 code 구현하기 이전에 Forward pass 코드 구현 이후로 역전파 개념과 학습에 필요한 작업들을 포함해서 코드를 작성해보았다. 이전 글은 여기서 볼 수 있고, 오늘은 최종적으로 인공신경망(Linear하게 쌓아올린 모델) 코드를 작성해보았다. 이전에 작성한 코드는 크게 3가지를 구현했고, 오늘은 추가로 4가지를 구현해보려고 한다. weight 초기화 신경망 구조 구성하기 활성화 함수 넣어주기 신경망을 통한 추론하기 loss 계산하기 역전파 구현하기 gradient 업데이트 신경망 학습 기존 code는 우선 여기서 정리해보았고, 추가할 함수는 빈칸으로 놔두었다. 하나씩 채워보려고 한다. #캐글 데이터셋에서 노트북 열기를 했을 때, 나오는 기본 설정 import numpy as np import pandas as pd .. 2023. 9. 22.