본문 바로가기

분류 전체보기54

만들면서 배우는 생성 AI 12장 - 월드 모델 월드모델이란? 현재 상태와 행동이 주어졌을 때 다음 상태에 대한 확률분포를 만드는 생성모델로, 무작위로 이동하면서 그에 따른 환경적 변화를 학습하게 되면 모델이 새로운 작업에 대해 처음부터 스스로 훈련할 수 있게 되지 않을까?가 이 논문의 핵심입니다. 모델이 스스로 생성한 꿈속 세상(world)에서 수행한 실험을 통해 특정 작업을 처리하는 방법을 배우는 것을 보여주어, 생성모델링을 강화학습과 같은 다른 머신러닝 모델과 함께 적용했을 때 실용적인 문제를 해결하는 방법을 보여주는 훌륭한 사례입니다. 0. 사전 개념 : 강화 학습 월드 모델은 다양한 머신러닝 기법들이 섞여 있어서 하나하나씩 설명해보려고 합니다. 기본 개념 강화학습은 주어진 환경에서 에이전트가 특정 목적과 관련해서 최적의 성능을 발휘하는 것을 .. 2023. 12. 15.
만들면서 배우는 생성 AI 11장 - 음악생성 이번 장에서는 음악 생성에 활용된 생성AI 모델에 대해서 정리해보았습니다. 1. 배경 음악은 음표가 이어지면서 만들어내기 때문에 시퀀스 예측 문제로 접근하는 경우가 많습니다. 그래서 기본적으로는 텍스트 생성 모델들을 차용해서 접근하는 경우가 꽤 있습니다. 문장의 단어와 유사하게 음표를 토큰의 시퀀스로 취급하도록 해서 트랜스포머 모델을 적용합니다. 문장도 직전 단어만 중요한게 아니라 하나의 문장 안의 다양한 단어들의 영향도를 고려한게 어텐션 모델인데, 음표도 동일하게 적용했다고 보시면 됩니다. 다만, 음악 창작은 텍스트 생성과는 다르게 피치(음의 높이)와 리듬이 있는 점을 고려해야합니다. 또한 악기가 여러가지가 있어서 그 악기들 간의 화음을 만들어내는 것도 고려해야합니다. 텍스트만 처리해야하는 방식과는 다.. 2023. 12. 15.
[Book] 행동 데이터 분석 4장 ~ 5장 : 인과관계 다이어그램과 교란 해소 이 글은 행동 데이터 분석이라는 아래와 같은 책을 읽고 정리한 내용입니다. 앞에서 데이터 분석과 비판적 사고라는 책을 공부했었는데 좀 더 실무적으로 코드와 함께 살펴보고 싶고 다른 관점도 배우고 싶어서 공부하게 되었습니다. Chapter 4. 인과관계 다이어그램 만들기 인과관계에서의 오류 실제 실무에서 인과관계를 파악할 때에는 단순히 원인과 결과만 살펴보면, 왠지 그럴듯해 보인다. 하지만 우리가 바라보는 실험 환경은 우리가 정의한 변수간의 관계만 바라보고 있으며, 실제 인과관계를 관찰하는 곳에서는 우리가 정의하지 못한 변수가 존재한다. 실제로 비즈니스 세계에서는 특정 기능을 배포하고 나서 결과가 좋을 때 당연히 이 기능 배포로 인한 효과다라고 생각하기 쉽다. 따라서 위의 오류에 빠지지 않도록 어떤 관찰하.. 2023. 12. 14.
만들면서 배우는 생성AI 10장 : 고급 GAN 1. ProGAN 핵심 아이디어 NVIDIA LABS가 GAN 훈련의 속도와 안정성을 향상하려고 개발한 방법론입니다. 앞서, GAN은 두개의 서로 다른 경쟁적인 모델을 학습시켜야하기 때문에 훈련시키기가 매우 어렵다는 이야기가 있었습니다. 이 논문은 전체 해상도 이미지에서 바로 GAN을 훈련하는 대신 먼저 4X4 픽셀의 저해상도 이미지로 생성자와 판별자를 훈련한 다음 점차 해상도를 높이는 방법을 사용합니다. 점진적 훈련 위에서 말한 점진적 훈련은 아래와 같은 방식으로 고차원으로 확장해갑니다. 크게 전환과 안정화 두가지가 점진적 훈련의 주요 단계입니다. 전환 단계와 안정화 단계의 역할 : 이전의 4X4 생성자가 배운 이미지 생성 능력을 고해상도(8X8) 생성자도 배울 수 있도록 잔차 연결로 연결해줍니다. 새.. 2023. 12. 14.

티스토리툴바