모끼의 딥러닝 공부

  • 홈
  • 태그
  • 방명록


langevin dynamics 1

Optimization + MCMC methods: Langevin Dynamics, Langevin MCMC

아래 references의 강의 및 자료들을 공부하고 짧게 정리한 내용입니다! 저도 공부하면서 정리한 내용이라 틀린 것이 있다면 언제든 댓글 달아주신다면 감사하겠습니다~ :D____ 1. Optimization + MCMC 결합 이유 그림과 같이 target distribution P(x), MCMC에서 sample proposal을 생성하는 간단한 gaussian Q(x'|x)가 있다. (MCMC 설명: 이전 포스팅 참조) 이 때 Q(x'|x)가 gaussian이므로 어떤 방향으로든지 이동할 확률이 같아 결과적으로 랜덤하게 이동하게 되는데, 이를 Random Walk이라고 한다. 물론 잘못된 sample이 뽑힌 경우 accept rate를 조절하여 해결할 수 있지만, 수렴 속도가 매우 느려지고 오랜 기..

Courses/Probabilistic Graphical Model 2025.04.09
1
더보기


프로필사진

딥러닝/머신러닝 관련 논문 또는 지식 정리, 그 외 개발 관련 글

  • 분류 전체보기 (20)
    • paper review (5)
      • information theory (1)
      • GAN (1)
      • vision language (1)
      • memory network (1)
      • attention (1)
    • Courses (15)
      • cs231n (2)
      • GCN(Graph Convolution Netwo.. (2)
      • Probabilistic Graphical Mod.. (7)
      • ML(PRML,cs229) (4)


Tag

reparameterization trick, mutual information, gaussian, Deeplearning, deep learning, Bernoulli, VAE, GNN, 논문읽기, CS231n, probabilistic graphical model, exponential family, Generative Model, gaussian mixture, MCMC, gan, Attention, variational inference, 딥러닝, GCN,

최근글과 인기글

  • 최근글
  • 인기글

최근댓글

공지사항

페이스북 트위터 플러그인

  • Facebook
  • Twitter

Archives

Calendar

«   2025/07   »
일 월 화 수 목 금 토
1 2 3 4 5
6 7 8 9 10 11 12
13 14 15 16 17 18 19
20 21 22 23 24 25 26
27 28 29 30 31

방문자수Total

  • Today :
  • Yesterday :

Copyright © Kakao Corp. All rights reserved.

티스토리툴바