[딥러닝과 설계] Unsupervised Learning 비지도학습기초

본 게시글은 다음 강의를 듣고 정리한 내용입니다.

https://www.youtube.com/watch?v=V9HcvXliJmw&list=PLQASD18hjBgyLqK3PgXZSp5FHmME7elWS&index=6

 

 

 

 

 

---

# Basic Probability

 

 

supervised learning과 다르게 unsupervised learning에서는

'확률'에 대한 개념이 많이 나오기 때문에 이를 다시 공부하고 넘어갈 필요가 있다.

-

(조건부 확률 ex.)

$ p(x1,x2,x3) = p(x1|x2, x3) * p(x2|x3) * p(x3) $

-

(전체 확률의 법칙)

$ p(y) = \sum_{x} p(x,y) = \sum_{x} p(y|x)p(x) $

 

이걸 연속적인 data에 대해 작업을 했을 때가 (Marginalization)

-

pmf 경우에는 discrete한 경우 (ex. 주사위 던지기), pdf는 continuous한 경우 (ex. 0-1사이의 실수 뽑기)에 사용됨.

pdf인 경우에는 y축이 아니라, 면적이 확률을 의미한다.

그래서 single 값에 대한 확률은 구할 수 없고 ($P(a) = ?$ -> x), 범위에 대한 확률만을 구할 수 있다.

 

 

 

 

(Gaussian Distribution)

확률 분포를 나타내는 파라미터: $\mu, \sigma$

1차원이 아닌 차원이 큰 경우에는 아래의 확장된 식을 써주면 된다.

 

(Bernoulli Distribution)

동전 던지기 규칙에서 본 확률 분포와 같고, 파라미터는 오직 $p$ 한개 뿐이다.

 

-

비지도학습에서는 확률 분포 $P$와 $Q$가 같으냐 다르냐를 계속해서 비교한다.

일반적으로 $P$는 실제 true, $Q$는 예측 estimate를 의미한다.

따라서, 이 둘 사이의 확률 분포를 줄여나가는 방법으로 진행한다.

 

(Cross-entropy)

cross-entropy가 작으면 작을수록 $P$와 $Q$가 유사해지는 것

따라서, 작게 만드는 것이 우리의 목표이다.

 

(Kullback-Leibler divergence(KLD))

$KL(P||Q)$와 $KL(Q||P)$가 같을까 다를까? 당연히 다르다.

순서를 달리할 때 그 값이 다르다?

이를 보완하기 위해 나온 것이 바로 아래의 비교 방법이다.

 

(Jenson-Shannon divergence(JSD))

$P$와 $Q$를 direct하게 비교하지 않고 중간에 $M$을 둬서

$P$와 $M$을 비교하고, $M$과 $Q$를 비교하는 방법

이렇게 하면 순서를 바꿔도 동일하게 되는 것이다

 

 

 

 

 

그리고 각각의 기댓값을 구하는 식은 다음과 같다.

맨 아래 식과 같이 확률분포를 직접 제시해주는 경우도 있다.

 

 

 

 

$x$가 주어졌을 때 $y$가 나오는 확률을 최대화하기 위해

이에 대해 최적화하는 learnable parameter $\theta$를 구하는 과정이다.

그리고 $\theta$의 확률 분포는 Neural Network로 표현될 수 있다.

 

 

 

---

# Maximum Likelihood

 

고전적인 ML에서는

기존의 정답값인 $y$와 예측값인 $f_{\theta}(x)$를 줄여나가는 방식으로 모델을 학습한다.

이때, $\theta$는 $W, b$와 같은 parameter이 되는 것이다.

 

DNN에서는 backpropagation을 위해 아래 두 조건이 있다.

(1) training data에 대한 DNN의 loss값은 각 training sample에 대해 loss의 합과 같다 -> $\sum$ 사용

(2) 각 training example에 대한 loss는 DNN의 최종 output 결과이다. -> 중간에 나온 값 x, 최종 값으로!

 

 

Maximum Likelihood의 관점은

이제 예측값 $f_{\theta}(x)$는 이전처럼 하나의 값이 아니라 '확률분포'로 나온다.

 

즉, 예전에는 예측값 $f_{\theta}(x)$과 실제 GT값인 $y$값을 비교해 차이를 줄여나가려고 했다면

이제는 $f_{\theta}(x))$라는 확률 분포가 주어졌을 때 $y$가 나올 확률을 높이기 위해 $p(y|f_{\theta}(x))$ 식을 사용한다.

 

-

조금 더 시각적으로 이해해본다면, 아래 두개의 정규분포 그래프처럼

$\theta$값에 따라서 $f_{\theta}(x)$의 분포가 달라지는 것이고,

이들 중에서 negative log-likelihood를 통해 주어진 데이터를 가장 잘 설명하는 모델을 찾는 과정이다.

-

이 경우에는 고정 입력, 고정 출력이 아닌

고정 입력으로부터 얻어진 확률 분포를 통해 샘플링을 하기 때문에 출력 결과가 다르게 된다.

 

 

 

 

조금 더 자세히 살펴 보면,

고정된 $y$값에 대해서 확률 분포의 값은 $\theta_{1}$가 $\theta_{2}$보다 좋은 것을 알 수 있다.

그렇다고 해서 완전 best이냐? 그것은 아니다

$y$를 평균으로 하는 확률 분포일 때 (보라색) 최대일 것이다!

 

 

 

이제는 $max_{\theta} p(y|f_{\theta}(x))$와 $argmin[-log(p(y|f_{\theta}(x)))]$의 차이에 대해 알아보자.

둘은 어떤 차이가 있는가? 왜 최대에서 최소로 바뀐 것인가?

 

일단 iid (independent and identically distributed)라는 가정을 한다.

(1) 독립적 independent -> 각 확률의 곱과 같다

즉, 앞의 사건이 뒤의 사건에 영향을 주지 않는 것이다

(ex. 첫번째 던진 주사위의 결과는 뒤에 영향을 주지 않음)

(2) 동일분포 identically distributed -> 모든 데이터의 확률 분포는 같다

즉, 앞의 사건에서의 특정 사건이 발생할 확률과 뒤의 사건에서 발생할 확률은 동일하다

(ex. 첫번째 주사위를 던졌을 때 1이 나올 확률은 1/6, 두번째도 마찬가지다.)

-

Q. 왜 log를 취하는 것이냐?

A. backpropagation을 하기 위해서는 미분을 해야 하는데 곱셈보다는 덧셈의 미분이 더 간단하기 때문!

 

 

 

다시 복습해보면,

y의 확률 값을 최대로 하는 확률 분포 파라미터 $\theta$를 찾는 Maximum Likelihood에서 시작하여

미분을 쉽게 하기 위해 덧셈->곱셈으로 바꿔주는 과정인 Negative log-likelihood로 변환한다.

그리고 각각의 training sample에 대해 loss를 더해주는 Sum of loss for each training sample을 거친다.

 

이때, Likelihood의 분포를 가정하는 것이 중요하고, 분포에 따라 loss를 구하는 방법도 달라진다.

자세한 과정에 대해서는 아래에서 살펴볼 수 있다.

 

 

Gaussian distribution일 때,

여기서 $\sigma = 1$로 고정을 해두면 식의 전개 과정은 위와 같다.

즉, $-log(p(y_{i} | \mu_{i}))$는 $(y_{i}-f_{\theta}(x_{i}))^2/2$에 따라 결정이 된다.

그리고 이것은 실제값과 예측값 사이의 제곱차를 구하고 2로 나누는 MSE의 식과 동일하다.

 

Bernoulli distribution일 때,

식의 전개 과정을 따라가다 보면 Cross Entropy와 동일하다는 것을 확인할 수 있다.

 

 

 

---

# Generative Models

 

이제 이런 생각을 해볼 수 있다.

지금까지는 데이터의 속성을 파악해 분류 모델을 만들었는데

실제로는 생성을 해야 제대로 데이터를 이해했다고 할 수 있지 않을까?

 

 

아이디어는 사진들은 uniform한 분포를 갖는 것이 아닌, 어떠한 확률 분포를 갖고 있는데

거기서 sampling을 하면 실제 사진다운 사진을 얻을 수 있다.

 

 

실제 사람들 얼굴에 대한 pdf이다.

 

 

 

generative model의 목적은 $p_{model}(x)$를 $p_{data}(x)$에 근사하게 학습을 하는 것이다.

이를 위해서, $p_{model}(x)$에 대한 distribution을 gaussian이라고 가정하는.. explicit하게 표현하는 경우가 있고

아예 표현하지 않는 implicit한 방법 또한 존재한다.

 

 

 

distribution에 대해 가정하는 대표적인 예는 VAE이고, 그렇지 않은 방법은 GAN이다.

 

 

그럼 왜 Generative model이 필요할까?

시간에 따른 데이터를 만듦으로써 simulation과 planning을 할 수 있고

무엇보다는 차원 축소인 Dimensionality Reduction을 할 수 있다는 것이다.

대표적인 예시로는 Manifold Learning이 있다.

 

 

---

 

# Dimensionality Reduction

차원의 저주는, 차원이 증가할수록 그 차원을 설명하는데 필요한 데이터의 개수가 너무 많아진다는 한계가 있다.

 

 

 

 

그러나 실제 데이터 분포를 봤더니,

많은 경우 고차원의 대부분이 비어있고 특정 저차원의 manifold에 위치해 있는 것을 확인할 수 있었다.

 

즉, 위의 경우에는 3차원인 것 같지만, 데이터의 밀도를 보면 2차원에 몰려 있었다는 것이다.

 

 

 

즉, MNIST 또한 고차원을 고려할 필요 없이 2차원에서 해결이 가능한 것을 볼 수 있었다.

 

 

 

고차원보다 저차원의 manifold를 잘 찾으면, 주요 특징들이 더 잘 반영된다.

즉, 고차원에서는 오해를 할 수 있었던 것이다.

 

예를 들어, 이미지 픽셀 간 거리는 A1와 B가 더 가까울 수 있으나, 의미적인 유사성 관점에서는 실 A2와 B가 더 가깝다.

 

 

예를 들어, 위의 사진에서 시점, 다리와 골프채 사이의 각도를 A: 10도, C: 60도라고 한다면,

당연히 3차원 차원에서 A와 C의 중간인 B는 한.. 35도 정도 칠 때가 아닐까? 하고 생각할 수 있다.

하지만 실제 결과를 뽑아보면 그 중간이 아닌 것을 확인할 수 있다.

 

 

 

실제로 우리가 원했던 35도라는 중간 interpolation 결과는 이렇게 예상치 못한 곳에 존재하는 것을 볼 수 있다.

 

이 결과를 통해 manifold에서의 중간값이 신뢰할 수 있는 결과다라는 것을 깨달을 수 있었다.

즉, manifold를 잘 찾으면 의미론적 유사성을 잘 보존할 수 있는 것이다.

또한 유사한 데이터를 획득하여 학습 데이터에 없는 데이터를 획득할 가능성도 열린다.

 

 

 

 

예를 들어, MNIST data를 그냥 2차원으로 뿌리면 왼쪽 사진처럼 뒤얽힌 형태로 나타나지만,

manifold가 분리되어 있을 때, 데이터의 특성을 해석하기가 더 쉽다.

 

따라서, 고차원 데이터를 저차원 공간으로 변환할 때,

데이터의 특징이 얽혀 있는 상태(entangled)에서 잘 분리된 상태(disentangled)로 만드는 것이

데이터 분석과 기계 학습 모델의 성능 향상에 중요하다는 것을 시각적으로 보여준다.

 

즉, 차원 축소는 manifold를 찾는 과정이라고 생각할 수 있다.

 

 

 

---

https://kh-mo.github.io/notation/2019/03/10/manifold_learning/

의미를 보존하는 공간, manifold · kh-mo's blog