오늘 정리할 논문은 ICLR 2018에 소개된 ODIN입니다. ODIN은 Out-of-DIstribution detector for Neural network의 약자로, 이미 학습이 완료된 network model에 어떠한 수정 없이 Out-Of-Distribution(OOD)를 찾을 수 있는 것이 특징입니다. 먼저 OOD에 대해 간단하게 소개해드리겠습니다. OOD란 현재 가지고 있는 in-distribution 데이터로 multi-class classification network를 학습시킨 뒤, test 과정에서 in-distribution 데이터에 대해서는 model이 올바르게 예측하고 out-of-distribution 데이터는 걸러내는 것을 목표로 하는 분야입니다. 주요 분류는 다음과 같습니다...

오늘 정리할 논문은 ICLR 2016에 소개된, DCGAN입니다. DCGAN은 Deep Convolutional GAN의 약자로 이름에서 알 수 있듯이 기존의 GAN에 CNN을 적용하여 높은 성능 개선을 이룬 것이 특징입니다. 기존의 GAN의 경우, 구조가 불안정하여 네트워크 학습이 불안정했습니다. 또한, NN의 Black Box 특성상 모델의 학습이 어떻게 진행되는지에 대한 설명이 불가능하다는 단점을 가지고 있습니다. 저자는 DCGAN을 통해서 이러한 단점을 커버하려 했습니다. 주요 포인트는 다음과 같습니다. GAN에 CNN을 사용하여 구조를 변형하니, 안정적인 학습이 가능해졌다. 좋은 성능을 보인다. 학습된 분별기(D)의 성능이 다른 unsupervised 알고리즘과 비교했을 때, 대등하다. 학습을 ..

1. 기업가정신이란 무엇이며 기업경영에서 왜 필요한가? 기업가정신 생산적 요소의 새로운 결합을 발견하고 촉진하는 창조적 파괴의 과정 기업 경영에 필요한 이유 글로벌 시장에 경쟁력을 가지기 위해서, 지속가능 경쟁력을 가지기 위해서 필요하다. 2. 혁신의 당위성은 언제나 강조하지만 자본주의 사회에서 기업의 혁신활동이 가지는 본질적인 문제는 무엇인가? 현재 미국에서 보이는 현상을 인용하여 설명. 혁신적인 기술로 시장을 독점하게 된다. 애플, 마이크로소프트, 구글 등을 생각해보면 되며 돈이 돈을 부르는 구조가 되었다. 그러면서 이들은 돈을 번만큼 사회에 환원하겠다는 마인드로 기업을 운영한다. 하지만 독점이 지속되며 혁신활동이 제한된다는 비판을 받기도 한다. 3. 실리콘밸리의 성장요인은 무엇인가? 풍부한 인적자원..

고차원의 정보를 효과적으로 이해하는 방법이다. The Perceptron Single Layer Neural Network Activation Function Non-linearity boundary 생성을 가능하게 해준다. Forward Propagation Perceptron의 전파과정과 같다. Backpropagation The problem of Overfitting Layer와 Node의 수가 많아질수록 생기는 문제이다. Regularization을 통해서 해결할 수 있다. 가장 쉬운 방법으로는 Dropout 방법이 있다. 그냥 Layer의 node를 일부 지우는 방법이다.

3D object를 2D에 적절한 size, position, orientation 표현하기 위해서는 Intrinsic/Extrinsic parameter를 알아야 한다. Calibration은 해당 parameter를 구하는 과정이다. Camera lens system 1. Pinhole camera 2. Modified camera Focal length Distance between lens and image plane Principal point Where optical axis meets image plane Camera paramter 1. Intrinsic 2. Extrinsic 카메라의 position과 orientation을 말한다. Parameter는 항상 일정하지 않기 때문에 cali..

Camera Calibration 실제 상황과 이론적 parameter 사이 간극을 줄이기 위해 수정하는 과정을 말한다. Intrinsic parameter Extrinsic parameter Focal length, Principal Point, Distortion parameter Position, Orientation Parameter는 3D to 2D mapping에 사용된다. Mathmetics for calibration Coordinate system Homogeneous Transformation Matrix Rotation & Translation HTM chain multiplication HTM R: 3x3 rotation matrix t: 3x1 translation vector W..

Template Matching Kernel을 통해서 pattern이 있는지 찾는 방법이다. Filter와 Image가 유사할수록 큰 값을 가진다. $c(x,y) = \sum_{s} \sum_{t} \omega(s,t) f(x+s, y+t)$ Normalization할 수 있다. $c(x,y) = {\sum_{s} \sum_{t} [\omega(s,t) - \omega_{mean}] [f(x+s, y+t)-f_{mean}] \over \sum_{s} \sum_{t} [\omega(s,t) - \omega_{mean}]^{2} [f(x+s, y+t)-f_{mean}]^{2}}$ size와 rotation의 normalization은 복잡해서 다른 방법이 필요하다. *2D rotation Linear Int..

Problem of MDC is False Positive. 그렇다고 기준 거리를 줄이게 되면 False Negative가 많아지게 된다. 그렇기에 새로운 분류 기준이 필요해지고, Error 분류시 페널티를 기준으로 분류하는 것이 Bayes classifier이다. Bayes classifier Lowest probability of committing error $x$가 $\omega_{j}$일 확률 $P(\omega_{j}|x)$와 $\omega_{i}$인데 $\omega_{j}$로 분류했을 경우의 loss인 $L_{ij}$를 사용한다. Conditional average risk(loss) $r_{j}(x) = \sum_{k=1} L_{kj} P(\omega_{k}|x)$ Use $P(A)P(B|A..

Descriptor로 Object를 인식하는 방법에 대해 다룬다. 일반적으로 object의 feature를 descriptor로 사용한다. Input pattern에 대해서 pre-defined pattern으로 분류하는 것이 목표이다. Pattern Arrangement Data의 common properties를 표현하는 방법이다. Vector : 제일 많이 사용하는 방식이다. String : primitive의 connectivity를 이용한 방법이다. Structual relationship : ridge properties를 이용한 방법이다. Hierarchical Ordering Decision Theoretic Method Decision function을 이용해 인식하는 방법이다. $d_{..