0. 실습 1. GAN GAN(Generative Adversarial Network을 약자다. 좋은 성능에 힘입어 최근에 많이 사용되고 있다. GAN은 게임이론을 적용한 Incremental 개선을 기본 원리로 한다. 무슨 말이냐;; 밑에서 천천히 설명하겠다. 가. 생성 모델 (Generative model) 훈련 데이터를 사용해서 해당 클래스의 표본 자체를 출력(생성)하는 모델. 예를 들어 고양이 사진을 데이터로 투입하면 생성모델은 학습을 통해서 “고양이 같은 사진”을 … 더 읽기
0. 기계번역의 연혁 1. Seq2Seq 모델 인코더와 디코더로 구성되며, 인코더에서 context를 디코더로 전달한다. 인코더와 디코더 모두 RNN을 활용했다. 인코더의 마지막 은닉층의 출력값을 context로 활용한다. 가. Seq2Seq 문제점 Seq2Seq 모델에서 사용하는 context는 입력 시퀀스의 크기와는 상관없이 크기가 고정되어 있다. 또한 가장 마지막 은닉벡터의 출력값의 context로 사용한다. 이에 2가지 문제점이 나타난다. 나. 해법 모든 단어를 평등하게 고려하여 … 더 읽기
1. NLP (자연어 처리) 자연어란 사람이 사용하는 언어를 지칭한다. 자연어 처리(NLP)는 컴퓨터를 이용해서 자연어를 이해, 생성하기 위한 분야다. 가. NLP 기술 보기에도 많은 기술이 사용된다. 나. 머신러닝과 NLP 머신러닝을 이용해서 NLP하는 전체 과정을 간략하게 표현한 것. NLP를 위한 머신러닝 모델의 입력으로 사용할 대부분의 특징은 형태소 분석기와 같은 도구(software)를 통해서 제작한다. 2. 코퍼스 (Corpus) 머신러닝 모델을 … 더 읽기
1. RNN 가. 순차 데이터 (data sequence) 데이터 간 상호 순서상 연관성을 갖는 경우. 나. RNN의 기능 순차 데이터 처리의 종류 위와 같은 처리를 위해서는 과거의 상태(과거의 입력)를 기억할 필요가 있음. 다. RNN의 구조 RNN은 이전 상태를 저장할 수 있는 기능을 가진다. 위와 같이 표현하는 방법을 ‘시간 펼침 (Unrolling in time)’이라고 한다. RNN 분석 및 … 더 읽기
1. CNN 활용 개요 CNN은 주로 컴퓨터 비전에 많이 활용된다. 컴퓨터 비전의 주요 tasks 가. 이미지 분류 (Classification) CNN의 가장 기본적인 활용 분야로 지정된 개수의 카테고리로 이미지를 분류한다. 대표적인 학습 데이터로 MNIST와 ImageNet이 있다. 나. 영역 분할 (Segmentation) 영역 분할에는 크게 2가지 종류가 있다. 사용자의 의도에 맞게 잘 사용하면 복잡한 계산을 줄일 수 있다. 이미지 … 더 읽기
1. 연관규칙 대량의 데이터에서 빈번하게 발생하는 데이터의 패턴을 찾는 것. 맥주를 사는 사람은 마른안주도 함께 구매한다. 장바구니 분석이라고도 함. 출처 : https://welcome-to-dewy-world.tistory.com/61 가. 실습 baseball, basketball 그리고 soccer에 들어있는 0과 1을 숫자가 아닌 factor로 인식하도록 한다. read.csv(…., stringsAsFactors = true) 옵션을 사용하지 않은 것은 string 타입이 아니기 때문이다. 사용하면 이상하게 동작한다. 주의할 것. 출처 : … 더 읽기
1. 딥러닝 개요 가. 딥러닝의 등장과 확산 1) 딥러닝의 등장 다층 신경망은 계층의 개수가 커지면서 신경망의 학습이 제대로 이뤄지지 않는 문제가 있다. 기울기 소실과 기울기 폭증과 관련된 문제다. 심층 신경망 (deep neural network : deep learning)은 이러한 문제를 해결하면서 등장했다. 2006년 힌튼 (Hinton) 교수가 심층신경망의 학습 가능성을 제시했다. 이는 적층 RBM(Stack Restricted Bolzmann Manchin) 기반 … 더 읽기
1. 기울기 강하 기법 가. 학습법 개관 (1) 신경망 학습법 개관 (2) 에러 정정 기법 주어진 입력 샘플에 대해 출력을 산출한다. 이후 출력과 목표 출력 간의 차이가 줄어들도록 가중치를 변경한다. 나. 손실함수 (1) 손실 함수 손실 함수는 목표치와 실제 출력 간의 차이(손실, 에러)를 계량화하는 함수. 에러 함수의 종류는 다양한다. ex) 평균제곱에러, 교차엔트로피 에러 등 … 더 읽기
1. 다층 신경망 (FNN) 2 계층으로 구성된 다층 퍼셉트론(MLP)은 XOR 기능을 구현해냈다. 이로써 퍼셉트론의 선형 분리성의 한계를 극복했다. 오류 역전파 알고리즘(Backpropagation)으로 다 계층 구조 활용의 최대 걸림돌인 학습 문제를 해결했다. 활성화 함수로 비선형 활성화 함수(시그모이드 함수)를 적용하면서 다양한 함수 기능 구현. 시그모이드 함수를 사용하는 순간부턴 다층 퍼셉트론보단 다층 신경망, 일반 신경망(FNN)이라 칭한다. 선형/비선형 회귀, 이진 … 더 읽기
1. 인공 신경망의 뉴런 모델 가. 신경망 인간의 두뇌를 모방한 연결주의의 대표적 기술. 안정적인 학습 기능, 병렬 처리와 에러 감내(fault tolerance) 등의 장점. 나. 생물학적 신경망 Hebbian rule : 두 인접 뉴런이 동시에 발화하면 연결 강도 증가. : Fire Together Wire Together! : 그렇지 않으면 연결강도 감소 다. 뉴런의 연산 모델 입력 신호가 생기면 이를 … 더 읽기
