One day One coding

활성화 함수(Activation Function)의 종류 활성화 함수(Activation Function)란 입력 데이터(input data)의 가중치 합을 출력 신호(Output signal)로 변환하는 함수이다. 대표적인 활성화 함수는 ReLU, 시그모이드(Sigmoid)함수 등이 있다. 1. 시그모이드 함수(Sigmoid Function) S자형 곡선 또는 시그모이드 곡선을 갖는 함수이며, 계단함수(Step Function)의 단점을 보안해 준다. (계단 함수는 출력값이 0 또는 1의 값만 반환하고, 사이 값은 무시한다.) def logit(a): return 1 / ( 1 + np.exp(-a)) a = np.linspace(-5, 5, 200) plt.plot([-5, 5], [0, 0], 'k..

인공신경망(ANN, Artificial Neural Network) 인공신경망이란, 뇌에 있는 생물학적 뉴런(Neuron)의 네트워크에서 영감을 받은 머신러닝 모델이다. 인공신경망은 크게 2가지의 분류로 구별되며 아키텍쳐와 학습방법에 따라서 분류가 가능하다. 1. 아키텍쳐 기반에 따른 분류 퍼셉트론(Perceptron) : 가장 간단한 인공 신경망 구조 단층 퍼셉트론(Single-Layer Perceptron) 아래 그림과 같이 입력계층(Input-Layer)과 출력계층(Output-Layer)로만 이루어진 단순한 구조를 가진다. 다층 퍼셉트론(Multi-Layer Perceptron) 아래 그림과 같이 입력계층과 출력계층 사이에 은닉층(Hidden-Layer)가 있는 구조를 가진다. 은닉층이 2개 이상..

강화학습(Reinforcement Learning) 학습하는 시스템을 에이전트(Agent)라 부르며 환경(Environment)을 관찰(Observation)해서 행동(Action)을 실행하고 그 결과로 보상을 받는다. 시간이 지나면서 가장 최적의 보상을 얻기위해 정책(Policy)이라 부르는 최상의 전략을 스스로 학습을 진행한다. 1. 배치 학습 & 온라인 학습 입력 데이터의 스트림으로부터 점진적으로 학습할 수 있는지에 따른 분류 배치 학습(Batch Learning) 시스템을 점진적으로 학습할 수 없고, 가용 데이터를 모두 사용하여 훈련 시간과 자원을 많이 소모하므로 보통 오프라인에서 수행 새로운 데이터에 대한 학습이 필요할 경우 전체 데이터를 사용하여 시스템의 새로운 버전을 처음부터 다시 훈련 많은..

강화학습(Reinforcement Learning)? 인공지능의 방법론인 머신러닝(Machine Learning)의 한 종류 머신러닝은 크게 지도학습, 비지도학습, 강화학습으로 분류할 수 있다. 1. 지도학습(Supervised Learning) 데이터와 각 데이터의 레이블(lable)이 주어진 상태에서 새로운 데이터에 레이블을 매기는 방법을 학습 하는 것 Ex) A 지역의 아파트의 가격은 a원이고, B 지역의 주택의 가격은 b원 이라는 정보를 모델에게 알려준 다음 이 정보를 토대로 C 지역의 아파트의 가격은 c원일 것이다. 라고 예측하는 방식 (회귀 방식) 2. 비지도학습(Unsupervised Learning) 레이블 없이 데이터만 주어진 상태에서 데이터를 분류하거나 밀도를 추정하는 방법을 학습 하는..