728x90
반응형
SMALL

분류 전체보기 214

논리 게이트와 퍼셉트론

퍼셉트론의 가장 단순한 형태는 AND, NAND, OR과 같은 논리 게이트(Logic Gate) AND GATE 입력 신호가 모두 1일 때 1을 출력 즉, 두 조건을 만족할 때만 동작 NAND GATE Not AND 의 줄임말로 AND GATE 결과의 반대를 출력 OR GATE 입력 신호 중 하나만 1이라도 1을 출력 XOR GATE 배타적 논리합(Exclusive-OR)이라고도 불리는 GATE 입력 신호가 다를 경우 1을 출력 신경망이 논의되던 초기에 퍼셉트론의 한계로 지적되었던 것 Linear separability 위 그래프는 각각 AND, OR, XOR의 진리표를 나타내고 있는 그림 검은색이 1, 흰색이 0을 나타냄 AND와 OR에 해당하는 그래프에는 두 클래스를 분류하기 위한 분류 경계 XOR에..

IT 2022.05.28

여러 가지 활성화 함수(Activation function)

계단 함수 (Step function) 가장 간단한 활성화 함수 입력값이 임계값을 넘기면 1을 그렇지 않으면 0을 출력하는 함수 임계값 지점에서 미분이 불가능하고 나머지 지점에서는 미분값이 0이 나옴 실제로 계단 함수를 활성화 함수로 사용하면 학습이 제대로 이루어지지 않음 시그모이드 함수 (Sigmoid function) 신경망이 경사 하강법을 통해 학습을 진행하기 위해서는 미분 과정이 필요 계단 함수의 단점을 해결하기 위해 사용된 함수 임계값보다 작은 부분은 0에 가까워지고, 큰 부분은 1에 가까워짐 계단 함수보다 부드럽게 연결되어 있기 때문에 모든 지점에서 미분이 가능하며, 미분값도 0이 아님 중복 사용하게 되면 기울기 소실(Vanishing Gradient) 문제 발생 ReLU 함수 (ReLU fu..

IT 2022.05.27

퍼셉트론(Perceptron)의 개념 & 구조

퍼셉트론(Perceptron) 신경망을 이루는 가장 기본 단위 다수의 신호를 입력으로 받아 하나의 신호를 출력하는 구조 레고의 블록과 비슷 1. 가중치(Weight) - 편향(bias) 연산 가중합(Weighted Sum) 입력된 신호를 각각의 가중치와 곱하고 그 결과를 더해주게 되는 퍼셉트론의 첫 번째 단계 import numpy as np input = np.array([1, 2, 3]) weight = np.array([0.2, 0.3, -0.1]) np.dot(input, weight) 0.5 입력 신호(input)에 대해 임의의 가중치(weight)를 설정 1 X 0.2 + 2 X 0.3 + 3 X (-0.1) = 0.5 2. 활성화 함수(Activation function) 계산된 가중합을 얼..

IT 2022.05.26

[책 리뷰] 문과생, 데이터 사이언티스트 되다

비전공자로서 데이터 사이언티스트를 준비하면서 초기에 마음가짐을 할 수 있었던 도서 주요 내용 정리 문과생, 데이터 사이언티스트 되다 스타벅스커피코리아 1호 데이터 사이언티스트이자 소비자심리학 박사. 크고 작은 조직들을 거치며 KT경제경영연구소 연구원으로도 일했다. 데이터를 가지고 새로운 것을 알아내는 일이 즐거워, books.google.co.jp 데이터 데이터는 개념보다 활용이 중요하다. 데이터는 쌓일수록 가치가 생긴다. 데이터는 경쟁력을 좌우한다. 모든 것이 데이터가 될 수 있다. 데이터 사이언티스트의 역할 이 시대에 꼭 필요한 전문가 기술, 통계, 인문의 경계를 넘나든다. 숫자로 설득해야 한다. 숫자와 현실을 연결해야 한다. 숫자와 언어 속에서 맥락을 읽어낸다. 데이터 사이언티스트의 역량 기초다지기..

IT 2022.05.24
728x90
반응형
LIST