DeepLearning

DeepLearning - 신경망 코드 이해

'''신경망 코드 이해하기''' 배치 경사 하강법이란, 전체 학습 데이터를 하나의 배치로(배치 크기가 n) 묶어 학습시키는 경사 하강법이다. 확률적 경사 하강법 (Stochastic Gradient Descent: SGD) 확률적 경사 하강법은 전체 데이터 중 단 하나의 데이터를 이용하여 경사 하강법을 1회 진행(배치 크기가 1)하는 방법이다. 전체 학습 데이터 중 랜덤하게 선택된 하나의 데이터로 학습을 하기 때문에 확률적 이라 부른다.45` 미니 배치 확률적 경사 하강법 (Mini-Batch Stochastic Gradient Descent: MSGD) 딥러닝 라이브러리 등에서 SGD를 얘기하면 최근에는 대부분 이 방법을 의미한다. SGD와 BGD의 절충안으로, 전체 데이터를 batch_size개씩 나..

2022. 10. 26. 15:16

DeepLearning

DeepLearning - Tensorflow 다층 퍼셉트론, 역전파

퍼셉트론의 한계 : 인간은 풀 수 있지만, 인공지능은 풀 수 없다 . 예를들어, 성냥개비로 4개의 정삼각형을 만들 수 있느냐 라는 문제에서 2차원 평면이라는 틀을 깨고, 성냥개비를 피라미드 처럼 올려서 4개의 정삼각형을 만들 수 있다. 인공지능 학자들은 인공 신경망을 개발하기 위해서 반드시 XOR 문제를 극복해야만 했다. 이 문제 역시 고정관념을 깬 기발한 아이디어에서 해결점이 보였다. XOR의 해결점은 평면을 휘어 주면서 고정관념를 깨는 것 이었다. 텐서플로우를 활용하여 다층 퍼셉트론을 풀면, #xor 설정 xor = {'x1':[0,0,1,1],'x2':[0,1,0,1],'y':[0,1,1,0]} #데이터프레임 생성 XOR = pd.DataFrame(xor) print(XOR) #X,y 설정 X = ..

2022. 10. 26. 11:49