DeepLearning

DeepLearning - keras.initializers 예제

from tensorflow import keras from tensorflow.keras import initializers import matplotlib.pyplot as plt initializer1 = keras.initializers.RandomNormal(mean=0, stddev=1.) initializer2 = keras.initializers.RandomUniform(minval=0,maxval=1.) initializer3 = keras.initializers.TruncatedNormal(mean=0, stddev=1.) initializer4 = keras.initializers.Zeros() initializer5 = keras.initializers.Ones() initializ..

2022. 11. 1. 14:32
DeepLearning

DeepLearning - 컨볼루션 신경망 다중 클래스 분류

'''컨볼루션 신경망은 이미지 분류에 사용 된다 .''' ''' Importing the libraries ''' import tensorflow as tf import matplotlib.pyplot as plt from tensorflow.keras.datasets import cifar10 ''' Data Preprocessing Loading the Cifar10 dataset ''' #Setting class names in the dataset class_name = ['airplane','automobile','bird','cat','deer','dog','frog','horse','ship','truck'] #Loading Dataset (X_train, y_train), (X_test,y..

2022. 10. 31. 22:03
DeepLearning

DeepLearning - keras initializer 종류

'''Keras 코드 (초기값 설정) ''' initializer = tf.keras.initializers.RandomNormal(mean=0,stddev=1,) #정규분포에 따라 텐서를 생성하는 초기값 설정 initializer = tf.keras.initializers.RandomUniform(minival=0,maxval=1,) #균등분포에 따라 텐서를 생성하는 초기값 설정 initializer = tf.keras.initializers.TruncatedNormal(mean=0, stddev=1,) # 절단된 정규분포에 따라 텐서를 생성하는 초기값 설정 initializer = tf.keras.initializers.Zeros() # 모든 값이 0인 텐서를 생성하는 초기값 설정 initialize..

2022. 10. 31. 15:25
DeepLearning

DeepLearning - tensorflow Xavier Initialization

Xavier Initialization Gradient Vanishing 현상을 완화 하기 위해서 weight 를 초기화 할 때, Sigmoid와 같은 S자 함수의 경우, 가장 중요한 것은 출력값들이 표준 정규 분포 형태를 갖게 하는 것이다. 출력값들이 표준 정규분포 형태를 갖게 되어야 안정적으로 학습이 가능하기 때문이다. Xavier(사비에르) Initialization 방법은, 단순히 가중치를 작은 값의 표준편차를 갖는 형태로 초기화 하는 것이 아닌, 보다 발전된 방법이다. Xavier Initialization 방법은 표준 정규분포로 초기화 된 가중치를 1/입력개수 제곱근으로 나누어주면 된다. w = np.random.randn(n_input, n_output) / sqrt(1/n_input) Xa..

2022. 10. 31. 11:46
DeepLearning

DeepLearning - 신경망 결합 concatenate

inputA = Input(shape=(2,)) x = Dense(4,activation='relu')(inputA) x = Dense(2, activation='relu')(x) x = Model(inputs=inputA,outputs=x) inputB = Input(shape=(4,)) y = Dense(4, activation='relu',)(inputB) y = Dense(2, activation='relu')(y) y = Dense(2, activation='relu')(y) y = Model(inputs=inputB,outputs=y) from tensorflow.keras.utils import plot_model x.summary() y.summary() #inputA , inputB 합치..

2022. 10. 31. 10:33
DeepLearning

DeepLearning - Tensorflow 신경망 원리

신경망은 스스로 학습하게끔 하는 것이다. 예를들어, 개와 고양이는 어떻게 구분 할까 보통 코드는 고양이의 귀는 어떻게 생겼고 색은 어떻고 특징을 지정해줘야하는데 신경망은 그저 신경망 코드를 짜는 것이다. 고양이와 개의 사진을 보여주고 어떤 것이 고양이인지 , 개 인지 스스로 학습 하고 이해 시킨다. 근본적으로 다른 두가지 접근법이다 . y^ = 예측 값 y = 실제값이라고 하면, 차트를 그려, 아웃풋(실제) , 예측 그래프를 그리고, 최대한 좋은 가중치를 뽑기 위해서 역전파(거꾸로 검증)을 통해 최고의 W(가중치 값 )을 뽑는게 중요하다 비용 함수를 최적화 해야 한다. 7. 배치 경사 하강법 * 비용 함수를 최적화 하는 최고의 방법 -모든행이 신경망에 연결될때, 하나의 신경망만 있을..

2022. 10. 30. 14:42