Derivative of Sigmoid - 시그모이드 미분 함수

Theories/Statistics 2018. 10. 16. 16:26

Sigmoid 와 Derivative of Sigmoid를 알아보자 Equation$$sigmoid(x)=\frac{1}{1+e^{-x}}=\frac{e^x}{1+e^x}$$ $$\frac{d}{dx}sigmoid(x)=sigmoid(x)\cdot(1-sigmoid(x))$$ Derivative of Sigmoid, 시그모이드의 미분에 대한 증명은 다음과 같다. $$\begin{align}\frac{d}{dx}sigmoid(x) & = \frac{d}{dx}\frac{1}{1+e^{-x}} \\& = \frac{d}{dx}(1+e^{-x})^{-1} \\& = -(1+e^{-x})^{-2}\cdot-e^{-x} \\& = \frac{e^{-x}}{(1+e^{-x})(1+e^{-x})} \\& = \fra..

Article Thumbnail
Cosine Similarity - 코사인 유사도

Theories 2018. 10. 12. 17:07

Loss Function 리스트로 돌아가기 [새 창]

Article Thumbnail
[손실함수] Loss Functions

Theories/Loss 2018. 10. 12. 16:42

Cosine Similarity (코사인 유사도) Equation$$similarity = cos(\theta) = \frac{A\cdot B}{||A||\cdot||B||} = \frac{\sum^{n}_{i=1}A_iB_i}{\sqrt{\sum^{n}_{i=1}A_i^2}\sqrt{\sum^{n}_{i=1}B_i^2}}$$Keraskeras.losses.cosine_proximity(y_true, y_pred) Pytorch torch.nn.functional.cosine_similarity(x1, x2, dim=1, eps=1e-08) ExplanationCosine Similarity - 코사인 유사도란? [새 창]

Article Thumbnail
[활성함수] Activation Functions

Theories/Activation 2018. 10. 12. 16:35

Sigmoid Function (시그모이드 함수)Equation$$sigmoid(x) = \frac{1}{1+e^{-x}}$$Keras # Sigmoid를 따로 불러오는 경우 keras.activation.sigmoid(x) # Layer에서 바로 추가하는 경우 model.add(Dense(N, activation="sigmoid")) Python import math def sigmoid(input): return [1/(1 + math.exp(-x) for x in input]ExplanationSigmoid Function - 시그모이드 함수란? [새 창]

Article Thumbnail
[MB] X470 Aorus Gaming 7 Wifi 바이오스 업데이트 (F5)

Misc./Computer 2018. 10. 11. 23:05

X470 Aorus Gaming 7 Wifi 바이오스 업데이트 방법 2018년 9월 19일자로 X470 Aorus Gaming 7 Wifi의 바이오스 업데이트가 있었습니다. [공식홈페이지 바로가기] 그 전 버전인 F4 대비 NVMe 설정 옵션이 추가 되었다고 합니다 1. Add NVMe configuration item 그 외, F4부터 지속된 KVM관련 버그가 있다고 합니다. [레딧] 필자의 추천은 F4G 입니다

Article Thumbnail