정류 선형 활성화 함수

비디오에서 Dan이 설명했듯이, "활성화 함수"는 각 노드에 적용되는 함수로, 노드의 입력을 어떤 출력으로 변환해요.

정류 선형 활성화 함수(ReLU)는 매우 높은 성능의 네트워크로 이어지는 것으로 알려져 있어요. 이 함수는 하나의 수를 입력으로 받아, 입력이 음수면 0을, 양수면 입력값 그대로를 반환해요.

예시는 다음과 같아요:
relu(3) = 3
relu(-3) = 0

이 연습은 강의의 일부입니다

Python으로 시작하는 Deep Learning

강의 보기

연습 안내

relu() 함수의 정의를 완성하세요:
- max() 함수를 사용해 relu()의 출력을 계산하세요.
relu() 함수를 node_0_input에 적용해 node_0_output을 계산하세요.
relu() 함수를 node_1_input에 적용해 node_1_output을 계산하세요.

실습형 인터랙티브 연습

이 예제를 이 샘플 코드를 완성하여 풀어보세요.

def relu(input):
    '''Define your relu activation function here'''
    # Calculate the value for the output of the relu function: output
    output = max(____, ____)
    
    # Return the value just calculated
    return(output)

# Calculate node 0 value: node_0_output
node_0_input = (input_data * weights['node_0']).sum()
node_0_output = ____

# Calculate node 1 value: node_1_output
node_1_input = (input_data * weights['node_1']).sum()
node_1_output = ____

# Put node values into array: hidden_layer_outputs
hidden_layer_outputs = np.array([node_0_output, node_1_output])

# Calculate model output (do not apply relu)
model_output = (hidden_layer_outputs * weights['output']).sum()

# Print model output
print(model_output)

코드 편집 및 실행