整流线性激活函数

正如 Dan 在视频中向您解释的那样，"激活函数"是在每个节点上应用的函数。它把节点的输入转换为某个输出。

整流线性激活函数（称为 ReLU）已被证明能训练出性能非常高的网络。该函数接收一个数作为输入：如果输入为负则返回 0，如果输入为正则返回输入本身。

示例：
relu(3) = 3
relu(-3) = 0

本练习是课程的一部分

Python 深度学习入门

查看课程

练习说明

补全 relu() 函数的定义：
- 使用 max() 函数计算 relu() 的输出值。
将 relu() 应用于 node_0_input 来计算 node_0_output。
将 relu() 应用于 node_1_input 来计算 node_1_output。

交互式实操练习

通过完成这段示例代码来试试这个练习。

def relu(input):
    '''Define your relu activation function here'''
    # Calculate the value for the output of the relu function: output
    output = max(____, ____)
    
    # Return the value just calculated
    return(output)

# Calculate node 0 value: node_0_output
node_0_input = (input_data * weights['node_0']).sum()
node_0_output = ____

# Calculate node 1 value: node_1_output
node_1_input = (input_data * weights['node_1']).sum()
node_1_output = ____

# Put node values into array: hidden_layer_outputs
hidden_layer_outputs = np.array([node_0_output, node_1_output])

# Calculate model output (do not apply relu)
model_output = (hidden_layer_outputs * weights['output']).sum()

# Print model output
print(model_output)

编辑并运行代码