全結合層の線形代数
tensorflow で全結合（dense）層を定義する方法は 2 通りあります。1 つ目は、低レベルの線形代数演算を使う方法です。2 つ目は、高レベルの keras API を使う方法です。この演習では、最初の方法を使って、下の画像にあるネットワークを構築します。
入力層には 3 つの特徴量（education、marital status、age）があり、borrower_features として利用できます。中間層は 2 ノード、出力層は 1 ノードです。
各層について、前の層の出力を入力として受け取り、重みを初期化し、入力と重みの積を計算し、活性化関数を適用します。Variable()、ones()、matmul()、keras() は tensorflow からインポート済みであることに注意してください。
この演習はコースの一部です
Introduction to TensorFlow in Python
実践的なインタラクティブ演習
このサンプルコードを完成させて、この演習に挑戦してみましょう。
# Initialize bias1
bias1 = Variable(1.0)
# Initialize weights1 as 3x2 variable of ones
weights1 = ____(ones((____, ____)))
# Perform matrix multiplication of borrower_features and weights1
product1 = ____
# Apply sigmoid activation function to product1 + bias1
dense1 = keras.activations.____(____ + ____)
# Print shape of dense1
print("\n dense1's output shape: {}".format(dense1.shape))