ABOUT ME

Today
Yesterday
Total
  • [LSTM] return_sequence = True or False
    Implementation/Text 2021. 10. 5. 13:42
    ### dec_hidden 값을 decoder 즉, lstm layer 에 통과시켰을 때, 
    # return_sequence = True or False 에 따른 변경. 
    
    dec_hidden.shape
    >>> (2,10,4) 
    
    # return_sequence = False 일 때, 
    dec_lstm = tf.keras.layers.LSTM(units= 5, return_sequence=False) 
    dec_hidden = dec_lstm(dec_hidden, initial_state=[enc_h_state, enc_c_state], mask=dec_mask) 
    dec_hidden.shape
    >>> (2,5)
    
    
    # return sequence = True 일 때, 
    dec_lstm = tf.keras.layers.LSTM(units= 5, return_sequence=True) 
    dec_hidden = dec_lstm(dec_hidden, initial_state=[enc_h_state, enc_c_state], mask=dec_mask) 
    dec_hidden.shape
    >>> (2,10,5) 
    
    # time step 에 따른 hidden state 가 함께 출력되었음을 확인할 수 있다.

    'Implementation > Text' 카테고리의 다른 글

    [Preprocessing] Tokenize -1  (0) 2021.11.02
    [Text] Word2Vec  (0) 2021.10.02
    [RNN] 파라미터 개수 카운팅  (2) 2021.09.21
by eric