Implementation
-
[Python] unique key counting dictionaryImplementation/Python 2021. 9. 26. 21:29
# 리스트 요소의 unique key value count 를 dict 구조로 만들어주는 라이브러리 from collections import Counter s2 = "dcda" Counter(s2) #Counter({'d': 2, 'c': 1, 'a': 1}) # 리스트 컴프리헨션으로 만들면 아래와 같다 dict(zip(s2, [s2.count(k) for k in s2])) #{'d': 2, 'c': 1, 'a': 1}
-
[Loss] 크로스 엔트로피Implementation/Loss 2021. 9. 22. 13:07
- Cross Entropy Entropy 는 확률분포 p 가 가지는 정보의 확신도 혹은 정보량을 수치로 표현한 것이며, Cross-Entropy 는 정보 이론에서, 두 확률 분포 p 와 q를 구분하기 위해 필요한 평균 비트 수를 의미한다. # Define data p = [0.10, 0.40, 0.50] q = [0.80, 0.15, 0.05] # Define Entropy def entropy(p): return -sum([p[i] * np.log2(p[i]) for i in range(len(p))]) # Define Cross-Entropy def cross_entropy(p, q): return -sum([p[i] * np.log2(q[i]) for i in range(len(p))]) 정보 이..
-
[RNN] 파라미터 개수 카운팅Implementation/Text 2021. 9. 21. 13:55
# Simple RNN 파라미터 참고 # => output_dim, ( time-length or setence-length, input_dim) # => Dh, (t, d) from keras.models import Sequential from keras.layers import SimpleRNN model = Sequential() model.add(SimpleRNN(3, input_shape=(2,10))) # model.add(SimpleRNN(3, input_length=2, input_dim=10))와 동일함. model.summary() _________________________________________________________________ Layer (type) Output ..