딥러닝 용어 정리

딥러닝 용어 정리(ver 0.1_181211)

Convolution Neural Network을 중심으로

그 중에서도 darknet(yolo)을 더 중심으로

 딥러닝, 인공지능 분야는 너무 방대해서 처음 공부하면 용어도 참 많고 자주 봤던 것 같은데 자꾸 까먹기도 한다. 그래서 정리한 딥러닝에서 자주 사용하는 용어 정리를 해보았다. 생각나는대로 추가할 예정이다.

<darknet에서 cfg파일에 나오는 용어>

batch : 한번에 처리할 이미지의 개수(iteration 당 처리 할 이미지의 수), 보통 Nvidia GPU를 연산에 많이 사용할텐데  배치사이즈를 크게 늘려보면 CUDA error : out of Memory 에러 메시지를 만날 수 있다.

subdivision(mini-batch) : subdivision이라는 단어는 darknet에서 사용하는 것을 봤고 보통은 mini-batch라는 단어로 더 많이 사용되는 것 같다. mini-batch는 batch를 몇 개의 단위로 분할해 GPU로 보내 프로세스를 진행하는 것이다. 예를 들면, darknet에서는 batch 사이즈가 64이고 subdivision이 8 이라면 64개의 batch를 8개의 그룹으로 나누어 순차적으로 GPU에 보내 처리한다는 뜻이다.

iteration & epoch : batch 사이즈가 64이고 학습할 이미지가 128개라면 두 번의 iteration을 해야 1세대의 epoch이 만들어진다.

momentum : momentum에 관해 잘 설명해주는 블로그가 있다. 그 블로그의 설명으로 대체, 링크->https://tensorflow.blog/2017/03/22/momentum-nesterov-momentum/ 

대충 경사하강법의 최적화 알고리즘의 한 종류이다.. 라는 정도로 알고 있으면 되겠다.

<모멘텀을 통해 그래디언트가 큰 흐름의 방향으로 움직이게 해준다.>

leaky : activation 함수 중에 하나다. 풀네임은 leaky ReLU. 음수 input에 해서 그 값을 1/10으로 줄여서 사용하는 함수

mAP : Mean Average Precision의 약자. 

* precision : 분류기가 참으로 판단한 것 중에 실제로 참인 것의 비율

임계값을 변화함에 따라서 참으로 판단하는 것의 비율이 달라지는데 이 중 precision의 평균이 mAP