LSTM 은 RNN의 문제를 해결하기 위해 나온 방식중 하나이다. RNN 또한 망이 깊어지고 이전의 정보가 멀어질 경우 역전파시에 그래디언트가 줄어들어 학습능력이 저하 되는 것을 피할수 없었다. 이러한 문제를 우리는 gradient vanishing 이라고 했다. 일반적인 RNN의 경우에는 tanh 연산만 진행을 하였다면 RNN의 히든 state에 cell-state를 추가했다고 한다. 이러한 이유로인해 꽤 오랜 시간이 경과된다 하더라도 정확하게 전파를 할수 있는 모델을 만들었다고 한다. LSTM도 RNN과 같은 체인 구조로 되어 있지만, 반복 모듈은 단순한 한 개의 tanh layer가 아닌 4개의 layer가 서로 정보를 주고받는 구조로 되어 있다. LSTM 셀에서는 상태(state)가 크게 두 개의..

https://www.clien.net/service/board/kin/10588915 (딥러닝, 머신러닝) 은닉 레이어나 노드 수는 어떻게 정하는 건가요? : 클리앙 ** 이 게시판은 댓글이 달리면 게시물을 삭제할 수 없습니다. ** ** 내용의 장기노출이 곤란한 경우 [수정]을 통해 내용을 변경하시기 바랍니다. ** 안녕하세요. 이제 막 머신 러닝을 공부하고 있는 www.clien.net 딥러닝 모델을 설계하게 되면서 노드의 수 은닉층의 수에 자연스럽게 관심이 가지게되었다. 안녕하세요. 이제 막 머신 러닝을 공부하고 있는데, 은닉 레이어나 노드 수는 어떻게 정하는 지 궁금합니다. 입력이나 출력 노드는 말 그대로 입출력 타입에 따라 결정되는데, 핵심이 되는 은닉 레이어나 노드 수는 무엇에 따라 정하나요..

https://keras.io/ko/applications/ Applications - Keras Documentation 어플리케이션 케라스 어플리케이션은 선행학습된 가중치와 함께 사용할 수 있도록 한 딥러닝 모델입니다. 이 모델로 예측, 특성추출, 파인튜닝을 할 수 있습니다. 가중치는 모델을 인스턴스화 keras.io 공부할 때 참고한 설명입니다. https://codetorial.net/tensorflow/transfer_learning.html 14. 전이 학습 활용하기 - Codetorial 전이 학습 (Transfer learning)은 사전 훈련된 모델을 그대로 불러와서 활용하는 학습 방식입니다. 전이 학습을 사용하면 직접 다루기 힘든 대량의 데이터셋으로 사전 훈련된 특성들을 손쉽게 활용할 ..

https://23min.tistory.com/7 [Object Detection] 성능평가지표 용어 정리 AP (Average Precision) Object Detection 알고리즘의 성능은 precision-recall 곡선과 average precision(AP) 로 보통 평가한다. 두 용어를 제대로 이해하기 위해서는 우선 Precision과 Recall에 대한 지식이 필.. 23min.tistory.com https://medium.com/dominators/%EB%A8%B8%EC%8B%A0%EB%9F%AC%EB%8B%9D-%EB%B6%84%EB%A5%98-%ED%8F%89%EA%B0%80%EC%A7%80%ED%91%9C-%EC%9D%B4%ED%95%B4%ED%95%98%EA%B8%B0-%EC..

https://wikidocs.net/36033 04) 딥 러닝의 학습 방법 이번 챕터에서는 손실 함수와 옵티마이저의 개념을 가지고, 딥 러닝에서 어떻게 학습을 하는지에 대해서 배웁니다. ##**1. 손실 함수(Loss function)** ... wikidocs.net 낮은 확률로 예측해서 맞추거나, 높은 확률로 예측해서 틀리는 경우 loss가 더 큽니다. keras의 model.compile()에서는 이진 분류 (Binary Classification)의 경우 binary_crossentropy를 사용합니다.model.compile(loss='binary_crossentropy', optimizer='adam', metrics=['acc']) 다중 클래스 분류(Multi-Class Classifica..

https://rfriend.tistory.com/431 [Keras] 이미지 파일 업로드하고 전처리하여 시각화하는 방법 (how to upload, preprocess and visualize images) CNN(Convolutional Neural Network)으로 이미지 분류 모델링할 때 보통 tensorflow나 keras 라이브러리에 이미 포함되어 있는 MNIST, CIFAR-10 같은 이미지를 간단하게 load 하는 함수를 이용해서 toy project로.. rfriend.tistory.com 개와 고양이를 이용한 이해 1. 개와 고양이 사진 다운로드 (download dogs and cats images from Kaggle) 2. 개와 고양이 이미지 30개만 선택해서 별도 경로(폴더)에..

https://deep-eye.tistory.com/6 [YOLO] Python과 OpenCV를 이용한 실시간 객체 탐지 알고리즘 구현 Window 아나콘다 가상 환경을 활용하여 YOLO Object Detection을 구동해보았습니다. 일반적으로 쓰이는 프레임워크 Darknet이 아닌OpenCV 내장 함수를 이용하였기에 복잡한 설치나 환경 설정이 필요하지 deep-eye.tistory.com 1. Darknet : 원개발자가 만든 YOLO만을 위한 프레임워크 장점 : 연산이 빠르고, GPU와 CPU 연산 모두 지원 단점 : Linux 환경에서만 지원 (복잡하긴 하지만 환경변수, VS 등을 통해 구현은 가능합니다.) 2. DarkFlow : Darknet의 텐서플로우 버전 장점 : 연산이 빠르고, GPU..