티스토리

발로뛰는개발자

검색하기

블로그 홈

발로뛰는개발자

rundevelop.tistory.com/m

https://github.com/hae-song

구독자: 6

방명록 방문하기

주요 글 목록

09-3 LSTM과 GRU 셀 Predicted 0 N 1 P Actual 0 N TN 음성 FP 위양성 1 P FN 위음성 TP 양성 Negative Positive accuracy = 분모가 전부 더한것 TN+TP/ TN+FP+FN+TP 재현율(recall) 정밀도(precision) TP를 찾는것 TP/ FP+TP 양성으로 예측한 것중에 정말 양성인것 (세로) 실제 양성인 것중에서 진짜 양성인것 TP/ FN+TP (가로) 검색엔진은 재현율에 중점을 둔다. (결과가 많아보이려고) 두가지를 절충해서 쓰는 F1 SCORE(조합평균) 2/(1/recall+1/precision) = 2*(recall*precision)/(recall+precision) ROC(수신자작동특성, receiver operational characteristi.. 공감수 0 댓글수 0 2022. 4. 7.
09-2 순환 신경망으로 IMDB 리뷰 분류하기 긍정과 부정으로 분류 norm L1 : 맨하탄 거리 -> 라쏘 Lasso L2 : 유클리드 거리 -> 릿지 Ridge : 직선으로 거리 계산(가장 짧은 거리) 이러한 페널티를 적용 유사도 0~1 cosine 공감수 0 댓글수 2 2022. 4. 7.
09-1 순차 데이터와 순환 신경망 학습된 모델 학습이 안된 모델 가중치 정규분포 균등분포 CNN : 합성곱층 -> Conv2D 필터 ≒ 뉴런 GPU로 연결하면 성능이 save~ 이미지 같은 것들을 병렬처리 X 75% 25% train, test y 75 25 train, test rv : random variable 확률변수 -순차데이터 순서에 의미가 있는 데이터 ex) 텍스트나 시계열데이터 -피드포워드 신경망 입력데이터의 흐름이 앞으로만 전달되는 신경망 ex) 완전 연결 신경망, 합성곱 신경망 공감수 0 댓글수 0 2022. 4. 6.
08-3 합성곱 신경망의 시각화 -함수형 API 원래는 신경망 모델을 만들 때 케라스 Sequential 클래스를 사용했었다. 입력이 2개거나 출력이 2개일 때는 대신 함수형 API를 사용한다. 공감수 0 댓글수 0 2022. 4. 5.
08-2 합성곱 신경망을 사용한 이미지 분류 -Conv2D 합성곱 연산 kerner_size : 필터의 커널 크기 지정 공감수 0 댓글수 0 2022. 4. 5.
08-1 합성곱 신경망의 구성 요소 커널 = 필터=가중치 네번 계산해서 2행 2열짜리가 된다. 중요하지 않은 거는 0에 가까운 값이 된다. -합성곱 입력 데이터에 도장을 찍어서 유용한 특성만 드러나게 하는 것 합성곱 계산을 통해 얻은 출력을 특성맵(feature map)이라고함 보통 전치가 쉽기 때문에 정방행렬을 많이 쓴다. 3*3 or 5*5 원리 3*3 행렬이 10개이고 인풋을 몰라서 6*6 데이터가 들어간다고 하면 결국 4*4 결과가 10개 나온다.(feature map) 결과가 의미하는 것은 주로 이미지(데이터)의 특징을 나타내는 정보이다. -세임패딩 입력과 특성맵의 크기를 동일하게 만들기 위해 입력 주위에 0으로 패딩하는 것(추가로) 가장 모서리에 있는 애들이 가장 연산을 덜하게 되고 가운데에 있는 애들이 연산을 많이 하게 된다... 공감수 0 댓글수 0 2022. 4. 1.
07-3 신경망 모델 훈련 -드롭아웃 학습에 전혀 관여하지 않는다. 훈련과정에서 층에 있는 일부 뉴런을 랜덤하게 꺼서(뉴런의 출력을 0으로 만들어) 과대적합을 막는다. HDF5 파일포맷 : 하둡, 스파크 PYSPARK : 파이썬으로 개발된 스파크 model.save : 학습된 모델을 저장하는 것(용량이 크다) model = keras.models.load_model('model-whole.h5') : 모델 복원 -콜백 과대적합을 막는 또 하나의 방법 메모리가 적재된 것 : 프로세스 직접 호출하는게 아니고 메인(main)에서 등록(register-fn)을 해놓고 특정 이벤트에 의해서 함수(fn)가 호출된다. 비동기적으로 이벤트에 의해서 호출됨. 손실이 줄어들지 않는 시점이 이벤트 epoch20이 event 체크포인트 콜백 : 모델들.. 공감수 0 댓글수 2 2022. 4. 1.
07-2 심층 신경망 인공 신경망 : 로지스틱 회귀보다 성능이 좋다. 뉴런 하나하나 마다 bias가 존재한다. 그래서 마지막에 뉴런개수를 더해줘야한다. 은닉층 뉴런도 더해줘야 한다. 시그모이드 : s자로 비선형 항상 출력은 activation 함수를 통과한다. 모든 층들은 dense라고 한다. 기본 태생 자체가 과적합 *중요* softmax : 다중분류일때 sigmoid : 이중분류일때 출력층 : softmax 같이 다중분류가 와야한다. dense1 : 은닉층이 된다.(hidden) 처음 만들때 은닉층을 생각하고 만들어야 한다. **layer를 많이 사용하는 것이 뉴런을 많이 사용하는 것보다 많은 이익이 나온다. Flatten을 쓰면 model summary에서 input layer을 볼수있다. hidden layer(은닉층.. 공감수 0 댓글수 0 2022. 3. 31.
07-1 인공 신경망 KEYWORD -인공신경망 : 머신러닝 알고리즘, 딥러닝 이라고도 함 -텐서플로 : 구글이 만든 딥러닝 알고리즘 CPU와 GPU를 사용하여 인공 신경망 모델을 효율적으로 훈련함 텐서플로 2.0 부터는 신경망 모델을 아주 빠르게 구성할 수 있는 케라스를 핵심 API로 채택함 -밀집층: 가장 간단한 인공 신경망의 층 특별히 출력층에 밀집층을 사용할 때는 분류하려는 클래스와 동일한 개수의 뉴런을 사용함 from tensorflow import keras -원-핫 인코딩: 정숫값을 배열에서 해당 정수 위치의 원소만 1이고 나머지는 모두 0으로 변환한다. 이런 변환이 필요한 이유는 다중 분류에서 출력층에서 만든 확률과 크로스 엔트로피 손실을 계산하기 위해서이다. 'sparse_categorical_entropy'.. 공감수 0 댓글수 2 2022. 3. 29.
06-3 주성분 분석 차원 =feature fruits_2d : 300행 10000열 배열의 구조와 데이터의 차원은 다른것. 배열에서 차원은 axis 첫번째로 분산이 가장 큰 벡터성분을 선택한다. 그 다음 두번째로 큰것 선택.. 이런식으로.. 10000개의 feature을 50개로 바꿀 예정 손실이 발생해서 이미지에 약간 손실이 있을 수 있다. translation 수직/수평이동 rotation 뒤집기 scale : 줌인, 줌아웃 압축 : 데이터의 개수가 바뀌는게 아니라 feature에 개수가 변하는것 공감수 0 댓글수 0 2022. 3. 29.
06-2 k-평균 k-평균 = 클러스터 중심 = 센트로이드 원리 1. 무작위로 k개의 클러스터 중심을 정한다. 2. 각 샘플에서 가장 가까운 클러스터 중심을 찾아 해당 클러스터의 샘플로 지정한다. 3. 클러스터에 속한 샘플의 평균값으로 클러스터 중심을 변경한다. 4. 클러스터 중심에 변화가 없을 때까지 2번으로 돌아가 반복한다. 이너셔 : 클러스터 중심과 클러스터에 속한 샘플 사이의 거리의 제곱합 클러스터에 속한 샘플이 얼마나 가깝게 모여있는지를 나타내는 값 공감수 0 댓글수 0 2022. 3. 29.
06-1 군집 알고리즘 객체직렬화(serialization) : save 역직렬화(deserialization) : load (샘플의수, width, height) 이미지의 가로 세로 크기 print(fruits[0,0,:]) 순서 : 첫번째 샘플, 첫번째 행의 정보, #대표적으로 predict 같은 것은 차원을 유지해서 전달해야 하기 때문에 슬라이싱, 인덱싱 등이 중요하다. 샘플 하나 넣었을 때는 반드시 슬라이싱을 써라.(인덱싱 금지, 차원이 줄어든다.) 사인파 : 진동의 높낮이, 길이 bar graph histogram X축 범주형(정수, 문자열) 연속형 데이터(실수데이터)+구간 Y축 연속형 데이터(실수, 정수) 빈도(밀도) DPI :도트퍼인치 특성별평균을 구하기 때문에 바그래프로 작성 공감수 0 댓글수 0 2022. 3. 28.
05-3 트리의 앙상블 -KEY WORDS 랜덤 포레스트 부트스트랩 배깅 하드보팅 : 빈도에 의한 소프트보팅 : 비율(확률)에 의한 -정형데이터와 비정형데이터 정형데이터는 CSV파일 같이 어떤 구조로 되어있는 데이터이다. 지금까지 배운 머신러닝 알고리즘은 정형 데이터에 잘 맞는다. 그 중에 정형 데이터를 다루는 데가 가장 뛰어난 성과를 내는 알고리즘이 앙상블 학습이다. 앙상블 학습은 대부분 결정트리를 기반으로 만들어져 있다. 비정형 데이터에는 신경망 알고리즘을 사용한다. 비정형 데이터는 규칙성을 찾기 어려워 전통적인 머신러닝 방법으로는 모델을 만들기 까다롭다. 앙상블 학습 알고리즘 사이킷런에서 제공하는 정형 데이터의 끝판왕! 랜덤 포레스트 앙상블 학습의 대표 주자 안정적인 성능 덕분에 널리 사용되고 있다. 원리 결정 트리를 랜.. 공감수 1 댓글수 2 2022. 3. 25.
05-2 교차 검증과 그리드 서치 실제로 딥러닝에서는 교차검증을 거의 쓰지 않는다. 비정형 데이터라서 시간과 비용이 많이 쓰이기 때문 현업에서는 거의 사용하지 않는다. CV가 붙어있는 것들은 검증점수가 필요한것들이다. 공감수 0 댓글수 0 2022. 3. 24.
05-1 결정트리 정보 이득(information gain) : 분모와 자식간의 불순도 차이 분모와 자식간의 차이가 크다 : 자식이 순도가 높아지도록 할 수 있다. 불순도의 차이 : 정보이득 filled가 옅어질수록 불순도가 높아진다. 순도 100% : 리프노드 overfit가 된 모형이 가지고 있는 특징 : train값이 100을 향해 고공행진, test가 꺾이거나 그상태 유지(test성능이 더이상 올라가지 않음) 엔트로피 : 불확실성 정보이득을 최대화하자 : 좌측노드 우측노드의 비율과 관련해서 빼주는것 -코드해석 max_depth=과적합방지용 samples_split=최소 2개는 있어야 쪼개기 가능 feature가 많으면 복잡도가 올라간다. 공감수 0 댓글수 0 2022. 3. 24.
전처리 [배열(array)] 연산속도가 가장 빠르다. 선형대수, 고속처리의 특징을 가지고 있음 보통 pandas.DataFrame으로 읽어들이고 필요에 의해서 to_numpy() 라는 함수를 이용하여 필요하면 numpy배열로 변환하여 사용하는게 현업에서 많이 쓰인다. -층화임의추출 각 그룹별로 퍼센트 매겨서 a b c 30 40 30 퍼센트 유지 -KNN k값은 홀수를 보통 많이쓴다. 표준화를 해야 안정적인 값이 나온다. 공감수 0 댓글수 3 2022. 3. 18.
도미 데이터 머신러닝(KNN)-2 # -*- coding: utf-8 -*- # Commented out IPython magic to ensure Python compatibility. # %run my_init.py # Commented out IPython magic to ensure Python compatibility. # %matplotlib inline #정적그래프를 그릴때 사용하는 옵션 """#데이터 준비하기""" bream_length = [25.4, 26.3, 26.5, 29.0, 29.0, 29.7, 29.7, 30.0, 30.0, 30.7, 31.0, 31.0, 31.5, 32.0, 32.0, 32.0, 33.0, 33.0, 33.5, 33.5, 34.0, 34.0, 34.5, 35.0, 35.0, 35.0, 35... 공감수 0 댓글수 0 2022. 3. 17.
도미 데이터 머신러닝(KNN)-1 # -*- coding: utf-8 -*- """ #데이터 준비하기 """ bream_length = [25.4, 26.3, 26.5, 29.0, 29.0, 29.7, 29.7, 30.0, 30.0, 30.7, 31.0, 31.0, 31.5, 32.0, 32.0, 32.0, 33.0, 33.0, 33.5, 33.5, 34.0, 34.0, 34.5, 35.0, 35.0, 35.0, 35.0, 36.0, 36.0, 37.0, 38.5, 38.5, 39.5, 41.0, 41.0] bream_weight = [242.0, 290.0, 340.0, 363.0, 430.0, 450.0, 500.0, 390.0, 450.0, 500.0, 475.0, 500.0, 500.0, 340.0, 600.0, 600.0, 70.. 공감수 0 댓글수 0 2022. 3. 17.

문의안내

티스토리
로그인
고객센터

티스토리는 카카오에서 사랑을 담아 만듭니다.