본문 바로가기

전체 글

(57)
CV application Semantic Segmention per pixel classification fully convolution layer (convolutionalization) dense layer를 대체함 input dimension에 independent함 단순한 분류가 아닌 heatmap 생성 가능 Deconvolution 정확한 복원은 불가능 Detection R-CNN SPPNet Fast R-CNN Faster R-CNN - Region Proposal Network + Fast R-CNN YOLO - bounding box를 sampling하지 않아 훨씬 빠름
Modern CNN Imagenet Large-Scale Visual Recognition Challenge (ILSVRC) AlexNet 11x11 kernal, 5 conv layer, 3 dense layer ReLU Overlapping pooling Data augmentation Dropout VGGNet 3x3 kernal 1x1 conv layer for FC layer 3x3 kernal을 두번 쓰는 것이 5x5 kernal을 쓰는 것보다 더 효율적 GoogLeNet 22 layer, Network In Network Inception block - conv하기 전 1x1 conv parameter가 줄어듦 ResNet Idendity map (skip connenction) 더 깊은 network 가능 b..
Optimizer Optimizing Generalization - gap of train error&test error Underfitting, Overfitting Cross-validation Bias(정답 적중률) and Variance(분산율) Bootstrapping - dataset을 한번에 학습하지 않고 subsampling을 통해 학습 Bagging(Bootstrapping aggregating) - subsampling을 통해 여러 모델을 학습시킴. parallel Boosting - weak learner를 합쳐 strong learner를 만듦. sequential Optimizer Gradient descent - 미분값을 뺌 Momemtum - gradient에 관성을 추가 Nesterov Acc..
DL history Key of DL DATA MODEL LOSS OPTIMIZER 2012 - AlexNet Deep learning paradigm 시작 2013 - DQN 알파고 2014 - Encoder/Decoder, Adam seq2seq, machine translation 쉬운 구현, 효율적 연산 2015 - GAN, ResNet generator, discriminator more deep network 2017 - Transformer Attention 2018 - BERT fine - tuned NLP model 2019 - BIG Language Models GPT-X, many parameter 2020 - Self Supervised Learning 학습 데이터 외의 데이터셋 활용
Seaborn Seaborn matplotlib 기반 통계 시각화 라이브러리 Category countplot boxplot violin Distribution histplot : 히스토그램 kdeplot : Kernel Density Estimate ecdfplot : 누적 밀도 함수 rugplot : 선을 사용한 밀도함수 Bivariate Distribution histplot, kdeplot 축을 2개 넣기 Relation & Regression scatter plot line plot Matrix plot Headmap - correlation Figure level joint plot pair plot facet plot catplot : Categorical displot : Distribution relp..
More tips More tips Grid colorm zorder, which, axis 두 변수의 합 : x+y=c (grid가 대각선으로) 비율이 중요할 때 : y=cx (원점에서 퍼짐) 특정 데이터 중심 : (x-x')^2+(y-y')^2=c (등고선) 선 추가 면 추가 Settings, theme
Facet Facet 화면 상의 view를 분할 같은 dataset에서 다른 insight 도출 1 Figure, N subplot plt.subplot() plt.figure() + fig.add_subplot() plt.subplots() figuresize, dpi, sharex, squeeze, aspect subplot slicing numpy slicing fig.add_grid_spec() fig.subplot2grid() ax.inset_axes() - 내부에 작은 정보 make_axes_locatable(ax) - 외부에 작은 정보
Color Color Categorical 독립된 색상으로 구분 최대 10개까지 사용 Sequential 연속적인 색상 사용 단일한 색조로 균일한 색상 변화 Diverge Sequential과 비슷하나 중앙을 기준으로 발산 상반된 값, 서로 다른 2개의 값 Highlighting 명도, 색상, 채도, 보색