학습용 데이터셋 구축 안내서
06/09/2023 Deep Learning
데이터 구축 프로세스: 데이터 획득 → 데이터 검사 → 데이터 정제 데이터 획득: 대상지 선정 → 빛의 양(조도) 확인 → 촬영 수행 데이터 검사: saturate 여부 확인하여 saturate가 되면 해당 이미지 배제, 화질이 불량하거나(흔들림, 초점 불일치 등), ...
최근 포스트
[CVPR 2023] 캐나다 입국 필수서류, 여행 준비물
06/07/2023 Conference
여권
MaxViT: Multi-Axis Vision Transformer (ECCV 2022)
06/01/2023 Paper Review
본 논문에서 제안하는 ‘Multi-axis self attention(Max-SA)’은 새로운 종류의 트랜스포머 모듈입니다. 이 모듈은 blocked local과 dilated global 어텐션으로 구성됩니다. 모듈 내에서 지역적 및 전역적 공간 상호작용을 수행할 수 있습니다.
Distillation-Guided Image Inpainting (ICCV 2021)
06/01/2023 Paper Review
최근 딥러닝을 이용한 이미지 복원 기술에서 image inpainting 태스크의 성능이 크게 향상되었습니다. 하지만 이러한 기술은 hole 영역에 왜곡된 구조나 균일하지 않은 텍스처를 생성하는 문제가 있습니다. 이는 encoder 레이어의 missing region에 대한 emb...
Focal and Global Knowledge Distillation for Detectors (CVPR 2022)
05/30/2023 Paper Review
본 논문에서는 아래와 같은 새로운 내용들을 제안합니다.
트랜스포머에 적용된 기술들
05/26/2023 Deep Learning
트랜스포머 블록은 멀티 헤드 어텐션, 피드 포워드 뉴럴 네트워크, 잔차 연결 및 레이어 정규화 등 세 가지 구성 요소를 기본으로 합니다.
트랜스포머 살펴보기
05/26/2023 Deep Learning
셀프 어텐션(Self Attention)
05/26/2023 Deep Learning
트랜스포머(transformer)의 핵심 구성요소는 셀프 어텐션입니다. 셀프 어텐션은 트랜스포머의 인코더와 디코더 블록 모두에서 수행됩니다. 이 글에서는 인코더의 셀프 어텐션에 대해 살펴보겠습니다.
비전 트랜스포머(Vision Transformer)
05/26/2023 Deep Learning
CBAM (Convolutional Block Attention Module)
05/25/2023 Deep Learning
CBAM은 attention module을 사용하여 모델의 성능을 향상시킵니다. Channel attention module과 spatial attention module로 구성되어 있으며, 각각의 attention module은 채널과 공간에 대한 attention map을 생성...