티스토리

HeYStRanGeR

검색하기

블로그 홈

HeYStRanGeR

hey-stranger.tistory.com/m

HeYStRanGeR 님의 블로그입니다.

구독자: 20

방명록 방문하기

주요 글 목록

[vscode] docker container 연결할 때, 경로 설정 바꾸기 (24.01.19) vscode 에서 도커 컨테이너 연결해서 들어갔더니 root 로 연결되어버려서 작업이 불가능할 경우, 경로를 설정해주어서 원하는 작업 폴더에 연결할 수 있다. 해당 설정 파일의 "workspaceFolder" 를 원하는 경로로 변경해주면 된다! 공감수 0 댓글수 0 2024. 1. 19.
DIV2K dataset 다운로드 (24.01.08) super resolution dataset 중 하나인 DIV2K dataset 다운로드 하는 방법 ! 1. wget 설치 apt-get install wget 2. 원하는 데이터 링크 복사 홈페이지에서 다운을 원하는 링크를 복사한다. ㄴ 홈페이지 -> https://data.vision.ee.ethz.ch/cvl/DIV2K/ 3. wget 명령어 + 링크 입력 wget http://data.vision.ee.ethz.ch/cvl/DIV2K/DIV2K_train_LR_bicubic_X2.zip 공감수 0 댓글수 0 2024. 1. 8.
[gdown] 리눅스에서 구글 드라이브 다운로드 (24.01.08) 리눅스에서 구글드라이브 파일을 다운로드 하는 방법! ==> gdown 명령어를 사용하면된다. 1. gdown 설치 pip install gdown 2. 구글 드라이브 공유 링크 복사 여기서 주의해야할 점은 "링크가 있는 모든 사용자" , "편집자" 이 두가지 설정을 반드시 해줘야한다는 것이다. 3. gdown 명령어 --fuzzy 옵션을 추가해준다. gdown --fuzzy 복사한링크 공감수 1 댓글수 0 2024. 1. 8.
밑바닥부터 시작하는 딥러닝 ch.7 CNN + ch.8 딥러닝 (23.12.28) Fully connected layer (Affine layer) 이전까지의 신경망 layer 는 모두 fully connected layer 였다. (== Affine layer) fully connected layer 에서는 인접하는 layer 의 모든 뉴런이 연결되고, 출력 노드(뉴런)의 개수를 임의로 정할 수 있었다. -> but, 이미지 (w, h, c) 3차원 데이터가 flatten 1차원 데이터가 되어버리는 문제점이 존재한다. -> 예를 들어 MNIST 데이터는 28x28x1 이미지인데, 신경망에 넣을때, 784개의 1차원 데이터로 입력한다. -> fully connected layer (Affine layer) 는 데이터의 형상이 무시된다. --> 이미지의 RGB 각 채.. 공감수 0 댓글수 1 2023. 12. 28.
밑바닥부터 시작하는 딥러닝 ch.6 학습관련 기술들 (23.12.18) 최적화 : 매개변수의 최적값을 찾는 것. 즉, 신경망의 학습에서는 손실함수의 결과값을 최솟값으로 만들기 위한 손실함수의 매개변수 최적값을 찾는 것을 말한다. 최적의 매개변수 값을 찾기 위해서 미분을 이용하였다. -> gradient descent, back propagation SGD, Momentum, AdaGrad, Adam ㄴSGD 는 방향에 따라 기울기가 달라지는 함수에서는 탐색경로가 비효율적이다. 가중치 초기값 설정 Xavier 초기값과 He 초기값 Batch Normalization - 학습 속도 개선 - 초기값 의존도 down - overfitting 개선 => mini-batch 단위로 정규화를 진행한다. 데이터 분포가 평균이 0, 분산이 1이 되도록 정규화한다. Ove.. 공감수 0 댓글수 1 2023. 12. 28.
밑바닥부터 시작하는 딥러닝 ch.5 오차역전법 (23.12.04) 가중치 매개변수의 기울기 구하는 방법 - 수치 미분: 단순하고, 구현하기 쉽다. but, 시간이 오래걸린다. - back propagation: 효율적인 계산이 가능하다. 계산그래프 위와 같이 왼쪽에서 오른쪽으로 계산을 진행하는 것을 "순전파: forward propagation" 이라고 한다. 계산 그래프는 "국소적 계산"을 전파하여 최종결과를 낸다. (국소적 계산: 자신과 직접 관계된 작은 범위) -> 아무리 복잡해도 각 노드에서는 단순한 계산이 이루어진다. 계산 그래프는 중간 계산 결과를 모두 저장할 수 있으며, 역전파를 통해 미분을 효율적으로 계산할 수 있다. 연쇄 법칙 : 합성 함수의 미분은 합성함수를 구성하는 각 함수의 미분의 곱으로 나타낼 수 있다. 덧셈 노드의 역전파 곱.. 공감수 0 댓글수 0 2023. 12. 4.
밑바닥부터 시작하는 딥러닝 ch.4 신경망 학습 (23.11.27) 학습 - train data 로 부터 weight, bias (가중치 매개변수) 의 최적값을 얻는 것이다. ===> 신경망이 학습할 수 있도록 하는 지표를 loss function 이라고 한다. - 학습의 목표: loss function의 결과값을 가장 작게 만드는 weight, bias 를 찾는 것 - 신경망은 end-to-end machine learning 이라고도 한다. ==> 입력부터 출력까지 사람의 개입이 없다는 의미. 데이터의 구분 : train + test - train data 를 통해 학습하고, 최적의 weight, bias 를 찾는다. - test data 를 통해 학습한 모델의 성능을 평가한다. - 하나의 data 로 학습하고, 해당 data 로 평가하면, 그 성.. 공감수 0 댓글수 0 2023. 11. 27.
jupyter notebook 한글 폰트 설정하기 (23.11.22) 총 5단계의 순서로 진행하면 jupyter notebook 에서 한글 폰트를 설정할 수 있다. 1. font 정보가 담겨있는 matplotlibrc 파일로 들어가서 바꿔주기 import matplotlib as mpl import matplotlib.pyplot as plt import maplotlib.font_manager as fm print(mpl.matplotlib_fname()) 해당 경로의 matplotlibrc 파일의 font.family 를 원하는 폰트 이름으로 바꿔준다. 2. mlp-data 경로 아래의 font 폴더에 직접 font 파일을 넣어준다. 3. 한글폰트로 작업하고자 했던 jupyter notebook 을 셧다운한다. 4. cache 경로를 찾아서 삭제한다.. 공감수 0 댓글수 0 2023. 11. 22.
밑바닥부터 시작하는 딥러닝 ch.3 신경망 (23.11.20) 퍼셉트론의 한계: 선형적으로만 문제를 해결할 수 있음. --> 비선형 활성화 함수를 사용하여 여러개의 층을 쌓고, 비선형적으로 문제를 해결할 수 있게 됨. 신경망 - 여러 층으로 구성되어 있으며, 비선형 활성화 함수를 사용한 다층 퍼셉트론 - 2단계를 거쳐 문제를 해결 - 학습데이터를 통해 가중치 매개변수 학습 - 학습한 매개변수를 사용하여 입력 데이터에 대해 추론 활성화 함수 (activation function) - 입력신호의 총합을 출력신호로 변환하는 함수 - 입력신호의 총합이 활성화를 일으키는지 정하는 역할 활성화 함수 - step function - 단층 퍼셉트론에서 사용하는 원시적인 activation function 이다. - 0에서 출력이 불연속적이다. => 0에서 기울.. 공감수 1 댓글수 2 2023. 11. 21.
밑바닥부터 시작하는 딥러닝 ch.2 퍼셉트론 (23.11.13) 퍼셉트론 - 프랑크 로젠블라트. 1975년 고안 - 신경망 (딥러닝) 의 기원이 되는 알고리즘 - 다수의 신호를 입력으로 받아 하나의 신호를 출력 -> y가 어떠한 임계값을 넘으면 1을 출력, 넘지 못하면 0을 출력 -> 가중치가 클수록, 해당 신호가 그만큼 중요하다는 것을 의미 논리회로 AND 게이트 NAND 게이트 OR 게이트 XOR 게이트 - 베타적 논리합 - x1, x2 중 하나만 1일 경우에만 1을 출력 -> XOR 게이트의 입력과 출력을 좌표평면에 표현해보면, 어떠한 직선으로 영역으로 나눌 수 없다는 것을 알 수 있다. ====> 퍼셉트론의 한계 !! AND, NAND, OR 게이트를 조합하여 XOR 게이트를 만들 수 있다. -> AND, OR, NAND 는 단층 퍼셉트론 .. 공감수 1 댓글수 0 2023. 11. 21.
docker image 만들기 (23.11.07) docker image 만드는 방법 docker ps # 만들고자 하는 컨테이너 id 검색 docker commit 컨테이너id 원하는image이름 docker images # 만들어졌는지 확인 공감수 0 댓글수 0 2023. 11. 7.
[오류해결] WARNING: Running pip as the 'root' user can result in broken permissions and conflicting behaviour with the system package manager. It is recommended to use a virtual environment instead: https://pip.pypa.io/warnings/venv (23.09.11) yolov8 관련해서 작업하던 도중 아래와 같은 에러가 발생했다. root-user-action=ignore 옵션을 추가해주니 제대로 설치가 되었다. 공감수 0 댓글수 0 2023. 9. 11.
DFS, BFS 정리 (23.06.19) 우선, 그래프를 표현하기 위해서 인접 리스트를 사용한다. 인접리스트를 만드는 방법 graph = [ [] for _ in range(n) ] #n은 노드 개수 만큼 graph[1].append(2, 3, 8) #그냥 연결된 노드들만 입력하는 것 graph[1].append((1, 7)) #연결된 노드의 거리까지 입력하는 것 DFS - 깊이 우선 탐색 dfs(graph, visited, start): visited[start] = True print(start, end=' ') for i in graph[start]: if not visited[i]: dfs(graph, visited, i) graph = [ [], [2, 3, 8], ... 이런식으로 각 행 숫자 노드와 연결된 노드를.. 공감수 0 댓글수 0 2023. 6. 19.
jupyter notebook setting (23.01.02) 임시저장에 있던 글이구만! [설치] jupyter 설치 (내가 사용하고자하는 서버의 도커 터미널에서 시작) pip3 install -upgrade pip pip3 install jupyter [실행] 1. 내 로컬에서 portforwarding 하기 ssh -L 8888:localhost:8888 아이디@서버주소 -p 포트번호(도커) 2. 도커에서 tmux 생성하고 juypter notebook 실행 tmux new -s jupyter cd private jupyter notebook --port 8888 --no-browser 3. 주소 복사하여 로컬 환경의 브라우저에서 실행하면 끝 공감수 0 댓글수 0 2023. 5. 27.
GPU 번호 할당하기 (23.05.22) 명령어로 gpu 번호 할당하기 예를 들어 7번에 할당하고자 한다면 아래와 같이 적어볼 수 있다. CUDA_VISIBLE_DEVICES=7 python main.py 그런데, nvtop 에서 보이는 순서와 CUDA_VISIBLE_DEVICE에서 보이는 순서가 다를 수 있다. 그럴땐, 아래와 같이 CUDA_DEVICE_ORDER=PCI_BUS_ID 명령어를 앞에 추가해주어야한다. CUDA_DEVICE_ORDER=PCI_BUS_ID CUDA_VISIBLE_DEVICES=7 python main.py 코드에서 gpu 번호 할당하기 os.environ["CUDA_DEVICE_ORDER"] = "PCI_BUS_ID" os.environ["CUDA_VISIBLE_DEVICES"] = "7" 공감수 0 댓글수 0 2023. 5. 22.
[simMIM] SimMIM: a Simple Framework for Masked Image Modeling (23.05.21) SSL(self-supervised learning) 논문 리뷰 11탄 - 논문 제목: SimMIM: a Simple Framework for Masked Image Modeling (CVPR 2022) - https://arxiv.org/pdf/2111.09886v2.pdf - https://github.com/microsoft/SimMIM Abstract 본 논문은 SimMIM (a simple framework for masked image modeling) 을 제안한다. discrete VAE 혹은 clustering을 통한 block-wise masking과 tokenization 없이 간단하게 접근하였다. 저자가 제안하는 framework의 간단한 디자인은 매우 강력한 re.. 공감수 0 댓글수 0 2023. 5. 21.
What Do Self-supervised Vision Transformers Learn? (23.05.19) SSL (Self-supervised learning) 논문 리뷰 10탄 - contrastive learning (CL)과 maksed image modeling (MIM) 에 대해 비교하는 논문이다. - 논문 제목: What Do self-Supervised Vision Transformers Learn? (ICLR 2023) - https://arxiv.org/pdf/2305.00729.pdf Summary contrastive learning (CL) 과 masked image modeling (MIM) 의 representations, downstream tasks에서의 성능을 비교하는 논문이다. self-supervised ViT가 3가지 특성을 가진다는 것을 보여준다. (.. 공감수 1 댓글수 1 2023. 5. 19.
[MAE] Masked Autoencoders Are Scalable Vision Learners (23.05.18) SSL(self-supervised learning) 논문 리뷰 9탄 이것도 Kaiming He의 논문이다. 간단하게 정리해보았다. - 논문 제목: Masked Autoencoders Are Scalable Vision Learners (CVPR 2022) - https://arxiv.org/pdf/2111.06377.pdf - https://github.com/facebookresearch/mae Abstract 본 논문은 masked autoencoders 가 computer vision에서 scalable self-supervised learners라는 것을 보여준다. MAE approach는 간단하다. ==> input image의 random patches에 mask를 씌우고.. 공감수 0 댓글수 0 2023. 5. 18.
[Python] 소수 판별 알고리즘 (기본, 제곱근, 에라토스테네스의 체) (23.05.16) 소수 판별 알고리즘 : 숫자 n이 소수인지 아닌지 판별하기 1. n을 2부터 n-1 까지의 숫자들로 나눠보기 def prime(n): for i in range(2, n): if n%i==0: return False return True 2. n의 제곱근까지의 숫자들로 나눠보기 (약수의 성질 이용) import math def prime_sqrt(n): for i in range(2, int(math.sqrt(n))+1): if n%i==0: return False return True 3. 에라토스테네스의 체 import math def prime_era(n): array = [True for i in range(n+1)] for i in range(2, int(math.sqrt(n.. 공감수 0 댓글수 0 2023. 5. 16.
[Programmers] lv.1 이상한 문자 만들기 (python) (23.05.15) 이것도 왜인지 모르게 깃허브 자동 업로드에 오류가 났다!!! https://school.programmers.co.kr/learn/courses/30/lessons/12930# 고려해야할 테스트 케이스가 많은 문제였다. def solution(s): answer = '' index = 0 for i in range(len(s)): if i==0 and s[i]==' ': answer += ' ' elif i>0 and s[i]==' ': answer += ' ' index = 0 elif index%2 == 0: answer += s[i].upper() index += 1 elif index%2 != 0: answer += s[i].lower() index += 1 return ans.. 공감수 0 댓글수 0 2023. 5. 15.
[algorithms] 계수 정렬 (count sort) (23.05.14) https://github.com/gompaang/algorithm_python GitHub - gompaang/algorithm_python Contribute to gompaang/algorithm_python development by creating an account on GitHub. github.com Count sort (계수 정렬) 모든 데이터가 양의 정수이고, 데이터의 범위가 제한 적일 경우에 사용하면 매우 빠르다. 시간 복잡도와 공간 복잡도는 O(N+K) 이다. 동일한 값을 가지는 데이터가 여러 개 등장할 때 사용하기에 적합하다. # count sort def count_sort(array): count = [0] * (max(array)+1) result = [].. 공감수 0 댓글수 0 2023. 5. 14.
[algorithms] 비교 기반 정렬 알고리즘 (선택정렬, 삽입정렬, 퀵정렬) (23.05.14) 정렬 알고리즘 정리!! https://github.com/gompaang/algorithm_python GitHub - gompaang/algorithm_python Contribute to gompaang/algorithm_python development by creating an account on GitHub. github.com selection sort : 선택 정렬 1. 가장 작은 수를 선택하여 맨 앞의 수와 자리를 바꾼다. 2. 그 다음으로 가장 작은 수를 선택하여 맨 앞에서 두번째 수와 자리를 바꾼다. 3. 위의 과정을 반복한다. def selection_sort(array): for i in range(len(array)): min_index = i for j in .. 공감수 0 댓글수 0 2023. 5. 14.
[algorithms] 시간복잡도 (23.05.10) 공감수 0 댓글수 0 2023. 5. 11.
[Programmers] lv.0 등수매기기 (python) (23.05.10) https://school.programmers.co.kr/learn/courses/30/lessons/120882# 내가 작성한 코드 #1 def solution(score): avg = [sum(i)/2 for i in score] rank = [sum(i)/2 for i in score] avg = (sorted(avg)) r = 0 t = 0 for i in range(len(avg), 0, -1): index = rank.index(avg[i-1]) if i < len(avg) and avg[i-1]==avg[i]: rank[index] = r t += 1 else: t += 1 rank[index] = t r = t return rank 테스트 7, 10에서 계속 틀리는데 .. 공감수 0 댓글수 0 2023. 5. 10.
[Python] 문자열 관련 문제들 (''.join(), sorted 활용하기) (23.05.09) 코테 문제 풀다보니까 문자열을 정렬해서 비교하면서 풀면 되겠다 싶은 문제들이 많다. 이때 간단하게 사용할 수 있는 것이 ''.join 과 sorted 이다. 관련 프로그래머스 문제들과 내가 작성한 코드들 프로그래머스 lv0. A로 B만들기 def solution(before, after): before = ''.join(sorted(before.lower())) after = ''.join(sorted(after.lower())) if before == after: return 1 else: return 0 프로그래머스 lv.0 문자열 정렬하기(2) def solution(my_string): my_string = my_string.lower() my_string = sorted(my.. 공감수 0 댓글수 0 2023. 5. 9.
[git] git 완전 정복 (--계속 업데이트--) (마지막 업데이트: 23.05.15) 오소입 수업 중 git 내용 정리하기 학기 끝나면 올리려고 했는데, 그냥 올려야겟따 GIT git 이란? 소스코드를 관리하는 형상관리시스템(분산버전관리시스템) (컴퓨터 파일의 변경사항을 추적하고, 여러 명의 사용자들 간의 해당 파일들의 작업을 조율한다.) - 소프트웨어 개발에서 소스코드를 관리하는데 주로 사용한다. - 기하학적 불변 이론을 바탕으로 설계했다. => hashing - git server, 내 local, ssh server 는 모두 독립적인 공간이다. 수정한 내용을 동기화(?)해주려면 push/pull 해주어야한다. 충돌이 일어나기도 하는데, 이는 해결가능하다 -> 뒷부분에 설명 - git 의 장점: 분산 개발 용이성, 개발자들을 관리할 수 있는 확장성.. 공감수 0 댓글수 0 2023. 5. 8.
[SimSiam] Exploring Simple Siamese Representation Learning (23.05.04) SSL(self-supervised learning) 논문 리뷰 8탄 Kaiming He 의 논문이다 - 논문 제목: Exploring Simple Siamese Representation Learning (CVPR 2021) - https://arxiv.org/pdf/2011.10566.pdf Abstract Siamese networks는 unsupervised visual representation learning의 최신 모델에서 널리 쓰이고 있다. 하나의 image에 대한 두가지 augmentations 사이의 similarity를 최대화한다. 본 논문에서는 세가지 요소를 없앤 simple Siamese networks를 제안한다. 그 세가지 요소는 아래와 같다. 1. nega.. 공감수 0 댓글수 1 2023. 5. 4.
[논문] Single-Image Depth Perception in the Wild (23.05.03) Depth Estimation 논문 정리하기 4탄 이런 방법도 있구나.. 라는 것만 보고 넘어간다 - 논문 제목: Single-Image Depth Perception in the Wild (NeurIPS 2016) - https://arxiv.org/pdf/1604.03901v2.pdf (https://arxiv.org/pdf/2003.06620.pdf survey에서 설명하는 내용) supervised signal로 depth의 gorund truth가 사용되는 것이 아니라, realative depth annotations에 의해 학습된다. Abstract 본 논문에서는 unconstrained setting에서 single image로부터 depth를 회복하는 방식을 제안하며,.. 공감수 0 댓글수 0 2023. 5. 3.
[논문] Deeper Depth Prediction with Fully Convolutional Residual Networks (23.05.03) Depth Estimation 논문 정리하기 3탄 - 논문 제목: Deeper Depth Prediction with Fully Convolutional Residual Networks (3DV 2016) - https://arxiv.org/pdf/1606.00373v2.pdf (https://arxiv.org/pdf/2003.06620.pdf survey에서 설명하는 내용) depth maps와 single images들 간의 relation을 매핑하는 것을 학습하기 위해서 residual learning을 도입한 논문이다. Summary 제안한 방식은 기존의 것보다 단순하지 않다. 그러나, 더 적은 data와 더 적은 time에 더 높은 퀄리티의 결과를 달성했다는 점에서 의미가 있.. 공감수 0 댓글수 0 2023. 5. 3.
[정리] Supervised monocular depth estimation (--계속 업데이트--) (최종 수정일 : 23.05.03) https://arxiv.org/pdf/2003.06620.pdf 이 survey 보면서 정리하는 중.. https://github.com/gompaang/depth-estimation-paper Supervised monocular depth estimation [ deep learning architecture와 loss fucntion 위주의 논문들 ] [1] Depth Map Prediction from a Single Image using a Multi-Scale Deep Network (NeurIPS 2014) : 가장 처음으로 CNNs를 통해서 Depth Estimation task 해결하려고 함. (https://hey-stranger.tistory.co.. 공감수 0 댓글수 0 2023. 5. 2.

728x90

문의안내

티스토리
로그인
고객센터

티스토리는 카카오에서 사랑을 담아 만듭니다.