(24.01.19) vscode 에서 도커 컨테이너 연결해서 들어갔더니 root 로 연결되어버려서 작업이 불가능할 경우, 경로를 설정해주어서 원하는 작업 폴더에 연결할 수 있다. 해당 설정 파일의 "workspaceFolder" 를 원하는 경로로 변경해주면 된다!
(24.01.08) super resolution dataset 중 하나인 DIV2K dataset 다운로드 하는 방법 ! 1. wget 설치 apt-get install wget 2. 원하는 데이터 링크 복사 홈페이지에서 다운을 원하는 링크를 복사한다. ㄴ 홈페이지 -> https://data.vision.ee.ethz.ch/cvl/DIV2K/ 3. wget 명령어 + 링크 입력 wget http://data.vision.ee.ethz.ch/cvl/DIV2K/DIV2K_train_LR_bicubic_X2.zip
(24.01.08) 리눅스에서 구글드라이브 파일을 다운로드 하는 방법! ==> gdown 명령어를 사용하면된다. 1. gdown 설치 pip install gdown 2. 구글 드라이브 공유 링크 복사 여기서 주의해야할 점은 "링크가 있는 모든 사용자" , "편집자" 이 두가지 설정을 반드시 해줘야한다는 것이다. 3. gdown 명령어 --fuzzy 옵션을 추가해준다. gdown --fuzzy 복사한링크
(23.12.28) Fully connected layer (Affine layer) 이전까지의 신경망 layer 는 모두 fully connected layer 였다. (== Affine layer) fully connected layer 에서는 인접하는 layer 의 모든 뉴런이 연결되고, 출력 노드(뉴런)의 개수를 임의로 정할 수 있었다. -> but, 이미지 (w, h, c) 3차원 데이터가 flatten 1차원 데이터가 되어버리는 문제점이 존재한다. -> 예를 들어 MNIST 데이터는 28x28x1 이미지인데, 신경망에 넣을때, 784개의 1차원 데이터로 입력한다. -> fully connected layer (Affine layer) 는 데이터의 형상이 무시된다. --> 이미지의 RGB 각 채..
(23.12.18) 최적화 : 매개변수의 최적값을 찾는 것. 즉, 신경망의 학습에서는 손실함수의 결과값을 최솟값으로 만들기 위한 손실함수의 매개변수 최적값을 찾는 것을 말한다. 최적의 매개변수 값을 찾기 위해서 미분을 이용하였다. -> gradient descent, back propagation SGD, Momentum, AdaGrad, Adam ㄴSGD 는 방향에 따라 기울기가 달라지는 함수에서는 탐색경로가 비효율적이다. 가중치 초기값 설정 Xavier 초기값과 He 초기값 Batch Normalization - 학습 속도 개선 - 초기값 의존도 down - overfitting 개선 => mini-batch 단위로 정규화를 진행한다. 데이터 분포가 평균이 0, 분산이 1이 되도록 정규화한다. Ove..
(23.12.04) 가중치 매개변수의 기울기 구하는 방법 - 수치 미분: 단순하고, 구현하기 쉽다. but, 시간이 오래걸린다. - back propagation: 효율적인 계산이 가능하다. 계산그래프 위와 같이 왼쪽에서 오른쪽으로 계산을 진행하는 것을 "순전파: forward propagation" 이라고 한다. 계산 그래프는 "국소적 계산"을 전파하여 최종결과를 낸다. (국소적 계산: 자신과 직접 관계된 작은 범위) -> 아무리 복잡해도 각 노드에서는 단순한 계산이 이루어진다. 계산 그래프는 중간 계산 결과를 모두 저장할 수 있으며, 역전파를 통해 미분을 효율적으로 계산할 수 있다. 연쇄 법칙 : 합성 함수의 미분은 합성함수를 구성하는 각 함수의 미분의 곱으로 나타낼 수 있다. 덧셈 노드의 역전파 곱..
(23.11.27) 학습 - train data 로 부터 weight, bias (가중치 매개변수) 의 최적값을 얻는 것이다. ===> 신경망이 학습할 수 있도록 하는 지표를 loss function 이라고 한다. - 학습의 목표: loss function의 결과값을 가장 작게 만드는 weight, bias 를 찾는 것 - 신경망은 end-to-end machine learning 이라고도 한다. ==> 입력부터 출력까지 사람의 개입이 없다는 의미. 데이터의 구분 : train + test - train data 를 통해 학습하고, 최적의 weight, bias 를 찾는다. - test data 를 통해 학습한 모델의 성능을 평가한다. - 하나의 data 로 학습하고, 해당 data 로 평가하면, 그 성..
(23.11.22) 총 5단계의 순서로 진행하면 jupyter notebook 에서 한글 폰트를 설정할 수 있다. 1. font 정보가 담겨있는 matplotlibrc 파일로 들어가서 바꿔주기 import matplotlib as mpl import matplotlib.pyplot as plt import maplotlib.font_manager as fm print(mpl.matplotlib_fname()) 해당 경로의 matplotlibrc 파일의 font.family 를 원하는 폰트 이름으로 바꿔준다. 2. mlp-data 경로 아래의 font 폴더에 직접 font 파일을 넣어준다. 3. 한글폰트로 작업하고자 했던 jupyter notebook 을 셧다운한다. 4. cache 경로를 찾아서 삭제한다..
(23.11.20) 퍼셉트론의 한계: 선형적으로만 문제를 해결할 수 있음. --> 비선형 활성화 함수를 사용하여 여러개의 층을 쌓고, 비선형적으로 문제를 해결할 수 있게 됨. 신경망 - 여러 층으로 구성되어 있으며, 비선형 활성화 함수를 사용한 다층 퍼셉트론 - 2단계를 거쳐 문제를 해결 - 학습데이터를 통해 가중치 매개변수 학습 - 학습한 매개변수를 사용하여 입력 데이터에 대해 추론 활성화 함수 (activation function) - 입력신호의 총합을 출력신호로 변환하는 함수 - 입력신호의 총합이 활성화를 일으키는지 정하는 역할 활성화 함수 - step function - 단층 퍼셉트론에서 사용하는 원시적인 activation function 이다. - 0에서 출력이 불연속적이다. => 0에서 기울..
(23.11.13) 퍼셉트론 - 프랑크 로젠블라트. 1975년 고안 - 신경망 (딥러닝) 의 기원이 되는 알고리즘 - 다수의 신호를 입력으로 받아 하나의 신호를 출력 -> y가 어떠한 임계값을 넘으면 1을 출력, 넘지 못하면 0을 출력 -> 가중치가 클수록, 해당 신호가 그만큼 중요하다는 것을 의미 논리회로 AND 게이트 NAND 게이트 OR 게이트 XOR 게이트 - 베타적 논리합 - x1, x2 중 하나만 1일 경우에만 1을 출력 -> XOR 게이트의 입력과 출력을 좌표평면에 표현해보면, 어떠한 직선으로 영역으로 나눌 수 없다는 것을 알 수 있다. ====> 퍼셉트론의 한계 !! AND, NAND, OR 게이트를 조합하여 XOR 게이트를 만들 수 있다. -> AND, OR, NAND 는 단층 퍼셉트론 ..
(23.11.07) docker image 만드는 방법 docker ps # 만들고자 하는 컨테이너 id 검색 docker commit 컨테이너id 원하는image이름 docker images # 만들어졌는지 확인
(23.09.11) yolov8 관련해서 작업하던 도중 아래와 같은 에러가 발생했다. root-user-action=ignore 옵션을 추가해주니 제대로 설치가 되었다.
(23.06.19) 우선, 그래프를 표현하기 위해서 인접 리스트를 사용한다. 인접리스트를 만드는 방법 graph = [ [] for _ in range(n) ] #n은 노드 개수 만큼 graph[1].append(2, 3, 8) #그냥 연결된 노드들만 입력하는 것 graph[1].append((1, 7)) #연결된 노드의 거리까지 입력하는 것 DFS - 깊이 우선 탐색 dfs(graph, visited, start): visited[start] = True print(start, end=' ') for i in graph[start]: if not visited[i]: dfs(graph, visited, i) graph = [ [], [2, 3, 8], ... 이런식으로 각 행 숫자 노드와 연결된 노드를..
(23.01.02) 임시저장에 있던 글이구만! [설치] jupyter 설치 (내가 사용하고자하는 서버의 도커 터미널에서 시작) pip3 install -upgrade pip pip3 install jupyter [실행] 1. 내 로컬에서 portforwarding 하기 ssh -L 8888:localhost:8888 아이디@서버주소 -p 포트번호(도커) 2. 도커에서 tmux 생성하고 juypter notebook 실행 tmux new -s jupyter cd private jupyter notebook --port 8888 --no-browser 3. 주소 복사하여 로컬 환경의 브라우저에서 실행하면 끝
(23.05.22) 명령어로 gpu 번호 할당하기 예를 들어 7번에 할당하고자 한다면 아래와 같이 적어볼 수 있다. CUDA_VISIBLE_DEVICES=7 python main.py 그런데, nvtop 에서 보이는 순서와 CUDA_VISIBLE_DEVICE에서 보이는 순서가 다를 수 있다. 그럴땐, 아래와 같이 CUDA_DEVICE_ORDER=PCI_BUS_ID 명령어를 앞에 추가해주어야한다. CUDA_DEVICE_ORDER=PCI_BUS_ID CUDA_VISIBLE_DEVICES=7 python main.py 코드에서 gpu 번호 할당하기 os.environ["CUDA_DEVICE_ORDER"] = "PCI_BUS_ID" os.environ["CUDA_VISIBLE_DEVICES"] = "7"