분류 전체보기 87

Constant (상수)

Constant(상수) 란?C언어에서 상수란 일반적으로 변경할 수 없는 값이다. Literal Constant(일반 상수)숫자와 문자같이 고정된 값이다.Ex codeint x = 30; // x는 30이라는 value를 가지는 int type 변수const int y = 12; // y는 12라는 value를 가지는 int type 변수이며, 이는 바꿀 수 없다.y = 15; // Error 발생 포인터 상수 (Pointer Constant) vs. 상수 포인터 (Constant Pointer) Pointer Constant(포인터 상수, int *const ptr)Pointer 자체가 Constant로 pointer로 가리키는 주소를 변경할 수 없다는 뜻이다.Constant Point(상수 포인터, ..

Array

Array란?Array는 memory에 연속적으로 저장되는 elements의 집합으로, index와 element의 pair로 구성된다.Example codeint array[6]; // create: array 선언은 data type과 sizearray[1] = 100; // set: array 한 element에 값을 저장int value = array[1]; // get: array에서 값을 가져오기 Array의 index 접근 방식은 pointer 연산과 동일하게 동작(+ sizeof)Array는 memory에 연속적으로 저장된 elements의 집합이다. Array는 어떻게 여러 element에 접근할 수 있을까? Array의 이름은 첫 번째 element의 address를 의미하며,..

Recursion

Recursion의 기본 구조Recursion은 함수가 자기 자신을 호출하는 구조이며 호출에 필요한 메모리는 stack에 저장되기 때문에 메모리 관리에 유의해야 한다. 함수가 너무 많이 호출되면 Stack Overflow가 발생할 수 있다.  Recursion의 두 가지 핵심 요소 Call Myself: 자기 자신을 호출하는 부분 Terminate Condition: 종료 조건 Recursion 예시Factorial calculationfactorail은 점점 수를 낮추며 곱하는 것이므로 받은 n값에 대해 자기 자신을 곱해주는 함수를 호출하여 곱해준다.그러다 n=0인 경우는 1도 반환해준다. 이는 terminate condition이다.#include using namespace std;// define..

Deep learning training speedup

효율적인 훈련을 위해 사용할 수 있는 기법들을 정리해보겠다.1. 학습 연산량과 시간을 줄이는 기법Automatic Mixed Precision (AMP)16비트와 32비트를 혼합하여 계산 성능을 최적화하는 방법이다. 특히 GPU에서 연산 속도를 높이고 메모리 사용량을 줄이는 데 유리하다.동작 순서1. Master Weights는 32비트로 저장모델의 weights는 32비트로 저장되며, 계산에 필요한 weights는 16비트로만 사용된다. 이렇게 함으로써 계산 속도를 높이고 메모리 사용량을 줄인다. 16비트로 계산을 하더라도 최종적으로는 32비트 값으로 Loss를 얻는다.나온 32비트의 값이 작은 경우가 많이 16비트로 캐스팅 하기 전 값이 underflow가 발생해 사라지는 것을 방지하기 위해 scal..

카테고리 없음 2025.02.25

Likelihood: 데이터가 어떤 확률 분포에서 나왔는지에 대한 가능성

Likelihood(우도)란?Likelihood는 주어진 데이터가 특정 확률 분포에서 나왔을 가능성을 나타내는 함수이다. Probability(확률) vs Likelihood(우도)Probability: 확률 분포 혹은 모델이 주어졌을 때, 특정 데이터가 나올 확률을 계산하는 것Likelihood: data를 고정하고, 어떤 확률 분포가 무엇인지 추정하는 것직관적 예시1) Probability2) Likelihood  MLE(Maximum Likelihood Estimation, 최대 우도 측정)data의 likelihood를 최대로 만드는 parameter(모수)를 찾는 방법이다.딥러닝에서의 MLE 사용 Regression에서 MLE 적용1) Data가 Normal Distribution을 따른다고 가..

카테고리 없음 2025.02.07

에니어그램 분석 7번 (The Realist)

7번이란 어떤 사람인가?에니어그램에서 가장 잘 노는 사람 유형이다. 구기종목, 가무, 잡기(고스톱, 포카, 바둑, 장기) 등에 능하고 심지어 웃기는 것까지 잘하여 어린 시절 각종 오락시간의 진행자 역할을 했다면 7번일 확률이 크다. 즉, 7번은 노는데 도가 텄거나 목숨을 건 유형들이다. 이들은 마치 일할 때도 놀이처럼 한다. 실제로 놀이가 일이된 경우가 있다. 웃기는 걸 좋아하여 개그맨이 되었다거나, 스키를 좋아하여 스키 강사가 된 것이 그 예시이다. 7번은 다방면에 걸쳐 다재다능한 면을 가지고 있다. 그렇기에 타인의 부러움을 사거나 인기가 좋은 경우가 많다. 하지만 역설적으로 이것이 바로 7번의 아킬레스건이 되곤 한다. 7번의 약점: 프로가 되지 않는 아마추어7번은 무엇이든 금방 배우고 금방 익숙해지곤..

에니어그램 2024.12.29

에니어그램: 죽기 전까지 당신의 성격은 어느 하나가 고장나있다

에니어그램 기초: 성격은 고장난 상태 에니어그램은 자신의 성격 유형을 알기 위해 아홉 가지 모든 유형을 알아야하는 성격 유형 테스트이다. 그 이유는 아홉 가지 유형 모두 자기 자신 안에 존재하는 다양한 모습이기 때문이다. 자신의 유형을 알기 위해 왜 모든 유형을 알아야 할까? 이는 에니어그램에서 성격을 본래 상태에서 고장난 상태라고 보기 때문이다. 자신이 한 가지 유형에 속해있다고 생각하는 것은 현재 자신의 성격이 고장났기 때문에 관련 번호의 특성이 나타나는 것이라고 해석된다. 그렇게 자신이 아홉 가지 유형 중 하나가 자신이라고 믿으며 살아가게 된다.성격을 고치면 어떻게 될까?성격이 고장난 것이라면 고치게 됐을 때 무슨 일이 일어날까? 성격이 없어지게 된다. 성격은 내가 남과 어떻게 다른가에 대한 이야기..

에니어그램 2024.12.27

#5 Controlled Access

1. Controlled Accessstation이 공유 매체를 사용함에 있어 통제 방식을 따른다. 중앙 통제 방식과 분산 통제 방식으로 나뉜다. 중앙 통제 방식의 종류ReservationPolling분산 통제 방식Token Passing1.1. ReservationBase station은 공유 매체에 접근에 대한 권한이 부여되는 node이며 5개의 registers를 가지고 있다고 치면 각 station에게 매체를 사용할 것인지 물어본다. 이렇게 Base station을 중심으로 동작하므로 Centerlized 방식이라 할 수 있다. 1.2. PollingPoll은 모든이에게 의사를 묻나느 뜻이다. Polling은 primary station이 매체에 접근할 권한을 가지고 있는 centerlized 방..

#12 MOS Transistor

1. MOSFETMOS 구조에 source와 drain이 추가된 것으로 FET 즉, Field Effect를 이용한 transistor이다. 만약 inversion layer가 전자면 N-channel MOSFET, 정공이면 P=channel MOSFET이다. 각각 P body, N Body이다. 우리는 이 MOSFET이 inversion layer에서 충분히 쌓여 전류가 흐르기로 약속한 지점을 threshold라고 했다. 그 부분이 아니라면 꺼지는 즉, Vg에 의해 켜지고 꺼지는 걸 반영하는 장치이다. Vg에 의해 작동한다.  2. Basic MOSFET IV Model소스에서 드레인으로 전자가 이동한다. 즉 I_DS는 반대 방향이다전류 밀도로 나타낼 수 있으며, 전하량은 inversion charge..

#11 MOS Capacitor (3) - 비이상적인 효과: Oxide charge부터

oxide 내부에서는 charge가 존재하지 않는다는 가정 하에 우리는 MOS Cap의 전하량과 Capacitance를 구해봤다. 그럼 지에 oxide 내부에 charge가 존재했을 때의 상황을 알아보자1. Oxide 내 Charge 존재 시 영향MOS 구조에서 oxide 내부에 charge가 존재하면 이 charge는 전기장의 분포와 Gate 전압의 유효성에 영향을 미친다.Oxide charge가 Surface 근처에 있을수록 전기장과 유효 게이트 전압 (Vg​)에 더 큰 영향을 미친다.Charge가 oxide 내부의 특정 위치 (x)에 있을 때, 표면 전위 (ϕs)와 산화막 내 전위 분포를 바꿔 depletion region의 두께와 모양을 변경시킨다.2. Poly-Si Gate Depletion전통..