지난 포스팅의 [PML intro] Ch7 Linear Algebra (Sec.7.1 Introduction - 2)에서는 벡터공간(Vector Space)에 대한 설명을 하였습니다. 이를 통해, 선형독립, 생성공간, 기저, 선형사상과 행렬 사이의 관계, 치역과 영공간, 선형 사영에 대한 필수적인 개념들을 정말 간단하게 알아보았습니다. 오늘은 벡터와 행렬의 크기를 측정하는 방법인 노름(Norm)에 대해서 알아보도록 하겠습니다. 1. 벡터 노름(Vector Norm)벡터 노름 $||\mathbf{x}||$는 벡터의 길이를 재는 척도라고 볼 수 있습니다. 더 엄밀하게 이야기하면 노름이란 다음 4가지 성질을 만족하는 함수 $f: \mathbb{R}^{n} \rightarrow \mathbb{R}$를 말합니다..
지난 포스팅의 [PML intro] Ch7 Linear Algebra (Sec.7.1 Introduction - 1)에서는 선형대수(Linear Algebra)의 기초적인 내용을 다루어보았습니다. 선형대수는 결국 벡터, 행렬, 그리고 텐서를 다루는 학문으로 이를 포함한 집합과 관련된 연산을 정의한 공간이 바로 벡터공간(Vector Space)입니다. 오늘은 이에 대한 간단한 설명을 진행하겠습니다. 혹시 이에 대한 더 자세한 내용이 궁금하신 분은 제가 이전에 포스팅한 글을 참고해주세요. 선형대수학 - 벡터공간선형대수학 - 부분공간선형대수학 - 선형결합선형대수학 - 선형 종속과 독립선형대수학 - 기저와 차원 1. 벡터의 덧셈과 스칼라배 (Vector Addition and Scaling)벡터 $\mat..
지난 포스팅의 [PML intro] Ch6 Information Theory (Sec.6.3 Mutual Information - 8)에서는 Fano의 부등식 (Fano's Inequality)에 알아보았습니다. 오늘은 새로운 주제로 넘어가서 선형대수(Linear Algebra)의 기초적인 내용을 다루어보도록 하겠습니다. 선형대수학의 더 자세한 내용은 제 블로그 포스팅들을 참고해주시면 감사하겠습니다. 오늘은 기본적인 표기법(Notation)들을 알아보도록 하겠습니다. 1. 벡터 (Vectors)벡터 $\mathbf{x} \in \mathbb{R}^{n}$은 $n$개의 숫자를 나열한 것으로 보통은 다음과 같이 열벡터(column vector)의 형태로 많이 사용합니다. $$\mathbf{x} = \b..
