mk 공부 정리

[Foundation of Deep Learning] 2. Machine Learning Basics (1)

Machine Learning머신러닝은 경험을 통해 성능이 향상되는 시스템을 설계하는 방법론이라 할 수 있다. 이 개념은 Tom Mitchell에 의해 다음과 같이 정식화되었다.컴퓨터 프로그램이 어떤 과제 T를 수행하고, 성능 척도 P로 평가될 때,경험 E가 증가함에 따라 과제 T에 대한 성능 P가 향상된다면해당 프로그램은 경험으로부터 학습한다고 말할 수 있다. 이 정의는 머신러닝의 본질이 경험(E), 과제(T), 성능(P) 의 관계에 있음을 명확히 보여준다. 즉, 학습이란 단순한 암기가 아니라, 경험의 축적을 통해 일반화 능력이 향상되는 과정을 의미한다. Learning Types머신러닝은 학습 과정에서 제공되는 정보의 형태에 따라 여러 유형으로 구분된다.Supervised Learning (지도학습)..

[Foundation of Deep Learning] 1. Artificial intelligence

AI Artificial Intelligence(AI)의 발전과 함께 현대 사회는 거대한 변화의 흐름 속에 놓이게 되었다. 인공지능의 급속한 성장은 더 이상 일부 전문가들만의 논의에 머무르지 않는다. 일상 속 다양한 서비스는 물론 산업 전반에 이르기까지 AI는 이미 우리의 선택과 판단 과정에 깊숙이 관여하고 있으며, 그 영향력은 앞으로 더욱 확대될 것으로 예상된다. 이러한 시대적 변화 속에서 중요한 것은 단순히 AI를 ‘활용하는 것’을 넘어, 그것이 어떠한 원리로 작동하는지를 이해하는 일이다. 특히 오늘날 인공지능 기술의 핵심이라 할 수 있는 딥러닝은 이러한 흐름을 주도하는 중심축으로서, AI의 가능성과 한계를 동시에 설명해 주는 핵심 개념이라 할 수 있다. AI란 합리적으로 사고하고 행동하는 인간처럼..

Decision Tree

정의: 특정 기준에 따라 데이터를 구분하는 트리 구조의 모델특징Classification과 Regression 모두 가능한 non-parametric 지도 학습 모델전체적인 모양이 나무를 뒤집어 놓은 것과 같음. → 이름이 Decision Tree용어Node: 네모 상자. 한 마디.Root Node: 뿌리 마디. 나무가 시작되는 마디.Intermediate Node: 중간 마디.Terminal Node: 맨 마지막 마디. 나무의 끝에 위치하는 마디.Depth: 가지를 이루고 있는 마디의 개수Parent Node: 상위 마디Child Node: 하위 마디. 한 마디로부터 분리되어 나간 2개 이상의 마디작동원리각 노드로 내려오면서 해당 노드에서 데이터를 가장 잘 구분할 수 있는 질문을 기준으로 데이터를 구분..

Hilbert space, Banach space, Compleness Axiom

복습f’는 linear operator이다.riesz representation theorem에 의해, df = = ∇f^Tdx가 성립⇒ Jacobian과 gradient는 transpose관계임⇒ Gradient는 정의 자체에서 “내적”을 전제로 함. → 대칭이고 양의 정부호 행렬인 M은 벡터 공간의 내적을 정의할 수 있다. 이때 inner product로 정의한 Gradient와 비교했을 때 모양이 달라진다. 오늘의 주제Hilbert space: 완비성 공리를 만족하는 내적공간.Banach space: 완비성 공리를 만족하는 노름공간.완비성공리inner productsymmetric첫번째 성분에 대해 linearitypositive-semi-definite내적이 정의된 vector space..

Probability Space

확률론은 불확실한 현상을 수학적으로 모델링하기 위한 강력한 도구이다. 불확실한 사건들을 체계적으로 분석하고 예측하기 위해 Probability Space의 개념은 필수적이다. 본 글에서는 Probability Space의 정의와 그 구성 요소를 소개하며, Statistical(random) experiment, Sample space, Event 등의 기본 개념과 함께 σ-field와 probability set function의 정의를 설명한다.1. Concepts1.1. Statistical(random) experimentStatistical(random) experiment란, 실험을 수행하기 전에는 결과를 확실하게 예측할 수 없는 실험을 의미한다. 즉, 실험의 결과가 무작위적으로 결정되며 불확실..