기계학습이란?
1. 기계학습의 정의
👆 Tom Mitchell의 정의
톰 미첼(Tom Mitchell) 교수에 따르면, 기계학습은 경험(E)을 통해 특정 작업(T)에 대한 성능(P)을 향상시키는 알고리즘을 연구하는 분야입니다.
- Task (T): 풀고자 하는 작업 (예: 체스 게임)
- Performance (P): 성능 측정 기준 (예: 상대편에 대해 얼마나 많이 이겼는가)
- Data / Experience (E): 축적된 데이터나 기록 (예: 체스를 둔 승패에 대한 기록)
👆 뉴턴의 제2법칙으로 이해하는 기계학습
ML 모델을 통해 뉴턴의 제2법칙을 이끌어내는 상황을 가정해 보겠습니다. 톰 미첼의 정의에 따라 P, T, D를 다음과 같이 정의할 수 있습니다.
- Task (T): 힘(Force, F)과 질량(Mass, m)이 주어졌을 때 가속도(Acceleration, a) 구하기
- Performance (P): 예측한 가속도(a)와 실제 가속도(a) 사이의 차이 (Error)
- Data (D): 물체를 직접 밀어보는 실험을 통해 기록한 데이터 (아래 표 참고)
| Force | Mass | Acceleration |
|---|---|---|
| 10 | 2.5 | 4 |
| 10 | 5 | 2 |
| 10 | 20 | 0.5 |
| 10 | 40 | 0.25 |
| 100 | 40 | 2.5 |
| 100 | 20 | 5 |
| 100 | 50 | 2 |
2. 기계학습의 3대 의사결정
기계학습은 딥러닝과 다르게 인간의 의사결정 요소가 깊게 개입됩니다. ML 모델을 설계할 때 엔지니어가 반드시 신경 써서 정의해야 하는 3가지 핵심 요소를 소개합니다.
① 가설클래스 (Hypothesis Class)
사람이 기계에게 “정답은 대충 이런 형태의 공식 중 하나일 거야!”라고 후보 범위를 좁혀주는 과정입니다. 즉, 모델이 데이터를 설명하기 위해 후보로 삼는 함수들의 집합입니다.
설계한 가설클래스 예시:
\[a = w_0 + w_1 F + w_2 m + w_3 (F * m) + w_4 \left(\frac{F}{m}\right)\]
- a: 우리가 예측하고자 하는 가속도 (출력 변수)
- 오른쪽 항: 인간이 설정해 준 유력한 후보 식
- w (Weight): 각 변수에 대한 가중치
모델은 주어진 데이터로 학습을 진행하면서, 어떤 변수가 가속도에 가장 큰 영향을 주는지 가중치(w)를 조절하며 정답을 찾아갑니다.
⚠️ 인간의 의사결정이 중요한 이유 만약 가설클래스를 아래와 같이 설정한다면, 모델은 절대로 정확한 가속도 공식을 구할 수 없습니다. 실제 가속도 공식의 핵심인 (F / m) 항이 인간의 잘못된 판단으로 인해 후보군에서 제외되었기 때문입니다.
\[a = w_0 + w_1 F + w_2 m + w_3 (F * m)\]
② 손실함수 (Loss Function)
어떤 함수가 정답에 가깝고 어떤 함수가 나쁜지 결정하는 채점 기준입니다.
- 예측이 틀린 경우 → Loss(손실)가 커짐
- 예측이 맞은 경우 → Loss(손실)가 작아짐
③ 최적화 알고리즘 (Optimization Algorithm)
설정된 채점 기준(손실함수)을 바탕으로 가장 정답에 가까운 최고의 가중치(w)를 어떻게 찾아낼 것인가에 대한 방법론입니다.
- 대표적으로 경사하강법(Gradient Descent)이 사용되며, 세부적인 방식에 따라 다양한 알고리즘이 존재합니다. (추후 별도 포스팅으로 자세히 다루겠습니다.)
3. 기계학습의 종류
기계학습은 데이터의 형태와 목적에 따라 크게 두 가지로 분류할 수 있습니다.
| 종류 | 입력 데이터 | 출력 및 목표 | 대표 예시 |
|---|---|---|---|
| 지도학습 (Supervised) | (x, y) 입력값 x와 그에 대한 라벨(정답지) y | 새로운 x에 대한 예측값 y 도출 | 회귀(Regression), 분류(Classification) |
| 비지도학습 (Unsupervised) | 오직 x만 주어짐 라벨(정답지)이 없음 | 데이터 자체의 숨겨진 구조 파악 | 군집화(Clustering), 차원 축소(Dimensionality Reduction) |
👆 개념 아키텍처 참고 자료
본문 내용의 전체적인 흐름과 이해를 돕기 위한 기계학습 기본 개념도입니다.
✔️ References & Attributions:
- This post is largely based on the lecture slides of Tom Mitchell and Jayaraman & Zhao.
- Images are generated by Gemini.