AI를 배우려면 선형대수와 행렬을 꼭 알아야 할까?

직장인의 대학원 AI 노트
1편 / AI 수학 다시 시작하기

AI 공부를 시작하면 생각보다 빨리 벡터, 행렬, 선형대수라는 단어를 만납니다. 학교에서 배운 기억은 희미한데 수학책부터 다시 끝내야 할 것 같아 시작도 전에 부담을 느끼기 쉽습니다. 결론부터 말하면 선형대수와 행렬은 AI의 중요한 기초가 맞지만, 완벽하게 복습한 뒤에야 AI를 시작할 필요는 없습니다.

이 글의 목표는 공식을 외우는 것이 아니라, AI가 데이터를 어떤 모양으로 받아 어떻게 계산하는지 큰 그림을 이해하는 것입니다.

---

AI에서 선형대수가 기본인 이유

AI가 다루는 사진, 소리, 문장, 센서값은 컴퓨터 안에서 숫자로 표현됩니다. 데이터 한 건만 계산한다면 숫자를 하나씩 처리할 수도 있지만, 실제 학습에서는 수천 개에서 수백만 개의 데이터를 반복해서 계산해야 합니다.

선형대수는 많은 숫자를 벡터와 행렬로 묶고 한꺼번에 계산하는 방법을 제공합니다. 그래서 AI의 데이터 표현, 신경망의 가중치 계산, 이미지 변환, 문장 임베딩 등 거의 모든 곳에서 사용됩니다.

공정 데이터가 벡터와 행렬로 표현되고 가중치 계산을 거쳐 AI 예측값이 되는 과정

스칼라·벡터·행렬·텐서는 무엇일까?

구분	쉽게 말하면	산업 데이터 예시
스칼라	숫자 하나	현재 온도 80℃
벡터	숫자를 한 줄로 묶은 것	제품 한 개의 온도·압력·속도
행렬	여러 벡터를 표처럼 묶은 것	제품 100개의 측정값
텐서	차원이 더 높은 숫자 배열	컬러 이미지·영상·센서 시계열 묶음

이름은 낯설지만 데이터 모양을 구분하는 말이라고 생각하면 됩니다. 예를 들어 세 제품의 온도와 압력을 다음처럼 행렬로 표현할 수 있습니다.

X = [[80, 20],
     [70, 30],
     [90, 10]]

행은 제품을, 열은 측정 항목을 나타냅니다. 이 행렬은 3행 2열이며 Python과 AI 도구에서는 모양을 (3, 2)라고 표시합니다.

행렬은 숫자표이면서 데이터 변환 장치입니다

행렬을 단순한 숫자표로만 보면 행렬 곱셈이 왜 중요한지 이해하기 어렵습니다. AI에서는 행렬을 입력 데이터를 목적에 맞는 새로운 값으로 바꾸는 변환 장치로 이해하는 편이 좋습니다.

입력 X × 가중치 W + 편향 b = 예측값

• 입력 X: 온도, 압력, 속도처럼 모델에 넣는 데이터
• 가중치 W: 각 입력을 얼마나 중요하게 볼지 나타내는 값
• 편향 b: 계산 결과의 기준점을 조정하는 값
• 예측값: 불량 가능성이나 품질점수처럼 모델이 계산한 결과

학습이란 예측값과 실제 정답의 차이가 줄어들도록 가중치와 편향을 조금씩 바꾸는 과정입니다. 복잡한 신경망도 이 계산을 여러 층에서 반복한다고 보면 출발점으로 충분합니다.

온도와 압력으로 작은 계산을 해보자

제품의 온도와 압력으로 간단한 품질점수를 계산한다고 가정해 보겠습니다. 온도에는 0.7, 압력에는 0.3의 가중치를 둡니다.

제품 데이터 = [80, 20]
가중치      = [0.7, 0.3]

품질점수 = 80 × 0.7 + 20 × 0.3
         = 56 + 6
         = 62

이 계산에서는 온도의 가중치가 더 크기 때문에 압력보다 온도를 더 중요하게 반영합니다. 이것이 벡터의 내적이자 신경망 한 노드에서 일어나는 기본 계산의 형태입니다.

다만 실제 AI가 가중치의 의미를 사람처럼 이해하는 것은 아닙니다. 학습 데이터에서 정한 손실이 작아지는 방향으로 숫자가 조정된 결과입니다.

여러 제품을 행렬로 한 번에 계산하기

세 제품을 같은 기준으로 계산하면 다음과 같습니다.

import numpy as np

X = np.array([
    [80, 20],
    [70, 30],
    [90, 10]
])

W = np.array([
    [0.7],
    [0.3]
])

scores = X @ W
print(scores)

# [[62.]
#  [58.]
#  [66.]]

@는 행렬 곱셈을 뜻합니다. 제품별 계산식을 세 번 쓰는 대신 입력 행렬과 가중치 행렬을 한 번 곱해 세 결과를 얻었습니다. 실제 AI는 이와 같은 계산을 훨씬 큰 행렬과 여러 층에서 빠르게 반복합니다.

행렬 곱셈에서 가장 먼저 볼 것은 모양입니다

X의 모양: (3, 2)
W의 모양: (2, 1)
결과 모양: (3, 1)

(3, 2) @ (2, 1) → (3, 1)

앞 행렬의 열 수와 뒤 행렬의 행 수가 같아야 곱할 수 있습니다. 가운데 숫자 2가 서로 맞고, 결과에는 바깥쪽 숫자인 3과 1이 남습니다. AI 코드를 실행할 때 자주 만나는 shape mismatch 오류도 대부분 이 규칙으로 원인을 찾을 수 있습니다.

수학을 어디까지 먼저 공부해야 할까?

처음부터 선형대수 교재 전체를 끝낼 필요는 없습니다. 다음 순서로 필요한 만큼 익히는 것이 현실적입니다.

1. 스칼라·벡터·행렬의 의미와 모양
2. 벡터의 덧셈과 내적
3. 행렬 곱셈과 전치
4. 함수와 그래프
5. 미분, 기울기와 경사하강법
6. 평균·분산·확률의 기본 개념

역행렬, 행렬식, 고유값과 고유벡터도 중요한 개념이지만 AI 입문 전에 전부 외워야 하는 선행조건은 아닙니다. 차원 축소나 주성분분석처럼 해당 개념이 실제로 필요한 시점에 다시 배우면 의미가 더 잘 연결됩니다.

수학과 코드를 함께 공부하는 방법

개념을 쉬운 말로 이해하기
        ↓
작은 숫자로 직접 계산하기
        ↓
NumPy 코드로 같은 결과 확인하기
        ↓
AI 모델에서 사용되는 위치 찾아보기

수학만 오래 공부하면 AI와 연결되지 않아 지치기 쉽고, 코드만 복사하면 데이터 모양이나 계산 오류를 해결하기 어렵습니다. 한 개념을 손계산과 코드로 번갈아 확인하는 방식이 직장인 학습에도 부담이 적습니다.

대학원 AI 노트에서 함께 공부할 내용

이 연재는 수학 시험을 다시 준비하는 과정이 아닙니다. 대학원 수업에서 만나는 개념을 비전공자의 언어로 다시 정리하고, 산업 데이터에 적용해 보는 기록입니다.

• 선형대수와 미분을 AI 계산에 연결하기
• 확률과 통계로 공정 데이터를 해석하기
• NumPy·pandas·scikit-learn으로 직접 실행하기
• 머신러닝과 딥러닝의 원리를 작은 예제로 확인하기
• 예지보전·이상탐지·최적화·온디바이스 AI로 확장하기

1편 핵심 요약

• 선형대수는 AI가 많은 숫자 데이터를 표현하고 한꺼번에 계산하는 기본 도구입니다.
• 벡터는 데이터 한 건, 행렬은 여러 데이터를 모은 표로 생각하면 이해하기 쉽습니다.
• 행렬 곱셈은 입력을 가중치에 따라 새로운 값으로 변환합니다.
• AI 학습은 예측 오차가 줄어들도록 가중치와 편향을 조정하는 과정입니다.
• 수학을 완벽히 끝내기보다 손계산과 Python 실습을 함께 진행하는 것이 좋습니다.

직접 해볼 작은 실습

위 코드에서 가중치를 [0.5, 0.5]와 [0.2, 0.8]로 바꾸어 보세요. 같은 제품이라도 어떤 항목을 더 중요하게 보는지에 따라 결과가 어떻게 달라지는지 확인할 수 있습니다.

다음 편

2편에서는 스칼라, 벡터, 행렬, 텐서를 실제 데이터 모양과 함께 더 자세히 살펴봅니다. 특히 AI 코드에서 자주 보이는 shape와 차원이 무엇인지 센서와 이미지 예제로 설명하겠습니다.

---

카테고리
대학원 AI 노트

연재
직장인의 대학원 AI 노트 1편

이 글은 대학원 수업과 개인 실습을 바탕으로 AI 개념을 쉽게 다시 정리한 학습 기록입니다. 수식과 코드는 개념 설명을 위한 단순화된 예제이며 실제 공정 판단에는 데이터 검증과 현장 기준이 추가로 필요합니다.