학습 — 틀릴 때마다 조금씩 고치기

앞 장에서는 가중치를 손으로 맞췄습니다. 단서가 3개라 할 만했지만, 수천억 개라면 불가능하죠.

그럼 컴퓨터는 어떻게 맞는 숫자를 찾을까요? 사람이 문제집을 풀 때와 비슷합니다. 풀어보고, 틀리면 고치고, 다시 풉니다.

틀리면 고치는 규칙

같은 스팸 문자 12개로 해볼까요? 가중치는 전부 0에서 시작하고, 컴퓨터는 문자를 하나씩 보면서 이 규칙만 따릅니다.

• 맞혔으면 그대로 둡니다.
• 스팸을 놓쳤으면, 그 문자에 있던 단서의 가중치를 조금 올리고 기준을 조금 내립니다. 다음엔 점수가 더 높게 나오도록.
• 정상을 스팸이라고 했으면, 반대로 가중치를 조금 내리고 기준을 조금 올립니다.

여기서 “조금”은 0.5입니다. 12개를 다 보면 한 바퀴, 한 바퀴 동안 하나도 안 틀리면 끝입니다.

해보면 보이는 것

처음에는 많이 틀리고, 틀릴 때마다 숫자가 움직입니다. 그런데 세 바퀴째에는 하나도 안 틀리고 끝납니다. 컴퓨터가 고친 횟수는 7번뿐입니다.

끝났을 때 숫자를 보세요. 광고성 단어 0.5, 모르는 번호 1, 뭔가 하라고 시킴 0.5, 기준 1.5입니다. 앞 장에서 여러분이 손으로 찾은 답과 숫자는 다를 수 있지만, 12개를 다 맞힌다는 점은 같습니다. 답이 하나만 있는 게 아닙니다.

중요한 건, 아무도 “모르는 번호가 제일 중요해”라고 알려주지 않았다는 것입니다. 컴퓨터는 틀린 문자를 보고 고치기만 했는데, 모르는 번호의 가중치가 제일 커졌습니다. 이게 “예시에서 배운다”의 실제 모습입니다.

이게 학습입니다

머신러닝에서 학습(training) 은 이 과정을 말합니다.

1. 예시를 보여주고 모델이 답을 내게 합니다.
2. 정답과 비교합니다.
3. 덜 틀리는 방향으로 가중치를 조금 고칩니다.
4. 이걸 아주 많이 반복합니다.

ChatGPT 같은 LLM도 기본은 똑같습니다. 예시가 문자 12개가 아니라 엄청난 양의 글이고, 가중치가 3개가 아니라 수천억 개이고, 반복 횟수가 상상하기 어려울 만큼 많을 뿐입니다.

더 깊게 · 이 규칙의 이름은 퍼셉트론

이 장에서 쓴 규칙은 퍼셉트론 학습 규칙이라고 부릅니다. 1950년대 후반에 프랭크 로젠블랫이 만든 초기 인공 신경망 방법입니다. 이 방법에는 좋은 성질이 하나 있습니다. 앞 장처럼 가중치를 잘 정하면 다 맞힐 수 있는 문제라면, 이 규칙으로 고치다 보면 언젠가는 반드시 다 맞히는 가중치에 도착합니다.

반대로 아무리 가중치를 정해도 다 맞힐 수 없는 문제라면 영원히 고치기만 합니다. 1.2의 “엄마 나 폰 고장나서…” 같은 문자를 단어 단서만으로 다룰 때가 그렇습니다. 단서를 잘 고르는 것도, 다 맞힐 수 없을 때 어떻게 할지도 중요한 문제고, 뒤에서 다시 나옵니다.

정리

• 학습은 예시를 보고, 틀린 만큼 가중치를 조금씩 고치는 것을 반복하는 것입니다.
• 어떤 단서가 중요한지는 사람이 알려주지 않아도, 고치는 과정에서 숫자로 드러납니다.
• 실제 학습은 “얼마나 틀렸는지”를 재서 고칩니다. 다음 장에서 보겠습니다.