LLM이 하는 일은 딱 하나 — 다음 말 맞히기

휴대폰으로 문자를 쓸 때, 자판 위에 다음 단어 추천이 뜨는 거 보셨죠? “오늘”을 치면 “저녁”, “날씨”, “뭐해” 같은 게 뜹니다.

LLM이 하는 일이 사실 이것입니다. 지금까지의 글을 보고, 다음에 올 말을 맞히는 것. 휴대폰 자동완성보다 엄청나게 크고 정교할 뿐, 하는 일의 모양은 같습니다.

긴 답은 어떻게 만들어질까

다음 말 하나를 고르면, 그걸 글 끝에 붙입니다. 그리고 늘어난 글 전체를 다시 보고 또 다음 말을 맞힙니다. 이걸 끝날 때까지 반복합니다.

ChatGPT나 Claude에서 답이 한 번에 뜨지 않고 타닥타닥 조금씩 나타나는 것, 보신 적 있죠? 실제로 한 조각씩 만들어서 만드는 대로 보여주고 있는 것입니다.

그럼 질문에 대답하는 건 어떻게 할까요? 대화도 결국 하나의 글로 이어 붙여서 모델에게 줍니다. 대략 이런 모양입니다.

사용자: 김치찌개 맛있게 끓이는 법 알려줘
어시스턴트:

모델 입장에서는 “어시스턴트:” 다음에 올 말을 맞히는 문제일 뿐입니다. 그 자리에 어울리는 말이 대답처럼 생긴 글이니까, 대답이 나오는 것입니다.

2부와 어떻게 이어질까

2부에서 본 학습을 떠올려보세요. 예시를 보고, 답을 내고, 틀린 만큼 고칩니다. LLM의 학습도 똑같습니다.

• 예시: 엄청난 양의 글. 책, 웹 문서, 코드 같은 것들.
• 문제: 글의 일부를 보여주고 “다음에 올 말은?”
• 정답: 실제로 그 글에 다음에 나온 말.
• 고치기: 정답 말에 준 확률이 낮았으면, 그 확률이 높아지는 쪽으로 가중치를 조금 고칩니다.

좋은 점은 정답을 사람이 따로 붙일 필요가 없다는 것입니다. 1.2의 스팸 문자는 사람이 “이건 스팸”이라고 정답을 달아야 했지만, 글은 다음 말 자체가 정답이니까요. 그래서 엄청난 양의 글로 학습할 수 있었습니다.

더 깊게 · 다음 말 맞히기만 했는데 어떻게 똑똑해 보일까

다음 말을 정말 잘 맞히려면 많은 걸 알아야 합니다. “대한민국의 수도는” 다음을 맞히려면 지식이 필요하고, 수학 풀이의 다음 줄을 맞히려면 계산 규칙을 알아야 하고, 소설의 다음 문장을 맞히려면 등장인물의 감정을 따라가야 합니다. 다음 말 맞히기를 엄청난 양의 글로 연습하다 보니, 그 과정에서 이런 능력이 함께 생긴 것으로 보고 있습니다.

다만 이게 사람처럼 “이해”하는 건지는 연구자들 사이에서도 의견이 갈리는 질문입니다. 이 자료에서는 그 논쟁에 답하지 않고, 실제로 어떻게 작동하는지에 집중하겠습니다.

정리

• LLM은 지금까지의 글을 보고 다음에 올 말을 맞힙니다. 이걸 반복해서 긴 글을 만듭니다.
• 대화도 하나의 글로 이어 붙여서, “대답 자리에 올 말”을 맞히는 문제로 바꿉니다.
• 글은 다음 말 자체가 정답이라서, 사람이 정답을 달지 않아도 학습할 수 있습니다.