챗봇이 같은 질문에 다른 답변을 하는 이유는 무엇입니까?
챗봇은 다음에 올 가능성이 높은 단어 중 하나를 선택하며 답변을 생성하고, 이 선택에는 보통 어느 정도 무작위성이 포함되므로 같은 질문에도 다른 답변을 합니다. 저장된 답변 하나를 찾아오는 것이 아닙니다.
직원 30명의 가상 건축사무소 페어라인 아키텍츠를 생각해 봅니다. 한 파트너가 AI 어시스턴트를 도입하기 전에 사무 관리자 로언에게 세 가지를 설명해 달라고 요청합니다. 로언의 메모에는 이렇게 적혀 있습니다. '별도 허가 없이 가능한 개발 규정을 두 번 물었는데 답이 달랐음'; '존재하지 않는 건축 계획 지침 문서 번호를 출처로 제시함'; '이미지 도구가 새 스튜디오를 멋지게 그렸지만 창문 위치가 서로 맞지 않음'. 파트너는 도구가 고장 난 것인지 알고 싶어 합니다. 고장 난 것이 아닙니다. 만들어진 방식 그대로 작동하고 있습니다.
생성형 AI 모델은 어떻게 학습됩니까?
대규모 언어 모델은 먼저 방대한 텍스트 모음으로 다음에 나올 텍스트를 예측하도록 학습한 뒤, 지시를 따르고 유용한 답변을 제공하도록 추가 학습합니다. Anthropic의 용어집은 사전 학습을 레이블이 없는 대규모 말뭉치에서 앞선 맥락을 바탕으로 다음 단어를 예측하도록 학습하는 과정으로 설명합니다. 이후 미세 조정과 인간 피드백 기반 강화 학습이 이어집니다. 이 과정에서는 사람이 예시 답변의 순위를 매기고, 모델은 더 나은 답변을 선호하도록 학습합니다.
모델은 모든 문서의 사본을 보관하지 않습니다. 예측이 데이터의 패턴과 일치할 때까지 수십억 개의 내부 수치를 조정합니다. 그 결과는 검색 가능한 도서관보다는 언어와 개념이 일반적으로 어떻게 연결되는지에 대한 매우 정교한 감각에 가깝습니다.
토큰이란 무엇이며, 모델은 토큰을 어떻게 예측합니까?
토큰은 모델이 읽고 쓰는 작은 단위로, 보통 단어나 단어의 일부에 해당합니다. 모델은 다음에 올 가능성이 높은 토큰을 반복해서 예측하며 글을 작성합니다. Google의 머신러닝 강좌는 언어 모델이 긴 토큰열 안에서 특정 토큰이나 토큰열이 나타날 확률을 추정한다고 설명하며, 약 400개의 토큰이 영어 단어 약 300개에 해당한다고 안내합니다.
모델은 매 단계에서 다음에 올 수 있는 여러 토큰에 점수를 매깁니다. 그러면 애플리케이션이 하나를 선택합니다. 때로는 가능성이 가장 높은 토큰을 선택하고, 많은 경우 가능성이 높은 후보 중에서 표본 추출로 선택합니다. 온도라는 설정은 이 선택의 다양성을 조절합니다. 값이 높을수록 표현이 다양해지고, 낮을수록 예측 가능한 표현이 나옵니다. Anthropic은 온도를 가장 낮게 설정해도 결과가 완전히 결정적이지는 않다고 설명합니다. 이것이 로언의 첫 번째 메모에 대한 답입니다.
AI 이미지 생성기는 어떻게 작동합니까?
많은 AI 이미지 생성기는 확산이라는 방식을 사용합니다. 모델은 이미지에서 노이즈를 제거하는 법을 학습한 뒤, 무작위 노이즈에서 시작해 사용자의 텍스트 설명에 따라 단계적으로 다듬어 새 이미지를 만듭니다. Hugging Face의 확산 강좌에서는 학습을 서로 다른 양의 노이즈를 추가하고 모델이 이를 복원하도록 가르치는 과정으로 설명하며, 생성을 무작위 노이즈를 점차 다듬어 이미지가 나타나게 하는 과정으로 설명합니다.
모델이 건축가의 도면을 따르는 것이 아니라 그럴듯한 픽셀을 만들어 내기 때문에 창문 정렬, 간판의 글자, 손가락 수 같은 세부 사항이 잘못 표현될 수 있습니다. 이것이 로언의 세 번째 메모입니다.
이것이 도구 사용 방식에 어떤 의미가 있습니까?
도구의 기억에 의존하지 말고, 작업의 근거로 삼을 사실을 직접 제공해야 한다는 뜻입니다. 미흡한 프롬프트의 예는 '후면 증축에 적용되는 허용 개발 규정은 무엇입니까?'입니다. 답변은 유창하지만 시도할 때마다 달라지고, 서로 다른 연도나 국가의 규정을 섞을 수 있으며, 그럴듯하지만 실제로는 존재하지 않는 문서를 출처로 제시할 수도 있습니다. 이것이 로언의 두 번째 메모가 나온 이유입니다.
개선한 프롬프트: 로언은 공식 건축 계획 지침에서 관련 부분을 붙여 넣고 다음과 같이 요청합니다. '아래 텍스트만 사용해 단층 후면 증축의 규모 제한을 표로 요약합니다. 텍스트에서 다루지 않는 내용은 다루지 않음으로 표시합니다.' 이제 모델이 할 일은 눈앞의 텍스트를 다시 서술하고 정리하는 것입니다. 이는 모델이 잘하는 작업이며, 로언은 모든 내용을 원문과 대조할 수 있습니다.
생성형 AI의 한계는 무엇입니까?
생성형 AI의 주요 한계는 거짓을 자신 있게 사실처럼 말할 수 있고, 검색이나 문서에 연결하지 않으면 지식에 기준 시점이 있으며, 컨텍스트 창에 들어가는 내용만 처리할 수 있고, 학습 데이터의 편향을 반영할 수 있다는 점입니다. 어느 것도 더 정중하게 요청한다고 해결되는 오류가 아닙니다. 모델의 작동 방식에서 비롯되는 한계입니다.
신뢰할 수 있는 출처를 기준으로 사실, 수치, 이름, 참고 자료를 확인하고, 정확성이 중요할 때는 도구에 근거 자료를 제공합니다.
Tosheo.ai 교육 과정에서 이 수업은 어디에 해당합니까?
생성형 AI의 작동 원리는 AI 기초 범주에 속합니다. 초보자를 위한 AI 학습의 초반 수업이자 생성형 AI 과정의 첫 수업입니다. Tosheo.ai의 실습 과제에서는 온도와 같은 설정을 바꾸거나 원문을 제공할 때 도구가 어떻게 반응할지 예측한 뒤 직접 테스트합니다. 채점 기준에 따른 피드백으로 동료가 이해할 수 있게 설명했는지 확인합니다.
출처와 범위
Google 개발자 사이트, 머신러닝 단기집중과정, 대규모 언어 모델 및 토큰 소개 (19 October 2026 확인) ↗
Anthropic Claude 문서, 용어집: 사전 학습, 인간 피드백 기반 강화 학습, 온도 및 토큰 (확인일: 19 October 2026) ↗