AI 용어집
컨텍스트 윈도우
컨텍스트 윈도우는 내 입력, 진행 중인 대화, AI 자신의 답변까지 포함해서 AI 모델이 한 번에 고려할 수 있는 텍스트의 최대 분량이에요.
컨텍스트 윈도우란 무엇인가요
AI 모델은 한 번에 제한된 양의 텍스트만 "볼" 수 있고, 그 한계가 바로 컨텍스트 윈도우예요. 토큰 단위로 측정되죠. 지금 주고받는 대화 안의 모든 것 - 여러분의 프롬프트, 첨부한 문서, 대화 기록 - 이 그 안에 다 들어가야 해요.
크기가 정해진 책상을 떠올려 보세요. 서류를 어느 정도까지만 펼쳐놓을 수 있고, 그 이상은 오래된 것부터 치워야 해요. 긴 대화가 컨텍스트 윈도우를 넘치게 하면, AI는 사실상 가장 앞부분의 내용을 놓치게 돼요.
컨텍스트 윈도우가 중요한 이유
컨텍스트 윈도우는 AI가 한 번에 처리할 수 있는 정보량에 현실적인 한계를 정해줘요. 이걸 알아두면 정확성을 유지하는 도구를 설계하는 데 도움이 돼요.
AI가 다룰 수 있는 텍스트 양이나 대화 길이를 제한해요
AI가 긴 대화의 앞부분을 왜 잊어버릴 수 있는지 설명해줘요
모델마다 컨텍스트 윈도우의 크기가 달라요
이걸 알아두면 정확하고 믿을 수 있는 AI 워크플로우를 설계할 수 있어요
자주 묻는 질문
AI는 더 이상 가장 오래된 내용을 볼 수 없어서 앞부분의 세부 내용을 잊어버릴 수 있어요. 정확성을 유지하려면 핵심 내용을 요약하거나, 중요한 정보를 대화 뒷부분에서 다시 언급해 주면 돼요.