컨텍스트 압축 (Compaction)

대화가 길어지면 AI가 초반에 합의한 내용을 잊기 시작합니다. 컨텍스트 윈도우 밖으로 앞부분이 밀려나기 때문이에요. 압축은 밀려나서 잃기 전에, 요약해서 자리를 만드는 선제 조치입니다.

지우는 것과 뭐가 다른가요?#

바이브코딩하다 가장 많이 헷갈리는 지점입니다. 판단 기준은 지금 하던 일이 끝났느냐 하나예요.

일이 끝났는데 압축만 하면 지난 작업 요약이 계속 따라다니면서 다음 작업을 오염시킵니다. 반대로 일이 안 끝났는데 비우면 "아까 정한 그 방식대로 해줘"가 통하지 않아요.

압축하면 뭘 잃나요?#

요약은 손실 압축입니다. 구체적인 것부터 사라져요. 파일 경로, 변수 이름, "이건 이렇게 하기로 했다"는 결정의 근거 같은 것들이 뭉뚱그려집니다.

그래서 압축 직후에 AI가 갑자기 아까 고친 파일을 다시 고치겠다고 하거나, 이미 기각한 방법을 다시 제안하는 일이 생겨요. 이건 고장이 아니라 요약에서 그 부분이 빠진 겁니다.

압축을 덜 하려면?#

압축은 대증요법이라 근본 처방이 따로 있습니다. 애초에 창을 덜 채우는 것이에요.

• 큰 작업을 하나의 대화에서 끝까지 끌지 말고, 단계가 끝날 때마다 비우고 새로 시작하기
• 파일을 통째로 읽히지 말고, @ 를 친 뒤 이름을 골라 필요한 파일만 집어주기
• 오래 유지해야 할 규칙은 대화에 두지 말고 프로젝트 메모리 파일에 적어두기 — 매 대화에 자동으로 실리니 압축돼도 안 사라집니다

AI에게 시키기#

압축 직후에 이걸 한 번 시키면 손실분을 빨리 찾을 수 있어요.

방금 대화가 압축됐어. 이어서 작업하기 전에 확인 좀 하자.
 
- 지금 네가 파악하고 있는 이 작업의 목표와 지금까지의 결정사항을 정리해줘
- 이미 수정을 마친 파일과 아직 안 건드린 파일을 구분해서 나열해줘
- 기억이 흐릿하거나 확신이 없는 부분이 있으면 추측하지 말고 그렇다고 말해줘

마지막 줄이 중요합니다. 요약본만 들고 있는 AI는 빈 곳을 그럴듯하게 메우는 경향이 있어요.

혼동 주의#

• 모델의 컨텍스트 윈도우가 커지는 게 아닙니다. 창 크기는 그대로고, 안에 든 내용을 줄이는 것뿐이에요
• 자동 압축이 항상 최선의 타이밍은 아닙니다. 도구가 한도에 닿아 자동으로 압축하면 하필 중요한 논의 한복판일 수 있어요. 작업 구간이 깔끔하게 끝났을 때 직접 돌리는 편이 결과가 낫습니다
• 압축은 이미 쓴 것을 되돌려주지 않습니다. 지금까지 주고받은 분량은 이미 계산에 들어간 뒤예요. 앞으로의 대화가 가벼워질 뿐입니다
• 요약 품질은 모델이 만듭니다. 즉 압축 자체도 AI가 하는 작업이라 완벽하지 않아요. 중요한 결정은 대화에만 두지 말고 파일로 남기세요