ChatGPT 장기 작업에서 대화 맥락이 꼬일 때 관리하는 방법
ChatGPT를 짧은 질문에 사용하는 것과 하나의 작업을 오랫동안 이어가는 것은 생각보다 차이가 있습니다. 대화가 길어질수록 이전에 전달했던 조건과 새롭게 추가한 요구사항이 함께 쌓이기 때문에, 어느 순간 처음 의도했던 방향과 다른 답변이 나오거나 이미 수정한 조건이 다시 등장하는 경우를 경험할 수 있습니다.
저는 ChatGPT Plus를 오랫동안 사용하면서 글이나 이미지 작업뿐 아니라 게임 코드 제작, 기존 코드 수정, 기획 작업처럼 비교적 긴 대화를 자주 이어왔습니다. 계속 사용하다 보면 제 작업 방식에 맞는 도우미가 조금씩 형태를 갖춰가는 것처럼 느껴질 때도 있었지만, 반대로 대화의 범위가 넓어지면서 현재 요구와 맞지 않는 내용이 섞이는 경험도 여러 번 있었습니다.
이 글에서는 이런 현상을 편의상 ‘대화 맥락의 혼선’이라고 표현하겠습니다. 제가 실제로 경험했던 상황을 바탕으로 어떤 경우에 문제가 생기기 쉬웠는지, 그리고 장기 작업에서 요구사항을 어떻게 관리하고 있는지 정리했습니다.
ChatGPT 대화 맥락이 꼬였다고 느끼는 순간
제가 말하는 대화 맥락의 혼선은 단순히 ChatGPT가 한 번 잘못된 답을 하는 상황과는 조금 다릅니다.
예를 들어 처음에는 A라는 기능을 만들기 위해 여러 조건을 정했다고 가정해보겠습니다. 작업을 진행하다 보면 일부 조건을 바꾸기도 하고, 테스트를 위해 원래 목표와 다른 내용을 잠시 이야기하기도 합니다.
문제는 이후 다시 원래 작업으로 돌아왔을 때 나타날 수 있습니다. 이미 폐기한 조건이 다시 반영되거나, 테스트를 위해 잠시 언급했던 내용이 현재 요구사항처럼 섞여 들어오는 식입니다.
저는 이런 상태가 반복되면 처음에는 한두 문장만 수정하면 되던 것이 점점 더 많은 설명을 필요로 하는 경우를 경험했습니다. 그래서 개인적으로는 이를 ‘데이터가 꼬였다’고 표현해왔지만, 정확하게는 이전 맥락과 현재 요구사항 사이에 혼선이 생겼다고 표현하는 편이 적절하다고 생각합니다.
중요한 점은 이것이 ChatGPT의 특정 오류 명칭이라는 뜻은 아니라는 것입니다. 제가 장기간 대화를 사용하면서 체감한 현상을 설명하기 위한 표현입니다.
긴 대화에서 요구사항이 흔들리는 이유를 먼저 확인해야 합니다
장기 작업에서는 처음 정했던 내용이 끝까지 그대로 유지되는 경우가 오히려 드뭅니다.
기획을 하다가 더 좋은 방법이 떠오를 수도 있고, 실제 구현 과정에서 불가능한 조건을 발견할 수도 있습니다. 처음에는 필요했던 기능을 나중에 삭제하거나 완전히 다른 방식으로 변경할 수도 있습니다.
이 과정에서 사용자가 “이전 조건은 폐기했고 지금부터는 새 조건을 사용한다”는 점을 분명하게 정리하지 않으면 대화 안에는 서로 다른 시기의 요구사항이 함께 남게 됩니다.
그래서 저는 문제가 생겼을 때 곧바로 새로운 답을 요구하기보다 현재 기준이 무엇인지부터 다시 확인하는 편입니다.
현재 반드시 지켜야 하는 조건은 무엇인지, 이전에 이야기했지만 이제 사용하지 않는 조건은 무엇인지, 최종적으로 원하는 결과는 무엇인지를 다시 구분하는 것입니다.
이 과정만으로도 단순한 답변 오류인지, 아니면 작업 기준 자체가 불분명해진 것인지 구분하기 쉬워집니다.
과거에는 대화 내용을 줄이는 방식도 시도했습니다
맥락이 심하게 꼬였다고 느꼈을 때는 여러 우회 방법을 시도해본 적이 있습니다.
문제가 시작됐다고 생각한 과거 대화의 영향을 줄이려고 하거나, 이전 내용을 더 이상 사용하지 말라고 요청하는 방식도 사용해봤습니다. 특정 질문 내용을 의미 없는 내용으로 바꾸는 시도도 했습니다.
다만 지금은 이런 방법을 일반적인 해결책이라고 생각하지 않습니다.
사용자가 화면에서 과거 내용을 수정하거나 AI에게 특정 내용을 무시해달라고 요청했다고 해서 내부적으로 모든 관련 정보가 완전히 사라졌다고 단정할 수 없기 때문입니다.
실제로 중요한 것은 과거 내용을 없애는 것보다 현재 작업에 필요한 정보만 다시 명확하게 정리하는 것이라고 생각하게 됐습니다.
그래서 최근에는 문제가 생긴 뒤 정리하는 것보다 처음부터 대화의 역할과 범위를 제한하는 방법을 더 많이 사용하고 있습니다.
ChatGPT 장기 작업에서는 현재 기준을 따로 정리하는 것이 좋았습니다
제가 가장 중요하게 생각하는 것은 ‘지금 무엇이 최종 기준인가’를 분명하게 만드는 것입니다.
기획이 여러 번 수정됐다면 과거의 모든 대화를 그대로 기준으로 삼기보다 최종적으로 확정된 내용을 한 번 정리하는 편이 좋았습니다.
예를 들어 기능을 제작하고 있다면 목적, 필수 기능, 제외할 기능, 변경하면 안 되는 조건을 따로 정리할 수 있습니다.
작업 도중 새로운 아이디어가 생겼다면 기존 기준에 바로 섞기보다 먼저 기존 기획을 변경하는 것인지, 추가 기능으로 넣는 것인지 구분하는 것도 도움이 됐습니다.
저는 AI에게 원하는 결과를 제대로 얻기 위해서는 사용자가 먼저 자신의 요구사항을 설명할 수 있어야 한다고 생각합니다.
AI가 사용자의 머릿속에 있는 의도를 자동으로 전부 파악할 수 있다고 생각하기보다, 현재 기준을 충분히 전달하고 결과가 그 기준을 지켰는지 다시 확인하는 방식에 가깝습니다.
최근에는 하나의 채팅에 모든 역할을 맡기지 않고 있습니다
제가 최근 사용하고 있는 방법은 작업의 역할에 따라 대화를 나누는 것입니다.
예전에는 하나의 채팅 안에서 아이디어를 이야기하고, 세부 기능을 결정하고, 실제 코드까지 작성하는 경우가 많았습니다. 작업이 길어지면 기획 단계에서 나온 수많은 아이디어와 실제 구현 단계에서 필요한 조건이 한곳에 섞이게 됐습니다.
현재는 기획을 담당하는 대화에서는 가능한 한 기획 자체에 집중하고 있습니다. 무엇을 만들 것인지와 어떤 방식으로 작동해야 하는지를 먼저 결정합니다.
기획이 어느 정도 완성되면 별도의 단계에서 빠진 조건과 예외 상황을 구체화하고, 마지막 구현 단계에서는 이미 확정한 내용을 기준으로 실제 작업을 진행하는 방식을 시도하고 있습니다.
제 경험에서는 이렇게 작업 역할을 나눈 이후 이전보다 맥락이 섞인다고 느끼는 경우가 상당히 줄었습니다.
다만 이것이 모든 ChatGPT 사용자에게 같은 결과를 보장한다는 의미는 아닙니다. 저는 ChatGPT Plus를 장기간 사용하면서 이런 방식을 시도했고, 무료 이용 환경이나 다른 사용자의 설정에서도 동일하게 체감될지는 확인하지 못했습니다.
대화를 분리할 때도 전달할 정보는 남겨야 합니다
새로운 채팅을 시작한다고 해서 아무런 정보 없이 작업을 이어갈 수 있는 것은 아닙니다.
오히려 필요한 정보를 너무 적게 전달하면 새로운 대화에서는 이전에 결정했던 중요한 조건이 빠질 수 있습니다.
그래서 제가 중요하게 생각하는 것은 대화를 단순히 나누는 것이 아니라, 다음 단계에 필요한 확정 사항을 정리해서 넘기는 것입니다.
기획 단계에서 최종 결정된 내용이 있다면 구체화 단계에는 그 결정 사항을 전달하고, 구체화가 끝났다면 구현 단계에는 최종 규칙과 예외 조건을 전달하는 식입니다.
이렇게 하면 과거의 모든 대화를 가져갈 필요 없이 현재 단계에서 필요한 내용만 기준으로 사용할 수 있습니다.
결국 대화 분리의 목적은 정보를 없애는 것이 아니라 필요한 정보와 필요하지 않은 정보를 구분하는 데 있습니다.
ChatGPT 대화 맥락 관리에 대해 자주 묻는 질문
Q. 대화가 길어지면 반드시 새 채팅을 만들어야 하나요?
반드시 그럴 필요는 없습니다. 한 가지 목적을 유지하면서 조건이 명확하게 관리되고 있다면 기존 대화를 계속 사용할 수도 있습니다.
다만 작업 목적이 크게 달라졌거나 과거 조건과 현재 조건이 반복해서 충돌한다고 느껴진다면 작업 단위를 나누는 방법을 고려할 수 있습니다.
Q. 이전 대화를 삭제하면 맥락 문제가 완전히 해결되나요?
그렇게 단정하기는 어렵습니다. 대화 기록과 ChatGPT가 활용할 수 있는 개인화 정보는 같은 개념으로만 볼 수 없기 때문에 단순히 특정 대화를 없애는 것을 모든 문제의 해결책으로 보기는 어렵습니다.
저 역시 최근에는 삭제 자체보다 현재 사용할 요구사항을 다시 정리하고 작업 역할을 분리하는 방법을 더 중요하게 보고 있습니다.
Q. 채팅을 여러 개로 나누면 AI가 더 정확해지나요?
채팅을 나눈다는 사실만으로 답변 정확도가 자동으로 올라간다고 말할 수는 없습니다.
제가 체감한 장점은 한 번에 다루는 작업 범위가 줄어들고, 현재 단계에서 필요한 조건을 명확하게 관리하기 쉬워졌다는 점입니다. 결과적으로 제가 원하는 방향을 설명하고 검증하기가 편해졌습니다.
장기 작업에서는 AI보다 먼저 기준을 관리해야 합니다.
ChatGPT와 긴 작업을 이어가다 보면 AI의 답변만 관리하는 것이 아니라 사용자가 전달한 요구사항 자체도 함께 관리해야 한다고 느끼게 됩니다.
처음 정한 내용과 현재 기준이 달라졌다면 무엇이 변경됐는지를 분명하게 정리하고, 현재 작업에서 필요하지 않은 내용은 가능한 한 범위 밖으로 빼는 것이 좋습니다.
저는 이런 경험을 여러 번 겪은 뒤 하나의 대화에 기획부터 구현까지 모두 맡기는 방식에서 벗어나 작업 단계를 나누는 방법을 시도하고 있습니다.
중요한 것은 특정 방법이 모든 사람에게 정답이라는 것이 아닙니다. AI가 내가 원하는 것을 온전히 구현하기를 바란다면, 그 전에 내가 무엇을 원하는지 명확하게 설명하고 현재 기준을 관리할 필요가 있다는 것이 제가 장기간 사용하면서 얻은 가장 큰 결론입니다.