AI가 과거 사례를 찾았다고 지금 일을 승인받은 것은 아니다

AI가 “예전에 이렇게 결정했어요”라고 알려주면, 왠지 지금 할 일도 이미 통과한 것처럼 느껴지지 않나요? 근거를 찾아 준 건 분명 반가운 일입니다. 하지만 그 문장을 곧바로 “그럼 진행해도 된다”로 번역하는 순간, 과거 사례와 현재 승인이 한 덩어리가 됩니다. 둘은 닮았지만 같은 물건이 아닙니다 (비슷하게 생긴 리모컨을 눌렀다가 TV가 아니라 에어컨이 켜지는 것처럼요).

헷갈리는 지점: 찾아냈으니 맞았다는 생각

흔한 오해는 이렇습니다. AI가 과거의 판단, 규칙, 또는 비슷한 선택을 찾아냈다면 현재 계획도 맞다고 인증한 셈이라는 생각입니다. 그래서 조회 결과를 승인 도장처럼 쓰고, 별도의 판단이나 확인을 건너뜁니다.

그런데 과거 기록은 현재 상황의 답안지가 아닙니다. 과거에는 유효했던 선택이 지금도 그대로 맞을 수 있고, 일부만 맞을 수도 있고, 이미 낡았을 수도 있습니다. 기록이 얇거나 서로 충돌한다면 더더욱 그렇습니다. AI는 기억 보관함에서 메모를 꺼낼 수는 있어도, 오늘의 상황까지 대신 살아 보지는 못합니다. 참 부지런한 사서인데 결재 권한은 없는 셈이죠.

네 단어를 분리해 두면 덜 위험합니다

먼저 선례(precedent) 는 과거에 남은 판단과 결정입니다. 현재 작업에서 무엇을 고려할지 좁혀 주는 참고 자료이지, 지금 선택을 자동으로 정해 주는 명령은 아닙니다.

다음은 판단(judgment) 입니다. 현재 과제의 목적, 조건, 그리고 선례의 한계를 함께 놓고 “이번에는 무엇이 적절한가”를 따져 보는 일입니다. 선례를 조회한 뒤에도 이 단계가 필요한 이유가 여기 있습니다. 과거 자료가 사고의 출발점은 될 수 있어도 사고 자체를 없애 주지는 않습니다.

승인(authorization) 은 또 다른 일입니다. 누군가가 현재 작업을 진행해도 된다고 권한을 주는 행위입니다. 과거 사례를 찾아낸 AI는 그 사례를 설명할 수 있지만, 그 자체로 지금의 구현이나 설계에 서명할 수는 없습니다. 조회와 승인을 섞어 쓰면 “참고했다”가 어느새 “허가받았다”가 됩니다 (말은 한 글자 차이인데 책임은 꽤 멀리 갑니다).

마지막은 검증(verification) 입니다. 현재 계획이나 결과가 실제 조건에서 타당한지 별도의 점검으로 확인하는 과정입니다. 선례 조회는 새로운 실수를 찾아내는 적대적 검토나 정확성 인증을 대신하지 않습니다. 그래서 과거 기록을 읽은 다음에는, 현재 작업을 독립적으로 살펴볼 검토와 확인이 남습니다.

선례는 지도이고, 현재 판단은 운전입니다

길을 처음 가는 날 지도를 보는 장면을 떠올려 보세요. 지도는 이전에 누군가 지나간 길과 갈림길을 알려 줍니다. 그렇다고 지도가 오늘의 공사, 목적지 변경, 내 차의 상태까지 판단해 주지는 않습니다. 운전자는 지도를 참고하되 현재 도로를 보고 방향을 정합니다.

선례도 마찬가지입니다. 예전에 어떤 규칙을 택한 이유를 찾았다면, 그것이 지금의 과제와 어떤 점에서 닮았고 어떤 점에서 다른지 살펴야 합니다. 기록이 약하다면 약하다고 말하면 됩니다. 서로 모순된다면 억지로 하나의 확답처럼 포장하지 않아도 됩니다. 오히려 불확실성을 밝히는 편이 다음 판단을 더 정직하게 만듭니다.

과거 기록을 찾지 못했을 때도 너무 당황할 필요는 없습니다. [no precedent found]는 작업 중단 신호가 아니라, 따라갈 기존 규칙이 없어서 이번 판단이 새로운 선례를 만들 수 있다는 정보입니다. 이때 필요한 것은 빈칸을 그럴듯한 확신으로 칠하는 일이 아니라, 현재 조건을 더 또렷하게 보는 일입니다.

AI에게는 이렇게 요청해 보세요

과거 사례를 찾는 AI에게는 “무엇을 따르라”보다 “무엇을 참고할 수 있는지”를 묻는 편이 안전합니다. 예를 들어 다음 순서를 유지해 보세요.

1. 먼저 관련 선례를 찾고, 그 범위와 한계를 함께 확인합니다.
2. 다음으로 현재 과제의 조건에 비추어 선례를 저울질합니다.
3. 진행 권한이 필요한 일이라면, 선례 조회와 별도로 현재 승인을 확인합니다.
4. 마지막으로 결과와 계획을 독립적인 검토나 검증으로 점검합니다.

여기서 핵심은 조회 → 판단 → 승인 → 검증 이라는 순서를 한 단계로 접지 않는 것입니다. 각 단계는 서로 도움을 주지만 서로의 대리인이 아닙니다. AI가 찾아 준 과거 판단은 생각을 시작하게 해 주는 좋은 재료입니다. 다만 재료가 식사를 허락해 주지는 않잖아요.

이 분리는 일을 멈추게 하려는 규칙이 아닙니다. 오히려 AI가 찾아온 정보를 가장 잘 쓰기 위한 순서입니다. 선례가 알려 준 이유를 현재 조건과 대조하고, 필요한 권한을 확인하고, 결과를 별도로 점검하면 “왜 이 선택을 했는가”를 설명할 수 있습니다. 설명이 가능한 선택은 다음 사람이 같은 기록을 읽을 때도 더 안전한 선례가 됩니다.

다음에 AI가 그럴듯한 선례를 가져오면, 한 번만 더 물어보세요. “이건 지금의 승인이야, 아니면 지금 판단에 쓸 참고 자료야?” 그 짧은 질문이 AI의 자신감과 각자의 책임 사이에 필요한 여백을 만들어 줍니다. 과거를 잘 쓰되, 오늘의 판단은 오늘의 증거로 해봅시다.