AI보다 먼저 구조가 필요한 이유

도입 3개월 뒤에 벌어지는 일

도구부터 들이면 처음 몇 주는 확실히 빨라진 것처럼 느껴집니다. 문제는 그다음입니다. 같은 질문에 매번 다른 답이 나오고, 받은 결과를 사람이 다시 손보게 되고, 왜 이런 결론이 나왔는지 설명하지 못합니다.

그러다 “써 보긴 했는데 남는 게 없다”로 끝납니다. 도구가 나빠서가 아닙니다. AI가 채워야 할 빈칸이 정해져 있지 않았기 때문입니다. 생성형 모델은 빈칸이 있으면 채우도록 만들어져 있습니다. 기준을 주지 않으면 나머지를 알아서 메웁니다.

현장에서 반복해서 본 장면

제조기업 설계 검토를 돕겠다며 도면 판독 결과와 검토 규칙을 한꺼번에 넘긴 경우가 있었습니다. 규칙이 분명한 항목에서도 AI가 추정을 앞세울 여지가 생겼습니다. 근거가 없을 때 “모르겠다”가 아니라 그럴듯한 값을 내놓기 때문입니다.

인건비 분석에서는 기준월과 지급월, 귀속월을 맞추지 않은 채 자료를 넘겼습니다. 문장은 그럴듯하게 나왔지만 인건비가 왜 늘었는지 검산할 수 없었습니다. 인원이 늘어서인지 단가가 올라서인지 갈라내지 못하면 보고 자리에서 바로 막힙니다.

공공기관에서는 다른 방식으로 막혔습니다. 어디까지 맡겨도 되는지 기준이 없으니 각자 다르게 쓰거나 아예 안 쓰거나 둘 중 하나였습니다.

여기서 말하는 구조란

거창한 시스템 이야기가 아닙니다. 일이 흘러가는 순서를 눈에 보이게 적어 두는 일입니다.

• 맡길 일과 남길 일 — 초안, 분류, 정리, 반복 작업은 넘기고 최종 판단과 예외 처리는 사람이 쥡니다.

• 신뢰 수준 — 재무나 비용처럼 틀리면 안 되는 일은 사람이 전수로 봅니다. 요약이나 검색은 보조로 씁니다.

• 승인 지점 — 결과가 밖으로 나가기 전에 사람이 확인하고 넘기는 자리를 남깁니다.

• 기록 — 목적, 읽는 사람, 판단 기준, 버전, 근거 출처를 남겨야 다음 사람이 이어받습니다.

순서를 바꾸면 결과가 달라진다

원자료를 통째로 넘기고 요약을 받는 대신, 계산과 검산을 먼저 끝내고 검증된 결과만 넘겨 설명을 맡기는 방식으로 바꾼 사례가 있습니다. 민감한 자료를 밖으로 덜 내보내면서도 설명력은 올라갔습니다. AI가 잘하는 일은 숫자를 만드는 게 아니라, 확정된 숫자를 사람이 읽을 수 있는 문장으로 옮기는 일입니다.