AX 트렌드 · 2026-07

인용 근거, 승인 게이트, 신뢰도 라우팅 — 회계·금융 AI의 공통 설계 패턴

회계·금융 도메인을 겨냥한 AI 제품들을 나란히 놓고 보면, 브랜드는 다르지만 반복해서 등장하는 설계 원칙이 있다. 어스회계법인이 업무 카드를 설계할 때도 이 원칙들을 참고한다.

아래 세 가지는 특정 제품 하나의 특징이 아니라, 여러 제품에서 독립적으로 반복 관찰된 패턴이다.

모든 주장은 원문으로 역추적 가능해야 한다

첫 번째 패턴은 인용 강제다. AI가 만든 답변이나 초안의 모든 판단 문장이 원본 자료로 되짚어갈 수 있는 경로를 갖춰야 한다는 것이다. 근거 없는 주장은 구조적으로 눈에 띄게 만드는 설계다.

어스회계법인의 검토메모 초안이 [기준서-문단] 형식으로 인용을 표기하는 것도 같은 원칙이다. 인용된 문단이 실제로 존재하는지 표본을 뽑아 검증하는 절차까지 포함하면, 이 원칙을 한 단계 더 강하게 지키는 셈이다.

두 번째 패턴은 사람의 승인이 작업 중간이 아니라 문서가 외부로 나가기 직전에 하나의 체크포인트로 명확히 위치한다는 것이다. 초안을 만드는 과정에는 AI가 여러 번 개입하더라도, 클라이언트에게 발송되거나 파일링되기 전에는 반드시 사람이 검토·승인하는 구조다.

어스회계법인의 업무 카드도 이 구조를 따른다 — 초안 완료와 최종 승인·서명을 별개의 단계로 명시하고, 승인 단계는 항상 사람의 몫으로 표시한다.

세 번째 패턴은 신뢰도 기반 라우팅이다. 모든 결과를 사람이 재검토하게 하는 대신, AI가 확신하는 결과는 자동으로 처리하고 애매한 경우만 사람에게 넘기는 방식이다. 이 방식은 검토 부담을 줄이면서도 위험한 판단을 사람이 놓치지 않게 한다.

어스회계법인의 첫 실험(RCPS 검토메모)에서는 아직 이 라우팅까지 구현하지 않았다 — 포지션 후보 전체를 사람이 검토하는 구조였다. 다음 실험부터는 신뢰도가 낮은 지점만 강조해서 사람에게 넘기는 방식을 검토 후보로 남겨둔다.