최근 인공지능(AI)을 활용해 영수증을 위조하고 이를 통해 경비를 부당하게 청구하는 사례가 전 세계적으로 확산하고 있다.

26일(현지시간) 영국 파이낸셜타임스(FT)는 오픈AI, 구글 등 주요 AI 기업들이 최신 이미지 생성 모델을 선보인 이후 여러 기업의 내부 경비 시스템에서 AI로 만든 가짜 영수증이 빠르게 증가하고 있다고 전했다.

정보보안 기업 앱젠(AppZen)은 지난 9월 접수된 허위 문서 중 약 14%가 인공지능으로 생성된 영수증이었다고 밝혔다. 불과 1년 전에는 거의 보고되지 않았던 유형의 사기가 단기간에 급증한 셈이다.

또 다른 핀테크 기업 램프(Ramp) 역시 최근 석 달 사이 자사 프로그램이 약 100만달러(약 14억원) 규모의 허위 경비 청구를 식별했다고 보고했다.

AI 경비 관리 플랫폼 미디어스(Medius)가 미국과 영국 재무 담당자들을 대상으로 조사한 결과 응답자의 30%가 “GPT-4o 출시 후 위조 영수증이 늘어났다”고 답했다.

SAP의 글로벌 경비 솔루션 '컨커(Concur)' 마케팅 총괄 부사장 크리스 주노(Chris Juneau)는 “AI로 만든 영수증은 육안으로 구분하기 어려울 정도로 정밀하다”며 “직원들에게 단순한 시각적 판단에 의존하지 말라고 권고한다”고 밝혔다.

그는 또 “오픈AI가 3월 공개한 고도화된 이미지 생성 모델 GPT-4o 이후 위조 영수증 제출이 폭발적으로 늘었다”고 설명했다.

이에 대해 오픈AI 측은 “정책 위반이 확인되면 조치를 취하고 있으며, 생성된 이미지에는 'ChatGPT에서 제작됨'이라는 메타데이터가 자동 삽입된다”고 해명했다.

과거에는 허위 영수증을 만들기 위해 포토샵이나 외주 편집 서비스를 활용해야 했지만 이제는 AI 툴에 간단한 문장만 입력해도 몇 초 안에 정교한 위조 문서를 만들어낼 수 있다.

FT는 “AI가 생성한 영수증에는 종이 질감, 실제 영수증에 있을 법한 항목, 서명까지 포함돼 진짜와 구분이 어렵다”고 전했다.

기업들은 이러한 사기를 방지하기 위해 경비 관리 시스템의 탐지 기능을 강화하고 있다. 이들 프로그램은 이미지의 메타데이터를 분석하거나 서버 정보·촬영 시간·위치 데이터를 비교해 위조 여부를 판별하지만, 사용자가 이미지를 재촬영하거나 스크린샷으로 저장할 경우 해당 정보가 삭제돼 확인이 어려운 문제가 있다.

SAP가 7월 발표한 보고서에 따르면 최고재무책임자(CFO)의 약 70%가 “직원들이 AI를 이용해 영수증이나 출장비를 조작한 경험이 있다”고 응답했다. 실제 SAP의 내부 감사에서도 직원 10%가 허위 영수증을 제출한 것으로 드러났다.

공인부정조사협회(ACFE) 메이슨 윌더(Mason Wilder) 연구국장은 “AI를 이용한 허위 영수증은 단순한 장난 수준을 넘어 기업 재무에 심각한 피해를 줄 수 있다”며 “예전에는 전문 편집 기술이 필요했지만 이제는 누구나 손쉽게 위조가 가능한 시대가 됐다”고 경고했다.

이원지 기자 news21g@etnews.com