'배달 음식에 이물질이'?…하다 하다 'AI 진상'까지 등장했다는 나라

AI 기술의 눈부신 발전 이면에는 어두운 그림자도 존재한다. 일부 국가에서 배달 음식 사진에 이물질을 합성해 허위 환불을 유도하는 등 AI 기반 사기가 확산하며 사회적 문제로 떠오르고 있다.

5일(현지 시각) 외신에 따르면, 최근 영국에서는 AI 편집 기능으로 배달 음식 사진을 조작한 뒤 플랫폼에 환불을 요구하는 사례가 잇따르고 있다. 배달받은 음식이 상했거나 조리 상태가 불량한 것처럼 이미지를 변형해 불만을 제기하는 방식이다.

보도에선 잘 구워진 햄버거 패티를 덜 익은 듯 분홍빛이 돌게 만들거나, 음식 위에 가짜 곰팡이를 합성하는 식의 조작이 소개됐다. 케이크가 배달 과정에서 녹아내린 것처럼 왜곡하거나, 디저트 상자 안에 파리 이미지를 넣는 사례도 등장했다. 이렇게 만든 ‘증거 사진’으로 우버이츠, 딜리버루, 저스트잇 등 현지 주요 배달 앱에 환불을 요구했다는 내용이다. 육안으로는 진위 파악이 거의 불가능할 정도로 정교해진 이미지 탓에, 고객 상담원들이 속수무책으로 당하는 경우가 허다한 실정이다.

전문가들은 거짓 신고 자체는 과거에도 있었지만, AI가 점점 더 정교해지면서 사기에 그럴듯한 근거를 붙여준다는 점을 특히 우려한다. 영국 종합 법률사무소 브라운 제이콥슨의 AI 전문 변호사 사라 레이노는 “현실감 있는 이미지를 AI로 조작해 환불을 요청하는 사례를 기업들이 점점 더 많이 보고하고 있다”고 말했다.

배달 플랫폼이 개별 환불 요청을 일일이 검증하기 어려운 구조도 논란을 키우고 있다. 보도에 따르면 플랫폼이 고객 편의를 이유로 충분한 확인 없이 환불을 처리하는 경우가 적지 않으며, 그 비용이 음식점에 전가되면서 점주들이 손실을 호소하고 있다. 이에 일부 플랫폼은 고객에게 문제 음식을 실시간으로 촬영해 제출하도록 하는 방안을 검토 중인 것으로도 전해졌다. 다만 이 방식은 비용 부담을 늘리고 정상 고객의 불편을 키울 수 있다는 우려도 제기된다. 업계에서는 ‘속도’와 ‘검증’ 사이에서 균형을 잡는 일이 과제로 떠올랐다는 지적이 나온다.

영국소매협회 관계자는 “AI로 이미지를 조작해 사기적으로 환불을 받으려는 행위는 2006년 사기법에 따라 불법”이라며 “소매업체들은 이런 사기가 적발될 경우 필요한 조치를 취할 것”이라고 했다. 이어 “사기성 청구로부터 파트너사를 보호하기 위해 환불 요청이 진짜인지 판단하는 강력한 도구를 사용하고 있다”며 “점검 체계를 지속해서 업데이트하고 있다”고 전했다.

한편, 국내 배달 플랫폼의 환불 프로세스는 고객이 제출하는 ‘사진’을 주요 근거로 삼는다. 음식 누락이나 상태 불량 민원이 접수되면 제출된 사진을 바탕으로 보상 여부를 결정하는 경우가 많고, 플랫폼들은 자체 환불 기준과 모니터링 시스템을 운영하고 있다. 다만 해외 사례처럼 육안으로 구별하기 어려운 AI 이미지 조작이 국내에서도 확산할 경우 기존 체계만으로는 대응이 쉽지 않을 수 있어, 관련 사기에 대비한 추가 대책이 필요하다는 경계의 목소리가 커지고 있다.