"너무 맛있어요" 별점 5개, 정말 사람이 썼을까요? AI 시대의 가짜 후기

안녕하세요, 구독자 여러분.

배달 앱에서 메뉴 고를 때 별점이랑 후기부터 보시죠? "잘 먹었습니다. 너무 맛있어요", "진작에 주문해서 먹을 걸 그랬어요" 같은 후기가 줄줄이 달려 있으면 마음이 놓이고요.

그런데 방금 그 두 문장, 재판에서 돈 받고 쓴 가짜 후기로 드러난 문장이에요. 그때는 사람이 한 줄씩 썼는데, 이제는 생성형 AI에 조건 몇 개만 넣으면 이런 후기가 순식간에 나와요. 공정거래위원회도 지난달 22일 'AI 관련 표시·광고 가이드라인' 초안을 내놓고 의견을 받고 있어요.

AI가 끼면 가짜 후기는 어떻게 달라지고, 우리는 무엇을 보고 골라야 할까요? 오늘은 하나씩 알아볼게요.

사람이 직접 썼어요. 2022년 6월 서울서부지법 판결을 보면, 한 온라인 홍보회사 대표가 음식점 업주들에게 후기 1건당 5천 원을 받고 배달의민족에 가짜 후기를 9,985번 올렸어요. 2020년 6월부터 7월까지 한 달 동안 벌인 일이고, 단순 계산하면 5천만 원 가까운 돈이에요. 법원은 업무방해죄로 벌금 700만 원을 선고했어요.

• 주문까지 넣는 수법: 같은 해 3월 배민이 경찰에 고소한 조작 업체들은 업주에게 음식값보다 5천~1만 원을 더 받아 실제로 주문하고 후기를 썼어요. '주문한 사람만 쓰는 후기'도 이렇게 뚫렸어요
• 막아 낸 규모: 배민은 2021년 한 해에만 가짜 후기 11만 4,054건을 막았다고 밝혔어요

예전엔 사람을 여럿 모으거나 문구를 하나하나 써야 했어요. 이제는 상품 특징 몇 가지만 넣으면 표현이 조금씩 다른 후기를 한꺼번에 뽑을 수 있어요. 가짜 후기를 만드는 데 드는 시간과 돈이 확 줄어드는 거예요.

후기를 쓰는 '사람'까지 AI로 만들기도 해요. AI로 가상의 의사나 교수, 소비자를 만들어 상품을 추천하게 하는 광고가 늘었어요. 공정위가 이번 가이드라인을 만든 것도 AI로 만든 가상 인물·후기, 딥페이크를 쓴 허위·과장 광고로부터 소비자를 지키기 위해서예요.

막는 쪽도 고민이 커졌어요. 한 플랫폼 업계 관계자는 "단순히 문장만 분석해서는 정교해진 리뷰 조작을 막기 어려워 고민이 많다"고 했어요. 그래서 문장만 보지 않고 후기를 쓴 간격, 한 상품에 몰린 평가, 비슷한 문구가 되풀이되는지 같은 움직임을 함께 살펴요.

꼭 그렇진 않아요. 앞에서 본 "너무 맛있어요"도 사람이 쓴 가짜였죠. 맞춤법이 틀리거나 말투가 어설프다고 진짜라는 보장은 없어요.

반대로 문장이 너무 매끄럽다고 가짜라고 단정할 수도 없어요. 실제로 사 보고 써 본 사람이 AI 도움을 받아 후기를 정리하는 경우도 있으니까요.

그래서 따질 건 'AI가 썼느냐'가 아니라 '진짜 경험이 있느냐'예요.

• 해외 플랫폼: 아마존, 트러스트파일럿 같은 곳도 실제 경험을 AI로 정리한 후기와 경험을 꾸며 낸 가짜 후기를 나눠서 다뤄요
• 미국 규정: 미국 연방거래위원회(FTC)도 없는 사람이나 써 보지 않은 사람이 쓴 것처럼 꾸민 후기를 문제 삼아요

• 미국, 2024년 10월 21일부터: FTC가 가짜 후기를 만들거나 사고파는 걸 금지했어요. 없는 사람이나 써 보지 않은 사람이 쓴 것처럼 꾸민 후기, AI로 만든 가짜 후기가 모두 들어가요. 좋은 평가를 쓰는 조건으로 보상을 주는 것도 막았고, 알고도 어긴 기업에는 민사 벌금을 물릴 수 있어요. 지난해 12월에는 기업 10곳에 경고장을 보냈어요
• 한국, 올해 6월 1일부터: AI로 만든 가상 인물이 상품을 추천하는 광고에는 '가상인물'이라고 밝혀야 해요. 블로그 같은 글은 제목이나 첫 부분에, 사진·영상은 가상 인물이 나오는 동안 그 옆에 적어요
• 한국, 올해 7월 21일부터: 온라인 쇼핑몰은 후기를 누가 쓸 수 있는지, 얼마 동안 올라가 있는지, 평점과 삭제 기준, 지워졌을 때 이의를 내는 방법을 공개해야 해요
• 지금 의견 받는 중: 공정위의 'AI 관련 표시·광고 가이드라인' 초안은 이달 11일까지 의견을 받아요. 법적 구속력은 없지만, 어떤 AI 광고가 부당한지 판단 기준과 사례를 담았어요

FTC가 소비자에게 권하는 방법이 있어요.

• 날짜: 짧은 기간에 후기가 한꺼번에 몰렸다면 한 번 의심해 보세요
• 작성자: 그 사람이 다른 후기도 썼는지 눌러 보세요. 상품 하나에 후기 하나 쓰려고 만든 계정 같다면 가짜일 수 있어요
• 별점: 가짜 후기는 진짜처럼 보이려고 일부러 만점보다 낮은 별점을 주기도 해요
• 여러 곳: 한 사이트 별점만 보지 말고 여러 출처를 같이 보세요. 수상한 후기는 그 플랫폼에 신고하고요

국내 기준도 하나 기억해 두면 좋아요. 블로그 후기는 대가를 받았다면 제목이나 첫 부분에 밝혀야 해요. 공정위 추천·보증 심사지침이 2024년 12월에 그렇게 바뀌었고, '우수 후기 뽑아 경품 드려요' 같은 이벤트에 응모하려고 쓴 후기도 여기에 들어가요.

다만 FTC도 "보기만 해서는 진짜와 가짜를 확실히 가리기 거의 불가능할 때가 많다"고 인정해요. 별점 평균 하나보다 여러 후기의 구체적인 내용을 같이 보는 게 가장 안전해요.

정리하자면, 가짜 후기는 AI 전에도 있었어요. AI는 그걸 더 싸고 빠르게 만들 뿐이고, 진짜와 가짜를 가르는 기준은 여전히 '실제로 먹어 보고 써 봤느냐'예요. 법과 플랫폼이 따라가는 동안에는 별점 숫자보다 후기 날짜와 작성자를 한 번 더 봐 주세요.

오늘 저녁 배달 앱에서 "진작에 주문해서 먹을 걸 그랬어요"가 줄줄이 보이면, 이 레터가 먼저 떠오르실지도 몰라요 ㅎㅎ

오늘 하루도 힘내세요!