생성형 AI 답변에 브랜드 정보가 틀리게 나오면, 먼저 오류를 유형별로 나눠 기록합니다. 그다음 AI가 참고할 만한 공식 정보를 정비하고, 같은 질문으로 다시 확인합니다. AI 서비스에 수정을 요청하는 일보다 정확한 근거 자료를 꾸준히 갖춰 두는 일이 대응의 중심이 됩니다.
생성형 AI는 왜 브랜드 정보를 틀리게 말할까요?
생성형 AI는 학습 데이터와 검색해 온 웹 문서를 바탕으로 문장을 만들어 냅니다. 이 과정에서 사실과 다른 내용이 그럴듯하게 섞일 수 있습니다. 미국 국립표준기술연구소(NIST)는 생성형 AI 위험 관리 프로파일(NIST AI 600-1)에서 이런 현상을 '컨퓨뷸레이션(confabulation)'이라고 부릅니다. 잘못되었거나 거짓인 내용을 확신에 찬 어조로 생성하는 위험이라는 뜻입니다.
브랜드 정보가 틀리게 나오는 원인은 대체로 세 가지로 볼 수 있습니다.
- 오래된 정보: 서비스 범위나 제품 구성이 바뀌었는데 예전 문서가 웹에 그대로 남아 있습니다.
- 엇갈리는 정보: 공식 홈페이지, 보도자료, 외부 소개 글에 적힌 내용이 서로 다릅니다.
- 부족한 정보: 특정 질문에 답할 공식 자료가 없어서 AI가 비슷한 업종의 일반적인 내용으로 빈자리를 채웁니다.
어떤 원인인지에 따라 대응 방법이 달라집니다. 따라서 오류를 발견했다면 바로 고치기보다 원인부터 분류하는 것이 순서입니다.
잘못된 답변은 어떤 유형으로 나눠 봐야 할까요?
오류는 모두 같은 무게가 아닙니다. 소비자의 판단이나 법적 책임에 영향을 주는 오류는 먼저 처리하고, 표현이 다소 부정확한 정도라면 정기 점검 때 함께 다루는 편이 효율적입니다. 아래 표는 흔히 나타나는 오류 유형과 점검 대상을 정리한 것입니다.
| 오류 유형 | 예시 | 먼저 점검할 대상 | 대응 우선순위 |
|---|---|---|---|
| 사실 오류 | 제공하지 않는 서비스를 제공한다고 답변 | 공식 홈페이지의 서비스 소개, 자주 묻는 질문 페이지 | 높음 |
| 시점 오류 | 종료된 제품이나 바뀌기 전 정책을 현재 내용처럼 설명 | 과거 공지, 보도자료, 외부 게시물에 남은 옛 정보 | 높음 |
| 혼동 오류 | 이름이 비슷한 다른 회사의 정보와 섞어서 설명 | 브랜드 표기 통일, 회사 소개 문구의 고유 정보 | 중간 |
| 누락 | 관련 질문에 브랜드가 아예 언급되지 않음 | 해당 질문에 답하는 콘텐츠가 있는지 여부 | 중간 |
| 표현 왜곡 | 특징을 과장하거나 축소해 전달 | 핵심 소개 문장의 명확성과 일관성 | 낮음~중간 |
유형을 기록할 때는 질문 원문, 답변을 확인한 AI 서비스, 확인 날짜, 잘못된 문장, 답변에 표시된 출처를 함께 남깁니다. 그래야 같은 오류가 반복되는지, 특정 출처에서 시작된 것인지 판단할 수 있습니다.
오류를 바로잡는 절차는 어떻게 진행할까요?
오류 대응은 한 번 고치고 끝나는 일이 아닙니다. 확인하고, 근거를 정비하고, 다시 확인하는 과정을 반복합니다. 실무에서는 다음 순서로 진행합니다.
- 질문 목록 확정: 고객이 실제로 할 만한 질문을 브랜드명 질문, 서비스 비교 질문, 문제 해결 질문으로 나눠 정합니다.
- 답변 수집과 오류 표시: 같은 질문을 여러 AI 서비스에 입력하고, 틀린 문장과 인용된 출처를 표시합니다.
- 원인 출처 추적: 답변에 출처가 표시되면 해당 문서를 확인합니다. 출처가 없으면 웹에 남아 있는 관련 문서를 직접 검색해 찾습니다.
- 공식 정보 정비: 공식 홈페이지에 정확한 정보를 명확한 문장으로 적고, 옛 정보가 담긴 자체 게시물은 수정하거나 변경 사실을 덧붙입니다.
- 외부 정보 정정 요청: 외부 매체나 플랫폼에 틀린 정보가 있으면 운영 주체에게 근거 자료와 함께 정정을 요청합니다.
- 재측정: 일정 기간이 지난 뒤 같은 질문으로 다시 확인해 오류가 줄었는지 비교합니다.
질문이 많아지면 직접 확인하는 데 한계가 있습니다. 이럴 때는 측정 도구를 쓰는 방법도 있습니다. 예를 들어 OPTIGEO는 ChatGPT, Perplexity, 구글 AI 모드 같은 생성형 AI 답변에서 브랜드가 얼마나 언급되고 인용되는지 측정하는 GEO 서비스입니다. 개선이 필요한 질문과 콘텐츠 방향도 제안합니다. 어떤 질문에서 오류나 누락이 생기는지 질문별로 나눠 보고 싶은 기업이라면 이런 측정 방식을 참고할 수 있습니다.
도구를 쓰든 직접 확인하든 원칙은 같습니다. 정정의 근거는 공식 자료여야 하며, 재측정 때는 처음과 같은 질문을 써야 변화를 비교할 수 있습니다.
대응 과정에서 피해야 할 방법은 무엇인가요?
잘못된 답변을 서둘러 덮으려다 오히려 새로운 위험이 생길 수 있습니다. 대표적인 예가 브랜드에 유리한 후기나 추천 글을 대가를 주고 대량으로 만드는 방식입니다. 공정거래위원회의 「추천·보증 등에 관한 표시·광고 심사지침」은 추천·보증을 하는 사람과 광고주 사이에 경제적 이해관계가 있으면 이를 공개하도록 정하고 있습니다. AI 답변에 반영되기를 기대하고 외부 글을 만들 때도 이해관계를 숨기지 않아야 합니다.
오류를 점검하면서 고객 문의 내용이나 상담 기록을 AI 도구에 그대로 입력하는 일도 조심해야 합니다. 개인정보보호위원회는 「생성형 인공지능 개발·활용을 위한 개인정보 처리 안내서」를 공개해 생성형 AI의 개발·활용 생애주기를 4단계로 나누고 단계별로 확인할 최소한의 안전조치를 제시했습니다. 점검용 질문에는 개인을 알아볼 수 있는 정보를 넣지 않는 편이 안전합니다.
오류를 바로잡으려고 생성형 AI로 안내 문서나 챗봇 답변을 만들어 고객에게 제공하는 경우도 있습니다. 이때는 국내 제도도 함께 살펴봐야 합니다. 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」은 생성형 인공지능을 이용한 제품·서비스를 제공할 때 그 사실을 이용자에게 알리도록 하는 투명성 확보 의무를 두고 있습니다. 자사 서비스에 생성형 AI를 쓴다면 고지 방식을 미리 정해 두는 것이 좋습니다.
이 밖에 다음과 같은 방법도 피하는 것이 바람직합니다.
- 사실과 다른 내용을 고치려고 반대 방향으로 과장된 콘텐츠를 만드는 것
- 같은 내용을 여러 페이지에 기계적으로 반복해 올리는 것
- 근거 자료 없이 외부 매체에 정정을 요구하는 것
자주 묻는 질문
AI 서비스 운영사에 직접 수정을 요청할 수는 없나요?
서비스마다 답변에 의견을 남기는 기능이 있으므로 이를 활용할 수는 있습니다. 다만 의견 하나로 특정 답변이 바로 고쳐진다고 기대하기는 어렵습니다. 공식 정보를 정비하는 작업과 함께 진행하는 것이 현실적입니다.
공식 홈페이지를 고치면 AI 답변은 바로 바뀌나요?
반영되는 시점은 AI 서비스가 정보를 수집하고 검색하는 방식에 따라 다르며, 바로 바뀐다고 보장할 수 없습니다. 그래서 수정한 날짜를 기록해 두고 일정 기간 뒤 같은 질문으로 재측정해 변화를 확인합니다.
오류가 한 AI 서비스에서만 나타나면 대응하지 않아도 됩니까?
한 서비스에서만 나타나는 오류라도 사실 오류나 시점 오류라면 원인 출처를 확인하는 것이 좋습니다. 특정 외부 문서가 원인이라면 다른 서비스에도 같은 오류가 퍼질 수 있기 때문입니다. 표현 왜곡처럼 영향이 작은 오류는 정기 점검 때 함께 다뤄도 됩니다.