AI가 제시한 출처가 진짜인지 확인하는 6단계 방법

AI가 제시한 논문이나 보고서 출처는 겉보기에 그럴듯해도 제목, 저자, DOI, 발행처가 서로 맞지 않거나 실제로 존재하지 않을 수 있습니다.

NIST의 생성형 AI 위험관리 프로필은 생성형 AI가 사실과 다른 내용을 자신 있게 제시하는 ‘confabulation’ 위험을 설명하며, 그 과정에서 답변을 정당화하는 것처럼 보이는 잘못된 인용이나 출처가 함께 생성될 수 있다고 지적합니다.

따라서 출처 확인은 “실제로 존재하는가”만 보는 것으로 끝내면 안 됩니다. 출처의 존재 → 서지정보 일치 → 실제 주장 뒷받침 여부 → 정정·철회 상태를 순서대로 확인하는 것이 안전합니다.

1. AI가 제시한 인용정보를 그대로 분해합니다

먼저 AI가 준 출처를 임의로 고치지 말고 그대로 복사합니다. 다음 항목으로 나누어 확인하면 오류를 찾기 쉽습니다.

의심스러운 제목이나 저자명을 검색하기 좋게 먼저 “수정”해 버리면, AI가 서로 다른 실제 자료의 정보를 섞어 만든 오류를 놓칠 수 있습니다.

DOI가 있다면 DOI Foundation이 운영하는 doi.org에서 그대로 확인합니다. DOI가 정상적으로 해석되어 실제 자료로 연결되면 최소한 확인할 수 있는 대상이 하나 생긴 것입니다.

하지만 DOI가 열린다는 사실만으로 AI의 주장이 맞다는 뜻은 아닙니다. DOI가 다른 제목이나 다른 저자의 자료를 가리킬 수도 있고, 자료가 나중에 정정·철회됐을 수도 있습니다.

DOI가 없다고 해서 곧바로 가짜 자료라고 판단해서도 안 됩니다. 발행기관이나 신뢰할 수 있는 학술정보 서비스를 추가로 확인해야 합니다.

국제 학술자료라면 Crossref 같은 신뢰할 수 있는 메타데이터 서비스를 이용해 제목, 저자, 학술지, 발행일, DOI가 서로 일치하는지 비교할 수 있습니다.

국내 학술지 논문이라면 한국연구재단의 KCI(한국학술지인용색인)에서 논문·학술지·기관 및 인용 정보를 추가로 확인할 수 있습니다.

예를 들어 DOI는 실제인데 AI가 제시한 제목이나 저자가 다르다면 “실제 DOI가 있으니 맞다”고 처리하지 말고 서지정보 불일치로 기록하는 것이 좋습니다.

출처가 실제로 존재하는 것과 그 출처가 AI의 주장을 뒷받침하는 것은 별개의 문제입니다.

가능하면 출판사, 정부기관, 표준기관, 연구기관 등 1차 출처의 원문을 열고 AI 답변이 근거로 삼았다는 부분을 직접 찾습니다.

특히 다음 조건이 동일한지 확인합니다.

실제 논문이 존재하더라도 AI가 논문의 결론을 과장하거나 다른 조건에 적용했다면 그 인용은 검증을 통과한 것이 아닙니다.

실제 자료라고 해서 현재도 그대로 신뢰할 수 있는 것은 아닙니다. Crossref는 출판 후 정정·철회 같은 업데이트 정보를 제공하고 Retraction Watch 데이터도 서비스에 포함하고 있습니다.

연구자료를 중요한 판단에 사용할 때는 다음 상태를 추가로 확인하는 것이 좋습니다.

국내 자료도 KCI, 발행 학술지, 연구기관 페이지 등에서 최신 상태를 다시 확인하는 편이 안전합니다.

검증 결과는 다음처럼 구분하면 이후 다시 확인하기 쉽습니다.

확인 날짜도 함께 남겨두는 것이 좋습니다. 웹페이지와 논문 상태는 나중에 바뀔 수 있기 때문입니다.

핵심은 간단합니다. 실제로 존재하는 출처도 AI의 주장을 뒷받침하지 않을 수 있고, 매우 그럴듯해 보이는 인용도 완전히 생성된 정보일 수 있습니다.

검증 기준일: 2026-09-27