AI에게 업무와 관련된 전문적인 내용을 물어보면 짧은 시간 안에 많은 정보를 얻을 수 있습니다.
특히 법률, 보안, 마케팅, IT처럼 직접 자료를 찾아보는 데 시간이 걸리는 분야에서는 AI가 관련 내용을 정리해 주는 것만으로도 도움이 될 수 있습니다.
하지만 AI가 알려준 내용이 맞는지 바로 판단하기는 어렵습니다.
답변이 구체적이고 출처까지 함께 제시되더라도 실제로 그 출처가 해당 주장을 뒷받침하는지는 별도로 확인할 필요가 있습니다.
그래서 이번에는 AI에게 전문적인 내용을 질문한 뒤,
질문하기 → 출처 확인하기 → 출처와 주장 대조하기 → 중요한 내용은 원문 확인하기
순서로 확인해 봤습니다.
실제 테스트 결과를 통해 AI의 답변을 어디까지 믿고, 어디서부터 직접 확인해야 하는지 살펴보겠습니다.
AI의 답변만 믿기 어려운 이유
AI는 질문에 대한 답변을 빠르게 정리해 주지만, 답변에 포함된 모든 내용이 정확하다고 보장되는 것은 아닙니다.
특히 전문적인 내용을 질문할 때는 여러 가지 정보가 한꺼번에 섞여 나올 수 있습니다.
예를 들어 AI가 특정 보안 위험을 설명하면서
- 관련 기관이나 전문기관의 자료를 소개하거나
- 특정 보고서의 내용을 인용하거나
- 실제 업무에서 주의할 점을 추가로 설명할 수 있습니다.
이때 중요한 것은 단순히 출처가 있다는 사실만 확인하는 것이 아닙니다.
AI가 설명한 내용이 실제 출처에서도 확인되는지 살펴봐야 합니다.
이번 테스트에서는 생성형 AI를 업무에 사용할 때의 보안 위험을 질문해 보고, AI가 제시한 내용을 출처와 다시 대조해 봤습니다.
1단계. 먼저 AI에게 질문해 봤습니다
처음에는 AI에게 생성형 AI를 업무에 사용할 때 주의해야 할 대표적인 보안 위험을 질문했습니다.
AI는 다음과 같은 내용을 주요 위험으로 정리했습니다.
- 민감정보 노출
- 프롬프트 인젝션
- AI 결과에 대한 과도한 신뢰
각 항목에 대한 설명과 함께 OWASP와 NIST 자료도 출처로 제시했습니다.
처음 답변만 보면 상당히 그럴듯했습니다.
특히 전문기관의 이름과 링크까지 함께 제시되었기 때문에 그대로 활용해도 될 것처럼 보였습니다.
하지만 여기서 바로 내용을 가져다 쓰지 않고 출처를 실제로 확인해 보기로 했습니다.
2단계. AI가 제시한 출처를 확인했습니다
두 번째 테스트에서는 앞선 답변을 바탕으로 각 주장에 실제 근거가 있는지 확인하도록 요청했습니다.
예를 들어 다음과 같은 기준으로 다시 확인했습니다.
앞선 답변에서 제시한 내용을 출처에서 실제로 확인할 수 있는지 검토해 주세요.
각 주장에 대해
- 출처에서 직접 확인되는 내용
- AI가 출처를 바탕으로 해석하거나 확장한 내용
- 출처만으로 확인하기 어려운 내용
을 구분해 주세요.
이렇게 다시 요청하자 처음 답변과 조금 다른 부분이 나타났습니다.
예를 들어 민감정보 노출과 프롬프트 인젝션에 관한 핵심 내용은 OWASP 자료에서 확인할 수 있었습니다.
반면 처음 답변에서 제시했던 일부 표현은 출처의 내용을 업무 상황에 맞게 확장한 설명이라는 점도 확인할 수 있었습니다.
즉, 출처가 있다고 해서 그 앞뒤의 모든 설명이 해당 출처에서 그대로 확인되는 것은 아니었습니다.
3단계. 출처와 주장을 직접 대조해 봤습니다
가장 흥미로웠던 부분은 세 번째 테스트였습니다.
이번에는 AI에게 출처에서 직접 확인되는 내용만 사용해서 다시 정리하도록 요청했습니다.
그 결과 처음 답변에서 제시했던 내용 가운데 일부는 표현이나 근거가 수정되었습니다.
특히 ‘AI 결과에 대한 과도한 신뢰’에 관한 설명에서 차이가 있었습니다.
처음에는 NIST의 자료를 근거로 설명했지만, 다시 확인하는 과정에서 해당 주장을 직접 뒷받침하는 자료는 OWASP의 관련 내용이 더 적절하다는 점이 확인되었습니다.
즉, AI가 처음 제시한 출처가 틀렸다고 단순하게 말하기보다는 주장과 출처가 실제로 연결되는지를 확인하는 과정이 필요했던 것입니다.
AI에게 전문적인 내용을 질문할 때는 다음 과정이 생각보다 중요했습니다.
처음 답변 – AI가 전문기관의 자료를 근거로 설명
↓
출처 확인 – 실제 출처에서 해당 내용을 확인
↓
주장과 대조 – 출처가 직접 뒷받침하는 내용과 AI가 해석한 내용을 구분
↓
최종 확인 – 중요한 내용은 원문에서 직접 확인
출처가 있다고 바로 믿어도 될까?
이번 테스트를 통해 확인한 것은 출처의 유무만으로 답변의 신뢰성을 판단하기는 어렵다는 점입니다.
AI가 답변에 링크를 붙여줬다고 하더라도 다음과 같은 질문을 해볼 필요가 있습니다.
- 이 출처가 실제로 존재하는가?
- AI가 말한 내용을 출처에서 확인할 수 있는가?
- 출처가 해당 주장을 직접 설명하고 있는가?
- AI가 출처의 내용을 더 넓게 해석한 것은 아닌가?
- 오래된 자료를 현재 상황에 적용하고 있지는 않은가?
특히 전문적인 내용을 업무에 활용할 때는 마지막 질문이 중요할 수 있습니다.
자료 자체는 맞더라도 자료가 발표된 시점이나 적용 대상이 현재 상황과 다를 수 있기 때문입니다.
AI에게 다시 확인을 요청하는 방법
전문적인 내용을 질문할 때 처음부터 모든 자료를 직접 찾을 필요는 없습니다.
AI에게 먼저 질문하고, 답변을 확인하는 과정에서 추가 질문을 활용할 수 있습니다.
예를 들어 다음과 같이 요청할 수 있습니다.
“위 답변에서 각 주장에 대한 근거 출처를 제시해 주세요.” 그다음에는 “각 출처에서 해당 주장을 실제로 확인할 수 있는지 대조해 주세요. 출처에서 직접 확인되는 내용과 해석한 내용을 구분해 주세요.” 라고 요청할 수 있습니다.
마지막으로 중요한 내용이라면 “제가 직접 확인할 수 있도록 해당 내용을 확인해야 할 원문 위치나 핵심 부분을 알려 주세요.“처럼 요청할 수도 있습니다.
이렇게 단계적으로 질문하면 처음부터 완벽한 프롬프트를 만들지 않아도 AI의 답변을 검증하는 과정을 만들어 갈 수 있습니다.
실제 업무에서는 이렇게 활용해 보세요
전문적인 내용을 AI에게 질문해야 한다면 다음과 같은 순서로 활용해 볼 수 있습니다.
1단계. 먼저 AI에게 질문합니다.
궁금한 내용을 자연스럽게 질문합니다.
처음부터 지나치게 복잡한 프롬프트를 만들 필요는 없습니다.
2단계. 근거와 출처를 요청합니다.
답변을 받은 뒤 중요한 주장에 대한 출처를 요청합니다.
특히 숫자나 법률, 정책, 기술 사양처럼 정확성이 중요한 내용은 근거를 함께 확인하는 것이 좋습니다.
3단계. 출처와 주장을 대조합니다.
AI가 설명한 내용이 실제 출처에서도 확인되는지 다시 물어봅니다.
이 과정에서 출처에 직접 적혀 있는 내용과 AI가 해석해서 추가한 내용을 구분할 수 있습니다.
4단계. 중요한 내용은 원문을 직접 확인합니다.
업무에 실제로 사용하거나 외부에 공개할 내용이라면 최종적으로 원문을 직접 확인하는 것이 좋습니다.
특히 계약, 법률, 비용, 보안, 정책처럼 잘못된 정보가 실제 업무에 영향을 줄 수 있는 내용은 더욱 주의해야 합니다.
AI에게 이렇게 요청해 보세요
전문적인 내용을 확인할 때는 다음과 같은 프롬프트를 활용할 수 있습니다.
- 앞서 답변한 내용의 근거를 확인해 주세요.
- 각 주장별로 신뢰할 수 있는 출처를 제시하고, 해당 출처에서 그 주장을 실제로 확인할 수 있는지 검토해 주세요.
- 출처에서 직접 확인되는 내용과 당신이 해석하거나 확장한 내용을 구분해 주세요.
- 확인할 수 없는 내용은 추측하지 말고 ‘확인되지 않음’이라고 표시해 주세요.
이렇게 요청하면 단순히 출처 링크를 나열하는 것보다 답변의 어떤 부분이 실제 근거를 가지고 있는지 확인하는 데 도움을 받을 수 있습니다.
자주 묻는 질문
Q1. AI가 제시한 출처만 확인하면 충분한가요?
항상 그렇지는 않습니다.
출처가 실제로 존재하는지 확인하는 것과 AI의 주장을 출처가 실제로 뒷받침하는지는 별개의 문제입니다.
예를 들어 AI가 어떤 보고서를 출처로 제시했더라도 해당 보고서에서 AI가 설명한 내용을 직접 확인할 수 없다면, 그 출처만으로 해당 주장을 신뢰하기는 어렵습니다.
따라서 중요한 내용이라면 출처의 존재뿐 아니라 출처와 주장 사이의 연결도 확인하는 것이 좋습니다.
Q2. 출처를 확인했는데 내용이 서로 다르면 어떻게 해야 하나요?
AI의 설명과 원문이 다르다면 우선 원문을 기준으로 다시 확인하는 것이 좋습니다.
AI가 출처의 내용을 잘못 해석했거나 현재 질문에 맞게 내용을 확장했을 가능성이 있기 때문입니다.
이때 “이 출처에서 실제로 확인되는 내용만 다시 정리해 주세요.”라고 요청하면 AI가 앞선 답변과 출처의 차이를 다시 검토하도록 할 수 있습니다.
그래도 중요한 판단에 필요한 내용이라면 AI의 재설명만 믿기보다 원문에서 해당 내용을 직접 확인하는 것이 안전합니다.
Q3. 모든 답변을 이렇게까지 확인해야 하나요?
그럴 필요는 없습니다.
간단한 아이디어를 얻거나 초안을 만드는 정도라면 매번 출처를 하나씩 확인하는 것이 오히려 비효율적일 수 있습니다.
반면 법률, 보안, 의료, 비용, 계약, 정책처럼 잘못된 정보가 실제 업무에 영향을 줄 수 있는 내용이라면 확인 절차를 강화하는 것이 좋습니다.
즉, AI를 사용하는 모든 상황에서 같은 수준으로 검증하기보다 업무의 중요도와 오류가 발생했을 때의 영향에 따라 확인 수준을 조절하는 것이 현실적입니다.
Q4. AI에게 출처까지 찾아달라고 하면 직접 검색할 필요가 없나요?
AI에게 출처를 찾아달라고 요청하면 관련 자료를 찾는 시간을 줄이는 데 도움을 받을 수 있습니다.
하지만 AI가 제시한 출처가 실제로 해당 내용을 뒷받침하는지는 별도로 확인하는 것이 좋습니다.
특히 외부에 공개할 자료나 중요한 업무 판단에 사용할 정보라면 ‘AI가 찾아준 출처를 출발점으로 활용하고, 최종적으로는 원문을 직접 확인하는 방식‘이 적절합니다.
마무리
AI는 전문적인 내용을 빠르게 찾아보고 정리하는 데 유용한 도구가 될 수 있습니다.
하지만 AI가 답변을 잘 정리해 주고 출처까지 제시했다고 해서 그 내용을 그대로 사용해야 하는 것은 아닙니다.
이번 테스트에서도 처음에는 자연스럽게 보였던 답변을 다시 출처와 대조해 보면서 출처에서 직접 확인되는 내용과 AI가 해석한 내용을 구분할 필요가 있다는 점을 확인할 수 있었습니다.
따라서 전문적인 내용을 AI에게 질문할 때는
질문하기 → 출처 확인하기 → 출처와 주장 대조하기 → 중요한 내용은 원문 확인하기
와 같은 과정을 활용해 볼 수 있습니다.
AI에게 처음부터 완벽한 답을 요구하기보다 답변을 받은 뒤 근거를 다시 확인하는 질문을 이어가는 것도 AI를 업무에 활용하는 하나의 방법입니다.