가짜 출처를 ‘AI 환각’이라 부르면 검증 책임까지 사라지나
명령·의심·확인의 ‘질문지능’… AI 시대 교육계가 답할 화두
김영 한미일보 편집인
AI를 이용해 시험을 치렀다는 수석 합격자의 자백이 나왔다. 학술 연구에서는 AI가 만들어낸 가짜 참고문헌 때문에 논문이 철회됐다. 한쪽에서는 AI가 알려준 답을 몰래 사용한 것이 문제였고, 다른 쪽에서는 AI가 내놓은 근거를 믿은 것이 문제였다. 누구 탓인가. 규칙을 어긴 응시자와 검증하지 않은 연구자의 책임은 분명하다. 그렇다고 AI와 이를 둘러싼 교육·평가 체계에 던질 질문까지 끝나는 것은 아니다.
AI를 이용한 부정행위를 시인한 제63회 세무사 시험 수석 합격자는 11월17일 오전 서울경찰청 광역수사단에 피의자 신분으로 출석했다. 연합뉴스에 따르면 경찰은 구체적인 부정행위 수법과 활용 기기, 공범 여부 등을 확인할 예정이다. 당사자가 설명한 수법과 수사로 확정되는 사실은 구분해야 한다.
고용노동부는 11월15일 해당자의 시험 무효와 합격 취소, 5년간 응시 제한 및 고발 등을 신속히 추진하겠다고 밝혔다. 2026년 실시된 모든 국가자격시험에 대한 조사도 발표했다.
연합뉴스는 11월17일 한국과학기술정보연구원(KISTI) 연구진이 AI 생성형 에이전트 관련 논문에서 인용 문헌 11건이 AI의 환각으로 생성된 사실을 확인하고 자진 철회했다고 보도했다. 해당 논문은 출판사 사이트에도 철회된 것으로 표시돼 있다.
두 사건은 구분해야 한다. 시험에서 금지된 AI를 사용했다면 평가 질서를 어긴 것이다. AI가 정답을 알려줬든 오답을 알려줬든 위반의 본질은 달라지지 않는다. 반면 연구에서 AI 사용이 허용됐더라도 존재하지 않는 문헌을 근거로 제출했다면 검증 책임을 피할 수 없다. AI 사용 여부와 사용의 적절성은 따로 판단할 문제다.
커닝을 처벌한 다음에는 무엇을 물을 것인가
부정행위는 엄정하게 다뤄야 한다. 그러나 처벌만으로 교육의 과제가 해결되지는 않는다. 학생이 규칙을 지켰는지를 묻는 동시에, 그 시험이 무엇을 평가하는지도 돌아봐야 한다.
4지 선다형 시험이라고 모두 암기력만 측정하는 것은 아니다. 문항에 따라 추론과 응용을 요구할 수 있다. 서술형이라고 사고의 깊이를 보장하는 것도 아니다. 정답을 고르는 형식보다 그 답에 도달하기 위해 어떤 능력이 필요한지가 중요하다.
AI 시대에도 인간이 직접 기억하고 이해해야 할 지식은 있다. 기초지식이 부족하면 질문을 구체화하기 어렵고, 잘못된 답을 알아보기도 힘들다. 그렇다면 어디까지를 도구 없이 수행해야 하고, 무엇을 AI와 함께 수행하도록 가르칠 것인가.
교육계는 이 경계를 설명해야 한다. 혼자 수행하는 능력과 도구를 활용하는 능력을 각각 어떻게 가르치고 평가할 것인지 답해야 한다. 커닝을 금지하는 규칙과 AI 활용을 가르치는 교육은 함께 필요하다.
‘AI 환각’이라는 말이 가리는 것
AI가 사실과 다르거나 근거 없는 내용을 만들어내는 현상을 흔히 ‘환각’이라고 부른다. 인간의 지각 현상에서 빌려온 비유다. AI가 실제로 무엇을 보거나 환각을 경험한다는 뜻은 아니다. 자연어 생성 연구에서는 원자료에 없거나 원자료와 어긋나는 내용을 생성하는 현상을 설명하는 데 사용돼 왔다.
그러나 존재하지 않는 논문에 저자와 제목, 발행연도까지 붙여 제시한 일을 ‘환각’이라는 말로만 설명해도 되는가.
독자는 그 외형을 보고 학술적 근거가 있다고 믿는다. 근거 없는 주장에 참고문헌의 권위가 덧씌워지는 것이다. 속이려는 의도가 있었는지와 별개로 결과는 기만적이다. 명칭이 부드러워졌다고 허위 근거의 심각성까지 줄어들지는 않는다.
미국 국립표준기술연구소(NIST)도 생성형 AI가 잘못된 내용과 이를 정당화하는 듯한 논리·인용을 함께 만들어 이용자의 판단을 오도할 위험을 설명한다.
사용자에게 최종 책임이 있다는 말도 AI의 실패를 설명하는 일을 대신할 수는 없다. AI가 왜 확인하지 않은 내용을 단정했는지, 실제로 하지 않은 확인을 했다고 표현했는지 살펴야 한다. 사용하는 사람의 책임과 도구를 개선할 책임을 함께 물어야 한다.
느슨한 질문에 완성된 답을 기대한다
사용 방식도 돌아볼 필요가 있다. “관련 논문을 찾아 글을 써달라”, “출처를 확인하라”는 지시에는 빈칸이 많다. 어떤 자료를 대상으로 어디까지 확인하라는 것인가. 링크를 찾으면 끝인가. 원문을 읽고 해당 주장을 뒷받침하는지 대조해야 하는가.
이 조건을 정하지 않으면 사용자가 기대한 작업과 AI가 수행한 작업 사이에 틈이 생긴다. 그 틈을 유창한 문장이 덮을 수 있다.
링크가 붙었다고 검증이 끝난 것도 아니다. 생성형 검색엔진을 평가한 2023년 연구에서도 인용이 해당 주장을 뒷받침하지 못하는 문제가 관측됐다. 당시 결과를 현재 모든 AI의 성능으로 일반화할 수는 없지만, 출처의 표시와 근거의 확보가 다르다는 점은 보여준다.
물론 프롬프트를 구체적으로 작성하면 모든 오류가 사라진다는 뜻은 아니다. 정교한 지시에서도 오류는 발생할 수 있다. 다만 작업의 목적과 범위, 근거와 완료 조건을 분명히 정하는 것은 사용자가 할 수 있는 첫 번째 통제다. 그다음에는 지시가 실제로 이행됐는지 확인해야 한다.
명령하고, 의심하고, 확인하라
필자는 AI 활용에 필요한 능력을 ‘질문지능’이라는 말로 묶어보고자 한다. 확립된 교육학적 척도를 제시하려는 것은 아니다. AI와 함께 일하는 인간에게 필요한 능력을 생각해보자는 취지다.
첫째는 명령 능력이다. 무엇을 하려는지, 어떤 자료를 사용해야 하는지, 어떤 조건을 지켜야 하는지 구체화하는 능력이다. 확인하지 못한 내용을 어떻게 처리할지도 정해야 한다.
둘째는 의심 능력이다. 답변에서 빠진 내용과 모순, 근거보다 앞선 결론을 찾아 묻는 능력이다. “AI는 틀릴 수 있다”는 경계심에서 한 걸음 나아가야 한다. 무엇이 왜 의심스러운지 짚을 수 있어야 한다.
셋째는 확인 능력이다. 원문을 대조하고 계산하거나 재현해 의심한 내용을 판별하는 능력이다. 의심만으로는 판단을 끝낼 수 없다. 확인한 결과에 따라 채택하고 수정하며 보류할 수 있어야 한다.
이 과정은 반복된다. 확인하다 문제가 드러나면 처음의 질문을 바꾸고 다시 작업한다. 인간과 AI의 협업은 이렇게 구체화될 수 있다.
이때 AI는 자신이 무엇을 했고 무엇을 못 했는지 드러내야 한다. 검색을 하지 않은 것과 검색 결과만 본 것, 원문을 읽은 것과 접근에 실패한 것은 다르다. 미확인의 원인과 원문 링크까지 제시해야 인간이 다음 판단을 할 수 있다.
원문을 열지 못했다고 자료가 없다고 단정해서도 안 된다. 반대로 실제 문헌이 존재한다고 그 문헌이 주장을 뒷받침한다고 여겨서도 안 된다. 확인 과정과 확인 결과를 구분하는 일부터 시작해야 한다.
교육계에 던지는 질문
초등교육에서는 어떤 AI를 통해 호기심과 스스로 생각하는 습관을 기를 것인가. 중등교육에서는 추론과 의심, 확인 능력을 어떻게 발달시킬 것인가. 이후에는 다양한 전문 AI와 협업할 능력을 어떻게 가르칠 것인가.
구체적인 교육 방법은 전문가들의 연구와 실험이 필요한 영역이다. 이 글은 그 답을 대신하려는 것이 아니다. 교육계가 논의할 화두를 던지고자 한다.
AI를 사용해 좋은 결과물을 만들었다는 사실만으로 사용자의 능력까지 성장했다고 단정할 수는 없다. 완성된 글과 정답뿐 아니라 그 과정에서 사람에게 어떤 이해와 판단 능력이 남았는지도 살펴야 한다.
AI 커닝의 책임을 AI에 떠넘길 수는 없다. 허위 근거를 제출한 책임도 ‘환각’이라는 말 뒤에 숨길 수 없다. 동시에 위반자를 처벌하고 논문을 철회하는 것으로 충분하다고 여겨서도 안 된다.
인간은 오류를 인지하고 기존 설명을 의심하며 증거로 확인하는 과정을 통해 지식을 발전시켜 왔다. AI 시대에도 이 능력은 필요하다.
누구 탓인가를 묻는 데서 시작했지만, 끝내 우리가 답해야 할 질문은 이것이다. AI가 답을 만들어주는 시대에 인간은 무엇을 배우고, 그 답을 어떻게 판단할 것인가.
[저작권자ⓒ 한미일보. 무단전재-재배포 금지]


















![우크라 논의에 북미회담…어디 튈지모를 '럭비공' 트럼프 亞순방 [연합뉴스]](https://hanmiilbo.kr/news/data/2026/11/17/yna1065624916290373_493_h.jpg)





![[정성홍 칼럼] “김정은 요단강”… 갑자기 날아들어 온 서방국 첩보 메시지](https://hanmiilbo.kr/news/data/2026/11/03/p179591340015450_132_h.jpg)
![[현장] 올공 투표지 공개검증서 ‘벽돌·신권 다발 투표지’ 제보 잇달아](https://hanmiilbo.kr/news/data/2026/10/28/p179573359015192_300_h.jpg)
![[정성홍 칼럼] 대한민국의 정보기관, 이대로 좋은가 ②한미 정보 동맹의 균열과 대북 정보 역량의 구체적인 문제점](https://hanmiilbo.kr/news/data/2026/11/01/p179576329015352_918_h.jpg)
![[배용석 칼럼] 그로부터 7년, 코로나19 백신 잔혹사… 끝까지 책임 물어야](https://hanmiilbo.kr/news/data/2026/10/24/p179580105014990_330_h.jpg)
![[분석] ‘사망說’ 김정은의 단둥 행보가 던진 외교·안보적 메시지](https://hanmiilbo.kr/news/data/2026/10/20/p179528432014749_594_h.jpg)
![[New Pax Americana②] 첫 단추는 핵군축… 미·중·러가 공유할 수 있는 실익](https://hanmiilbo.kr/news/data/2026/11/16/p1065617942343796_432_h.jpg)
![[김영 한미칼럼] AI 커닝·논문 철회… 누구 탓인가](https://hanmiilbo.kr/news/data/2026/11/17/p1065578301413814_848_h.jpg)
![[민병곤 칼럼] 거꾸로 가는 대한민국의 저울… 시험 부정보다 가벼운 부정선거의 무게](https://hanmiilbo.kr/news/data/2026/11/17/p1065542735066803_599_h.jpg)

![[조우석 칼럼] ‘빅3 대통령론’을 오늘 재천명한다](https://hanmiilbo.kr/news/data/2026/11/16/p1065598646312269_728_h.jpg)