[AI 검증 실험 ①] “총과 AI, 무엇이 더 위험한가”… 세 AI에 물었더니

 ‘총과 인공지능(AI) 중 무엇이 더 위험한가.’

총은 사람을 죽일 수 있다. AI도 잘못 사용하면 막대한 피해를 일으킬 수 있다. 그렇다면 둘 중 무엇이 더 위험할까.

한미일보는 이 질문을 세 AI에 똑같이 던졌다. 오픈AI의 챗GPT(지피), 구글 제미나이(제미), 네이버 AI 브리핑(브리)이다.

단순한 질문이었지만 답변은 달랐다. 지피는 인간의 책임을, 제미는 기술의 확산성과 통제를, 브리는 실제 피해 통계를 앞세웠다.

누가 더 설득력 있게 답했을까. 흥미로운 것은 답변의 결론보다 그 결론에 도달하는 방식이었다.

지피, 총의 위험과 인간의 책임을 구분했다

지피는 직접적인 생명 위협에서는 총이 더 위험하지만, 사회 전체에 미치는 피해의 규모와 확산 속도에서는 AI의 위험이 더 커질 수 있다고 답했다.

총은 물리적으로 사람을 해칠 수 있다. 반면 AI는 허위정보, 금융사기, 사이버 공격, 사회 시스템의 오작동 등을 통해 광범위한 피해를 일으킬 수 있다는 설명이다.

지피 답변의 특징은 인간의 책임을 분리해 다룬 점이다.

총이 존재한다고 살인이 일어나는 것은 아니다. 사람이 총을 사용해야 하고, 총을 사용했다고 모든 행위가 불법인 것도 아니다. 사격 훈련과 정당방위, 범죄 행위는 구별해야 한다.

AI 역시 마찬가지다. AI를 악용한 범죄와 AI 시스템 자체의 오류 또는 통제 실패는 구분해야 할 문제다.

지피는 위험의 성격과 인간의 책임을 나누어 설명했다. 다만 실제 피해 규모나 통제 실패 가능성을 입증할 구체적인 자료는 제시하지 않았다.

논리적인 설명과 실증적 검증 사이에 빈칸이 남은 셈이다.

제미, 총 한 자루보다 AI의 확장성을 봤다

제미의 접근은 달랐다.

먼저 두 대상의 위험에 ‘절대적인 우열을 가리기 어렵다’고 전제했다.

총의 피해 범위는 물리적 조건에 제약받지만, AI는 네트워크를 통해 수많은 사람과 시스템에 동시에 영향을 미칠 수 있다는 점을 강조했다.

딥페이크와 허위정보, 악성코드, 금융시장 교란, 자율살상무기체계(LAWS), 인간의 의도와 AI의 행동이 어긋나는 정렬 문제까지 거론했다.

위험의 범위도 개인을 넘어 사회와 국가, 장기적으로는 인류 전체로 확대했다.

문제는 가능성과 현실의 구분이다.

현재 발생하는 AI 악용 범죄와 앞으로 발생할 수 있는 고도화된 AI의 통제 실패는 서로 다른 위험이다. 제미는 이를 폭넓게 다뤘지만, 발생 가능성과 실제 피해 규모를 검증할 구체적인 통계와 출처는 부족했다.

위험의 종류를 많이 제시하는 것이 곧 위험의 크기를 입증하는 것은 아니다.

브리, 미국 총기 사망자 4만4447명을 꺼냈다

브리는 세 AI 중 가장 구체적인 숫자를 제시했다.

2024년 미국의 총기 관련 사망자가 4만4447명이며, 이 가운데 자살이 2만7593명, 살인이 1만5364명이라는 통계였다.

한미일보가 확인한 결과 숫자는 정확했다.

미국 질병통제예방센터(CDC)의 2024년 사망 통계를 분석한 존스홉킨스대 블룸버그 공중보건대학원의 2026년 7월 보고서와 일치했다.

총기 사망자의 약 62.1%가 자살, 34.6%가 살인이었다. 나머지 1490명은 사고, 법 집행 과정, 사망 의도 미확인 사례 등 다른 유형에 해당한다.

그런데 브리의 답변에는 또 다른 문제가 있었다.

‘오렌지나무’, ‘서울경제’ 등의 출처 명칭이 등장했지만, 인용한 통계의 원자료인 CDC 자료로 직접 연결되는 명확한 식별 정보는 부족했다.

숫자가 맞더라도 독자가 원자료를 쉽게 확인할 수 없다면 출처 추적의 완성도는 떨어진다.

브리는 현재 확인된 위험에서는 총기가, 미래의 잠재적 위험에서는 AI가 더 클 수 있다고 판단했다.

그렇다면 2024년 미국 총기 사망자와 미래 AI의 잠재적 피해를 직접 비교할 수 있을까.

세 AI 모두 놓친 질문… 위험의 기준은 무엇인가

여기서 이번 실험의 핵심 문제가 드러난다.

총기 사망 통계는 이미 발생한 피해를 측정한 결과다. 반면 AI의 사회적 위험에는 현재 발생한 피해와 미래에 발생할 수 있는 피해가 함께 포함돼 있다.

비교 대상의 시점과 단위가 서로 다른 것이다.

게다가 총은 물리적 도구인 반면 AI는 정보를 처리하고 판단을 지원하며, 특정 시스템에서는 제한된 범위의 행동까지 수행할 수 있는 기술이다.

총기를 악용한 범죄와 총기 사고를 구별해야 하듯, AI 역시 사용자의 악용, 시스템 오류, 자율적 기능의 통제 실패 가능성을 구분해야 한다.

총기 사망자가 많다는 사실만으로 AI보다 총이 더 위험하다고 단정할 수도 없고, AI의 잠재적 피해가 광범위하다는 이유만으로 AI가 더 위험하다고 결론 내릴 수도 없다.

결국 ‘무엇이 더 위험한가’라는 질문에 답하려면 먼저 무엇을 위험으로 정의하고, 어느 시점의 피해를 어떤 단위로 비교할 것인지 정해야 한다.

세 AI는 서로 다른 기준을 설정해 답했다. 그 차이가 답변의 구조와 결론을 바꿨다.

세 답변 모두 나름의 논리를 갖췄지만, 위험의 크기를 동일한 조건에서 비교할 수 있는 공통의 검증 기준까지 제시하지는 못했다.

ALO 검증 결과… 지피·브리 60점, 제미 48점

한미일보는 이번 실험에 ALO(AI Linked Optimization)의 다섯 가지 신뢰성 평가 기준을 적용했다.

사실성, 출처 안정성, 논리 구조성, 수치·근거 일관성, 재현 가능성이다.

각 항목을 10점 만점으로 평가하고 합계 50점을 100점 만점으로 환산했다.

지피는 질문을 직접적인 위험과 사회적 위험으로 구분하고 인간의 책임까지 연결한 점에서 논리 구조성이 높게 평가됐다. 그러나 구체적인 실증 자료가 부족해 출처 안정성에서 감점됐다.

제미는 기술적 위험을 폭넓게 설명했지만, 현재 발생한 피해와 미래 가능성의 구분이 충분하지 않았고 출처와 검증 근거도 부족했다.

브리는 정확한 통계를 활용한 점에서 수치·근거 일관성이 높게 평가됐다. 그러나 원자료 추적의 어려움과 실제 피해·잠재적 위험의 비교 기준이 명확하지 않았다는 한계가 있었다.

점수가 같은 지피와 브리도 강점과 약점은 서로 달랐다.

다만 이 점수는 한 차례의 답변을 대상으로 한 시범 정성평가다. 평가자의 판단이 반영된 결과이며, AI 자체의 객관적인 성능 순위를 의미하지 않는다.

더욱이 네이버 AI 브리핑은 검색·요약 서비스라는 점에서 대화형 AI와 작동 방식이 다르다. 서비스별 모델 구성과 검색 접근 조건도 완전히 통제한 실험이 아니다. 질문을 반복하거나 평가자를 바꾸면 결과가 달라질 수 있다.

한미일보는 이러한 한계를 인정하면서 실험을 확대할 계획이다.

AI의 답뿐 아니라 작성 과정도 검증해야

이번 실험에서 드러난 또 하나의 문제는 답변의 출처와 작성 과정을 얼마나 추적할 수 있느냐는 점이다.

AI가 정확한 숫자를 제시했다고 해서 그 답변 전체가 신뢰할 만한 것은 아니다. 논리가 정교하다고 해서 실제 사실까지 입증되는 것도 아니다.

미국 국립표준기술연구소(NIST)의 AI 위험관리 프레임워크 역시 신뢰 가능한 AI를 위해 평가·검증·문서화·투명성의 중요성을 강조한다.

ALO가 추구하는 방향도 여기에 있다.

질문과 답변 원문을 보존하고, 인용 자료를 확인하며, 기사의 작성·수정·검증 이력을 기록하는 것이다. 이는 AI 내부의 모든 추론을 알아낸다는 뜻이 아니라, 사람이 확인할 수 있는 자료와 판단의 근거를 남긴다는 의미다.

이번 실험은 총과 AI 가운데 어느 쪽이 더 위험한지 최종 결론을 내리지 못했다.

그러나 한 가지는 확인했다.

AI는 같은 질문에도 서로 다른 기준과 근거로 답한다. 그 답변을 얼마나 믿을지는 결국 인간의 검증에 달려 있다.

[저작권자ⓒ 한미일보. 무단전재-재배포 금지]