AI 보안 전문가 강장묵 박사, 美 럿거스대서 ‘AI 판단 검증’ 논의

범죄론 수업 참관 중 보충 발제… AI 판단의 오류 가능성 짚어
데이터 편향·증거 무결성·인간 검토… 형사사법 AI의 과제 제시

인공지능(AI, Artificial Intelligence) 보안 전문가 강장묵 박사(동국대학교 국제정보보호대학원 교수)가 2026년 11월 10일(현지시간) 미국 럿거스대학교 뉴어크 캠퍼스(Rutgers University–Newark)의 범죄론 수업에서 범죄정보 분석과 AI 판단의 신뢰성 문제를 주제로 발표했다. 강 박사는 현지 수업 담당 교수의 초청으로 강의를 참관하던 중 발표 기회를 얻었으며, 데이터 해석의 한계와 관계망 정보의 오분류 가능성을 설명했다.

수업 교안인 ‘미국 갱 문제의 변화 추세(National Gang Problem Trends)’는 1996~2012년 미국 청소년 갱 조사(NYGS, National Youth Gang Survey)를 바탕으로 지역별 범죄집단의 발생·지속 양상과 사회경제적 배경을 다룬다. 강 박사는 이 같은 지역 단위 통계를 개인의 범죄 가능성이나 특정 집단 소속 여부로 곧바로 바꿔 해석해서는 안 된다는 점에서 AI 보안의 검증 문제를 연결했다.

강 박사는 현장에서 사람들을 각각 하나의 노드(Node), 서로 다른 집단을 이어 준 수업 담당 교수를 허브(Hub)에 비유하며 관계망 분석의 개념을 설명했다고 전했다. 그가 강조한 핵심은 ‘연결이 확인됐다는 사실’과 ‘그 연결이 무엇을 의미하는지에 관한 판단’을 구분하는 것이다. 사회관계망의 선 하나나 온라인 게시물의 표현만으로 실제 범죄행위 또는 공모 관계를 단정하면, 관측된 자료가 잘못된 판단 근거로 확대될 수 있다.

▲ 강장묵 박사와 럿거스대 뉴어크 캠퍼스 수업 참가자들. (사진 제공=강장묵 박사)

AI가 범죄 관련 자료를 학습할 때는 무엇을 정답으로 분류했는 지부터 검토해야 한다. 기호·복장·문신·친분 등은 조사 과정에서 참고할 수 있는 정보이지만, 각각의 맥락이 확인되지 않으면 오분류가 발생할 수 있다. 소셜미디어(SNS, Social Networking Service)의 추모 글, 인용·풍자 표현, 실제 위협을 하나의 범주로 처리하는 경우도 마찬가지다. 학습 라벨의 출처와 작성 기준, 잘못된 분류를 정정할 수 있는 절차가 중요해지는 이유다.

경찰 기록이 많이 축적된 지역을 실제 범죄가 더 많이 발생하는 지역으로 단정하는 것도 경계할 문제다. 경찰 활동이 집중될수록 관측·단속 기록이 늘어날 수 있고, AI가 해당 기록을 다시 학습하면 동일 지역을 위험하다고 반복 분류하는 피드백 편향이 나타날 가능성이 있다. 따라서 자료 수집 방식과 관측 강도, 적용 시점에 따른 편차를 확인하고 서로 독립적인 자료로 결과를 검증해야 한다.

▲ 럿거스대 범죄론 수업에서 학생들과 대화하는 강장묵 박사. (사진 제공=강장묵 박사)

이 같은 쟁점은 AI 성능지표를 해석할 때도 드러난다. 별도로 작성된 수업 교안 검토자료의 교육용 가상계산에서는 기록 1만 건 가운데 목표 사건 발생률 1%, 민감도 90%, 위양성률 5%를 가정할 경우 전체 정확도가 94.95%에 이르지만, 경고 585건 중 실제 목표 사건에 해당하는 기록은 90건으로 계산됐다. 정밀도는 15.38%다. 이는 실제 범죄예측 모델의 실증 결과나 럿거스대 현장 시연 성과가 아니라, 낮은 기저율 환경에서 오경보의 비중을 이해하기 위한 모의계산이다.

디지털 증거의 검증에서도 기술적 정확성과 사실 판단은 구분돼야 한다. 암호학적 해시(Hash)값은 기준 파일과 비교해 데이터의 변경 여부를 점검하는 데 유용하지만, 파일이 처음 생성될 때 담긴 주장이나 영상의 내용까지 사실이라고 보증하지는 않는다. 생성형 AI로 합성된 음성·영상 등을 형사사법 절차에서 활용하려면 원본과 수집 경로, 생성·편집 이력, 별도의 보강 증거를 함께 확인할 필요가 있다.

수사 보조 AI 자체의 안전성도 과제다. 외부에서 수집한 문서나 게시물에 숨겨진 악의적 명령이 AI 요약·분석 결과에 영향을 줄 수 있는 ‘간접 프롬프트 주입(Indirect Prompt Injection)’은 데이터의 신뢰성과 시스템 권한을 함께 다뤄야 하는 문제를 보여준다. 외부 자료와 실행 권한을 분리하고, AI가 생성한 요약 내용을 원문과 대조하며, 중요한 판단에는 독립적인 인간 검토를 적용하는 방안이 검토될 수 있다.

앞으로의 연구·교육 과제로는 AI 분석 결과와 원본 증거의 연결·추적, 다언어·다문화 표현의 맥락을 반영한 분류 검증, 수사 보조 AI에 대한 공격 입력의 격리·시험, 오류 라벨 정정과 기계 학습 망각(머신 언러닝, Machine Unlearning)을 검토하는 절차 등이 제시된다. 이는 이미 도입된 기술이나 현장에서 확정된 공동연구 성과가 아니라, 형사사법 AI의 책임 있는 활용을 위해 후속 검증이 필요한 연구 방향이다.


강 박사는 허위정보 판별과 디지털 증거 무결성, AI 시스템 보안 분야를 연구해 왔다. 2017년 과학기술정보통신부 주관 ‘인공지능 연구개발(R&D, Research and Development) 챌린지’의 가짜뉴스 판별 과제에서 강 박사 연구팀이 과학기술정보통신부 장관상을 받았다. 이번 발제는 이러한 연구 관심을 형사사법 자료의 해석과 AI 판단의 책임성 문제로 확장해 검토했다는 데 의미가 있다.


형사사법 분야의 AI는 정보를 신속하게 정리하고 검토할 수 있도록 돕는 도구가 될 수 있다. 그러나 모델의 출력이 사람에게 영향을 미치는 판단으로 이어질 때에는 어떤 자료에서 출발했는지, 다른 해석의 가능성은 무엇인지, 오류를 누가 정정할 수 있는지를 설명할 수 있어야 한다. 이번 럿거스대 학술교류는 범죄학의 경험적 연구와 AI 보안의 시스템 검증 원칙을 함께 논의할 필요성을 보여줬다.

코웍타임즈
코웍타임즈 기자
news@coworktimes.kr
다른기사 보기

저작권자 © 코웍타임즈 무단전재 및 재배포, AI학습 및 활용 금지

0개의 댓글

0 / 400
최신순 추천순 답글순
BEST댓글

많이 본 콘텐츠

포토뉴스

최신뉴스