"○○씨 되시죠? 안녕하십니까. 저는 서울 중앙지검의 ○○○입니다." 이 같은 수상한 전화통화가 1~2분 지속되자 문득 스마트폰에 진동 알림이 왔다. 스마트폰을 확인해보니 노란색 '주의' 알림이 와있었다. 그럼에도 전화를 끊지 않으니 빨간색 '위험'으로 바뀌었다. 알림 배너에는 '보이스피싱 확률이 높아요. 통화를 종료하고 경찰 또는 금융감독원에 도움을 요청하세요'라는 메시지도 있었다.

이는 KT의 'AI 보이스피싱 탐지·알림서비스'를 시연한 것이다. 최근 KT 광화문 빌딩에서 만난 김준래 KT AX혁신지원본부 고객보호담당 상무는 "이는 인공지능(AI)이 상대방이 말하는 키워드와 맥락을 탐지해 보이스피싱 위험 여부를 알려주는 기능"이라고 설명했다. 이 서비스는 지난달 22일 정식 출시돼 현재 삼성전자 단말에서 통신사 구분 없이 '후후'와 '후후 전용 통화 녹음' 앱을 다운받으면 바로 사용할 수 있다.

2018년부터 AICC(인공지능 콘택트센터) 사업을 해온 KT는 약 7년 동안 음성을 텍스트로 변환하는 기술(STT)을 개발해왔다. 이 AI 서비스가 현재까지 학습한 실제 보이스피싱 범죄 시나리오는 2만건이 넘는다. 그 결과 지난해 10월 과학기술정보통신부의 'ICT규제샌드박스'에서 실증특례 승인을 받았고, 올해는 본격적으로 서비스 상용화에 박차를 가하고 있다. 김 상무는 "정식 출시 후 보름 동안 약 72만건의 사용자 트래픽이 발생했고 그중 600건 정도의 보이스피싱을 감지했다"고 밝혔다.

자체 추정한 오탐지 비율은 약 0.08%로, 상당한 정확도를 자랑한다. 이는 AI가 많이 학습한 결과이기도 하지만 지난 4개월간 진행된 베타 서비스 역시 중요한 역할을 했다. 사내 전문가 100여 명과 고객들이 참여했던 베타 서비스 기간에는 AI가 초반 30~50음절만 탐지하도록 설정돼 있었다. 그런데 베타 테스트 피드백을 수렴한 결과 더 정확도를 높이고자 탐지 범위를 150음절까지 확장하기로 결정한 것이다. 150음절 탐지에는 평균적으로 1분30초에서 2분의 시간이 소요된다. 김 상무는 "이 조치를 통해 10배 가까이 정확도가 상승했다고 파악된다"고 밝혔다.

개인정보 유출 위험도 최소화했다. 김 상무는 "AI가 학습한 모든 데이터는 국립과학수사연구원을 거쳐 개인정보를 전부 삭제해 안전하다"고 강조했다. 경고를 받은 사용자는 후후 앱을 통해 보이스피싱을 바로 신고할 수 있는데, 이 신고된 데이터 역시 국립과학수사연구원을 거쳐 개인정보를 제거한 후 다시 KT에 전송돼 추후 AI가 학습하는 자료가 된다.

또한 이 서비스는 정보를 서버에 별도로 전송하지 않는 이른바 '온디바이스(On Device)' 기반으로 이뤄져 안정성을 높였다.

KT는 상반기 내로 기존에 특정된 보이스피싱 범죄자의 목소리, 즉 성문의 특징을 탐지해 딥보이스(AI로 실제 인물의 목소리를 학습해 복제하는 기술)까지도 판별할 수 있는 서비스를 선보일 예정이다. 지속적인 서비스 고도화 작업과 더불어 내년에는 iOS 기기까지 서비스 범위를 확대하고 유럽 등의 통신사와 제휴해 해외 버전 서비스를 구축하는 것을 구상하고 있다.

[안선제 기자]