[R&D르네상스] 인공지능(AI) 활용한 유해사이트 검색 시스템 시험적용
[R&D르네상스] 인공지능(AI) 활용한 유해사이트 검색 시스템 시험적용
  • 박소연 기자
  • 승인 2021.09.13 13:38
  • 댓글 0
이 기사를 공유합니다

웹하드에 이어 온라인 대응 범위 확대, 탐지효율 개선
피해영상 웹사이트 유포사례 신속 탐지 및 삭제 지원
박소연 기자 psy@monthlypeople.com
박소연 기자 psy@monthlypeople.com

국내 연구진이 인공지능(AI) 기술을 활용해 따뜻하고 건강한 미디어 소비환경을 제공하는 데 앞장서고 있다. 불법 촬영으로 인한 디지털 성범죄 및 2차 피해 확산을 신속하고 효율적으로 억제할 전망이다.

한국전자통신연구원(ETRI)AI 기술을 활용하여 2019년 웹하드 대상 불법 촬영물 삭제 지원 시스템을 개발해 한국여성인권진흥원 디지털 성범죄 피해자 지원센터' 업무에 적용해온 데 이어 검색대상을 인터넷 사이트까지 확대하는 데 성공, 이달 내 지원업무에 시험 적용한다.

ETRI는 본 기술 개발로 AI가 인터넷 사이트를 자동으로 검색하여 웹페이지 음란성 여부를 판단할 수 있다고 말했다. 탐지효율이 혁신적으로 개선됨에 따라 피해자 지원에 빠르게 대응할 수 있을 전망이다.

본 개발의 핵심은 영상물의 유해성을 분석·검출하는 AI 기술이다. AI가 등록된 키워드로 웹페이지들을 검색하고 웹페이지 내 게시물(텍스트, 이미지 등)을 분석해 유해성을 검출한다.

 

유해사이트 자동수집 시스템 개념도 ⒸETRI 

ETRI 연구진의 AI 엔진은 프레임당 약 100만 회의 세부 판단을 근거로 영상 간 유사도 비교를 수행해 정교하다.

연구진은 콘텐츠 유해성을 판단하는 성능이 99.4% 이상의 정확도와 0.01초 이하의 검출 속도를 달성해 상당히 높은 성능 수준이라고 밝혔다.

또한, 이번 성과가 AI를 적용한 유해 웹사이트 자동수집 시스템 개발에 AI 엔진을 내장시켜 기술을 고도화한 결과라고 설명했다.

 

ⒸETRI
ⒸETRI

ETRI가 개발한 기술에는 AI 기술을 활용하여 등록된 키워드로 웹페이지를 검색하는 기능 유해 영상물 유포 의심 사이트 관련 정보를 자동으로 선별ㆍ수집하는 기능 등을 갖추고 있다.

연구진은 지난 6월부터 두 달간 진행된 시험기간 동안, 피해영상물의 검색 키워드, 썸네일 이미지, 주소(URL) 등을 활용, 18,945건의 웹사이트를 자동 수집했으며 이 중 유해사이트로 판별된 2,631개 웹사이트를 걸러내는 데 성공했다.

 

ETRI 이남경 미디어지능화연구실장은이번 인공지능 기술은 디지털 성범죄 피해자 지원업무에 유용하게 활용될 것으로 보이며 앞으로도 불법 촬영물의 유포·확산을 최소화할 수 있도록 지원하겠다라고 말했다.

ETRI 연구진은 미디어 지능화 기술을 통해 디지털 역기능 대응 기술을 고도화하는 등 선제적 디지털 성범죄 사전탐지·확산방지를 위해 노력할 계획이라고 전했다.

한편, 연구진은 2019, 웹하드를 대상으로 한 불법 촬영물 삭제 지원 시스템을 개발했다. 연구진은 그동안의 연구개발 경험과 축적된 기술력을 바탕으로 본 성과를 낼 수 있었다.

ETRI는 이 밖에도 불법 촬영물 유통을 막기 위해‘n번방 방지법후속 조치인 내용 기반 영상검출 기술 개발에도 참여하는 등 건강하고 따뜻한 미디어 소비환경을 조성하는 데 기여하고 있다.

본 기술은 과학기술정보통신부 인공지능 기반 유해미디어(음란성) 분석·검출 시스템 개발과제로 개발되었다. 판도라티비, ()엘컴텍, SK텔레콤, 광운대학교가 공동연구기관으로 참여했다.

 

댓글삭제
삭제한 댓글은 다시 복구할 수 없습니다.
그래도 삭제하시겠습니까?
댓글 0
댓글쓰기
계정을 선택하시면 로그인·계정인증을 통해
댓글을 남기실 수 있습니다.

  • 07238 서울 영등포구 국회대로 70길 15-1 RA542 (여의도동14-9, 극동 VIP빌딩 5층) 월간인물
  • 대표전화 : 02-2038-4470
  • 팩스 : 070-8260-0200
  • 청소년보호책임자 : 문채영
  • 법인명 : 월간인물(Monthly People)
  • 대표자 : 박성래
  • 제호 : 월간인물
  • 사업자등록번호 : 227-08-61739
  • 등록번호 : 서울 아 03717
  • 등록일 : 2015년 04월 30일
  • 발행일 : 2015년 04월 14일
  • 발행인 : 박성래
  • 편집인 : 남윤실
  • 월간인물 모든 콘텐츠(영상,기사, 사진)는 저작권법의 보호를 받은바, 무단 전재와 복사, 배포 등을 금합니다.  |  Copyright © 2021 월간인물. All rights reserved.
  • 「열린보도원칙」 당 매체는 독자와 취재원 등 뉴스이용자의 권리 보장을 위해 반론이나 정정보도, 추후보도를 요청할 수 있는 창구를 열어두고 있음을 알려드립니다.
    고충처리인 박성래 02-2038-4470 psr@monthlypeople.com
우수콘텐츠 우수콘텐츠 인터넷신문위원회 ND소프트