캐나다 토론토 대학의 공학 연구원들은 AI소프트웨어 프로그램을 사용하여 자동 안면인식시스템을 비활성화하는 사진에 대한 개인정보보호 필터를 설계했다. 소셜미디어 플랫폼에 사진이나 비디오를 업로드 할 때마다 안면인식시스템이 사용자에 대해 조금 더 알아본다. 이러한 알고리즘은 귀하, 귀하의 위치, 아는 사람에 대한 데이터를 수집하며 지속적으로 개선되고 있다.

 

소셜 네트워크에서 개인 정보 및 데이터 보안에 대한 우려가 커짐에 따라 Univ. Parham Aarabi PhD와 대학원생 Avishek Bose가 이끄는 토론토의 공학 연구원들은 안면인식시스템을 동적으로 방해하는 컴퓨터 소프트웨어 알고리즘을 만들었다.

 

안면 인식이란?  

안면인식시스템은 디지털 사진, 그래픽 이미지 또는 비디오 프레임에서 발견되는 사람의 얼굴을 얼굴 데이터베이스와 일치시킬 수 있는 기술이다. 연구원들은 다양한 유형의 안면인식시스템을 개발하고 있다. 신원 확인 서비스를 통해 사람을 인증하는 데 사용되는 가장 진보된 방법은 이미지에서 뚜렷한 얼굴 특징을 찾아 내고 측정할 수 있다. 인간의 신체적 특성을 측정하는 과정을 생체 측정이라고 한다.

 

안면 인식은 일반적으로 스마트폰과 로봇공학에서 사용된다. 생체측정 기술로서의 정확도는 홍채인식 및 지문인식보다 낮다. 그러나 비 접촉식이고 비 침습적이므로 특히 비디오 감시 및 이미지 자동 인덱싱에 널리 사용된다.

 

안면 인식이 더 좋아진다.  

Parham Aarabi PhD는 다음과 같이 말했다: “안면 인식이 더 좋아지고 더 좋아짐에 따라 개인 프라이버시는 진짜 문제이다. 이것은 유익한 안면인식시스템이 그러한 능력에 대처할 수 있는 한 가지 방법이다.”

 

그들의 솔루션은 적대적 훈련이라는 딥러닝 기술을 활용하여 2개의 AI알고리즘을 서로 맞춘다. 컴퓨팅에서 딥러닝은 문제에 대한 해결책을 찾도록 훈련된 복잡한 데이터 세트를 사용하여 정보를 처리하는 수학 기술이다. 인간 사고의 생물학에서 영감을 받은 딥러닝은 컴퓨터가 이미지와 음성을 빠르게 인식하고 처리하는 데 도움이 된다. AI 컴퓨터소프트웨어 분야의 모든 기술과 마찬가지로 딥러닝은 빅데이터 세트에서 찾기 어려운 패턴을 인식하는 데 능숙하다.

 

신경망이라고하는 컴퓨터 시스템은 인간 수준의 놀라운 패턴 인식 능력을 달성할 수 있는 AI 소프트웨어를 실행한다. 딥러닝 알고리즘을 사용하면 분석가에게 몇 주, 몇 달 또는 몇 년이 걸리는 것을 몇 초 만에 처리할 수 있다.

 

신경망은 일련의 딥러닝 알고리즘을 사용하여 인간의 추론을 모방하는 프로세스를 통해 데이터 집합의 기본 관계를 인식한다. 연구원들은 자동 안면 인식을 차단할 수 있는 시스템을 설계하기 위해 신경망의 힘을 활용했다.

 

작동 원리.

Aarabi Bose는 두 개의 신경망 쌍을 설계했다.  

첫 번째 신경망은 안면을 식별한다. 감지 AI라고한다.

두 번째 신경망은 첫 번째의 안면인식작업(파괴적 AI라고 함)을 방해한다.  

이 두 신경망은 끊임없이 싸우고 서로에게서 배운다.

그 결과 사용자의 개인 정보를 보호하기 위해 사진에 적용할 수 있는 자동화된 소프트웨어 필터이다. 그들의 알고리즘은 이미지의 매우 특정한 픽셀을 변경하여 인간의 눈으로 거의 감지할 수 없는 변경을 한다.  

Bose파괴적인 AI는 얼굴 감지를 위한 신경망이 찾고 있는 것을 공격할 수 있다. 예를 들어 감지 AI가 눈의 모서리를 찾는 경우 눈의 모서리를 조정하여 눈에 잘 띄지 않게 한다. 사진에는 매우 미묘한 방해가 발생하지만 탐지기에게는 시스템을 속일만큼 중요하다."

 

Aarabi Bose 300W 얼굴 데이터 세트라고하는 600개 이상의 얼굴로 구성된 업계 표준 풀에서 소프트웨어를 테스트했다. 이 데이터 세트에는 다양한 인종, 조명 조건 및 환경이 포함된다. 그들의 시스템은 원래 감지할 수 있었던 얼굴의 수를 100 %에서 0.5%로 성공적으로 줄였다.

 

Bose는 다음과 같이 말했다: “핵심은 서로에 대해 2개의 신경망을 훈련시키는 것이다. 하나는 점점 더 강력한 안면감지시스템을 만들고 다른 하나는 안면 감지를 비활성화하는 더 강력한 도구를 만든다.

강력한 도구  

안면 인식을 비활성화하는 것 외에도 새로운 기술은 다음을 수행한다.

 

-이미지 기반 검색 중단

-기능 식별을 방해 

-감정 + 민족성 추정을 방해

-자동으로 추출될 수 있는 다른 모든 얼굴 기반 속성을 방해한다 

다음으로 팀은 개인 정보 보호 필터를 스마트폰 앱, 모바일 태블릿 앱 또는 웹 사이트로 공개하기를 희망한다.

 

Aarabi“10년 전에는 이러한 소프트웨어 알고리즘은 사람이 정의해야 했다. 하지만 이제 신경망은 스스로 학습한다. 학습 데이터 외에는 아무것도 제공할 필요가 없다. 그들은 정말 놀라운 일을 할 수 있다. 컴퓨터 분야에서 정말 멋진 시간이다. 엄청난 잠재력이 있다."

   

— 참조

 

블로그: Joey Bose

논문 제목: 신경망 기반 제한 최적화를 사용하는 얼굴 감지기에 대한 적대적 공격  

https://joeybose.github.io/assets/adversarial-attacks-face.pdf

 

 

 

 

입력 : 2020.11.13 00:13    출처 : https://www.kurzweilai.net/digest-ai-software-tool-disables-automated-facial-tracking
ⓒ blockchainai.kr 무단 전재 및 재배포 금지
  • 트위터
  • 페이스북
  • 카카오톡보내기
메일 보내기 닫기
보내는 사람
보내는 사람 메일
받는 사람 메일
제목
메세지