▲ 이미지 출처: Shutterstock.com

인공지능의 "편견"은 종종 더러운 단어로 취급된다. 그러나 텍사스 휴스턴에 있는 베일러 의과대학의 Andreas Tolias 박사에게는 편견이 더 똑똑하고 인간적인 인공지능에 대한 해결책 일 수도 있다.

 

기계 제작에 전달되는 사회적 편견(: 인종 또는 성별)에 대해서는 이야기하지 않는다. 그보다는 신경망의 구조와 학습방식에 존재하는 일종의 "유익한"편견이다. 출생 전에 뇌를 초기화하는 데 도움이 되는 유전자 규칙과 유사하게 귀납적 편향은 인공적인 마음이 발달하는 무한한 방법을 좁히는 데 도움이 된다. 예를 들어, "개발"경로로 안내하여 결국보다 유연하게 만들 수 있다.

 

직관적인 아이디어가 아니다. 진화에 제약을 받지 않는 인공지능은 방대한 양의 데이터를 통해 우리의 비대한 중앙 프로세서를 능가 할 가능성이 있다. 그러나 하나의 알고리즘이 특정 문제에서 인간을 능가하는 것처럼-체스, , 도타, 유방암 의료 진단-사람들은 새로운 일을 할 때마다 엉덩이를 걷는다. 어쨌든, 우리의 뇌의 타고난 구조는 약간의 세상적인 경험과 결합되면 하나의 솔루션을 다음 솔루션으로 쉽게 일반화 할 수 있다. 최첨단 딥러닝 네트워크는 할 수 없다.

 

Torons와 독일의 동료는 Neuron에 발표 된 새로운 논문에서 인공신경망의 더 많은 데이터 또는 더 많은 계층이 답이 아니라고 주장한다. 오히려 핵심은 진화론적 드라이브와 비슷한 귀납적인 편견을 도입하여 급격한 변화를 일반화 할 수 있는 능력을 향한 알고리즘을 자극하는 것이다.

 

“네트워크를 더 크거나 깊게 만드는 현재 전략을 따르면 차세대 지능형 알고리즘을 달성 할 수 없다. 아마도 반 직관적으로는 정반대 일 수 있다. 우리는 [인공지능] 모델에 더 많은 편견을 추가해야 한다.”라고 저자들은 말했다.

 

우리의 뇌보다 더 좋은 영감의 원천은 무엇일까?

 

모라벡의 역설(인간에게 쉬운 것은 컴퓨터에게 어렵고 반대로 인간에게 어려운 것은 컴퓨터에게 쉽다는 역설)

인공지능이 인기작품이라는 문제는 딥러닝이 세상을 뒤흔들기 훨씬 전에 수십 년 전으로 거슬러 올라간다. 딥블루가 전설적인 남자 대 머신 체스 경기에서 카스파로프를 물리치더라도 인공지능 연구원들은 그들이 곤경에 처했다는 것을 알았다.

 

컴퓨터 과학자 한스 모라벡 (Hans Moravec)은 마빈 민스키 (Marvin Minsky) 및 다른 사람들과 함께 그의 이름을 가진 아이디어를 유명하게 말한 사람으로써 컴퓨터는 지능테스트나 체커 게임에서 성인 수준의 성능을 보여주기가 비교적 쉽고, 인식과 이동성에 관한 한 살짜리 아이의 기술을 제공하는 것은 어렵거나 불가능하다.” 라고 했다.

 

간단히 말해: 인공지능은 단일작업을 마스터한 경우에도 학습을 한 상황에서 다른 상황으로 쉽게 번역 할 수 없다. 패러독스는 수작업으로 코딩 된 알고리즘에 적용되었다. 그러나 머신러닝의 급격한 상승에도 불구하고 길들여지지 않은 짐승으로 남아있다. 예를 들어 노이즈가 있는 이미지를 산산조각 내면 잘 훈련된 인식 알고리즘이 쉽게 작동한다. 대조적으로, 인간은 무의식적으로 부분적으로 폐쇄 된 얼굴을 다른 각도로 그리고 다른 조명 또는 눈과 비에서 인식 할 수 있다.

 

핵심 문제는 딥네트워크가 추출하는 모든 기능이 전체 장면이나 상황을 포착하지 못한다는 것이다. 인공지능이 보고 있는 것에 대한의식이 없으면 인공지능은 약간의 섭동으로도 흔들리게 된다. 그들은 장거리에 걸쳐 픽셀을 통합하여 동일한 객체의 다른 부분을 서로 연결하는 것과 같이 픽셀 간의 관계를 증류시킬 수 없는 것처럼 보인다. 우리의 뇌는 사람의 얼굴을 눈, 코 및 기타 개별 구성요소가 아닌 얼굴 전체로 처리한다. 인공지능은 픽셀 간의 통계적 상관 관계를 통해 얼굴을인식한다.

 

알고리즘이 학습한 기술에서 어떤 종류의 전환도 보여주지 않는다는 것은 아니다. 자연계의 거대한 이미지 저장소인 ImageNet에서 딥네트워크를 사전 훈련하면 하나의 물체를 인식하는 것이 모든 종류의 다른 작업에 "놀랍게도"유익 할 수 있다.

 

그러나 이러한 유연성만으로도 총알은 아니라고 저자들은 주장했다. 학습에서 심층신경망을 안내 할 수 있는 많은 정확한 가정이 없다면일반화는 불가능하다.”

 

제약이 핵심이다

이 솔루션은 인공네트워크를 더 깊게 만들거나 더 많은 데이터를 제공하지 않는다. 오히려 인공지능과 인간의 두뇌는 이미지를 처리할 때 매우 다른 솔루션 전략을 사용하는 것처럼 보이며, 데이터만으로는 인공지능이 생물학적 사고의 견고성과 일반화 능력을 향한 인공지능을 추진할 수 없다.

 

이 팀의 핵심은 딥러닝 시스템에 편견을 추가하여 생물학적 신경망을 더 잘 모방하는 학습 스타일로푸시하는 것이라고 한다. 대략적으로 정리하면: 딥네트워크는 서로 다른 강도 (또는 "무게")로 서로 연결된 "뉴런"의 여러 계층으로 구성된다. 네트워크는 모든 모양과 크기, 적절하게 아키텍처라고 한다.

 

요점은 다음과 같다. 각 아키텍처 유형마다 딥네트워크는 뉴런간에 연결 가중치가 크게 다를 수 있다. 그들은 "동일하게"보이지만, 개인화 된 신경 연결 때문에 입력 데이터를 다르게 처리한다. 동일한 상황에서 항상 유사하게 반응하지 않는 동일한 형제라고 생각해보자.

 

귀납적 편견은 올바른형제를 선택함으로써 마법을 발휘하므로 훈련이 끝날 때 일반화 할 가능성이 높아진다. 편견은 모든 문제에 적용되는 보편적인 마법 가루가 아니다. 각 문제에는 고유한 수학 공식이 필요하다.

 

편향된 뇌

혼란스러운가? 필자는 귀납적 편견을 알고리즘을 향상시키거나 재구성하는 추가적인 수학 또는 훈련 사례로 여기고 있다. 더 흥미로운 것은 영감의 원천이다.

 

인공지능에서 신경과학은 편견의 완벽한 영향을 미친다고 저자들은 말했다. 우선, 우리의 두뇌는 다른 경험에 대해 동일한 신경망을 지속적으로 재사용하는데, 이는 이전 학습을 일반화하고 잊을 수 없는 능력에 결정적으로 의존한다. 여기에서 생물학적 뇌의 지각 및 인지능력은 인공지능 알고리즘에 영향을 미쳐 단일 알고리즘을 위한 여러 작업을 설계하는 방법과 같은 일반화 능력을 갖춘 모델을끌어낼수 있다.

 

예를 들어, 인간은 이미지에서 텍스처보다 모양을 더 잘 처리하는 반면 일부 딥러닝 네트워크는 반대 방식으로 수행한다. 인체 인식을 모방한 모양의 우선 순위를 향해 인공지능을 편향시키는 데이터를 추가하면 노이즈로 가득 찬 이미지에서 더 나은 성능을 발휘할 수 있었다. 텍스처보다 노이즈가 잘 잡히기 때문이다.

 

또 다른 예로, 생물학적 신경 네트워크에서 캡처 된 전기 데이터는 우리 마음의 내부 활동에 창을 제공한다. 우리는 이미 우리 안에 일반화 할 수 있는 네트워크를 가지고 있다. 뇌 기록은 레이어별로 작동 방식을 파싱하기 시작할 수 있다.

 

우리가 인공네트워크를 생물학적 네트워크의 신경 반응과 일치하도록 제한 할 수 있다면, 우리는뇌와 같은 일반화를 촉진하는 방식으로 데이터에서 결과를 추출하기 위해네트워크를 바이어스할 수 있다고 과학자들은 말했다. 최상의 결과를 달성하기 위해 어떤 뇌 처리 속성이 인공지능으로 이전되는지 파악하라.

 

인공지능은 여러 작업에 대한 알고리즘을 훈련하고 신경 기록을 사용하여 학습을 안내함으로써 더 두뇌와 비슷해질 것이다. 그렇다고 해서 네트워크가 고전적인 딥러닝 체제에 비해 단일 작업에서 더 나은 성능을 발휘한다는 의미는 아니다. 오히려 이 알고리즘은 훈련 예제의 통계 패턴을 넘어서 더 잘 일반화 될 수 있을 것이라고 저자들은 말했다.

 

"자연스러운" 인공지능

귀납적 편견은 신경과학이 차세대 인공지능을 고무시키는 방법의 최신 예일뿐이다. 저자는 또한 뇌에서 알고리즘으로 물리적 구조를 복사 할 때 얻을 수 있는 잠재적 이점에 대해서도 언급했지만 기능이 더 중요하다고 주장했다.

 

뇌는 여전히 더 많은 것을 제공한다. 예를 들어, 마우스 뇌의 작은 덩어리조차도 성질이 다른 수백 가지 유형의 뉴런이 있지만 인공지능 네트워크는 일반적으로 2개 또는 3개를 통합한다. 뇌의 세포 동물원에는 항상 신경 처리에 기여하는 뉴런이 아닌 뉴런이 포함되며 인공지능 네트워크보다 훨씬 더 조밀한 연결 및 보다 정교한 연결 패턴이 있다. 생물학적 뇌와 달리 대부분의 딥네트워크에는 동일한 계층 내에서 뉴런을 크게 연결하는 연결 또는 피드백 신호가 여러 계층으로 되돌아 갈 수 있는 반복 연결이 없다.

 

Tolias는 귀납적 편견과 같은 신경에서 영감을 얻은 구성 요소를 사용하여 단일 예제에서 학습을 일반화 할 수 있는 인공지능을 구축하려고 한다. 그는 IARPA의 야심찬 MICrONS (Machine Intelligence from Cortical Networks) 프로젝트의 일원으로서 지능 기계 개발을 위한 더 많은 통찰력을 추출하기 위해 마우스 피질의 1mm 큐브 내부의 모든 신경 활동을 매핑하는 데 도움을 주고 있다.

 

“전산 신경과학을 통한 신중한 분석 및 기계학습은 새로운 벤치마크를 통해 생물학적과 인공지능의 차이점을 지속적으로 노출해야 한다. 우리가 모델을 다듬을 수 있게 해주었다… [두 분야]는 차세대 인공지능을 구축하는 데 도움이 된다.”라고 저자들은 결론지었다.

입력 : 2019.10.04 14:22    출처 : https://singularityhub.com/2019/10/03/deep-learning-networks-cant-generalize-but-theyre-learning-from-the-brain/
ⓒ blockchainai.kr 무단 전재 및 재배포 금지
  • 트위터
  • 페이스북
  • 카카오톡보내기
메일 보내기 닫기
보내는 사람
보내는 사람 메일
받는 사람 메일
제목
메세지