https://www.salon.com/2021/04/30/why-artificial-intelligence-research-might-be-going-down-a-dead-end/

오늘날 인공지능 연구는 한계 상황에 직면
인간 두뇌의 뉴런은 오발(misfiring) 현상이 발생하기도 하는데 이는 에러가 아니며
현재의 컴퓨터 및 인공지능 기술로 재현이 불가능

* 오발(misfiring) 현상 : 컴퓨터 이진수 체계와 달리 정확히 1 또는 0으로 특징지을 수 없는 신호를 내보내는 것.
컴퓨터에서는 노이즈로 취급되며 심각한 에러를 초래하기도 한다.


미국의 SF 소설가 '필립 K. 딕'은 대표작품인 1968년 작 SF소설 '안드로이드는 전기양을 꿈꾸는가?'에서 "지능을 가진 로봇이 꿈을 꿀 것인가?"라는 흥미로운 문제를 제기했다.

그 작품이 출판된 이후 53년 넘게 인공지능 연구가 크게 발전했다. 하지만 딕이 소설에서 언급한 질문은 인공지능 연구자들이 관심을 두는 분야가 아니다. 아무도 '전기양을 꿈꾸는 안드로이드'를 발명하려고 하지 않았다.

왜냐고? 거의 대다수 인공지능 연구자들과 과학자들은 특정한 작업을 하는 돈벌이가 되는 "지능형" 소프트웨어를 연구 및 개발하느라 바쁘기 때문이다. 그런 공상을 할 시간이 없다.

만약 이성과 논리가 지능의 원천이 아니라 결과물이라면? 만약 지능의 원천이 꿈과 놀이에 더 가까운 형태라면?

최근에 연구되고 있는 분야인 '자가 변동성을 가진 뉴런 연구"는 바로 앞서 언급한 문제에 초점을 두고 있다.
이것은 인간의 '의식 세계(인공지능의 바탕이 될지도 모르는)'에 대한 연구가 필요함을 의미한다. 또 한 거의 모든 인공지능 연구가 잘못된 방향으로 가고 있지 않나 하는 암시를 주는 것이기도 하다.


인공지능 연구는 65년 전 영국 수학자 '앨런 튜링'과 헝가리계 미국인 수학자 '존 폰 노이만'이 길을 열어준 현대 컴퓨터 과학에서 시작되었다.

특히 존 폰 노이만은 기계어와 어셈블리어의 발명에 직접적인 영향을 끼쳤고 오늘날 널리 쓰이는 컴퓨터의 기본 작동 체계인 '폰 노이만 구조'를 제시한 사람이다. 지금도 쓰이고 있는, 이진수 컴퓨터 체계를 만들었다.

두 수학자 이후로 인공지능을 연구하는 많은 방법이 있었다. 그러나 모든 연구 방법은 한 가지 공통점이 있다. 즉, 데이터의 입력과 출력을 다루는 컴퓨터처럼 지능을 수학적인 계산으로 구현하려고 시도해왔다는 것이다.

이공계 박사들은 또한 인간 두뇌의 신경망을 모방해서 인공지능을 구현하려고 시도해왔다. 이런 노력으로 탄생한 인공 신경망은 체스 게임, 바둑 게임, 얼굴 인식과 같은 인간의 특정 능력을 구현하고 능가하도록 하기 위해서 딥러닝 기술과 빅데이터 기술을 사용한다. 그러나 이러한 연구 방법도 결국은 뇌를 '전기로 움직이는 일종의 컴퓨터처럼 본다'는 현실에서 벗어나지 못하고 있다. 이렇게 하는 것이 인공지능을 설계하는데 올바른 방법인지에 대해서 의문이 드는 것이다.

오늘날 인공지능 기술은 '약인공지능'으로 불리고 있으며 이것은 발생 가능한 변수가 제한적이고 범위가 한정된 업무를 수행하는데 탁월하다. 약인공지능은 창의적이지 않으며 예상치 못한 돌발 상황에 놓이면 작동을 멈추거나 엉뚱한 결과를 내놓는다. 반면에 강인공지능은 모든 상황에 스스로 대처할 수 있고 새로운 지식을 인공지능 스스로 창조하는 것도 가능하다. 하지만 아직 개발되지 못하고 있다.

강인공지능은 현재의 인공지능 기술로 불가능하다고 현장의 많은 연구자는 생각하고 있다. 더 나아가 대다수 인공지능 연구자들은 인간의 지능을 훨씬 능가하는 슈퍼 인텔리전스(초지능)의 출현은 더욱더 불가능하다고 여기고 있다.


컴퓨터와 두뇌

사람의 두뇌는 실제로 컴퓨터처럼 0과 1로 이루어진 이진수를 사용하여 정보 혹은 데이터를 주고받는가? 아니면 고대부터 인간은 항상 최신 기술을 우리의 두뇌를 묘사하는 비유법으로 사용했기 때문에 이렇다고 생각하는 것일까?

두뇌를 컴퓨터에 비유하는 데에는 몇 가지 유사점이 있어서다. 두뇌의 뉴런이 신호를 발사(fire, 밖으로 내보냄)하면 1 그렇지 않으면 0이라고 묘사함으로써 이진수 체계에 비유될 수 있다. 또한, 각각의 뉴런이 신호를 발사하는데 필요한 전기화학적 임계값을 측정할 수도 있다. 이론적으로 '뉴런 지도'를 만들면 이를 바탕으로 뇌를 프로그래밍할 수 있을 것 같아 보인다. 그러나 실제로는 그렇게 안 된다.

트랜지스터로 이루어진 컴퓨터의 반도체 회로는 1이나 0의 상태를 만들어주는 고정된 전압이 있는데 인간 두뇌의 뉴런은 고정된 전압이라는 게 존재하지 않는다. 신경과학 분야에서 수십 년간의 연구로 뉴런은 트랜지스터와 달리 발사 임계값을 임의대로 바꿀 수 있다는 것이 밝혀졌다. 이는 "신경 가소성"이라고 불리며 컴퓨터에는 이런 게 없다. 컴퓨터는 딱 정해진 전압에서만 작동이 가능하다.

또한 뉴런과 뉴런 사이를 이동하며 신호 발사 여부, 신호 발사 강도, 뉴런 간 신호 연결 정도를 조절하는 신경조절물질(neuromodulator)이라고 불리는 화학물질이 컴퓨터에는 없다. 이러한 뇌 화학물질은 뉴런이 신호를 발사하지 않아도 뉴런 상호 간에 영향을 줄 수 있도록 해준다. 이것은 컴퓨터의 이진수 정보 처리 체계와 완전히 다른 것이며 대부분의 뇌 활동이 신호 발사(1의 상태) 및 신호 발사 없음(0의 상태) 사이의 1도 아니고 0도 아닌 상태에서 발생한다는 것을 의미한다.

게다가 뉴런 신호의 발사 패턴조차 연구자들이 "자가 변동성"이라 불리는 현상에 따라 달라진다. 자가 변동성이란 외부 자극이나 정신 활동에 관련 없이 뇌에서 스스로 발생하는 신경 활동을 말한다. 이러한 자가 변동성은 뇌 활동의 95%를 차지하고 뇌 활동의 나머지 5%는 의식적 사고 활동으로 일어난다. 자가 변동성은 뇌에 있어서 암흑물질 혹은 정크 DNA로 비유가 된다. 우주과학에서의 암흑물질처럼 뇌 과학에서 여전히 미스터리로 남아 있다.

연구자들(신경과학자들)은 1930년대부터 전기적 신호 측정을 통해서 이러한 예측불가능한 뇌 활동의 변동에 대해서 알고 있었지만 그런 것들을 어떻게 해석하고 구현할 수 있는지는 알지 못했다. 연구자들은 외부 자극에 반응하고 정신 활동이나 신체 활동을 통해 일어나는 뇌 활동에 거의 집중해왔다. 연구자들은 뇌의 전기 신호 측정을 통해서 우리가 컴퓨터의 이진수 체계처럼 딱 꼬집어서 1 혹은 0이라고 확정지을 만한 상태가 드물다는 것을 알아냈다. 뉴런은 지속해서 이런 신호를 발사하지만, 그 이유는 거의 알려지지 않았다.

이러한 "자가 변동성"이 일어나는 원인은 무엇일까? 최근의 연구에 의하면 내부적인 신경 활동, 심장 및 위장 활동 그리고 기타의 신체 활동과 관련된 것일 수 있다고 알려졌다. 2010년 예일대학교 의과 대학의 데이빗 맥코밋 연구진과 2011년 칼텍의 크리스토퍼 코흐 연구진이 수행한 실험에서 한 뉴런의 신호 발사가 이웃 뉴런의 신호 발사 방식에 영향을 끼치고 더 나아가 교란을 일으킬 만큼 강한 전자기장을 생성하기도 한다는 사실을 밝혀냈다.

스캐너로 뇌의 뉴런을 확대해서 보면 모양이 상당히 거칠게 보인다. 반도체에 들어가는 트랜지스터의 경우도 확대해서 보면 역시 거칠게 보인다.

컴퓨터 트랜지스터의 경우 미세하게 만들수록 더 빈번하게 전자가 도체를 뚫고 다른 곳으로 나가는 양자 터널링 현상으로 오류를 일으킨다. 이런 현상 때문에 많은 컴퓨터 엔지니어들은 소위 말하는 '배경 잡음'과 '왜곡된 전기장' 같은 노이즈를 걸러내는 데 많은 노력을 기울이고 있다.

컴퓨터는 노이즈에 해당한다고 볼 수 있는 '자가 변동성'이 발생하면 그것은 심각한 에러를 유발하지만, 뉴런은 그것이 자연적인 특성이다.

이점이 컴퓨터와 뉴런의 가장 큰 차이점이다.


AI의 미래는 여러분들이 생각하는 것과 다르다


만약 노이즈가 새로운 신호라면? 만약 노이즈가 인간의 지능, 창의성, 의식의 핵심이라면?

조지 노스토프, 로빈 카하르트-해리스, 스타니슬라스 데헤네 같은 신경과학 연구자들의 관심사다.
인간의 의식이라는 것은 서로 동기화되고 자가 변동성으로 중첩된 주파수에서 발생한 새로운 속성이라고 주장한다. 이 이론에 따르면 신경과학자들은 심지어 뇌파 활동을 보는 것만으로도 누군가가 무엇인가를 의식하고 있는지 아닌지를 알 수 있다.

인공지능은 수십 년간 신경과학을 토대로 연구를 해왔지만 이와 같은 새로운 주장을 따르고 적용할 수 있을까?
예를 들어서 스타니슬라스 데헤네는 "자가 변동성이 거의 무시되고 있는 요소 중 하나이기 때문에 현재의 인공지능 컴퓨팅 모델은 심각한 오류가 있다. 컴퓨터와 달리 뉴런은 노이즈를 견딜 뿐만 아니라 심지어 증폭시킨다. 이는 복잡한 문제에 대한 새로운 해결책을 만들어내는 데 도움을 준다"라는 주장을 하고 있다.

자연에서 발생하는 눈사태가 결정론적으로 일어나는 특정 사건이 아니라 확률론적 문제의 랜덤 사건인 것처럼 의식이라 불리는 일련의 뇌 활동은 완전히 결정적이지 않고 랜덤한 속성을 가지고 있다. 동시에 똑같은 자극(외부신호)이 가해져도 어떤 때는 인식을 하고 어떤 때는 인식하지 못하는 것처럼 뉴런의 예측불가능한 자가 변동성은 어떤 때는 자극을 수용하고 어떤 때는 자극을 배척한다.

이렇기 때문에 데헤네는 인공지능이 인간처럼 의식이라는 것을 갖추기 위해서는 '자가 변동성'과 유사한 것이 필요하다고 본다. 서리 대학교 분자유전학 교수인 존조 맥파든은 '자가 변동성'으로 발생하는 전자기파 변동은 뉴런들이 새로운 환경에 대한 적응 능력을 생성하는 데 도움을 주는 진화적 이점으로 작용했을 것으로 추정한다.
그는 컴퓨터에 뉴런과 유사한 '전자기장의 상호 작용'(혹은 자가 변동성)이 없으면 인공지능은 영원히 멍청한 상태에서 벗어날 수 없고 의식이란 게 없는 고철덩이에 불과할 뿐이라고 평했다. 독일의 신경과학자인 게오르그 노스토프는 "의식을 지닌 인공 생명체"를 만들려면 '자가 변동성'이 반드시 필요하다고 주장한다.

이와 관련해서, 멜버른 대학의 인공지능 연구원인 콜린 헤일즈는 아직 인공지능 연구자들이, 다른 과학자들이 인공 심장, 위, 간을 만든 것과 같은 방식으로 인공 뇌를 만들려고 시도하지 않았다는 것이 참으로 희한한 일이라고 언급했다. 인공지능 연구자들이 실질적인 물리학을 사용하지 않고 대신에 뉴런 패턴의 이론적 모델을 수학 알고리즘으로 만들었다면서 이는 마치 비행기를 만드는 대신에 땅을 실제로 박차고 이륙하지 않는 비행 시뮬레이터를 설계하는 것과 같다고 헤일즈는 지적했다.

근래의 '자가 변동성' 연구가 인공지능에 대한 우리의 인식 자체를 어떻게 바꿀 수 있을까? 이것이 정확하다면 인공지능 발전은 이진수 체계의 컴퓨터 기반으로는 더 이상 안된다. 인간의 뇌처럼 활동의 95%는 우리의 무의식, 방황, 그리고 꿈꾸는 것과 유사한 '자가 변동성'이 있어야 발전이 가능할 것이라는 의미다.

'자가 변동성'은 '의식'이란 게 들어 있는 물리적인 실체에서 발생한다. 물리적인 실체와 동떨어져 있는 지능이란 것은 존재하지 않는다. 따라서 의식을 지닌 인공지능을 만들기 위해서 과학자들은 인공지능 연구에 해부학을 적용하며 세상에 반응하여 비결정적으로 작동하는 물리적인 실체에 통합해야 한다. 자가 변동성은 연못에 돌을 던지면 물결 파동이 일어나는 것처럼 세상에 반응하여 파동을 일으키는 역할을 한다. 즉 쉽게 말해서 '자가 변동성'은 다른 모든 형태의 지능처럼 미리 프로그래밍이 된 명령어 코드 없이 경험을 통해서 배울 수 있도록 한다.

파동(주파수)가 안정화되고 다음 휴지기에서 서로 동기화되는데에 시간이 걸린다. 이것은 아이들의 사례에서 살펴볼수 있는데 아이들은 성장하면서 더욱더 고차원의 중첩된 신경 주파수를 발달시켜 나간다. 다른 말로 표현하면 경험을 통해서 배운다는 말이다.

이래서 처음에는 강인공지능이 그다지 좋지는 않을 것이다. 좋아지려면 시간이 걸린다. 지능은 세상과 자기를 동기화시키려는(경험을 쌓으려는) 유기체(사람)의 이동 과정을 통해서 진화되었다. 세상을 돌아다니고 그것을 동기화하는 법을 배우는데는 시간이 걸린다. 미국의 SF소설 작가인 '테드 창'은 경험이라는 것은 수학적인 알고리즘으로 압축해서 표현할수 있는게 아니라고 지적했다.

이게 바로 꿈이 중요한 이유다. 실험 연구에 따르면 기억을 통합하고 학습을 촉진하는 데 꿈이 도움이 된다는 것을 확인시켜 준다. 왜 우리는 꿈도 꾸지 않으면서 인간 수준의 지능이 나타나기를 기대해야 하는가? 성인보다 배울것이 많은 신생아들이 렘수면 상태에서 성인보다 두 배나 많은 꿈을 꾸는 이유가 된다. 신생아들은 '필립 K. 딕'의 소설에 나오는 안드로이드 처럼 배울게 많다.

인공지능 연구자들이 돈벌이 목적으로 계산 노예를 설계하려는 시도를 멈추고 진정한 지능의 원천이 되는 '자가 변동성'을 지닌 전기양을 진지하게 받아들이기 전까지는 인간 수준의 인공지능(강인공지능) 개발에 진전이 없을 것이다.

------------------------------------------------------------------------------------------------

1. 우리가 사용하는 컴퓨터라는 것은 수학자들이 기반을 만들었다.
2. 컴퓨터는 이진수 체계로 움직이지만 인간의 두뇌는 이진수 체계가 아니다.
3. 노이즈(자가 변동성)를 수용하고 이용할수 있는 컴퓨터 기술이 나오기 전까지는 인간과 같은 수준의 인공지능은 만들수 없다.
4. 인공지능을 연구하는 것도 돈벌이가 되기 때문에 하는 것이고 강인공지능 연구는 돈벌이가 안된다.
5. 따라서 사람과 같은 수준의 자율주행 기술은 나올수 없다.