번개같지만 눈멀고 꽉막힌 초지능 튜링머신과 창조적이고 진화적이지만 두레뭉실한 지각기계가 만날때.

 번개같지만 눈멀고 꽉막힌 초지능 튜링머신과 창조적이고 진화적이지만 두레뭉실한 지각기계가 만날때.

 제목이 뭔가 이상하지만 넘어갑시다.

 이글은 세권의 책 "특이점이 온다" "뇌는 하늘보다 넓다" "세컨드 네이처"를 읽고 나름대로 정리한 생각입니다.

 전에 특이점이 오는걸까? 라는 포스팅을 했었죠. 연결되는 내용이기도 합니다. 생각이 정리되면 다시 글쓴다고 했는데 거의 한달이 걸려서 글을쓰게 되는군요. 사실 이 세권의책들에 대한 각각의 서평이나 요약은 훌륭한 글이 많습니다. 아래에 몇개링크합니다.

[간단서평] 세컨드 네이처, 제럴드 에델만, 이음

[간단서평] 제럴드 에덜먼의 책들

고작 40년 후 면 공각기동대는 현실화되는 것인가?

 그러니 저는 조금 다른식으로 이야기를 해보려고 합니다. 세책의 내용을 다 합쳐서 생각해 보는거죠. 내용이 방대해서 전부 다룰수는 없습니다. 그러므로 저는 미래에는 과연 세상이 어떻게 될까? 하는 관점에서 말을 해보려고 합니다.

 결론적으로 특이점이 오긴 오는데 제 생각에는 좀 늦겠습니다. 레이 커즈와일 씨가 생각한것보다 10년쯤 늦어지지 않을까요? 그래도 오긴 올것 같으니 우리모두 여유를 갖고 느긋하게 기다리죠.

 커즈와일씨는 대략 이렇게 생각합니다. 앞으로 2020년대에 뇌의 연산능력을 넘어서는 슈퍼컴퓨터가 나온다. 이런 초지능 컴퓨터는 다시 자기자신의 설계를 향상시켜서 자기보다 더 강력한 지능을 만들 수 있을것이다. 그렇다면 일단 초지능이 등장한후 에는 지금의 발전속도와는 비교가 불가능할 정도로 빠르게 기술이 발전할것이다. 이것이 기하급수적인 발전의 특이점이다.

 그러나 에델만씨의 생각은 조금 다릅니다. 전제부터 조금 차이가 있군요. 뇌는 전혀 연산기계가 아니랍니다. 뇌는 논리적인 연산으로 동작하는것이 아니라, 생물계의 자연선택와 유사한 선택의 원리로 움직인다고 합니다.  뇌에 관해 조금 정리해볼까요.

 뇌는 초기발달과정에서 무작위적으로 엄청난수의 변이체 연결을 만들어 냅니다. 다음으로 환경으로부터의 입력과 내부 가치체계의 강화(=감정)를 영향을 받아 특정한 연결은 선택되고 어떤연결은 약해집니다. 마지막으로 이런 연결들이 재유입으로 서로 연결되어 동기적으로 발화하며 통합적이고 구성적으로 동작합니다. 이 과정이 바로 의식이기도 합니다. 이런 원리에서 출발한 뇌에관한 관점은 우리에게 상당히 시사점을 던져 줍니다.

 뇌는 패턴인식(=선택주의)을 근본원리로 동작합니다. 이 패턴인식은 은유를 말합니다. 은유라는건 "비스무리한 것 같다"을 말합니다. 즉 뇌는 모호한 입력을 처리할수 있습니다. 모호한 환경을 받아들여 그안의 패턴을 인식합니다. 그리고 출력도 모호하게 냅니다.

 그런데 문제는 이런 모호함이 가장 주된 창조의 원천이라는 것입니다. 뇌의기억은 컴퓨터처럼 저장메모리에 주소를 붙여서 꺼내 쓰는 방식이 전혀 아닙니다. 기억을 회상 할때마다 이전의 연결과는 다른 연결을 만들고, 다음의 기억은 또 다른 연결을 만드는 식입니다. 과거와 동일한 연결이라는 것이 없으며 언제나 변화하는 것입니다. 뇌는 엄밀성과 정확함을 희생하고 창조성과 적응성을 얻은 시스템입니다. 엄청나게 다양한 입력 (= 환경)에 적응하기 위해서요.

 반면에 모든 컴퓨터는 튜링머신입니다. 컴퓨터는 명확한 논리소자와 알고리즘을 바탕으로 동작하고 내부 오류는 치명적입니다. 그리고 일정한 방식으로 점이 찍힌 테이프...예를 들면 이진수 입력 같은 것밖에 이해 못하고 미리 결정된 연산과정을 거쳐서 출력을 내보냅니다.

 종합하면 이런 소리입니다. 계산상 사람의 뇌연산능력과 맞먹는 스펙의 슈퍼컴퓨터가 나와도, 창조적으로 자기자신의 설계를 발전시키는건 고사하고, 현실파악도 혼자서는 전혀 못할겁니다. 여전히 사람이 달라붙어서 할일을 미리 프로그램을 안해주면 스스로는 아무것도 못하는 꽉막힌 멍청한 초지능이라는 것입니다. 으악! 지금과 변한게 없잖아!

 컴퓨터의 연산능력을 높이는것 만으로 창조성이 생기지 않는다는 것이죠. 하지만 이것이 특이점이 불가능 하다는것을 이야기하는 건 아닙니다. 제럴드에델만씨는 자신이 만든 연구소에서 뇌의 원리를 본떠서 제작한 로봇들을 몇개 소개합니다. 뇌의 특성을 모방하려면 소프트웨어만으로는 구현할수 없다고 합니다. 선택의원리로 움직이는 가상뇌를 가진 로봇을 만들어야 한다고 합니다. 환경을 받아들이는 지각과 마음대로 움직일수 있는 몸도 있어야 합니다. 그러면 미리 지시하지 않아도 알아서 환경에 적응하며 움직이는 기계를 만들수 있다는것 입니다. 뇌의 원리를 본뜬 로봇을 만드는데 생물학적 구조가 필요한것은 아닙니다. 현재는 요원하지만 미래에 가상뇌의 복잡성이 인간의 뇌에 필적할 정도가 된다면, 의식을 가진 기계도 만들수 있다고 봅니다. 다만 이런 기계의식은 인간의식과는 다를것이라고 합니다. 변이체 선택을 바탕으로 동작하는 가상뇌의 특성상 인간뇌의 고유한 특성과 일치할 가능성은 없다고 하는군요.

 그런면에서 제럴드씨는 한가지 재미있는 이야기를 합니다. 미래에 논리적으로 동작하는 튜링머신과, 패턴인식으로 작동하는 지각기계를 융합시켜서 서로의 장점을 가진 기계가 등장할수 있을까 하는 이야기 입니다.  가능성이 있다고 생각합니다. 이런기계는 환경을 이해하며 패턴을 인식하고 창조적인 능력과, 튜링기계의 막대한 정보저장과 논리적 연산능력의 강점을 동시에 갖춘 존재가 될것 이라고 봅니다.

 결론적으로 앞으로 컴퓨터의 집적도와 연산속도가 지수함수적으로 향상된다고 해도, 컴퓨터가  더 좋은 컴퓨터를 알아서 생각해내서 설계하지는 못할 것으로 보입니다. 고로 이것만으로는 특이점이 올것 같지 않습니다. 하지만 앞으로 우리가 뇌의 동작원리를 더 깊이 이해해서 패턴인식을 바탕으로 동작하며 인간의 뇌와 맞먹는 복잡성을 지닌 지각기계를 만들수는 있습니다. 다음으로 이 지각기계와 초지능컴퓨터를 융합시켜서 서로의 장점을 모두 지닌 기계를 만들수도 있을겁니다. 그 때쯤에는 진짜 비생물학적 지능이 인간을 초월했다고 인정하고, 인간의 존재의미가 뭔지 진지하게 고민해야 할것 같긴합니다.

 그럼이만.