세 줄 요약

  • 흉내 게임(a.k.a 튜링 테스트) 개념의 첫 도입
  • ‘기계는 생각할 수 있는가?’라는 질문을 ‘흉내 게임을 통과하는 기계를 만들 수 있는가?’로 대체해 보자
  • 그렇게 대체해도 의미 있을걸?

1. 흉내 게임 (Imitation game)

기계가 생각할 수 있을까? → ‘생각하다’의 정의란 무엇인가로 시작하면 논의를 더 이어갈 수 없음 사람과 기계에게 똑같은 질문을 던졌을 때 답변을 듣고 어느 쪽이 기계인지 구분할 수 있을까?

2. 새로운 질문에 대한 비판

이것(흉내 게임)이 과연 탐구할 만한 가치가 있는 질문인가?

  • 장점 : 인간의 신체적 능력과 지적 능력을 구분해서 볼 수 있다. 우리는 지금 인간의 신체적 유사성을 가져오는데는 아무 관심 없음
  • 뭐 어쨌든 여기서 흉내 게임을 이론적으로 탐구하려는 건 아님

3. 흉내 게임에 참가하는 기계는 어떤 기계인가?

여기서 다루는 기계는 어디까지 포함하는가? 모든 공학적 기법을 다 허용해야 하는가? → 한쪽 성별의 세포 하나를 추출해서 온전한 인간 하나를 만들 수 있는 기술이 생긴다면, 그러한 기술로 만들어진 것 또한 ‘공학 기술을 사용한 결과’이므로 기계에 포함시켜야 하나? → 아무래도 안될듯 → 디지털 컴퓨터에 국한시켜 생각하자

4. 디지털 컴퓨터

디지털 컴퓨터란?

그러니 앞으로 사용할 디지털 컴퓨터를 아래와 같이 제시한다

  • 저장부 / 실행부 / 제어부 로 구성됨
  • 제어부는 명령표 테이블을 받아들이는 곳. 실행할 작업의 순서를 관리
  • 디지털 컴퓨터는 임의적인 행동을 (또는 그렇게 보이는 행동을) 할 수 있다

배비지의 해석 기관(?)

5. 디지털 컴퓨터의 만능성

디지털 컴퓨터는 이산 상태 기계. 물론 실제 전류 신호는 연속적이겠지만 이산으로 취급하는 게 편하다. 이산 상태의 개수는 어마어마하게 많긴 할 것

만능성

  1. 임의의 이산 상태 기계의 명령표 테이블이 주어져 있고 최초 인풋 값을 안다면 디지털 컴퓨터는 그 기계의 동작을 (내부 로직은 몰라도) 흉내낼 수 있을 것이다
  2. 임의의 이산 상태 기계와 디지털 컴퓨터가 흉내 게임을 하면 둘을 구분하기는 쉽지 않을 것이다 물론 속도와 용량이 뒷받침되어야 하겠지만
  3. 디지털 컴퓨터는 모든 이산 상태 기계를 흉내낼 수 있다
  4. 따라서 다양한 연산 작업을 수행하기 위해 매번 새 기계를 만들 필요는 없다 디지털 컴퓨터만 있으면 만능이야~

기계가 생각할 수 있을까 = 흉내 게임을 잘할 수 있는 디지털 컴퓨터 상상하기

6. 중심 질문에 대한 반론들

  1. 신학적 반론
    • 주장 : 생각은 인간 영혼의 기능이다. 신은 영혼을 인간에게만 주었지 동물이나 기계에게는 주지 않았다
    • 반박
      • 인간과 동물의 구분은 다분히 자의적이다. 인간과 기타 동물 사이의 차이보다는 유정물과 무정물 사이의 차이가 더 크다. 근데 그건 그렇다치고, 동물에게 영혼이 없다는 걸 어떻게 아는가? 신께서 마음 내키면 기계에도 영혼을 불어넣을 수도 있는 거 아니겠나?
      • 하지만 이건 사변에 불과하고 난 애초에 신학적 논변에 별로 관심이 없다
  2. 모래에 처박은 머리 반론
    • 주장 : 기계가 생각을 한다면 너무 끔찍할 테니 생각 못하기를 바라고 믿자
    • 반박
      • 생각하는 기계 문제에 있어 이 논변으로부터 자유로운 사람은 거의 없다. 우리는 인간이 어떤 방식으로든 나머지 피조물보다 우월하다고 믿고 싶어 한다. 필연적으로 우월하다는 사실을 입증할 수 있다면 최선인데, 그러면 자신의 우월한 지위를 잃을 위험이 거의 없기 때문이다. 아마 그래서 신학적 논변이 인기 있는 것 아닐까?
      • 뭐 이 논변이 반박을 필요로 할 만큼 탄탄한지는 모르겠다. 반박보다는 위로가 필요해 보인다
  3. 수학적 반론
    • 주장 : 수학의 결론 중에선 이산 상태 기계의 능력에 한계가 있음을 밝히는 것들이 많다. 괴델의 불완전성 정리가 대표적. 기계가 영원히 대답할 수 없는 질문은 분명히 존재한다
    • 반박
      • 인간 지성에도 그런 한계는 있을 거 같은데? 인간이 정답을 알고 있는 질문에 기계가 오답을 내놓는 일은 우리에게 모종의 우월감을 선사한다. 매우 순수한 감정임은 의심할 여지가 없지만 여기에 지나친 중요성을 부여할 필요는 없어 보인다.
      • 주어진 기계보다 더 똑똑한 사람은 있을 수 있다. 그러나 그 사람보다 더 똑똑한 기계도 있을 수 있다.
  4. 의식 논변
    • 주장 : 기계는 자신이 무엇을 행하고 있는지 의식할 수 없다. 가령 소네트나 협주곡을 쓴다고 치자. 단순히 작품을 쓰는 것 말고 자신이 그 작품을 썼다는 사실을 인지할 수 있어야 하지 않냐?
    • 반박
      • 이 견해가 가장 극단적인 형태로 가면 ‘기계가 생각한다고 확신할 수 있는 유일한 방법은 기계가 되어 자신이 생각한다는 것을 실감하는 것’이 된다
      • 그럼 어떤 사람이 생각을 한다는 걸 알 수 있는 유일한 방법은 그 사람이 직접 되어보는 거겠네요.. 이건 유아론적 관점. 가장 논리적인 견해일 수야 있겠지만 이래선 소통하기가 힘들다
      • 이런 문제를 놓고 끝없이 논쟁하는 것보단 모든 사람이 생각을 한다는 통념을 받아들이는 게 상식적
  5. 다양한 행위 무능력 논변
    • 주장 : 당신이 언급한 모든 기능을 갖춘 기계를 당신이 만들 수 있다는 건 인정한다. 하지만 X를 하는 기계는 결코 만들 수 없을걸? (X: 지혜롭기, 아름답기, 친해지기, 유머 감각을 발휘하기, 사랑에 빠트리기, 실수를 저지르기, 아무튼 우리가 인간적이라고 지칭하는 많은 것들)
    • 반박
      • 네가 본 것 중에 그런 기계가 없었을 뿐이지 세상에 존재하는 모든 기계를 다 본 건 아닐 텐데
      • 내가 본 것 중에선 없었다 → 따라서 그런 기계는 존재하지 않을 것이다. 이게 과연 귀납적 추론이 가능한 영역인가?
      • 실수를 저지르는 건 기계도 할 수 있다. 무작위 행동 넣어서 실수도 구현하면 되는 거 아니냐
  6. 러브레이스 부인의 반론
    • 주장 : 기계는 결코 독창적인 일을 하지 않는다. 기계는 우리가 어떻게 명령해야 할지 ‘아는’ 모든 일을 할 수 있다
    • 반박
      • 그렇게 치면 인간도, 자신이 해낸 ‘독창적인 일’이 단순히 배움에 의해 자신에게 심어진 씨앗이 자라거나 널리 알려진 일반 원리를 따른 결과가 아니라고 누가 확신할 수 있겠는가?
  7. 신경계와의 연관성 논변
    • 주장 : 이산 상태 기계는 신경계의 행동을 흉내낼 수 없을 것이다.
    • 반박
      • 물론 신경계는 이산 상태 기계가 아니므로 좀 다르긴 할 것이다
      • 하지만 좀 더 단순화된 연속 기계를 생각해 보자. $π$ 의 값을 구하는 흉내 게임을 하는데, 각각 0.05, 0.15, 0.55, 0.19, 0.06 의 확률로 3.12, 3.13, 3.14, 3.15, 3.16의 값 중에서 하나를 무작위로 고르는 기계라면, 이런 기계를 디지털 컴퓨터와 구분하기란 힘들 것이다
  8. 비격식적 행동 논변
    • 주장 : 상상할 수 있는 모든 상황에서 사람이 어떻게 행동해야 하는가를 규칙으로 간추리는 것을 불가능하다. 가령 신호등이 고장나서 빨간등 초록등이 둘 다 켜지면 그때는 어떻게 행동할 것인가? 모든 사태를 아우르는 행동 규칙을 제시하는 건 불가능하다. 따라서 우리는 기계일 수 없다
    • 반박
      • 이건 다르게 표현하자면 ‘유한한 행위 규칙을 가진 사람은 기계보다 나을 것이 없다. 하지만 그런 규칙은 없으므로 인간은 기계일 수 없다’가 된다. 매개념 부주연의 오류 (두 전제에서 각각 대상의 서로 다른 부분을 지칭하여 타당한 결론을 내리지 못하는 오류) 가 있는 문장이다. ‘빨간불을 보면 멈추라’ → 이건 행위 규칙. 우리는 이걸 의식할 수 있다. 반면 ‘상대방을 꼬집으면 비명을 지를 것이다’ → 이건 행동 법칙. 둘은 다른 개념이다. 첫 문장에서 ‘유한한 행위 규칙’을 ‘유한한 행동 법칙’으로 바꿔야 매개념 부주연의 오류에 빠지지 않는다.
      • 온전한 행위 규칙이 없는 기계 → 이건 그럴 수 있음. 온전한 행동 법칙이 없는 기계 → 이건 좀 이상하다.
  9. 초감각 지각 논변
    • 주장 : 초감각 지각(텔레파시, 투시, 예지, 염력)을 뒷받침하는 통계적 근거는 엄청나게 많다. (예?) 일단 초감각 지각을 받아들이면 심령과 악령을 믿는 것은 시간문제다. (예???) 텔레파시 수신 능력이 뛰어난 사람과 디지털 컴퓨터가 답변자로 참가하는 흉내 게임에서, ‘제 오른손에 있는 카드가 무슨 패인가요?’ 같은 질문을 받는다면, 텔레파시 능력자는 디지털 컴퓨터보다 더 높은 정답률을 보일 것이므로 질문자는 누가 컴퓨터인지 알아맞힐 수 있다 (이걸 이렇게 진지하게??)
    • 반박
      • 디지털 컴퓨터에 난수 발생기가 들어 있다고 가정해 보자. 그러면 컴퓨터는 어떤 답을 내놓을지 결정할 때 당연히 난수 발생기를 이용할 텐데, 그 경우 난수 발생기는 질문자의 염력에 감응할 것이다 (아니 진짜 뭐라는 거임)
      • 그러니까 컴퓨터의 정답률이 더 높을 수도 있음
      • 텔레파시가 허용된다면 시험 요건을 엄격하게 해야 할 것이다 (ㅠㅠ?)
    • 이 논변에 대한 곽재식 작가의 해제 : 아무래도 튜링이 좀 과도하게 열려 있었던 사람이 아닐까
    • 하지만 나의 생각 : 아까 신학적 논변 반박할 땐 많이 닫혀 계셨는데?

7. 학습하는 기계

양파 껍질에 비유하기

  • 마음이나 뇌의 기능 중에선 순전히 수학적 측면으로 설명할 수 있는 작업들도 섞여 있겠지? 그걸 양파 껍질이라고 생각하고 벗겨내자
  • 하지만 한 겹을 벗겨내자 남은 것 안에서 또 벗겨질 껍질을 발견한다
  • 또 벗겨낸다
  • 또…
  • 이걸 계속하다 보면 언젠가 ‘진짜 마음’에 다다르게 될까, 아니면 안에 아무것도 없는 껍질에 이르게 될까? 후자의 경우 마음은 총체적으로 기계적인 거라 할 수 있음
  • 우리에게 충분한 공학적 기술이 생긴다면 언젠간 이런 실험을 해 볼 수도 있겠지. 하지만 그건 너무 먼 미래 같은데, 지금 우리는 무슨 말을 할 수 있는가? 이 실험에 성공하려면 지금부터 어떤 단계를 밟아둬야 하나?

관건은 프로그래밍. 위의 실험을 하려면 사람의 마음을 흉내내는 기계를 만든 다음 어디까지 흉내낼 수 있는지 (N번째 양파 껍질을 벗겨냈을 때도 흉내낼 수 있는지)를 봐야 한다

  • 그런데 성인의 마음 말고 아동의 마음을 흉내내도록 만들면 어떨까?
  • 처음부터 좋은 아동 기계를 찾으리라 기대할 수는 없다. 시험 삼아 가르치면서 얼마나 잘 배우는지 살펴봐야 한다. 하지만 이 교육 과정이 진화보다는 더 효율적이면 좋을 것이다. 적자생존은 장점을 측정하기에는 굼뜬 방법.
  • 기계는 가정 교사에게 교육을 받아야 한다. 헬렌 켈러 여사의 사례에서 보듯 어떤 수단을 통해서든 교사와 학생이 양방향으로 소통할 수만 있다면 교육이 가능하기 때문이다.