세 줄 요약

  • 나 대신 생각하는 기계, 가능하지 않을까?
  • 논의의 편의를 위해 그런 기계가 가능하다고 가정하고 그 결과를 생각해보자

기계가 답을 내놓지 못하지만 인간(수학자)는 답을 내놓을 수 있는 질문도 분명 있긴 할 것이다

  • 하지만 기계는 고장을 논외로 하면 인간만큼 실수하지 않는다

  • 주장 : 인간 정신의 행동을 비슷하게 흉내낼 수 있는 기계를 만들 수 있다

    → 이 주장을 입증하려면 기계가 스스로를 교정하거나 외부의 주장에 의해 교정될 수 있어야 한다

    → 경험에서 배울 수 있다면 더 안정적일 것

    → 기계에 적절한 경험을 부과하는 이 과정을 ‘교육’이라 부를 수 있을듯

기계의 교육을 유능한 교사에게 맡기자

  • 교사는 이 실험 자체에는 관심 가지되 기계의 내부 작동에 대한 자세한 정보를 얻지 못하도록 하고

  • 기계를 만든 기술자는 기계가 계속 작동하도록 관리하는 게 허용되며, 기계가 제대로 작동하지 않는다고 생각되면 이전 단계로 돌아가 교사에게 그 단계에서 교육을 다시 해달라고 요청하거나, 교육에 전혀 개입하지 않을 수도 있음

이런 기계는

  • 기억을 내장하고 있을 것이고
  • 경험 색인이 들어 있을 것이고
  • 교사가 조작할 수 있으며 쾌락과 고통의 관념을 표상하는 새 개념이 필요할 것이다
    • 그렇지 않으면 ‘정답을 맞추는’ 방향을 바람직하게 여길 유인이 없으므로
  • 추가로 임의적 요소를 접목하면 더 좋을 거 같다
    • 이렇게 하면 기계의 행동이 전적으로 경험에 따라 결정되지 않을 것

일자리를 잃을까봐 우려하는 지식인들도 있겠지 하지만 들어봐

  • 기계가 정한 기준에 맞게 지능을 유지하려면 - 이를테면 기계가 하는 말을 알아 들으려면 - 할 일이 많을 것
  • 기계가 생각하기 시작하면 머지않아 우리 능력 같은 건 뛰어넘을 수 있다
  • 또한 기계는 서로 대화하면서 지혜를 닦을 수 있을 것
  • 따라서 어느 단계가 되면 우리는 기계가 주도권을 쥐는 상황을 예상해야 한다