이미 지나간 떡밥인 듯하지만 요새 몬티홀 문제에 대해 나름대로 열심히 고민해보고 얻은 제 생각을 공유해보려고 합니다. 몬티홀 문제의 답은 오래전부터 알고 있었지만 뭔가 찝찝한 기분이 계속해서 들었었는데 지금은 어느 정도 정리가 된 것 같습니다. 저와 비슷한 다른 분들에게도 도움이 되었으면 합니다.

몬티홀 문제의 풀이는 두 가지로 이야기되고 있습니다.

1. 처음 선택한 문이 맞을 확률은 1/3 , 선택을 바꾸지 않는다면 그대로 1/3이고 선택을 바꾸면 2/3이 된다. (남은 두 개의 문중 하나에는 반드시 상품이 있으므로)

2. 경우의 수를 하나하나 생각해서 하는 방법. 내가 1번 문을 선택했다고 가정할 때 상품이 1번에 있을 확률 1/3, 2번에 있을 확률 1/3, 3번에 있을 확률 1/3인데. 선택을 바꾸지 않았는데 상품을 탈 경우는 공이 1번에 있을 경우이므로 1/3이고 선택을 바꿨는데 상품을 탈 경우는 공이 2번 또는 3번에 있을 때이므로 2/3이다.

1번 풀이의 경우, 틀린 풀이라고 말할 수는 없지만 오해를 일으킬 수 있는 소지를 가지고 있습니다. 물론 처음 선택한 문이 맞을 확률 1/3, 바꾸지 않으면 1/3, 바꾸면 2/3 다 맞는 말이지만 이 말을 처음 선택한 확률이 정보가 주어진 후에도 그대로 이어진다는 의미로 해석해서는 안 됩니다. 즉, 처음의 확률인 1/3과, 사회자가 다른 한 문을 보여주는 정보를 준 후 선택을 바꾸지 않았을 때의 확률 1/3은 우연히 일치한 것이지 정보의 종류에 따라 얼마든지 바뀔 수 있는 수치입니다. 그러므로 단순히 ‘처음에 1/3 이었으니까 그대로 1/3이다’ 라는 말은 지나친 생략이거나, 혹은 잘못된 과정으로 운이 좋아서 옳은 답에 도달한 케이스라고 할 수 있습니다.

그런 점에서 2번 풀이가 더 정확하고 깔끔한 표현이라고 생각하고 이 풀이에 대해서는 이견의 여지가 없습니다. 그럼에도 불구하고 저를 포함한 많은 사람들이 몬티홀 문제의 풀이가 이성적으로는 이해가 가지만 뭔가 와 닿지가 않는다는 생각을 하는 것으로 알고 있습니다. 저는 그 이유가 (옳은 풀이임에도 불구하고) 상황이 다른 듯한 느낌을 주기 때문이라고 생각합니다. 몬티홀 문제의 상황은 내가 문을 선택하고 사회자가 다른 문 하나를 연 바로 그 상황에서, 바꾸냐 바꾸지 않느냐, 두 개의 문중에 어떤 문을 선택하느냐의 문제입니다. 반면 2번 풀이의 상황은 내가 하나의 문을 선택한 그 시점에서 출발합니다. 만약 1번에 상품이 있으면 어쩌고, 2번에 상품이 있으면 어쩌고, 이런 식으로요. 만약 사회자에 의해 하나의 문이 열린 그 상태에서 출발하는 설명이 있다면 좀 더 와 닿는 설명이 될 수 있고, 몬티홀 문제를 보다 잘 이해하게 될 수 있다고 생각합니다.

한번 시도해 보겠습니다. 제가 1번 문을 선택하고, 사회자가 2번 문을 열었습니다. 이제 저는 1번 문이냐, 3번 문이냐 둘 중 하나의 선택만 가능합니다. 그런데 이 상황에 집중하면 아무리 생각해도 1/2 같다는 생각이 듭니다. 아니라는 것을 알아도 뭔가 느낌이 이상합니다. 이 상황에서 1번 문에 상품이 있을 확률이 1/2가 아닌 1/3임을 설명하기 위해서는 어떻게 해야 할까요? 고등학교 때 저희 수학 선생님이 하신 말씀이 있습니다. 수학 문제를 풀다 막힐 때는 주어진 조건을 모두 활용하고 있는지를 확인하라고. 지금 생각해도 정말 명언입니다. 저는 지금 이 문제를 풀기 위해 어떤 조건을 활용하고 있을까요?

1. 처음에는 각각 동일한 확률로 1번 문, 2번 문, 3번 문중 하나에 상품이 들어 있었다.  
2. 2번 문에는 상품이 없다.

이것 말고 문제에서 주어진 조건이 있을까요? 이것 외에 다른 조건을 찾아내지 못한다면 1/3이라는 답은 절대 구할 수 없습니다. 아래 문제는 몬티홀 문제를 살짝 변형한 문제입니다.

[ 1번, 2번, 3번 문 중 하나에 상품이 있다. 상품이 들어 있는 문을 맞추면 그 상품을 얻을 수 있다. A는 1번 문을 선택했는데, 갑자기 바람이 불어 2번문이 살짝 열리는 바람에 2번 문에 상품이 없다는 것을 확인했다. 그 사실을 모르는 사회자는 지금 다른 문을 선택해도 된다고 한다. A는 상품을 받기 위해 1번, 3번 문 중 어떤 문을 선택해야겠는가? ]

위 문제에서는 1번, 3번 모두 1/2의 확률로 어떤 문을 선택하든 무방합니다. 이 문제와 몬티홀 문제의 차이가 무엇일까요? 이 문제는 앞서 제가 몬티홀 문제를 풀기 위해 필요하다고 제시한 2가지 조건‘만’을 만족하는 문제입니다. 즉, 몬티홀 문제의 답인 1/3은 이 두 가지 조건에 더해서, 다른 추가적인 조건을 찾아내야 도출될 수 있습니다. 이 추가적인 조건은 위 문제와 몬티홀 문제의 차이점에서 찾아낼 수 있습니다. 사회자가 문을 여는 것과 우연히 바람에 의해 문이 열리는 것의 차이, 다시 말하면, 의식적으로 문을 열어 보여주는 것과 우연히 열리는 것의 차이라고 할 수 있습니다.

몬티홀 문제에서 사회자가 어떤 문을 열지 결정하는 메커니즘은 다음과 같습니다. (설명의 편의상 내가 1번을 골랐다는 가정하에서) 1번에 상품이 있다면 2번이나 3번 중 하나의 문을, 2번에 상품이 있다면 3번의 문을, 3번에 상품이 있다면 2번의 문을 엽니다. 바로 이 메커니즘 때문에 (사회자가 2번 문을 열었을 때) 1번 문과 3번 문의 확률이 차이가 나게 되는 것입니다. 사회자가 이런 식으로 문을 연다는 것은 누구나 다 설명할 수 있는, 어렵지 않은 내용임에도 불구하고 이 조건을 간과한다면 올바른 답을 구할 수 없습니다. 몬티홀 문제의 핵심은 이것이고, 이 조건을 사용하지 않은 모든 풀이는 틀린 풀이입니다. 사회자가 어떤 문을 선택한 것은 정해진 메커니즘에 의해 결정된 것이고 그 메커니즘은 상품의 위치에 영향을 받습니다. 그러므로 사회자가 골라준 문은 상품의 위치를 역추적할 수 있는 근거가 된다는 것입니다.

위의 변형된 몬티홀 문제와 비슷한 문제이지만 몬티홀 문제에 조금 더 가까운 문제를 생각해 볼 수도 있습니다. 몬티홀 문제와 동일한 상황에서 제가 1번 문을 선택했고 사회자가 ‘아무런 생각 없이’ 2번 문을 열었는데 거기에 상품이 없는 상황입니다. 이 상황에서는 1번에 상품이 있을 확률이 1/3이 아닌 1/2입니다. 사회자가 2번을 연 것은 상품의 위치에 영향을 받는 행위가 아니기 때문에 그 행위로부터 상품의 위치를 추론할 수 없는 것입니다. 사회자의 행위와 상품의 위치의 관계, 이것을 파악할 수 있냐 없냐에 따라 확률이 바뀌게 됩니다.

이런 생각을 해보니 몬티홀 문제가 왜 많은 사람들을 혼란스럽게 하는지 알 것 같습니다. 사회자는 하나의 문을 열어서 사람들에게 그 문에 상품이 없다는 정보를 줍니다. 물론 매우 중요한 정보입니다. 하지만 그 강력한 정보로 인해 사회자의 결정 과정 자체에서 얻을 수 있는 또 다른 정보를 파악하기 어려워집니다. 결국 사회자는 2번 문에 상품이 없다는 정보에 그치지 않고 그 이상의 정보를 주고 있음에도 우리는 2번 문에 상품이 없다는 정보를 제외하고는 그리 중요한 것으로 생각하지 않게 됩니다.

결론적으로 몬티홀 문제는 강력한 정보와 함께, 그에 비해 약해 ‘보이는’ 정보를 함께 줌으로써 문제 해결에 꼭 필요한 정보를 파악하기 힘들게 하여 사람들을 혼란스럽게 하는 것 같습니다.