몬티홀 문제 — 선택을 바꾸면 정말 확률이 올라갈까?
처음 영화《21》 을 보며 이 문제를 접했을 때, 확률이 왜 달라지는지 이해하기 어려웠다. “문이 세 개인데 하나가 열리면 두 개 중 하나니까 반반이지”라고 생각했지만, 정답은 그렇지 않았다.
그냥 살짝 틀린 게 아니라, 선택을 바꾸면 승률이 두 배가 된다는 게 수학적으로 증명된다. 확률 차이가 꽤 크다.
영화 시청 당시 자료를 찾아보며 확률이 달라진다는 점을 이해했다고 생각했는데, 오랜만에 다시 몬티홀 문제를 보니 또 새롭게 느껴졌다. 그래서 직접 테스트해볼 수 있는 확률 시뮬레이션을 만들어 봤다.
영화《21》의 장면
교수 (미키 로사): 벤에게 추가 점수를 얻을 기회를 줘보기로 하지. “게임진행자의 문제”라고 부르기로 하자. 벤, 자네가 게임쇼에 나왔다고 가정하세. 세 개의 문 중에서 하나를 고를 수 있어. 셋 중 하나의 문 뒤에는 새 자동차가 있어. 나머지 두 개 뒤에는 염소가 있지. 벤, 어느 문을 택하겠나?벤: 1번 문이요.교수: 1번 문! 벤이 1번 문을 골랐다. 게임진행자는 문 뒤에 무엇이 있는지를 알고 있어. 다른 문을 열기로 했어. 그래서 3번 문을 열었지. 여기에는 염소가 있었어. 그리고… 벤에게로 다가와서 계속 1번 문을 선택할 것인지 다른 문으로 바꾸겠는지 물어보지. 자네의 직감을 따른다면 선택을 바꿀 텐가?벤: 네.교수: 잊지 마, 진행자는 어디에 차가 있는지 알고 있어. 속이려는 게 아닌지 어떻게 알 수 있지? 반심리학을 이용해 염소를 고르게 하려는 건 아닐까?벤: 그건 별로 상관없고 통계학에 근거하여 답한 겁니다. 변수가 바뀌었잖아요.교수: 간단한 질문 하나 했는데 변수가 바뀌었다고.벤: 네, 그래서 전부 바뀌었죠.교수: 설명해보게.벤: 처음에 문을 선택했을 때는 맞을 확률이 33.3%였죠. 하지만 문 하나를 더 열고 다시 선택의 기회를 준다는 건, 선택을 바꾼다면 확률이 66.7%로 올라가는 거죠. 그러니 2번 문을 선택하겠습니다. 33.3%의 확률을 더 얹어주셔서 감사합니다.교수: 정확히 맞췄어. 모두들 기억하도록. 어떤 문이 열릴 지 알 수 없다면 항상 변수가 변한다는 거야. 대부분의 사람들은 선택을 바꾸지 않지. 불신이나 두려움 따위의 감정들 때문이야. 하지만 캠벨 군은 감정을 배제했지. 그리하여 간단한 수학 계산으로 얻게 된 거지. 최신형 자동차를 말야! 학교 안에서라 해도 염소 타고 다니는 것보다 좋지. 오늘은 여기까지. 다들 수고 많았다. 채점한 레포트는 이쪽에 있으니 나갈 때 가져가도록 해.
그런데 왜 이 문제는 이렇게 직관에 어긋날까?
문제 규칙
무대 위에 문이 세 개 있다. 하나 뒤에는 자동차가, 나머지 둘 뒤에는 염소가 있다.
- 참가자가 문 하나를 고른다.
- 진행자 몬티가 나머지 두 문 중 염소가 있는 문 하나를 열어 보여준다.
몬티는 어느 문 뒤에 뭐가 있는지 알고 있고, 절대 자동차 문은 열지 않는다. - 몬티가 묻는다: 처음 선택을 유지할 건가요, 아니면 남은 문으로 바꿀 건가요?
여기서 어떻게 하는 게 유리할까?
직접 해보기
문을 하나 골라보세요.
대량 시뮬레이션
왜 50:50처럼 느껴지냐면
“열린 문 하나를 빼면 두 개가 남으니까 반반이잖아.”
이게 자연스러운 직관이다. 그리고 이 직관이 틀렸다.
핵심은 몬티가 아무 문이나 여는 게 아니라는 것이다. 몬티는 항상 염소 문만 열 수 있고, 내가 고른 문에는 손댈 수 없다. 이 제약 때문에 몬티의 행동 자체에 정보가 담긴다.
처음 선택이 맞을 확률은 1/3이다. 몬티가 문을 하나 연 뒤에도 그 값은 그대로 유지된다. 몬티는 자동차 위치를 알고 있으며, 규칙상 항상 염소 문만 열기 때문이다. 나머지 두 문 묶음에 원래 2/3가 있었는데, 그 중 하나가 열려서 사라졌다. 그러면 2/3 전체가 남은 문 하나로 몰린다.
직관이 말하는 50%가 아니라, 변경 전략의 실제 승률은 2/3이다.
10개의 문으로 생각해보기
문 3개짜리로는 감이 잘 안 잡힌다면, 10개로 늘려서 생각해보자.
10개 중에서 내가 하나를 고른다. 그러면 몬티가 나머지 9개 중 8개를 전부 열어버린다 — 전부 염소 문이다. 이제 딱 두 문만 남는다: 내가 처음 고른 문, 그리고 몬티가 끝까지 열지 않은 문 하나.
이 상황에서는 바꾸는 편이 더 유리할 것처럼 느껴지지 않나? 몬티가 8개를 솎아내고 남긴 저 문 하나, 뭔가 있어 보인다. 처음에 내가 정답을 고를 확률은 1/10이었다. 몬티가 아무리 문을 열어도 그 첫 선택의 확률이 갑자기 올라가진 않는다. 9/10의 확률이 결국 그 마지막 문 하나에 남아 있는 셈이다.
문 3개짜리 문제도 구조는 똑같다. 규모만 다르다.
직접 해보기 (문 10개)
문을 하나 골라보세요.
대량 시뮬레이션
실제 수치
| 전략 | 승률 |
|---|---|
| 처음 선택 유지 | 1/3 ≈ 33% |
| 선택 변경 | 2/3 ≈ 67% |
머리로는 이해했어도, 직접 해보기 전까지는 어딘가 찜찜한 느낌이 남는다. 위의 데모를 몇 번 해보면 아마 체감이 될 거다.
마치며
이 문제가 계속 회자되는 이유는 단순히 “답이 반직관적”이라서만은 아닌 것 같다.
몬티홀 문제는 “정보가 추가되었을 때 확률을 어떻게 다시 해석해야 하는가”를 보여주는 흥미로운 사례다.
직관적으로 하는 선택이, 확률적으로는 불리했던 것일 수도 있다.