집을 구하러 다니다 보면 늘 같은 고민에 빠집니다. 지금 본 집이 꽤 마음에 드는데 바로 계약할지, 아니면 더 좋은 집이 나올지 몰라 조금 더 둘러볼지 망설이게 됩니다. 너무 서두르면 더 좋은 기회를 놓치고, 너무 오래 고르면 이미 지나간 좋은 집은 다른 사람에게 넘어가 버립니다.

이처럼 언제 멈추고 선택해야 하는지를 수학으로 따져 본 대표적인 문제가 바로 ‘비서 문제(Secretary Problem)’입니다. 지원자를 한 명씩 면접하면서 그 자리에서 뽑을지 말지를 정해야 할 때, 가장 뛰어난 사람을 고를 확률을 최대로 높이는 방법을 찾는 문제를 의미합니다. 그 답은 흔히 ‘37% 법칙’이라고 불립니다.

본 자료에서는 비서 문제가 어떤 규칙으로 이루어져 있는지부터 37% 법칙이 나오는 원리, 이 문제가 알려지게 된 역사, 그리고 현실에 적용할 때 주의할 점까지 차례로 살펴보겠습니다.

언제 멈추고 고를 것인가, 비서 문제

비서 문제의 규칙

비서 문제는 몇 가지 단순한 규칙 위에서 출발합니다. 이 규칙들이 맞물리면서 고르는 일이 생각보다 훨씬 어려워집니다.

(1) 정해진 수의 지원자
뽑을 자리는 하나이고, 지원자가 모두 몇 명인지는 미리 알고 있습니다. 지원자들은 모두 모아 놓고 보면 가장 뛰어난 사람부터 가장 부족한 사람까지 분명하게 순서를 매길 수 있다고 가정합니다.

(2) 무작위 순서의 면접
지원자는 무작위 순서로 한 명씩 면접을 봅니다. 면접관은 지금까지 만난 사람들 가운데 이번 지원자가 몇 번째로 나은지만 알 수 있을 뿐, 아직 만나지 않은 사람들이 얼마나 뛰어난지는 알 수 없습니다.

(3) 되돌릴 수 없는 결정
면접이 끝나면 바로 뽑을지 떨어뜨릴지를 정해야 하고, 한번 떨어뜨린 사람은 다시 부를 수 없습니다. 목표는 오직 한 가지, 전체에서 가장 뛰어난 단 한 사람을 뽑는 것입니다.

37% 법칙이 나오는 원리

이 문제의 가장 좋은 전략은 놀라울 만큼 간단합니다. 처음 일부는 살펴보기만 하고, 그다음부터 결단을 내리는 방식입니다.

(1) 처음에는 둘러보기만 하기
전체 지원자 가운데 앞쪽 약 37%는 아무리 마음에 들어도 뽑지 않고 떨어뜨립니다. 이 단계는 지원자들의 수준이 어느 정도인지 기준을 세우는 시간입니다. 너무 짧게 둘러보면 기준이 낮아 평범한 사람을 덥석 뽑게 되고, 너무 길게 둘러보면 가장 뛰어난 사람이 이미 떨어진 뒤일 가능성이 커집니다.

(2) 기준을 넘는 첫 사람 뽑기
그다음부터는 앞서 본 모든 사람보다 나은 지원자가 처음 나타나는 순간 바로 그 사람을 뽑습니다. 이렇게 하면 가장 뛰어난 사람을 고를 확률이 약 37%가 됩니다. 아무나 무작위로 고를 때 100명 중 최고를 뽑을 확률이 1%에 불과하다는 점을 떠올리면 매우 높은 확률입니다.

(3) 숫자 e에서 나온 37%
37%라는 숫자는 수학 상수 e의 역수인 1/e, 약 0.368에서 나옵니다. 지원자가 100명이든 1억 명이든 이 비율은 거의 같습니다. 지원자가 10명이라면 앞의 3명을 떨어뜨린 뒤 고를 때 확률이 약 40%로 가장 높습니다. 다만 기준을 넘는 사람이 끝까지 나타나지 않을 수도 있다는 점에서, 이 전략도 실패할 위험을 함께 안고 있습니다.

비서 문제가 알려지기까지

비서 문제는 한 사람의 논문으로 시작되었다기보다, 여러 사람의 입을 거치며 퍼져 나간 문제입니다.

• 약혼자 문제(Fiancée Problem): 1949년 미국의 수학자 메릴 플러드(Merrill M. Flood)가 강연에서 소개한 이름입니다. 당시에는 논문으로 발표되지 않았지만 수학자들 사이에서 입소문으로 널리 퍼졌습니다.
• 구골 게임(Game of Googol): 1960년 2월 마틴 가드너(Martin Gardner)가 과학 잡지 「사이언티픽 아메리칸」의 수학 칼럼에 소개한 형태입니다. 뒤집어 놓은 종이쪽지를 한 장씩 넘기며 가장 큰 수에서 멈추는 놀이로, 이 문제가 처음 인쇄된 기록으로 알려져 있습니다.
• 케플러의 신붓감 찾기(Kepler’s Marriage Problem): 천문학자 요하네스 케플러(Johannes Kepler)는 첫 아내를 잃은 뒤 1611년부터 1613년까지 2년 동안 11명의 신붓감 후보를 살펴보았습니다. 같은 문제는 아니지만, 비슷한 고민의 오래된 사례로 자주 소개됩니다.

이 밖에도 결혼 문제, 술탄의 지참금 문제처럼 여러 이름으로 불려 왔으며, 1989년 통계학자 토머스 퍼거슨(Thomas S. Ferguson)은 「누가 비서 문제를 풀었는가?」라는 글에서 그 복잡한 역사를 정리했습니다.

현실에 적용할 때 주의할 점

37% 법칙은 매력적이지만, 실제 생활에 그대로 옮기기 전에 살펴볼 점이 있습니다.

(1) 전체 수를 모르는 경우
현실에서는 지원자나 후보가 모두 몇 명인지 미리 알기 어렵습니다. 전체 수를 모르면 가장 좋은 사람을 고를 확률이 대체로 더 낮아지며, 이런 상황에 맞게 바꾼 여러 변형 문제가 연구되어 왔습니다.

(2) 최고가 아니어도 괜찮은 경우
비서 문제는 오직 1등만 성공으로 칩니다. 하지만 실제로는 꽤 괜찮은 사람을 뽑아도 만족스러운 경우가 많고, 이렇게 목표를 바꾸면 더 일찍 결정하는 편이 유리해집니다.

(3) 너무 일찍 멈추는 사람들
비슷한 상황을 실험해 보면 사람들은 대체로 최적의 시점보다 일찍 탐색을 멈추는 경향을 보였습니다. 후보를 하나하나 살피는 데 드는 시간과 수고가 이런 선택에 영향을 준다고 해석됩니다. 고속도로에서 주유소를 고르거나 항공권을 찾을 때도 충분히 비교하지 않고 서둘러 정하는 일이 비슷한 예로 꼽힙니다.

비서 문제는 더 둘러볼 것인가, 지금 고를 것인가 사이의 균형을 숫자로 보여 줍니다. 정답이 늘 37%는 아니더라도, 충분히 살펴본 뒤 기준을 세우고 결단하는 태도는 여러 선택의 순간에 도움이 됩니다.

멈출 때를 아는 것, 그것이 후회 없는 선택의 첫걸음입니다.