건강검진에서 정확도 99%라는 검사에 양성이 나왔다는 말을 들으면, 대부분은 병에 걸렸을 가능성도 99%쯤이라고 생각합니다. 그런데 그 병이 1만 명 가운데 한 명꼴로 걸리는 희귀병이라면 이야기가 완전히 달라집니다. 눈앞의 증거에 마음을 빼앗겨 ‘원래 얼마나 흔한 일인가’를 잊어버리는 것, 이 판단의 함정이 바로 ‘기저율 오류(Base Rate Fallacy)’입니다.

기저율 오류란 쉽게 말해 ‘어떤 일이 전체에서 일어나는 원래 비율(기저율)을 무시하고, 개별 사례의 구체적인 정보만으로 확률을 판단하는 오류’를 의미합니다. 검사 결과, 목격자 증언, 첫인상처럼 생생한 정보일수록 우리는 바탕에 깔린 숫자를 쉽게 지나칩니다. 의료, 재판, 채용, 보안처럼 확률 판단이 중요한 곳일수록 이 오류의 대가도 커집니다.

본 자료에서는 기저율 오류의 뜻과 연구의 시작부터 유명한 택시 문제로 본 계산 원리, 일상 속 사례, 그리고 오류를 줄이는 방법과 그 한계까지 차례로 살펴보겠습니다.

증거보다 먼저 물어야 할 숫자, 기저율

기저율 오류란 무엇인가?

기저율(Base Rate)은 특정한 정보를 알기 전에 이미 주어져 있는 전체 집단의 비율입니다. 통계학에서는 이를 사전확률이라고도 부르며, 새 증거가 들어오면 이 사전확률을 출발점 삼아 판단을 고쳐 나가는 것이 올바른 순서입니다.

이 오류를 체계적으로 밝힌 사람은 심리학자 대니얼 카너먼(Daniel Kahneman)과 아모스 트버스키(Amos Tversky)입니다. 두 사람은 1973년 논문에서 사람들이 확률을 따질 때 ‘얼마나 그럴듯하게 닮았는가’를 기준으로 삼는다고 설명했습니다. 이를 대표성 휴리스틱(Representativeness Heuristic)이라고 합니다.

유명한 실험에서는 참가자에게 공학자와 변호사 100명 가운데 한 명의 인물 묘사를 보여 주었습니다. 한 집단에는 공학자가 70명, 다른 집단에는 30명이라고 알려 주었지만, 수학 퍼즐과 목공을 즐긴다는 묘사를 읽은 두 집단의 답은 거의 같았습니다. 묘사가 공학자다워 보이는 순간, 70명과 30명이라는 차이가 판단에서 사라진 셈입니다.

택시 문제로 보는 기저율의 힘

카너먼과 트버스키가 소개한 택시 문제는 기저율 오류를 설명할 때 가장 자주 쓰이는 예입니다. 어느 도시에서 밤에 뺑소니 사고가 났고, 이 도시의 택시는 85%가 초록 회사, 15%가 파랑 회사 소속입니다. 목격자는 파란 택시를 봤다고 했고, 같은 조건에서 시험해 보니 목격자는 색을 80% 정확하게 알아봤습니다.

사람들이 가장 많이 내놓는 답은 ‘파란 택시일 확률 80%’입니다. 하지만 기저율까지 함께 따지면 결과가 달라집니다.

(1) 실제 파란 택시를 맞게 본 경우
택시 100대 가운데 파란 택시 15대를 목격자가 80% 정확하게 알아보므로, 약 12대가 ‘파란색’으로 증언됩니다.

(2) 초록 택시를 잘못 본 경우
초록 택시 85대 가운데 20%인 17대도 ‘파란색’으로 잘못 증언됩니다.

(3) 최종 확률
‘파란색’이라는 증언 29건 가운데 진짜 파란 택시는 12건뿐이므로, 실제 확률은 약 41%입니다. 증언이 있어도 초록 택시일 가능성이 더 큰 셈입니다.

트버스키와 카너먼은 이 결과를 두고, 85 대 15라는 기저율의 차이가 목격자의 신뢰도보다 더 극단적이기 때문이라고 설명했습니다. 증거가 아무리 그럴듯해도 출발점이 되는 비율을 빼면 계산이 처음부터 어긋나는 것입니다.

일상 속에 숨어 있는 기저율 오류

기저율 오류는 계산 문제 속에만 있지 않습니다. 오히려 중요한 결정을 내리는 현실에서 더 자주 나타납니다.

• 희귀병 검사(Medical Screening): 1978년 미국 하버드 의대 연구에서 유병률 1,000명 중 1명, 위양성률 5%인 검사의 양성 판정을 물었더니 가장 많은 답은 95%였습니다. 실제로는 약 2%에 불과합니다.
• 인재 채용(Hiring): 정말 뛰어난 인재가 지원자 100명 중 1명뿐이라면, 면접에서 ‘대단해 보이는’ 지원자 상당수는 사실 평범한 지원자일 수 있습니다.
• 보안 경보(Security Alert): 공격이 드문 시스템에서는 정확한 탐지기라도 울리는 경보의 대부분이 오경보가 되기 쉽습니다.

공통점은 찾으려는 대상이 드물다는 점입니다. 대상이 드물수록 아무리 좋은 검사도 진짜보다 가짜 양성을 더 많이 만들어 내며, 이것이 기저율을 먼저 봐야 하는 이유입니다.

기저율 오류를 줄이는 방법과 그 한계

기저율 오류를 피하는 핵심은 증거를 보기 전에 ‘원래 얼마나 흔한가’를 먼저 묻는 습관입니다. 그다음 그 숫자에 증거의 정확도를 더해 판단을 조정하면 됩니다. 이것이 베이즈 정리(Bayes’ Theorem)가 말하는 사고방식입니다.

(1) 기저율부터 확인하기
결론을 내리기 전에 비슷한 사례가 전체에서 얼마나 되는지 찾아봅니다.

(2) 자연 빈도로 바꿔 보기
‘80%’ 같은 확률보다 ‘100대 중 12대’처럼 사람 수나 개수로 바꾸면 계산이 훨씬 직관적으로 보입니다. 심리학자 게르트 기거렌처(Gerd Gigerenzer)는 이렇게 하면 정답률이 크게 오른다는 연구를 내놓았습니다.

(3) 거꾸로 된 확률 구분하기
‘파란 택시일 때 파랗다고 말할 확률’과 ‘파랗다고 말했을 때 파란 택시일 확률’은 서로 다른 값임을 의식합니다.

다만 기저율도 만능은 아닙니다. 오래되었거나 잘못 집계된 기저율을 쓰면 오히려 판단이 틀어집니다. 또 집단의 평균을 개인에게 기계적으로 들이대면 고정관념과 차별을 정당화하는 도구가 될 수 있습니다. 기저율은 판단의 출발점일 뿐, 개인을 미리 단정하는 낙인이 되어서는 안 됩니다.

기저율 오류는 생생한 증거가 조용한 숫자를 가려 버릴 때 생깁니다. 카너먼과 트버스키의 실험 이후 이 개념은 의료 진단과 재판, 채용과 보안까지 확률 판단이 필요한 모든 곳에서 중요한 기준이 되었습니다.

놀라운 증거를 마주했을 때 그 일이 원래 얼마나 흔한지 한 번 더 묻는 것, 그것이 숫자에 속지 않는 합리적 판단의 첫걸음입니다.