
왜 고르지 못할까, 뷔리당의 당나귀(Buridan’s Ass)

홀로 솟는 바다의 벽, 이상 파랑(Rogue Wave)
가장 급한 회의를 앞둔 팀장이 회의실 열쇠를 기다리고 있습니다. 그런데 열쇠를 가진 신입 사원은 다른 선배들의 잔심부름에 계속 불려 다니느라 회의실을 비워 주지 못합니다. 가장 중요한 일이 가장 늦게 처리되는 이 이상한 상황은 컴퓨터 안에서도 똑같이 벌어지며, 이를 ‘우선순위 역전(Priority Inversion)’이라고 부릅니다.
우선순위 역전이란 쉽게 말해 ‘우선순위가 높은 작업이 낮은 작업이 쥐고 있는 공유 자원을 기다리느라, 사실상 더 낮은 순위로 밀려나는 현상’을 의미합니다. 여러 작업이 정해진 순위에 따라 처리기를 나눠 쓰는 실시간 시스템에서 오래전부터 알려진 문제로, 1997년 화성 탐사선 마스 패스파인더(Mars Pathfinder)가 화성에서 거듭 재시작하는 사고를 일으키면서 널리 알려졌습니다.
본 자료에서는 우선순위 역전이 일어나는 과정, 세 작업으로 보는 작동 원리, 화성에서 실제로 벌어진 패스파인더 사건, 그리고 이를 막는 방법과 교훈까지 차례로 살펴보겠습니다.
높은 순위가 낮은 순위를 기다릴 때
1. 우선순위 역전은 어떻게 일어날까

우선순위 스케줄링에서는 언제나 실행할 준비가 된 작업 가운데 가장 높은 순위의 작업이 먼저 처리기를 차지합니다. 이 단순한 규칙이 흔들리는 순간은 여러 작업이 같은 자원을 함께 쓸 때 찾아옵니다.
(1) 공유 자원과 잠금
여러 작업이 같은 메모리나 장치를 동시에 고치면 데이터가 엉킵니다. 그래서 운영체제는 뮤텍스(Mutex) 같은 잠금을 두어 한 번에 한 작업만 자원을 쓰게 합니다. 잠금을 먼저 잡은 작업은 순위와 상관없이 일을 마치고 잠금을 풀 때까지 자원을 독차지합니다.
(2) 높은 작업의 기다림
낮은 작업이 잠금을 쥐고 있을 때 높은 작업이 같은 자원을 요청하면, 높은 작업은 잠금이 풀릴 때까지 멈춰야 합니다. 낮은 작업이 짧은 임계 구역만 마치면 곧 풀리므로, 이 정도 기다림은 미리 계산할 수 있는 ‘유한한 역전’입니다.
(3) 중간 작업의 끼어들기
진짜 문제는 그 사이에 잠금과 상관없는 중간 순위 작업이 깨어날 때 생깁니다. 중간 작업은 낮은 작업보다 순위가 높으므로 처리기를 빼앗고, 낮은 작업은 잠금을 쥔 채 멈춥니다. 결국 높은 작업은 자기보다 순위가 낮은 중간 작업이 끝날 때까지 기다리게 되고, 중간 작업이 많으면 기다림은 끝을 알 수 없이 길어집니다.
2. 세 작업으로 보는 작동 원리

우선순위 역전은 보통 높음·중간·낮음 세 작업으로 설명합니다. 순위만 보면 높은 작업이 가장 먼저 끝나야 하지만, 잠금 하나가 끼어들면 실제 실행 순서가 뒤집힙니다.

- 우선순위 스케줄링(Priority Scheduling): 작업마다 순위를 매기고, 실행할 준비가 된 작업 가운데 가장 높은 순위를 먼저 처리하는 방식입니다. 높은 작업이 깨어나면 낮은 작업을 멈추고 처리기를 넘겨받습니다.
- 뮤텍스(Mutex): 상호 배제(Mutual Exclusion)를 줄인 말로, 한 번에 한 작업만 공유 자원을 쓰게 하는 잠금입니다.
- 임계 구역(Critical Section): 잠금을 잡은 채 공유 자원을 다루는 코드 구간입니다. 짧을수록 다른 작업이 기다리는 시간도 줄어듭니다.
- 유한한 역전과 무한한 역전(Bounded and Unbounded Inversion): 높은 작업이 낮은 작업의 임계 구역만큼만 기다리면 유한한 역전, 중간 작업들까지 끼어들어 기다림의 상한을 정할 수 없으면 무한한 역전이라고 합니다.
실시간 시스템에서 무서운 쪽은 무한한 역전입니다. 정해진 시간 안에 반드시 끝나야 하는 작업이 언제 끝날지 알 수 없게 되기 때문입니다. 겉으로는 모든 작업이 규칙대로 순위를 지키고 있는데도 전체 결과는 순위가 뒤집힌 것처럼 나타난다는 점이 이 문제를 찾기 어렵게 만듭니다.
3. 화성에서 벌어진 패스파인더 사건

우선순위 역전을 세상에 가장 널리 알린 사건은 화성에서 일어났습니다. 1997년 7월 4일 화성에 내린 미국 항공우주국(NASA)의 마스 패스파인더는 착륙 며칠 뒤부터 시스템 전체가 갑자기 재시작되는 문제를 겪었습니다.
(1) 거듭된 재시작
패스파인더의 컴퓨터는 윈드리버(Wind River Systems)의 실시간 운영체제 VxWorks로 움직였습니다. 문제는 탐사선이 기상 자료를 모으기 시작한 무렵부터 나타났습니다. 재시작이 일어나면 그날 하려던 작업이 다음 날로 미뤄졌기 때문에, 지구의 운영팀은 원인을 서둘러 찾아야 했습니다.
(2) 지구에서 재현한 원인
제트추진연구소(JPL) 팀은 지구의 시험 장비에서 기록 기능을 켠 채 같은 상황을 돌려, 18시간이 채 안 되어 재시작을 다시 일으키는 데 성공했습니다. 원인은 교과서 같은 우선순위 역전이었습니다. 낮은 순위의 기상 자료 작업이 잠금을 쥔 사이 중간 순위 작업들이 실행되었고, 잠금을 기다리던 높은 순위의 정보 버스 관리 작업이 정해진 주기 안에 끝나지 못했습니다. 이를 발견한 상위 관리 작업이 심각한 오류로 판단해 재시작을 일으킨 것입니다.
(3) 전역 변수 하나로 고친 원격 수정
문제의 잠금은 성능을 이유로 우선순위 상속 기능이 꺼진 기본 설정으로 만들어져 있었습니다. 팀은 이 기능을 켜도록 전역 변수 하나의 값을 바꾸는 수정본을 화성의 탐사선으로 올려 보내 문제를 해결했습니다. 이 일은 같은 해 12월 실시간 시스템 학회에서 소개되며 널리 알려졌고, 비행 소프트웨어 책임자 글렌 리브스(Glenn Reeves)가 직접 경위를 설명하기도 했습니다.
4. 우선순위 역전을 막는 방법

잠금을 쓰는 한 우선순위 역전을 완전히 없애기는 어렵지만, 기다림이 끝없이 길어지는 일은 막을 수 있습니다. 대표적인 해법은 1990년 리우 샤(Lui Sha), 라구나탄 라즈쿠마르(Ragunathan Rajkumar), 존 레호츠키(John Lehoczky)가 발표한 우선순위 상속 프로토콜(Priority Inheritance Protocols) 논문에 정리되어 있습니다.
(1) 우선순위 상속
높은 작업이 잠금을 기다리기 시작하면, 잠금을 쥔 낮은 작업의 순위를 잠시 높은 작업과 같게 올려 줍니다. 그러면 중간 작업이 끼어들지 못하고, 낮은 작업은 임계 구역을 빨리 끝내 잠금을 풀자마자 원래 순위로 돌아갑니다. 패스파인더를 살린 방법이 바로 이것입니다.
(2) 우선순위 상한 프로토콜
잠금마다 그 잠금을 쓸 수 있는 작업 가운데 가장 높은 순위를 ‘상한’으로 정해 두는 방식입니다. 같은 논문에서 제안된 이 방법은 기다림의 최댓값을 미리 계산할 수 있게 해 주고, 잠금끼리 서로 물려 멈추는 교착 상태도 막아 줍니다.
(3) 설계에서 얻는 교훈
잠금을 쥐는 구간을 짧게 만들고, 순위가 크게 다른 작업이 같은 자원을 나눠 쓰지 않도록 설계하는 것도 중요합니다. 오늘날 여러 실시간 운영체제와 리눅스도 우선순위 상속을 지원하는 잠금을 제공합니다. 패스파인더 사례는 기본 설정 하나를 확인하는 일과, 문제를 재현할 수 있는 기록 기능을 남겨 두는 일이 얼마나 중요한지도 보여 줍니다.
‘급한 일을 막고 있는 느린 일을 잠시 밀어 주어 먼저 끝내게 한다’라는 단순한 생각, 그것이 우선순위 역전 이해의 첫걸음입니다.
이 글 PDF 구매
1,000원한국어 PDF · 회원가입 없이 바로 구매할 수 있습니다.
가장 급한 회의를 앞둔 팀장이 회의실 열쇠를 기다리고 있습니다. 그런데 열쇠를 가진 신입 사원은 다른 선배들의 잔심부름에 계속 불려 다니느라 회의실을 비워 주지 못합니다. 가장 중요한 일이 가장 늦게 처리되는 이 이상한 상황은 컴퓨터 안에서도 똑같이 벌어지며, 이를 ‘우선순위 역전(Priority Inversion)’이라고 부릅니다. 우선순위 역전이란 쉽게
미리보기
이 링크를 저장해 두세요. 다른 기기에서 열면 이 PDF를 다시 받을 수 있습니다. 다른 사람과 공유하지 마세요.
PDF 구매 옵션 보기
등급별 무료 PDF 혜택과 별도로 구매합니다. 본문은 무료로 읽을 수 있습니다.
구매 방법을 선택하세요
- 로그인하면 어느 기기에서든 다시 받을 수 있습니다
- 구매 내역에 보관됩니다
- 회원가입 없이 바로 결제합니다
- 이 브라우저에서 다시 받을 수 있습니다
- 다른 기기에서는 구매 후 표시되는 개인 링크로 받습니다
- 나중에 이 브라우저에서 회원으로 로그인하면 구매가 계정으로 옮겨집니다
- 링크를 잃어버리고 브라우저 기록(쿠키)을 지우면 다시 받기 어려울 수 있습니다
비회원 구매를 선택했습니다. 결제 후 이 브라우저와 개인 링크로 다시 받을 수 있습니다.
입력한 번호는 결제 처리를 위해 페이앱에 전달하며, 사이트 회원정보에 저장하지 않습니다.
카드·네이버페이·카카오페이 중 사용 가능한 수단을 결제 화면에서 선택할 수 있습니다.
구매 상태를 확인하고 있습니다.




