Chapter 12

감마·HDR·톤 매핑

디스플레이가 받는 것은 빛이 아니라 숫자다. 0~255(또는 0~1023)의 부호값을 몇 nits의 빛으로 바꿀지 정하는 규칙이 전달 함수이고, 이 규칙을 사람 눈의 비선형에 맞춰 설계한 것이 감마다. HDR은 이 규칙을 0.0001~10,000 nits의 절대 휘도로 넓힌 것이며, 그만큼 밝게 낼 수 없는 화면은 톤 매핑으로 콘텐츠를 자기 능력에 맞춰 접어 넣는다. 이 장에서는 부호값 하나가 빛이 되기까지의 모든 단계를 직접 돌려 본다.

지각의 비선형(CIE L*)으로부터 감마 부호화가 비트를 아끼는 원리를 설명하고, 선형 8비트에서 밴딩이 생기는 이유를 보일 수 있다.
OETF·EOTF·OOTF를 구분하고 sRGB, BT.1886(감마 2.4), PQ, HLG 곡선을 계산할 수 있다.
정적·동적·ANSI·주변광 명암비와 스탑 단위 다이내믹 레인지를 계산하고 비교할 수 있다.
바텐(Barten) 문턱과 양자화 계단을 비교해 HDR에 10/12비트가 필요한 이유를 설명할 수 있다.
하드 클립, Reinhard, BT.2390 EETF 톤 매핑의 차이와 정적/동적 메타데이터의 역할을 이해한다.
OLED의 ABL과 APL에 따른 피크 휘도 변화, 디더링·FRC에 의한 비트 심도 확장을 정량적으로 다룰 수 있다.

왜 감마인가: 눈의 비선형과 비트 효율

휘도를 두 배로 올려도 사람은 "두 배 밝다"고 느끼지 않는다. 1장에서 본 베버–페히너 법칙처럼 눈은 휘도의 비율에 반응하고, 그 결과 지각 밝기는 휘도에 대해 대략 세제곱근(또는 로그)처럼 휜다. 국제조명위원회(CIE)는 이를 명도 L*(CIE 1976 Lightness)로 정량화했다. 상대 휘도 $Y$(백색 = 1)에 대해

$$ L^* = \begin{cases} 116\,Y^{1/3} - 16, & Y > 0.008856 \\ 903.3\,Y, & Y \le 0.008856 \end{cases} $$

여기서 $Y$는 백색 대비 상대 휘도, $L^*$는 0(검정)~100(백색)의 지각 명도. 대략 $\Delta L^* \approx 1$이 나란히 놓인 두 면을 겨우 구별하는 차이다.

L* 50(눈에 "중간 회색")에 해당하는 휘도는 겨우 $Y \approx 0.18$, 즉 백색의 18%다. 사진에서 말하는 18% 그레이 카드가 바로 이것이다. 반대로 휘도의 위쪽 절반(50~100%)은 L* 76~100에 불과하다. 휘도를 균일한 간격으로 쪼개면 눈에는 밝은 쪽 계단이 구별되지 않고 어두운 쪽 계단만 크게 튄다.

그림 12-1. 명도 L*와 상대 휘도의 관계. L*를 10 간격으로 나누면(점선) Y축에서는 어두운 쪽에 눈금이 몰린다. 오른쪽: 휘도를 균등하게 나눈 10단계(위)는 밝은 칸들이 뭉쳐 보이고, L*를 균등하게 나눈 10단계(아래)는 고르게 보인다.

부호값을 어디에 쓸 것인가

8비트로는 256개의 부호(code)만 쓸 수 있다. 부호값 $V$를 휘도에 그대로 비례하게($Y = V$) 배정하면 1부호 = 백색의 0.39%이다. 밝은 쪽에서는 이 간격이 L*로 0.2도 안 돼 낭비지만, 백색의 1% 근처에서는 1부호가 휘도의 40%나 된다(ΔL* ≈ 3). 어두운 하늘이나 그림자에 계단 모양의 띠, 즉 밴딩(banding, contouring)이 생긴다. 해법은 부호를 지각 축에 고르게 뿌리는 것이다. 부호화할 때 $V = Y^{1/\gamma}$로 압축하고, 화면이 $Y = V^{\gamma}$로 되돌린다. 이 지수 $\gamma \approx 2.2\sim2.4$가 감마(gamma)다.

그림 12-2. 지각 밝기(L*) 축 위에 5비트(32개) 부호가 놓이는 위치. 선형 부호는 밝은 쪽에 몰리고 어두운 쪽은 듬성듬성하다. 감마 부호는 전 범위에 거의 고르게 퍼진다. 같은 비트 수로 보이는 품질이 크게 달라진다.

감마는 원래 CRT 전자총의 전류–전압 특성($I \propto V^{2.5}$ 안팎)에서 왔지만, 눈의 비선형과 거의 정확히 반대 모양이라는 "행운의 일치" 덕분에 LCD·OLED 시대에도 표준으로 남았다. 요즘 패널은 물리적으로 감마를 갖지 않는다. LCD의 V–T 곡선(6장)이나 OLED의 전류–휘도 특성(9장)은 감마와 무관하므로, 드라이버 IC가 감마 보정 LUT와 감마 기준 전압 탭으로 원하는 EOTF를 만들어 낸다(18장에서 측정한다).

SIMULATOR

선형 vs 감마 부호화 — 계조 램프와 밴딩

비트 심도

표시 범위 상한 (저계조 확대) 부호 경계선 표시

램프는 가로축이 L*에 비례하도록 그렸다. 표시 범위를 줄이면 그 구간을 화면 전체 밝기로 늘려 보여 준다.

선형 부호 ΔL*/부호감마(sRGB) 부호 ΔL*/부호ΔL* = 1 (가시 문턱 근사)

범위 내 부호 수 (선형)—

범위 내 부호 수 (감마)—

Y=1% 근처 ΔL* (선형)—

Y=1% 근처 ΔL* (감마)—

Y=1%에서 선형이 감마와 같아지려면—

해볼 것: 8비트에서 표시 범위를 5% 이하로 줄여 보자. 선형 부호(위)는 몇 개의 굵은 띠로 무너지지만, 감마 부호(아래)는 여전히 촘촘하다. 아래 그래프는 부호 1단계가 만드는 명도 차이(ΔL*)다. 선형 부호는 어두운 쪽에서 문턱(회색 선)을 훨씬 넘는다. 선형 부호로 감마 8비트와 같은 저계조 품질을 얻으려면 약 11~12비트가 필요하다(Y=1%에서 약 10.5비트, sRGB 선형 구간인 0.3% 아래에서는 11.7비트).

감마는 "어둡게 하는 보정"이 아니다 흔히 "감마 2.2 = 화면을 어둡게 하는 것"으로 오해한다. 부호화($Y^{1/2.2}$)와 복원($V^{2.2}$)이 짝을 이루면 전체 응답은 선형이다. 감마의 목적은 밝기 조정이 아니라 부호 배분이다. 짝이 어긋날 때(부호화는 2.2, 화면은 2.6)만 화면이 어둡거나 밝게 보인다.

OETF·EOTF·OOTF: 전달 함수의 사슬

카메라에서 화면까지 빛은 두 번 변환된다. 카메라가 장면의 선형 빛을 비선형 신호로 바꾸는 함수가 OETF(Opto-Electronic Transfer Function), 디스플레이가 신호를 다시 빛으로 바꾸는 함수가 EOTF(Electro-Optical Transfer Function)다. 둘을 합성한 장면→화면 전체 응답이 OOTF(Opto-Optical Transfer Function)다. OOTF는 일부러 1이 아니게 만든다. 밝은 야외 장면을 어두운 거실에서 100 nits로 보면 대비가 약해 보이기 때문에(주변 효과, Bartleson–Breneman), 약간의 대비를 더하는 시스템 감마 ≈ 1.1~1.2를 넣는다.

그림 12-3. 전달 함수 사슬. 카메라 OETF가 빛을 신호로 압축하고 디스플레이 EOTF가 복원한다. 둘의 합성인 OOTF는 시청 환경을 고려해 약간의 대비 증가(시스템 감마 ≈ 1.2)를 갖는다.

SDR 방송의 EOTF는 BT.1886이다. 순수 거듭제곱 $V^{2.4}$에 실제 디스플레이의 흑 휘도를 반영한 형태로,

$$ L = a\,\max(V + b,\,0)^{\gamma},\quad a = \left(L_W^{1/\gamma} - L_B^{1/\gamma}\right)^{\gamma},\quad b = \frac{L_B^{1/\gamma}}{L_W^{1/\gamma} - L_B^{1/\gamma}},\quad \gamma = 2.4 $$

여기서 $V$는 0~1로 정규화한 부호값, $L_W$·$L_B$는 디스플레이의 백·흑 휘도(nits). $L_B = 0$이면 $L = L_W V^{2.4}$. 흑이 들뜬 LCD에서는 $b$가 커져 저계조가 흑에 묻히지 않도록 곡선 시작점이 조정된다.

PC·웹의 표준인 sRGB는 어두운 끝에 짧은 선형 구간을 붙여 기울기가 무한대가 되는 것을 막았다($V = 12.92Y$, $Y \le 0.0031308$). 전체 곡선은 감마 2.2와 거의 같다.

$$ V_{sRGB} = \begin{cases} 12.92\,Y, & Y \le 0.0031308 \\ 1.055\,Y^{1/2.4} - 0.055, & Y > 0.0031308 \end{cases} $$

역함수(EOTF)는 $Y = V/12.92$ ($V \le 0.04045$), $Y = \left(\frac{V + 0.055}{1.055}\right)^{2.4}$. 지수는 2.4지만 오프셋 때문에 전체 모양은 "유효 감마 2.2"에 가깝다.

SIMULATOR

디스플레이 감마와 흑 휘도 — 이미지·램프·곡선 동시 보기

디스플레이 감마 γ 흑 휘도 L_B

EOTF 형태

프리셋

현재 EOTF기준 감마 2.4 (콘텐츠 제작 기준)

부호 50% → 휘도—

부호 10% → 휘도—

18% 회색에 필요한 부호—

명암비 L_W/L_B—

콘텐츠는 감마 2.4 기준(L_W = 100 nits)으로 부호화되어 있다고 가정했다. γ를 낮추면 화면이 들뜨고(물빠짐) 높이면 그림자가 뭉개진다. 흑 휘도를 0.3~0.5 nits(저가 IPS 패널의 흑)로 올린 뒤 "순수 거듭제곱"과 "BT.1886"을 바꿔 보자. BT.1886은 저계조를 흑 위로 끌어올려 그림자 계조를 살린다. 이 화면 자체가 sRGB로 표시하므로 절대 밝기가 아니라 상대 비교로 볼 것.

규격	용도	EOTF	기준 백색 / 환경
sRGB (IEC 61966-2-1)	PC, 웹, 스마트폰 UI	구간 함수, 유효 γ≈2.2	80 nits(규격), 실제 200~500 nits
BT.709 + BT.1886	HD 방송, SDR 영상	γ = 2.4 (흑 보정)	100 nits, 어두운 방
DCI-P3 시네마	극장 영사	γ = 2.6	48 nits, 암실
BT.2100 PQ (ST 2084)	HDR10, 돌비 비전	절대 휘도 0~10,000 nits	기준 백색 203 nits, 주변 5 nits
BT.2100 HLG	HDR 방송	상대(OETF 기반) + 시스템 감마	피크 1000 nits에서 γ=1.2

"감마 2.2"와 "sRGB"는 같지 않다 sRGB 곡선은 저계조(부호 0~10% 부근)에서 순수 2.2보다 밝다. 같은 콘텐츠를 sRGB로 재생하느냐 2.2로 재생하느냐에 따라 그림자 밝기가 눈에 띄게 달라져, 게임·영상 업계에서 오래 논쟁이 이어졌다. 모니터의 "sRGB 모드"가 어느 쪽을 따르는지 확인하는 것은 캘리브레이션의 첫 단계다.

명암비와 다이내믹 레인지

명암비(Contrast Ratio, CR)는 가장 밝은 백과 가장 어두운 흑의 휘도비 $L_W/L_K$다. 단순해 보이지만 무엇을 언제 측정하느냐에 따라 숫자가 몇 자리씩 달라진다.

정적(네이티브) 명암비: 한 프레임 안에서 백과 흑을 동시에 보일 때의 비. IPS LCD ≈ 1000~1500:1, VA LCD ≈ 3000~6000:1.
동적 명암비: 전백 화면과 전흑 화면을 따로 측정한 비. 백라이트를 꺼 버리면 흑이 거의 0이 되어 "1,000,000:1" 같은 광고 수치가 나온다. 한 장면 안의 대비와는 무관하다.
ANSI 명암비: 4×4 체커보드에서 흰 칸 평균 ÷ 검은 칸 평균. 패널 내부 산란, 로컬 디밍의 번짐(7장)이 반영되어 실사용에 가깝다.
주변광 명암비: 실내 조명이 화면에서 반사된 휘도 $L_R$가 흑과 백에 똑같이 더해진다. OLED의 "무한대" 명암비도 밝은 거실에서는 수백:1로 떨어진다(13장).

그림 12-4. 명암비 측정 방식. (a) 풀 온/오프는 전백·전흑을 따로 측정한다. (b) ANSI는 한 화면 안의 체커보드를 측정한다. (c) 주변광 반사는 흑과 백 모두에 같은 휘도를 더해 대비를 깎는다.

다이내믹 레인지는 같은 비를 로그로 표현한 것이다. 사진·HDR 분야에서는 2배를 1 스탑(stop, EV)으로 센다.

$$ \mathrm{CR_{amb}} = \frac{L_W + L_R}{L_K + L_R},\qquad L_R = \frac{R_d\,E}{\pi},\qquad \text{stops} = \log_2 \mathrm{CR},\qquad \mathrm{DR_{dB}} = 20\log_{10}\mathrm{CR} $$

여기서 $E$는 화면면 조도(lux), $R_d$는 화면의 확산 반사율(편광판이 있는 OLED ≈ 0.5~1.5%, 무광 LCD ≈ 2~5%). 확산 반사면의 휘도는 $R_d E/\pi$ (cd/m²)이다. 1 stop ≈ 6.02 dB, 1000:1 ≈ 10 stops.

예제. 피크 1000 nits, 흑 0.0005 nits인 OLED의 네이티브 명암비는 2,000,000:1(≈ 21 stops)이다. 300 lux 거실에서 반사율 1%면 $L_R = 0.01 \times 300/\pi \approx 0.95$ nits로, 유효 명암비는 $(1000 + 0.95)/(0.0005 + 0.95) \approx 1050:1$ (≈ 10 stops)로 떨어진다. 흑 0.3 nits LCD(1667:1)는 같은 조건에서 $1001/1.25 \approx 800:1$이 되어 둘의 차이가 거의 사라진다. 밝은 환경에서는 흑보다 반사율과 피크 휘도가 대비를 결정한다.

SIMULATOR

명암비 계산기 — 패널, 주변광, 스탑

패널 프리셋

피크 휘도 L_W 흑 휘도 L_K 주변 조도 E 화면 반사율 R_d

네이티브 명암비—

반사 휘도 L_R—

유효 명암비—

유효 다이내믹 레인지—

로그 휘도 축 위에 실제 세계의 밝기와 화면이 낼 수 있는 범위(막대)를 겹쳐 그렸다. 주변 조도를 0 → 50 lux(어두운 거실) → 500 lux(밝은 사무실)로 올리며 OLED와 미니LED의 유효 명암비 차이가 어떻게 줄어드는지 보자. 조도 슬라이더의 0 위치는 완전한 암실이다.

디스플레이	피크 휘도 (10% 창)	흑 휘도	네이티브 CR	스탑
사무용 IPS LCD 모니터	300~400 nits	0.25~0.4 nits	~1000:1	~10
VA LCD TV	400~700 nits	0.08~0.15 nits	4000~6000:1	~12
미니LED TV (로컬 디밍)	1500~3000 nits	0.02~0.05 nits (ANSI)	수만:1	~15
OLED TV (WOLED·QD-OLED)	1000~2000 nits	< 0.0005 nits	> 10⁶:1	> 20
플래그십 스마트폰 OLED	2000~3000 nits (HBM)	< 0.0005 nits	> 10⁶:1	> 20

사람 눈의 다이내믹 레인지 눈은 동공과 망막 순응으로 별빛(10⁻³ nits)부터 한낮 눈밭(10⁴ nits 이상)까지 약 10¹⁰의 범위에 적응하지만, 한 순간에 동시에 보는 범위는 약 10⁴(13~14 stops)다. HDR 디스플레이가 목표로 하는 것은 이 순간 범위를 장면 밝기 근처에서 재현하는 것이다.

HDR 전달 함수: PQ와 HLG

SDR 감마는 "피크를 1로 둔 상대 곡선"이다. 같은 신호를 100 nits 모니터에서 보든 500 nits 휴대폰에서 보든 비율만 맞으면 된다. 하지만 HDR에서 피크 휘도가 600~4000 nits로 다양해지자 두 가지 철학이 나뉘었다.

PQ(Perceptual Quantizer, SMPTE ST 2084)는 돌비가 제안한 절대 휘도 EOTF다. 부호값 하나가 정확히 몇 nits인지 정해져 있고, 범위는 0.0001~10,000 nits다. 곡선은 바텐 모델의 문턱 대비를 적분해 "어느 휘도에서나 부호 한 단계가 거의 같은 가시성"을 갖도록 맞췄다. 그래서 이름이 "지각 양자화기"다.

$$ L = 10000\left(\frac{\max\!\left(E'^{1/m_2} - c_1,\ 0\right)}{c_2 - c_3\,E'^{1/m_2}}\right)^{1/m_1}\ \text{nits} $$

여기서 $E'$는 0~1 부호값, $m_1 = 2610/16384 = 0.1593$, $m_2 = 2523/4096 \times 128 = 78.84$, $c_1 = 3424/4096 = 0.8359$, $c_2 = 2413/4096 \times 32 = 18.85$, $c_3 = 2392/4096 \times 32 = 18.69$. 대표값: 100 nits ≈ $E'$ 0.508 (10비트 520), 1000 nits ≈ 0.752 (769), 203 nits(HDR 기준 백색) ≈ 0.58 (594).

HLG(Hybrid Log-Gamma, ARIB STD-B67, BT.2100)는 BBC와 NHK가 방송용으로 만든 상대 방식이다. 아래쪽 절반은 SDR 감마처럼 제곱근, 위쪽은 로그 곡선이다. 메타데이터 없이 SDR TV에서도 그럴듯하게 보이고(하위 호환), 디스플레이 피크에 따라 시스템 감마를 바꿔 밝기를 맞춘다.

$$ E' = \begin{cases} \sqrt{3E}, & 0 \le E \le \tfrac{1}{12} \\ a\ln(12E - b) + c, & \tfrac{1}{12} < E \le 1 \end{cases},\qquad F_D = L_W\,Y_S^{\gamma - 1} E,\quad \gamma = 1.2 + 0.42\log_{10}\frac{L_W}{1000} $$

여기서 $E$는 장면 선형 빛(0~1), $a = 0.17883$, $b = 0.28467$, $c = 0.55991$. $F_D$는 표시 휘도, $Y_S$는 장면 휘도(무채색이면 $F_D = L_W E^{\gamma}$). HLG 75%가 1000 nits 디스플레이에서 기준 백색 203 nits가 된다.

그림 12-5. PQ와 HLG의 철학 차이. PQ는 부호값이 절대 휘도를 뜻하므로 능력이 모자란 디스플레이가 직접 톤 매핑해야 한다. HLG는 피크 대비 비율을 전하고, 디스플레이 피크에 맞춘 시스템 감마로 전체 밝기 인상을 맞춘다.

SIMULATOR

PQ · HLG · SDR 곡선 비교와 부호값 ↔ nits 계산기

세로축

부호값 (10비트) HLG 디스플레이 피크 역계산: 목표 휘도

PQ (절대)HLG (선택 피크)SDR γ2.4, 100 nits

PQ 휘도—

HLG 휘도 (γ_sys)—

SDR 휘도—

목표 휘도의 PQ 부호—

로그 축으로 보면 PQ는 0.001~10,000 nits를 거의 직선에 가깝게 고르게 덮는다. 부호 10비트 중 절반(0~512)이 이미 0~100 nits, 즉 SDR 전체 범위에 쓰인다는 점에 주목하자. 100 nits 이상 하이라이트에는 나머지 절반만 남는다. HLG 피크를 바꾸면 시스템 감마가 달라져 같은 부호값의 휘도가 비례 이상으로 변한다.

왜 하필 10,000 nits인가 돌비 연구진은 시청자 실험에서 "가장 마음에 드는" 피크 휘도를 조사했고, 90% 시청자를 만족시키려면 하이라이트 약 10,000 nits, 흑 0.005 nits 이하가 필요하다는 결과를 얻었다. 한낮의 흰 구름이 약 10,000 nits, 맑은 하늘이 5,000~8,000 nits다. 지금의 HDR 마스터링 모니터는 1000~4000 nits이므로 PQ의 위쪽 범위는 미래를 위한 여유다.

바텐 문턱과 비트 심도: 왜 10/12비트인가

밴딩이 보이느냐는 이웃한 두 부호의 휘도 차 $\Delta L$를 그 휘도 $L$로 나눈 상대 계단 크기 $\Delta L/L$이 그 휘도에서 눈의 대비 문턱(contrast threshold)보다 크냐에 달려 있다. 바텐(P. G. J. Barten)의 대비 감도 모델(1장 CSF)을 모든 공간 주파수에 대해 최댓값으로 묶으면, 휘도별 최소 가시 대비 곡선이 나온다. 이것이 "바텐 램프"로, 어두울수록 문턱이 커진다(0.001 nits에서 ~10%, 100 nits 이상에서 ~0.3~0.5%).

그림 12-6. 같은 휘도 범위를 40단계(왼쪽)와 9단계(오른쪽)로 나눈 그러데이션. 계단의 상대 크기 ΔL/L이 눈의 문턱보다 작으면 이어져 보이고, 크면 띠 경계(윤곽)가 보인다.

$$ \frac{\Delta L}{L}\bigg|_{\text{code}} = \frac{\mathrm{EOTF}\!\left(\frac{k+1}{2^n-1}\right) - \mathrm{EOTF}\!\left(\frac{k}{2^n-1}\right)}{\mathrm{EOTF}\!\left(\frac{k}{2^n-1}\right)} \quad \overset{?}{<} \quad m_{\text{Barten}}(L) $$

여기서 $n$은 비트 수, $k$는 부호값. 감마 곡선 $L = L_W V^{\gamma}$에서는 $\Delta L/L \approx \gamma / (V \cdot 2^n)$이므로 어두운 쪽(V 작음)에서 급격히 커진다. 바텐 문턱 $m_{\text{Barten}}$은 이 장에서 $0.0032 + 0.0045\,L^{-0.43}$으로 근사한다(교육용 피팅).

감마 2.4 곡선을 10,000 nits까지 늘려 쓰면 어떻게 될까? 위쪽은 부호가 남아돌지만, 1 nit 근처에서는 10비트로도 계단이 문턱의 10배를 넘는다. 감마로 HDR을 하려면 15비트 이상이 필요하다는 계산이 나온다. PQ는 곡선 자체를 문턱 모양에 맞춰 12비트에서 전 범위가 문턱 아래에 오게 설계했다. 10비트 PQ는 문턱의 약 2~3배 안팎으로 이론상 살짝 넘지만, 실제 영상의 노이즈와 필름 그레인, 디더링이 윤곽을 가려 HDR10 배포 규격으로 쓰인다. 돌비 비전은 마스터링·전송에 12비트를 쓴다.

SIMULATOR

바텐 문턱 vs 양자화 계단 — 비트 심도와 전달 함수

비트 심도

PQ (0~10,000 nits) 감마 2.4 (0~10,000 nits) 감마 2.4 SDR (0~100 nits) 관찰 휘도

바텐 문턱 (근사)PQ감마 2.4 / 10k감마 2.4 / SDR

PQ 계단 ÷ 문턱—

감마 10k 계단 ÷ 문턱—

SDR 계단 ÷ 문턱—

PQ 문턱 이하 범위—

위: log–log 그래프에서 곡선이 검은 문턱선보다 위에 있으면 그 휘도에서 밴딩이 보일 수 있다. 아래: 관찰 휘도 주변 ±약 0.5 stop을 각 방식으로 양자화한 램프를, 계단의 상대 크기가 눈에 보이도록 대비를 늘려 그렸다(띠 수가 많을수록 매끈). 12비트로 바꾸면 PQ 곡선 전체가 문턱 아래로 내려가는 것을 확인하자.

SDR 8비트가 버티는 이유 SDR은 피크가 100 nits라 범위가 좁고, 실사용 흑은 0.1 nits 안팎으로 들떠 있다. 0.1~100 nits, 약 10 stops만 다루므로 감마 2.4 8비트로도 대부분 문턱 근처에 머문다. HDR은 같은 비트 예산으로 0.001~1000+ nits, 20 stops를 다뤄야 하므로 곡선과 비트 수를 함께 바꿔야 했다.

톤 매핑: 4000 nits 콘텐츠를 600 nits 화면에

HDR 영화는 1000 nits 또는 4000 nits 마스터링 모니터에서 색보정된다. 그런데 집에 있는 TV의 피크는 600 nits일 수도, 1500 nits일 수도 있다. PQ는 절대 휘도이므로 디스플레이가 낼 수 없는 600 nits 초과 부호를 어떻게 처리할지는 디스플레이의 몫이다. 이 변환이 톤 매핑(tone mapping)이며, 정확히는 디스플레이 쪽에서 하는 EETF(Electrical-Electrical Transfer Function)라 부른다.

그림 12-7. 톤 매핑의 개념. 콘텐츠(0.005~4000 nits)를 디스플레이(0.0005~600 nits)에 옮긴다. 어두운 쪽과 중간 톤은 1:1로 두고, 니(knee) 위의 하이라이트만 남은 범위에 부드럽게 접어 넣는다.

대표적인 세 가지 방법을 비교하자($L$: 입력 nits, $L_d$: 디스플레이 피크, $L_c$: 콘텐츠 피크).

하드 클립: $L_{out} = \min(L, L_d)$. 중간 톤은 정확하지만 $L_d$ 이상 하이라이트의 디테일(구름 결, 태양 주변의 빛무리)이 한 덩어리로 날아간다.
Reinhard(확장형): 전 구간을 부드럽게 압축한다. 하이라이트는 살지만 중간 톤까지 어두워진다.
BT.2390 EETF: PQ 부호 영역에서 니 지점 $K_S$ 아래는 그대로, 위는 3차 에르미트 스플라인으로 $L_c$를 $L_d$에 정확히 매핑한다. 대부분의 HDR TV가 이 계열을 쓴다.

$$ L_{out}^{\text{Reinhard}} = L_d\,\frac{x\,(1 + x/w^2)}{1 + x},\ \ x = \frac{L}{L_d},\ w = \frac{L_c}{L_d} \qquad\qquad E_2 = \begin{cases} E_1, & E_1 < K_S \\ P(E_1), & E_1 \ge K_S \end{cases},\ \ K_S = 1.5\,M - 0.5 $$

BT.2390: $E_1 = \mathrm{PQ^{-1}}(L)/\mathrm{PQ^{-1}}(L_c)$는 콘텐츠 피크로 정규화한 PQ 부호, $M = \mathrm{PQ^{-1}}(L_d)/\mathrm{PQ^{-1}}(L_c)$. $P$는 $T = (E_1 - K_S)/(1 - K_S)$에 대한 에르미트 보간 $(2T^3 - 3T^2 + 1)K_S + (T^3 - 2T^2 + T)(1 - K_S) + (-2T^3 + 3T^2)M$으로, $K_S$에서 기울기 1로 이어지고 $E_1 = 1$에서 $M$에 도달한다.

SIMULATOR

톤 커브 비교 — 하드 클립 · Reinhard · BT.2390

콘텐츠 피크 L_c

디스플레이 피크 L_d 입력 휘도 (관찰점)

가로·세로축

원본 (1:1)하드 클립ReinhardBT.2390 EETF

입력—

클립 출력—

Reinhard 출력—

EETF 출력—

EETF 니 지점—

PQ 부호 축은 휘도를 지각적으로 고르게 펼친 축이라 톤 커브 비교에 편하다. 관찰점을 100 nits(중간 톤)에 두고 Reinhard 출력이 얼마나 어두워지는지, 2000 nits에 두고 클립이 디테일을 얼마나 잃는지 비교해 보자. 디스플레이 피크가 콘텐츠 피크보다 크면 톤 매핑은 필요 없다.

HDR 장면으로 직접 확인하기

아래 시뮬레이터는 절차적으로 만든 HDR 장면(선형 nits 값을 가진 하늘, 태양, 구름, 햇빛 받은 풀밭, 그늘진 건물, 금속 반사)을 위 세 방법으로 톤 매핑한다. 색은 RGB 최댓값에 톤 커브를 적용한 뒤 같은 비율로 축소해 채도를 보존했다(채널별로 따로 압축하면 밝은 색이 흰색으로 탈색된다).

SIMULATOR

HDR 장면 톤 매핑 — 노출, 피크 휘도, 방법

톤 매핑

디스플레이 피크 콘텐츠 피크 (마스터링) 노출 보정 분할 비교 (왼쪽 절반 = 하드 클립) 포화 영역 표시 (피크 98% 이상)

커서 위치 장면 휘도—

커서 위치 출력 휘도—

포화 픽셀 비율—

출력 평균 휘도 (APL)—

영상 위를 마우스로 움직이거나 터치하면 그 점의 장면 휘도와 출력 휘도를 읽는다. 이 화면은 SDR이므로 디스플레이 피크 = 이 화면의 백색으로 정규화해 보여 준다(절대 밝기가 아니라 디테일 보존을 비교). 하드 클립에서 포화 영역 표시를 켜면 구름과 태양 주변이 통째로 칠해진다. 교육용 근사 장면이며 실제 TV는 색역 매핑과 지역별(local) 톤 매핑을 함께 쓴다.

톤 매핑은 "정답"이 없다 같은 HDR10 영화라도 TV 제조사마다 니 위치, 하이라이트 압축률, 중간 톤 처리 방식이 달라 화면 인상이 다르다. 영화 모드에서 일부 TV는 BT.2390을 거의 그대로 따르지만(창작 의도 우선), 표준·다이내믹 모드는 중간 톤을 끌어올려 밝게 보이게 한다. 같은 콘텐츠를 같은 피크의 두 TV에서 다르게 보이게 만드는 가장 큰 원인이다.

HDR 메타데이터: 정적 vs 동적

디스플레이가 톤 커브를 잘 고르려면 "이 콘텐츠가 실제로 얼마나 밝은가"를 알아야 한다. 이를 신호와 함께 보내는 정보가 메타데이터다.

정적 메타데이터 (HDR10, SMPTE ST 2086 + CTA-861.3): 마스터링 디스플레이의 원색·백색점·최대/최소 휘도, 그리고 콘텐츠 전체의 MaxCLL(Maximum Content Light Level, 가장 밝은 픽셀)과 MaxFALL(Maximum Frame-Average Light Level, 가장 밝은 프레임의 평균). 영화 한 편에 숫자 한 세트다.
동적 메타데이터 (HDR10+ / SMPTE ST 2094-40, 돌비 비전 / ST 2094-10): 장면 또는 프레임마다 휘도 분포(백분위 히스토그램, 장면 최대값)와 권장 톤 커브를 보낸다. 디스플레이는 장면에 맞는 커브를 쓴다.

그림 12-8. 정적 메타데이터는 영화 전체에서 가장 밝은 값(MaxCLL 4000 nits) 하나만 알려 주므로, 디스플레이는 어두운 장면에서도 4000 nits를 대비한 보수적인 커브를 쓴다. 동적 메타데이터는 장면마다 실제 최대값을 알려 준다.

SIMULATOR

장면별로 넘겨 보기 — 정적 vs 동적 톤 매핑

장면

디스플레이 피크

원본 1:1정적 (MaxCLL 4000 기준)동적 (장면 최대값 기준)

장면 최대 휘도—

정적: 장면 최대 → 출력—

동적: 장면 최대 → 출력—

정적 매핑의 하이라이트 손실—

위의 두 띠는 각 장면의 휘도 범위(0.05 nits ~ 장면 최대)를 로그 램프로 펼쳐 정적·동적 커브로 표시한 것이다(디스플레이 피크 = 이 화면의 백색). ②실내 장면(최대 550 nits)은 600 nits TV가 그대로 낼 수 있는데도 정적 매핑은 300 nits 위를 미리 눌러 버린다. 돌비 비전은 여기에 더해 제작자가 확인한 장면별 커브 파라미터(트림)를 보낸다.

포맷	전달 함수	비트	메타데이터	특징
HDR10	PQ	10	정적 (ST 2086, MaxCLL/MaxFALL)	무료 표준, 모든 HDR 기기의 기본
HDR10+	PQ	10	동적 (ST 2094-40, 장면별)	삼성 주도, 로열티 프리
돌비 비전	PQ (IPTPQc2 등)	12 (10비트 전송 가능)	동적 (ST 2094-10, 프레임별 + 트림)	라이선스, 기기별 튜닝
HLG	HLG	10	없음	방송, SDR 하위 호환

MaxCLL/MaxFALL 예시 한 블록버스터 4K 블루레이의 메타데이터가 마스터링 4000 nits, MaxCLL 3,800 nits, MaxFALL 400 nits라면, 화면 대부분은 수백 nits 이하이고 일부 반사와 폭발만 수천 nits라는 뜻이다. MaxFALL은 다음 절의 ABL과 직접 연결된다. 프레임 평균이 높을수록 OLED는 피크를 낮춰야 한다.

피크 휘도, APL, ABL

"최대 휘도 1500 nits" 같은 사양은 대부분 화면의 10% 면적(윈도우)만 흰색일 때의 값이다. 화면 전체를 흰색으로 채우면 같은 OLED TV가 250 nits 안팎밖에 못 낸다. 화면 평균 밝기를 APL(Average Picture Level)이라 하고, APL이 높을 때 휘도를 자동으로 낮추는 기능을 ABL(Automatic Brightness Limiter)이라 한다.

OLED는 각 화소가 직접 전류로 빛을 내므로 패널 전력이 대략 $P \approx k \cdot \bar{L} \cdot A$ (평균 휘도 × 면적)에 비례한다. 전원부 용량, 배선의 IR 드롭(9장), 발열과 수명(번인)이 전력 상한 $P_{max}$를 정하므로

$$ L_{peak}(\mathrm{APL}) = \min\!\left(L_{cap},\ \frac{L_{full}}{\mathrm{APL}}\right),\qquad \mathrm{APL} = \frac{1}{N}\sum_i \frac{L_i}{L_{peak}} $$

여기서 $L_{full}$은 전백(APL 100%)에서 지속 가능한 휘도, $L_{cap}$은 소자·구동 전류 한계로 정해지는 최대 휘도. 실제 제품은 시간 상수(수 초)를 두고 천천히 조정하고, 곡선도 이보다 완만하다.

그림 12-9. 윈도우 크기에 따른 OLED TV의 허용 피크 휘도와 상대 전력(예시). 작은 하이라이트는 1500 nits까지 낼 수 있지만, 밝은 면적이 늘어나면 전력 예산 때문에 휘도가 떨어진다.

SIMULATOR

APL과 허용 피크 휘도 — ABL 곡선

패널

APL (밝은 면적) 전백 지속 휘도 L_full 최대 휘도 L_cap 장면 재생 (APL이 시간에 따라 변함)

허용 피크—

상대 패널 전력—

ABL 감광—

ABL이 걸리기 시작하는 APL—

왼쪽은 검은 화면 위에 APL 면적만큼의 흰 창을 띄운 테스트 패턴, 오른쪽은 윈도우 크기(로그 축) 대 허용 휘도 곡선이다. "장면 재생"을 켜면 어두운 밤 장면 → 설원 장면처럼 APL이 변하며 피크가 따라 움직인다. 미니LED LCD는 백라이트 전력이 화면 내용과 덜 비례하고 방열이 쉬워 전백에서도 1000 nits 이상을 유지한다. 대신 흑과 헤일로에서 손해를 본다(7장).

스마트폰의 HBM과 열 스마트폰 OLED는 햇빛 아래 가독성을 위해 조도 센서가 강한 빛을 감지하면 HBM(High Brightness Mode)으로 전백 1000~1600 nits, 작은 창 2000~3000 nits까지 올린다. 이때 패널 전력은 1~2 W를 넘어 발열이 심해지므로, 일정 시간이 지나면 열 제한이 ABL보다 먼저 휘도를 낮춘다. HDR 영상 재생 중 갑자기 화면이 어두워지는 경험이 대부분 이것이다.

디더링과 FRC: 비트 심도를 늘리는 기술

10비트 HDR 신호를 받았지만 패널 소스 드라이버가 8비트라면? 혹은 8비트 신호를 6비트 패널로 보여야 한다면? 남는 하위 비트를 버리면 밴딩이 생긴다. 대신 그 오차를 공간이나 시간으로 흩어 평균적으로 중간 계조를 만드는 것이 디더링(dithering)이다. 시간 방향으로 프레임마다 계조를 바꾸는 방식을 FRC(Frame Rate Control)라 하며, 타이밍 컨트롤러(T-CON)에서 수행된다(14장).

그림 12-10. FRC와 공간 디더. 2와 3 사이의 2.25를 표현하기 위해 4프레임 중 1프레임만 3을 내거나(시간), 2×2 이웃 중 하나만 3을 낸다(공간). 눈의 시간·공간 적분이 평균을 만든다.

양자화 오차를 신호와 무관한 노이즈로 바꾸는 것이 핵심이다. 디더 없이 반올림하면 오차가 신호와 상관된 계단(밴딩)이 되고, 디더를 더하면 오차는 균일한 노이즈가 되어 눈이 훨씬 덜 거슬려 한다.

$$ q(x) = \Delta\left\lfloor \frac{x}{\Delta} + d \right\rfloor,\qquad d \sim \text{threshold pattern} \in [0, 1),\qquad \mathbb{E}[q(x)] = x \ \ (\text{균등 디더}) $$

여기서 $\Delta = 1/(2^n - 1)$은 LSB 크기, $d$는 화소마다 다른 문턱값. 무작위(백색 노이즈), 베이어(Bayer) 행렬, 블루노이즈 텍스처가 쓰인다. 오차 확산(Floyd–Steinberg)은 반올림 오차를 오른쪽·아래 이웃에 7/16, 3/16, 5/16, 1/16씩 넘긴다.

SIMULATOR

밴딩 제거 — 디더 방식과 FRC

출력 비트

디더

FRC: 프레임마다 패턴 변경 (애니메이션) 눈의 시간 적분 (최근 8프레임 평균)

원본 신호 (가운데 행)출력 (가로 8화소 평균)

RMS 오차 (화소)—

국소 평균 오차 (8×8)—

출력 계조 수—

원본은 어두운 하늘 같은 부드러운 그러데이션(가로로 부호 약 0.15~0.55)이다. "없음"은 굵은 띠가 보이고, 디더는 띠를 노이즈로 바꾼다. 화소 RMS 오차는 디더 쪽이 오히려 크지만, 눈이 보는 국소 평균 오차는 크게 줄어든다. 블루노이즈는 저주파 성분이 적어 같은 노이즈량에서도 거칠게 보이지 않는다. FRC와 시간 적분을 함께 켜면 4비트로도 매끈한 그러데이션이 보인다.

패널 사양의 "8비트 + FRC" 모니터 사양에 "10비트(8비트 + FRC)"라고 적혀 있으면 소스 드라이버는 8비트이고 T-CON이 시공간 디더로 10비트처럼 보이게 한다는 뜻이다. 정지 화면에서는 진짜 10비트와 거의 구분이 안 되지만, 저계조에서 미세한 깜빡임이나 노이즈 질감이 보일 수 있고, 저주사율(LTPO 1 Hz 구동, 4장)에서는 FRC 주기가 길어져 쓰기 어렵다.

주변광과 HDR 시청 환경

PQ는 절대 휘도로 정의되었기 때문에 "어떤 환경에서 보는가"까지 기준이 있다. BT.2100과 BT.2408은 주변 휘도 5 nits의 어두운 방을 기준 시청 환경으로 둔다. 하지만 실제 거실은 100~500 lux, 낮의 창가는 수천 lux다. 밝은 환경에서는 두 가지가 동시에 일어난다.

물리적 효과: 화면 반사광 $R_d E/\pi$가 저계조를 덮는다. 300 lux, 반사율 1%면 약 1 nit로, PQ 부호 0~0.15(10비트 0~150, 즉 0~1 nit 구간) 전체가 회색 바닥에 묻힌다. 반사 억제(원편광판, AR 코팅)가 중요한 이유다(13장).
지각적 효과: 눈이 밝은 주변에 순응해 같은 화면 휘도도 더 어둡고 평평하게 느낀다. 어두운 방 기준으로 마스터링한 HDR 영화가 밝은 거실에서는 "너무 어둡다"는 불만이 많다.

그림 12-11. BT.2100 기준 시청 환경(왼쪽)과 밝은 거실(오른쪽). 거실에서는 조명 반사가 화면 흑을 끌어올리고, 순응 때문에 어두운 장면이 더 어둡게 느껴진다.

그래서 최근 TV와 스마트폰은 조도 센서로 주변광을 측정해 주변광 적응 톤 매핑을 한다. 돌비 비전 IQ, HDR10+ Adaptive, 주변광 기반 PQ 부스트가 그 예다. 원리는 간단하다. 반사 휘도 $L_R$ 근처 이하의 계조를 위로 끌어올려(저계조 리프트) 반사광 위로 꺼내고, 중간 톤을 약간 밝게 해 순응을 보상한다. 하이라이트 쪽은 톤 매핑 여유를 줄여 대신 맞춘다. 시청 환경까지 포함해 생각하면 "정확한 재현"은 절대 휘도가 아니라 지각되는 결과를 맞추는 문제가 된다.

HDR 기준 백색 203 nits BT.2408은 HDR 콘텐츠에서 종이·피부 같은 "확산 백색"을 203 nits(PQ 부호 약 58%, HLG 75%)로 두라고 권고한다. SDR 100 nits보다 약 1 stop 밝은 값이다. 그 위 203~1000+ nits는 반사 하이라이트, 광원, 태양을 위한 여유(헤드룸)다. HDR 영상이 "전체가 밝아지는 것"이 아니라 "하이라이트가 살아나는 것"인 이유다. 스마트폰 UI를 HDR 영상과 섞어 보여 줄 때도 이 값이 SDR 백색의 기준이 된다.

핵심 정리

눈의 밝기 지각은 휘도에 대해 세제곱근처럼 휜다($L^* = 116Y^{1/3} - 16$). L* 50 ≈ 휘도 18%다.
감마 부호화($V = Y^{1/\gamma}$)는 부호를 지각 축에 고르게 배분한다. 선형 8비트는 저계조 밴딩이 심해, 같은 품질에 약 11~12비트가 필요하다.
OETF(빛→신호), EOTF(신호→빛), OOTF(장면→화면). SDR은 BT.1886 γ=2.4, sRGB는 유효 γ≈2.2, 시스템 감마 ≈1.2로 어두운 시청 환경을 보상한다.
명암비는 측정법(정적·동적·ANSI)과 주변광에 크게 좌우된다. $\mathrm{CR_{amb}} = (L_W + L_R)/(L_K + L_R)$, $L_R = R_d E/\pi$. 1 stop = 2배.
PQ는 0.0001~10,000 nits 절대 휘도 EOTF로 바텐 문턱에 맞춰 설계되었다(100 nits ≈ 부호 51%, 1000 nits ≈ 75%). HLG는 상대 방식이며 $\gamma = 1.2 + 0.42\log_{10}(L_W/1000)$의 시스템 감마를 쓴다.
밴딩은 $\Delta L/L$이 바텐 문턱을 넘을 때 보인다. 12비트 PQ는 전 범위가 문턱 아래, 10비트 PQ는 실용적 한계, 감마로 HDR을 하려면 15비트 안팎이 필요하다.
톤 매핑: 하드 클립은 하이라이트 손실, Reinhard는 중간 톤 손실, BT.2390 EETF는 니 아래를 보존하고 위만 에르미트 스플라인으로 압축한다.
HDR10은 정적 메타데이터(MaxCLL/MaxFALL), HDR10+·돌비 비전은 장면별 동적 메타데이터로 불필요한 압축을 피한다.
OLED 피크 휘도는 APL에 반비례해 제한된다(ABL). 사양의 피크는 보통 10% 창 기준이며, 전백에서는 수분의 1로 떨어진다.
디더링·FRC는 양자화 오차를 신호 무관 노이즈로 바꿔 비트 심도를 1~2비트 확장한다. 블루노이즈·오차 확산이 백색 노이즈보다 덜 거슬린다.

확인 퀴즈

1. 8비트 선형 부호화(Y = V)에서 부호 1단계가 가장 크게 보이는(지각적으로 가장 큰) 영역은?

선형 부호의 계단 ΔY = 1/255로 일정하지만, 눈은 상대 변화 ΔY/Y에 반응한다. Y = 1%에서 ΔY/Y ≈ 40%, ΔL* ≈ 3으로 띠가 뚜렷하다. 감마 부호화가 어두운 쪽에 부호를 더 배정하는 이유다.

2. 카메라 OETF가 Y^0.5, 디스플레이 EOTF가 V^2.4일 때 시스템(OOTF) 감마는?

OOTF = (Y^0.5)^2.4 = Y^1.2. 어두운 시청 환경에서 대비가 약해 보이는 현상을 보상하기 위해 SDR·HLG 모두 1보다 약간 큰 시스템 감마를 둔다.

3. 피크 800 nits, 흑 0.001 nits OLED를 200 lux 조명 아래(화면 반사율 1.5%)에서 볼 때 유효 명암비에 가장 가까운 것은?

L_R = 0.015 × 200 / π ≈ 0.95 nits. CR = (800 + 0.95)/(0.001 + 0.95) ≈ 842:1. 밝은 환경에서는 흑 휘도가 아니라 반사광이 흑을 결정한다.

4. PQ에 대한 설명으로 옳은 것은?

PQ(ST 2084)는 절대 휘도 EOTF이며 100 nits가 부호 약 0.508(10비트 520)이다. 상대 방식·SDR 하위 호환·제곱근 아래쪽은 HLG의 특징이다.

5. 같은 비트 수에서 PQ가 감마 2.4(0~10,000 nits)보다 밴딩에 강한 이유는?

감마를 10,000 nits까지 늘리면 밝은 쪽은 부호가 남고 어두운 쪽(1 nit 이하)은 계단이 문턱의 10배 이상이 된다. PQ는 바텐 문턱을 적분해 만든 곡선이라 전 범위에서 계단/문턱 비가 거의 일정하고, 12비트면 전부 문턱 아래다.

6. 4000 nits 마스터링 콘텐츠를 600 nits TV에서 BT.2390 EETF로 표시할 때 옳은 것은?

BT.2390은 PQ 영역에서 K_S = 1.5M − 0.5 아래는 1:1로 통과시키고, 위는 에르미트 스플라인으로 콘텐츠 피크를 디스플레이 피크에 연속적으로 매핑한다. 전체 스케일링은 중간 톤을 어둡게, 하드 클립은 하이라이트 디테일을 잃는다.

7. 전백(APL 100%) 지속 휘도 250 nits, 최대 1500 nits인 OLED TV가 전력 제한 L = min(L_cap, L_full/APL)을 따른다면, APL 40% 장면의 허용 피크는?

250 / 0.4 = 625 nits < 1500 nits이므로 전력 제한이 걸린다. ABL은 APL이 250/1500 ≈ 17%를 넘는 순간부터 동작한다. 10% 창 기준 피크 사양이 실제 밝은 장면의 밝기를 보장하지 않는 이유다.

8. 6비트 패널에서 디더 없이 반올림할 때와 비교해, 블루노이즈 디더를 쓰면 어떻게 되는가?

디더는 출력 계조 수를 늘리지 않는다. 대신 양자화 오차를 신호와 무관한 노이즈로 바꿔 눈의 공간(·시간) 적분 후 평균이 원본과 같아지게 한다. 블루노이즈는 저주파 성분이 적어 같은 노이즈 에너지에서도 덜 거슬린다.