최근 그래픽 기술이 발전하면서 게임과 3D 렌더링의 품질이 비약적으로 향상되었습니다. 특히 레이 트레이싱(Ray Tracing) 과 DLSS(Deep Learning Super Sampling) 는 최신 그래픽 카드에서 필수적인 기능으로 자리 잡았습니다.
레이 트레이싱은 현실적인 빛의 반사와 그림자를 구현하는 기술이며, DLSS는 AI 기반 업스케일링을 통해 그래픽 품질을 유지하면서 성능을 향상시키는 기술입니다.
이 두 기술은 각기 다른 방식으로 그래픽을 향상시키지만, 함께 사용될 때 더욱 뛰어난 성능을 발휘합니다. 이번 글에서는 레이 트레이싱과 DLSS의 원리와 차이점, 그리고 실전 활용 방식에 대해 깊이 있게 분석해 보겠습니다.
1. 레이 트레이싱 원리와 동작 방식
1) 레이 트레이싱이란?
레이 트레이싱(Ray Tracing)은 실제 빛의 이동 방식을 시뮬레이션하여 사실적인 그래픽 효과를 구현하는 렌더링 기술입니다.
기존의 래스터라이제이션(Rasterization) 방식은 화면에 보이는 부분만 연산하는 방식이지만, 레이 트레이싱은 빛의 경로를 계산하여 반사, 굴절, 그림자, 전역 조명(Global Illumination) 등을 더욱 사실적으로 표현합니다.
즉, 광원이 물체에 닿을 때 발생하는 빛의 상호작용을 실시간으로 계산하여 더욱 자연스러운 화면을 생성하는 기술입니다. 이를 통해 반사되는 물체, 창문을 통과하는 빛, 그림자의 디테일 등이 기존보다 훨씬 더 사실적으로 표현됩니다.
2) 레이 트레이싱의 작동 원리
레이 트레이싱은 렌더링 과정에서 가상의 빛(ray)을 화면 속 모든 픽셀에서 반사시키고, 그 빛이 다른 물체와 어떻게 상호작용하는지를 계산합니다. 기본적인 작동 방식은 다음과 같습니다.
- 광원(Source)에서 빛이 방출되고, 이 빛이 장면(scene) 내의 물체에 도달합니다.
- 빛이 물체에 반사되거나 굴절되며, 반사된 빛이 다시 다른 물체에 닿아 새로운 색상과 밝기를 결정합니다.
- 이 과정을 반복하여 최종적으로 화면의 각 픽셀에 대한 색상을 결정하게 됩니다.
이 과정은 현실 세계에서 빛이 반사하고 산란하는 방식과 유사하기 때문에, 기존의 래스터라이제이션 방식보다 훨씬 사실적인 그래픽을 생성할 수 있습니다. 하지만 연산량이 매우 많아 GPU의 성능이 필수적으로 요구됩니다.
3) 레이 트레이싱의 장점과 단점
장점
- 현실적인 빛 표현: 반사, 그림자, 굴절 등의 효과를 더욱 사실적으로 표현 가능
- 고품질 조명 효과: 전역 조명(Global Illumination) 및 주변광 처리(Ambient Occlusion)에 유리
- 게임 및 애니메이션의 몰입감 향상
단점
- 높은 연산 비용: 실시간 렌더링을 위해서는 고성능 GPU가 필요
- 프레임 속도 저하: 레이 트레이싱을 활성화하면 게임 성능이 크게 하락할 수 있음
- 최적화가 필요한 게임 엔진: 모든 게임이 레이 트레이싱을 완벽히 지원하는 것은 아님
이를 해결하기 위해 NVIDIA는 RT 코어(Ray Tracing Core) 를 포함한 RTX 시리즈 GPU를 개발했으며, AMD 역시 RDNA 2 아키텍처에서 하드웨어 기반 레이 트레이싱을 지원하기 시작했습니다.
2. DLSS의 원리
1) DLSS란 무엇인가?
DLSS(Deep Learning Super Sampling)는 NVIDIA의 AI 기반 업스케일링 기술로, 기본 해상도보다 낮은 해상도로 렌더링한 후 AI가 이를 보정하여 원래 해상도처럼 보이게 만드는 기술입니다.
즉, GPU의 부담을 줄이면서도 고해상도 그래픽을 유지할 수 있도록 도와줍니다. DLSS를 활성화하면 FPS(초당 프레임 수)를 증가시키면서도 시각적으로 높은 품질의 이미지를 출력할 수 있습니다.
2) DLSS의 작동 원리
DLSS는 단순한 업스케일링이 아니라 딥러닝을 활용하여 저해상도 이미지를 학습하고, 이를 고해상도로 변환하는 방식입니다.
저해상도로 렌더링된 프레임을 GPU가 생성합니다. NVIDIA의 AI 딥러닝 모델이 수천 개의 고해상도 이미지와 비교하여 업스케일링을 수행합니다.
Tensor Core를 활용한 AI 연산을 통해 업스케일링된 프레임을 생성하며, 기존의 저해상도 프레임보다 더욱 선명한 이미지가 출력됩니다.
이 방식 덕분에 DLSS는 기존의 단순한 해상도 확대 방식보다 텍스처 디테일을 유지하면서도 더 적은 연산량으로 높은 해상도를 제공할 수 있습니다.
3) DLSS의 장점과 단점
장점
- 성능 향상: 낮은 해상도로 렌더링 후 업스케일링하기 때문에 FPS가 증가
- 고화질 유지: AI 학습을 기반으로 업스케일링하여 원본과 유사한 화질 제공
- 레이 트레이싱과 궁합이 좋음: DLSS를 사용하면 레이 트레이싱을 활성화해도 성능 저하가 덜함
단점
- NVIDIA RTX GPU에서만 지원: AMD GPU에서는 DLSS를 사용할 수 없음
- AI 모델 학습 필요: 특정 게임에서 최적의 성능을 내기 위해서는 NVIDIA가 별도로 AI 학습을 진행해야 함
- 일부 게임에서는 그래픽 품질 저하 발생 가능
현재 NVIDIA는 DLSS 3.0을 출시하며 ‘프레임 생성(Frame Generation)’ 기능을 추가하여, AI가 기존 프레임과 예측 프레임을 기반으로 새로운 프레임을 생성하는 기능을 제공하고 있습니다.
3. 레이 트레이싱과 DLSS의 결합
레이 트레이싱과 DLSS는 각각 독립적인 기술이지만, 함께 사용할 때 최고의 성능과 그래픽 품질을 제공합니다.
레이 트레이싱은 현실적인 조명 효과를 제공하지만, 높은 연산 비용이 발생하여 FPS가 낮아지는 문제가 있습니다. 이를 해결하기 위해 DLSS를 사용하면, AI 업스케일링을 통해 성능을 유지하면서도 고품질 그래픽을 경험할 수 있습니다.
예를 들어, 다음과 같은 조합이 가능합니다.
- 레이 트레이싱 ON + DLSS OFF → 사실적인 그래픽이지만 FPS가 낮음
- 레이 트레이싱 ON + DLSS ON → 사실적인 그래픽과 높은 FPS를 동시에 확보
- 레이 트레이싱 OFF + DLSS ON → 일반적인 고해상도 게임에서 FPS 최적화
특히, 최신 게임들은 DLSS를 활용하여 성능과 그래픽 품질을 균형 있게 조절하고 있으며, NVIDIA의 최신 RTX 40 시리즈 GPU는 DLSS 3.0을 지원하여 더 나은 업스케일링 성능을 제공합니다.
4. 레이 트레이싱과 DLSS가 게임 성능
게임에서 레이 트레이싱과 DLSS는 그래픽 품질과 성능 간의 균형을 맞추는 핵심 기술입니다.
고해상도 게임을 즐길 때, 레이 트레이싱을 활성화하면 빛 반사, 그림자, 굴절 효과 등이 향상되지만, 동시에 GPU에 높은 부하가 발생하여 프레임 속도(FPS) 가 급격히 낮아질 수 있습니다.
1) 레이 트레이싱 활성화
레이 트레이싱을 활성화하면 GPU가 실시간으로 수많은 광선을 추적해야 하므로, 프레임 속도가 30~50% 이상 감소하는 경우가 많습니다. 특히 RTX 30, 40 시리즈 이전의 GPU에서는 레이 트레이싱 성능이 제한적이기 때문에, 최신 게임을 레이 트레이싱 ON 상태로 플레이하면 FPS가 크게 하락할 수 있습니다.
- RTX 4090: 4K 레이 트레이싱 적용 시, 평균 100~120 FPS
- RTX 3080: 동일 조건에서 50~70 FPS
- RTX 2080 Ti: 동일 조건에서 30~45 FPS
즉, 고사양 게임에서 레이 트레이싱을 원활히 사용하려면 최신 고성능 GPU가 필수적입니다.
2) DLSS 활성화 시 성능 향상
DLSS는 AI 기반 업스케일링을 활용하여 낮은 해상도로 렌더링한 후, 고해상도로 변환하기 때문에 프레임 속도를 1.5~2배 이상 증가시킬 수 있습니다.
예를 들어, 4K 해상도에서 레이 트레이싱을 활성화한 게임이 평균 50FPS를 기록할 때, DLSS를 활성화하면 80~100FPS까지 증가할 수 있습니다. NVIDIA는 최신 RTX 40 시리즈에서 DLSS 3.0을 추가하여 AI 기반 프레임 생성(Frame Generation) 기능을 적용하였으며, 이를 통해 기존보다 더욱 높은 성능을 제공합니다.
5. 최신 게임 적용 사례
최근 출시되는 게임들은 레이 트레이싱과 DLSS를 적극적으로 지원하고 있으며, 일부 게임은 DLSS가 없으면 사실상 플레이가 어려울 정도로 높은 그래픽 요구 사항을 필요로 합니다.
1) 사이버펑크 2077
레이 트레이싱 적용 시: 고해상도 반사 효과, 사실적인 조명 구현
DLSS 적용 시: RTX 4090 기준 4K 해상도에서 성능 최대 2배 증가
DLSS 3.0 프레임 생성 활성화 시: 60FPS → 120FPS로 향상
2) 마인크래프트 RTX
기본 버전과 비교했을 때, 레이 트레이싱 적용 후 조명과 반사 효과가 크게 향상됨
RTX 3060 기준으로 레이 트레이싱 활성화 시 FPS가 30 이하로 감소하지만, DLSS 적용 후 60FPS 이상 유지 가능
3) 콜 오브 듀티: 모던 워페어 II
레이 트레이싱 적용 시: 환경 반사, 그림자 표현 개선
DLSS 적용 시: 1440p 해상도에서 성능 1.7배 향상
4) 포르자 호라이즌 5 (Forza Horizon 5)
레이 트레이싱 적용 시 차량 표면 반사 효과 증가
DLSS 활성화 후 4K 해상도에서도 부드러운 주행 가능
6. 레이 트레이싱과 DLSS의 미래 전망
현재 레이 트레이싱과 DLSS는 게임 그래픽을 향상시키는 핵심 기술로 자리 잡았으며, 향후 더욱 발전할 것으로 예상됩니다.
1) NVIDIA RTX 50 시리즈 및 차세대 GPU 발전
NVIDIA는 차세대 RTX 50 시리즈에서 더욱 발전된 RT 코어와 DLSS 4.0을 탑재할 가능성이 높으며, 이를 통해 더욱 사실적인 레이 트레이싱 효과와 성능 향상이 기대됩니다.
2) AI 기반 그래픽 기술 확대
DLSS는 이제 단순한 업스케일링을 넘어 AI 기반 프레임 생성(Frame Generation) 기능을 통해 실제로 존재하지 않는 프레임을 예측하여 추가 렌더링하는 방식으로 발전하고 있습니다. 앞으로는 AI가 더욱 정밀한 프레임을 생성하여 그래픽 품질을 높이고, 성능을 극대화할 가능성이 높습니다.
3) AMD 및 Intel의 경쟁 기술 발전
AMD는 FSR (FidelityFX Super Resolution) 기술을 개선하여 NVIDIA의 DLSS와 경쟁하고 있으며, FSR 3.0에서는 AI 기반 업스케일링 기능을 강화할 예정입니다.
Intel 또한 XeSS(Xe Super Sampling) 기술을 통해 DLSS와 유사한 AI 기반 업스케일링 기능을 제공하며, 그래픽 업스케일링 경쟁이 심화되고 있습니다.