Что за CUDA-ядра и зачем они нужны?

Графический процессор любой видеокарты состоит из небольших блоков, которые в свою очередь из вычислительных юнитов. У AMD это потоковые процессоры, у Intel — шейдерные ядра, а у NVIDIA — CUDA-ядра. Поскольку карты NVIDIA наиболее распространены и популярны (порядка 84% рынка в 2022 году), в этой статье поверхностно ознакомимся с их универсальной вычислительной единицей — с ядром CUDA.

Блок-схема ядра GA102 (GeForce RTX 4090): 84 SM-блоков (активны 64), каждый содержит 256 CUDA.

Коротко о главном

CUDA — это технология, запатентованная NVIDIA и используемая только в их видеокартах. Ядра CUDA похожи на обычные, используемые в процессорах. CUDA означает Compute Unified Device Architecture, что в переводе Вычислительная Унифицированная Архитектура Устройства. 

Ядро CUDA отличается от обычного процессорного архитектурой. Они нацелены на то, чтобы эффективно работать параллельно . Ядра CUDA проще по устройству, но в видеокарте их очень много. Если в процессоре могут быть 2-16 ядер, то в видеокарте их сотни, а то и тысячи. Например, у карты GeForce RTX 3080 их 8960, а у GeForce GTX 980 — 2048.

Говоря иными словами, если процессорное ядро — это высококвалифицированный инженер, который может делать всё, но в системе их мало. CUDA — низкоквалифицированный рабочий, но их много, и они наваливаются на задачу все разом.

Где используются CUDA?

В первую очередь в игровых видеокартах NVIDIA. 

Видеокарты с ядрами CUDA призваны взять на себя самые тяжелые элементы. Процессор в компьютере с такой видеокартой играет роль администратора, решая базовые задачи. В данном случае CUDA решают только графические задачи. Обработка графики требует большого количества одновременных вычислений, на это «заточены» ядра CUDA, и поэтому их так много. Одновременные вычисления — это суть игр, ведь в игре стреляют, бегут, едут, летят, плывут, и все это в один момент. CUDA же решают задачи вместе и сразу. 

Это исключает ситуации, когда одно ядро ждет, пока другие ядра выполняют свои задачи, и потери производительности из-за такого ожидания.

Где будут полезны ядра?

В играх 

Ядра от NVIDIA влияют на производительность всей графики в игре, но в первую очередь на тени, освещение, сглаживание, физические модели. Их работа делает игру реалистичнее и детальнее. 

В рабочих задачах

Спектр применения CUDA в рабочих задачах очень широк. Как сказано в названии, это унифицированный вычислительный юнит, который может делать всё. Наиболее часто CUDA-вычисления применяются в: вычислительной математике, для работы с искусственным интеллектом, анализа Big Data, финансовой аналитике, прогнозах погоды.

Послесловие

В завершение настоятельно рекомендуем ознакомиться с этим роликом от легендарных разрушителей легенд, за полторы минуты максимально наглядно показывающим, что такое CUDA.