| 企服解答

cuda是Compute Unified Device Architecture的縮寫,中文叫統一計算架構。nvidia公司推出的一套編程環境，包括驅動，sdk，toolkit等。讓nvidia gpu可以完成通用計算任務的一種集成技術。

cuda是什么意思

CUDA 是顯卡廠商NVIDIA 推出的運算平臺，只能用于自家 GPU 的并行計算框架，只有安裝這個框架才能夠進行復雜的并行計算。它包含了 CUDA 指令集架構(ISA)以及 GPU 內部的并行計算引擎。 開發人員現在可以使用 C 語言來為 CUDA™架構編寫程序。主流的深度學習框架也都是基于 CUDA 進行 GPU 并行加速的，幾乎無一例外。在這個平臺上，可以使用 NV 公司提供給你的各種便捷計算工具來進行計算，不需要你自己再來開發這些工具。

| 拓展閱讀

CUDA存儲器類型：

1、  寄存器Register

寄存器是GPU上的高速緩存器，其基本單元是寄存器文件，每個寄存器文件大小為32bit.

Kernel中的局部(簡單類型)變量第一選擇是被分配到Register中。

特點：每個線程私有，速度快。

2、  局部存儲器 local memory

當register耗盡時，數據將被存儲到local memory。如果每個線程中使用了過多的寄存器，或聲明了大型結構體或數組，或編譯器無法確定數組大小，線程的私有數據就會被分配到local 　　memory中。

特點：每個線程私有；沒有緩存，慢。

注：在聲明局部變量時，盡量使變量可以分配到register。

3、  共享存儲器 shared memory

可以被同一block中的所有線程讀寫

特點：block中的線程共有；訪問共享存儲器幾乎與register一樣快。