ReadMe.md

简单 CUDA 程序的基本框架

---

单源文件 CUDA 程序基本框架

对于单源文件的 cuda 程序，基本框架为：

包含头文件

定义常量或宏

声明 c++ 自定义函数和 cuda 核函数的原型

int main()
{
    1. 分配主机和设备内存
    2. 初始化主机中数据
    3. 将某些数据从主机复制到设备
    4. 调用核函数在设备中计算
    5. 将某些数据从设备复制到主机
    6. 释放主机和设备内存
}

c++ 自定义函数和 cuda 核函数的定义

CUDA 核函数的要求：

1. 返回类型必须是 void，但是函数中可以使用 return（但不可以返回任何值）；
2. 必须使用限定符 __glolbal__，也可以加上 c++ 限定符；
3. 核函数支持 c++ 的重载机制；
4. 核函数不支持可变数量的参数列表，即参数个数必须确定；
5. 一般情况下，传给核函数的数组（指针）必须指向设备内存（“统一内存编程机制”除外）；
6. 核函数不可成为一个类的成员（一般以包装函数调用核函数，将包装函数定义为类成员）；
7. 在计算能力3.5之前，核函数之间不能相互调用；之后，通过“动态并行”机制可以调用；
8. 无论从主机调用还是从设备调用，核函数都在设备中执行（“<<<,>>>”指定执行配置）。

---

自定义设备函数

核函数可以调用不带执行配置的自定义函数，即 设备函数。

设备函数在设备中执行、在设备中被调用；而核函数在设备中执行、在主机中被调用。

1. __global__修饰的函数称为核函数，一般由主机调用、在设备中执行；
2. __device__修饰的函数称为设备函数，只能被核函数或其他设备函数调用、在设备中执行；
3. __host__修饰主机段的普通 c++ 函数，在主机中被调用、在主机中执行，一般可以省略；
4. 可以同时用 __host__ 和 __device__ 修饰函数，从而减少代码冗余，此时编译器将 分别在主机和设备上编译该函数；
5. 不能同时用 __global__ 和 __device__ 修饰函数；
6. 不能同时用 __global__ 和 __host__ 修饰函数；
7. 可以通过 __noinline__ 建议编译器不要将一个设备函数当作内联函数；
8. 可以通过 __forceinline__ 建议编译器将一个设备函数当作内联函数。

设备函数可以有返回值。

---