CUDA三种流捕获模式的异同

CUDA流捕获APIcudaStreamBeginCapture()支持三种不同的流捕获模式，分别是：

• cudaStreamCaptureModeGlobal（默认）
• cudaStreamCaptureModeThreadLocal
• cudaStreamCaptureModeRelaxed

它们的异同点是：

• cudaStreamCaptureModeGlobal
  在流捕获期间：
  1）当前线程和同一进程的其他线程不可以调用不安全的API；
  2）当前线程不可以调用一些会与当前流捕获产生冲突的API；
  3）多个线程可以往同一个被捕获的流中发送异步任务；

• cudaStreamCaptureModeThreadLocal
  在流捕获期间：
  1）当前线程不可以调用不安全的API；
  2）当前线程不可以调用一些会与当前流捕获产生冲突的API；
  3）同一进程的其他线程可以调用不安全的API；
  4）多个线程可以往同一个被捕获的流中发送异步任务；

• cudaStreamCaptureModeRelaxed
  在流捕获期间：
  1）当前线程可以调用大部分不安全的API；
  2）当前线程不可以调用一些会与当前流捕获产生冲突的API；
  3）同一进程的其他线程可以调用不安全的API；
  4）多个线程可以往同一个被捕获的流中发送异步任务；

不安全的API包括：
cudaMalloc()：只有Relaxed模式可以调用
cudaFree()：只有Relaxed模式可以调用
cudaMallocHost()：三种流捕获模式都不能调用
cudaFreeHost()：三种流捕获模式都不能调用

与流捕获产生冲突的API包括：
cudaDeviceSynchronize()
cudaStreamSynchronize()
cudaEventSynchronize()
cudaStreamQuery()
cudaEventQuery()