如何使用AVX和AVX2处理数据(个人翻译)1.文章来源Matt Scarpino（USA） Crunching Numbers with AVX and AVX2 - CodeProject 2.介绍在2003年，Alex Fr写了一篇优秀的文章[该文章现在已经被原作者删除]，解释了如何使用Intel的流式SIMD扩展(SSE)执行SIMD(单指令，多数据)处理。SSE是英特尔处理器支持的一组指令，可对大量数据执行高速运算。 2008年， 2023-03-10 HPC AVX AVX2
CUDA使用二维网格和二位块对矩阵求和CUDA使用二维网格和二位块对矩阵求和在本节中，我们将使用一个二维网格和二位块来编写一个矩阵加法核函数。首先，应该编写一个校验主函数以验证矩阵加法核函数是否能得出正确的结果： 1234567891011121314void sumMatrixOnhost(float *A, float *B, float *C, const int nx, const int ny){ float 2023-03-09 HPC CUDA
CUDA使用块和线程建立矩阵索引CUDA使用块和线程建立矩阵索引通常情况下，一个矩阵用行优先的方法在全局内存中进行线性存储。图2-9所示的是一个8×6矩阵的小例子。 在一个矩阵加法核函数中，一个线程通常被分配一个数据元素来处理。首先要完成的任务是使用块和线程索引从全局内存中访问指定的数据。通常情况下，对一个二维示例来说，需要管理3种索引。 线程和块索引 矩阵中给定点的坐标 全局线性内存中的偏移量 对于一个给定的线程，首先可 2023-03-09 HPC CUDA
CUDA组织并行编程组织并行编程从前面的例子可以看出，如果使用了合适的网格和块大小来正确地组织线程，那么可以对内核性能产生很大的影响。在向量加法的例子中，为了实现最佳性能我们调整了块的大小，并基于块大小和向量数据大小计算出了网格大小。 现在通过一个矩阵加法的例子说明这一点。对于矩阵运算，传统的方法是在内核中使用一个包含二维网格与二位块的布局来组织线程。但是，这种传统的方法无法获得最佳性能。在矩阵加法中使用以下布局将有 2023-03-08 HPC CUDA
CUDA给核函数计时CUDA给核函数计时在内核的性能转换过程中，了解核函数的执行需要多长时间是很有帮助并且十分关键的。衡量核函数性能的方法有很多。最简单的方法是在主机端使用一个CPU或GPU计时器来计算内核的执行时间。在本节，你需要设置一个CPU计时器，并使用NVIDIA分析工具来计算执行时间。 用CPU计时器计时可以使用gettimeofday系统调用来创建一个CPU计时器，以获取系统的时钟时间，它将返回自1970 2023-03-07 HPC CUDA
线性回归模型线性回归模型MOdel Representation GoalsIn this lab you will: learn to implement the model f_{w,b} for linear regression with one variable NotationHere is a summary of some of the notation you will encounte 2023-03-06 Machine Learning Tensorflow Machine Learning
CUDA编译与执行CUDA编译与执行现在把所有的代码放在一个文件名为sumArraysOnGPU-small-case.cu的文件中，如代码清单2-4所示。 代码清单2-4 基于GPU的向量加法（sumArraysOnGPU-small-case.cu） 12345678910111213141516171819202122232425262728293031323334353637383940414243444 2023-03-06 HPC CUDA
CUDA处理错误CUDA处理错误由于许多CUDA调用是异步的，所以有时可能很难确定某个错误是由哪一步程序引起的。定义一个错误处理宏封装所有的CUDA API调用，这简化了错误检查过程： 123456789#define CHECK(call){ const cudaError_t error = call; if(error != cudaSuccess) { 2023-03-06 HPC CUDA
CUDA验证核函数CUDA验证核函数既然你已经编写了核函数，你如何能知道它是否正确运行？你需要一个主机函数来验证核函数的结果。 1234567891011121314void checkResult(float *hostRef, float *gpuRef, const int N){ double epsilon = 1.0E-8; int match = 1; for(int i 2023-03-06 HPC CUDA
CUDA编写核函数编写核函数核函数是在设备端执行的代码。在核函数中，需要为一个线程规定要进行的计算以及要进行的数据访问。当核函数被调用时，许多不同的CUDA线程并行执行同一个计算任务。以下是用_global_ 声明定义核函数： 1__global__ void kernel_name(argument list); 核函数必须有一个void返回类型。 表2-2总结了CUDA C程序中的函数类型限定符。函数类型限 2023-03-06 HPC CUDA