C++ AMP 介绍（两）

最后更新：2014-05-02

读前提：《C++ AMP介绍（一个）》

周边环境:Windows 8.1 64bit英文版，Visual Studio 2013 Update1英文版，Nvidia QuadroK600 显卡

内容简单介绍

介绍C++ AMP的 array、array_view、extent类和平铺的知识。

正文

数据的移动

array和 array_view两个数据容器(模板类)用于把数据从执行时库（CPU）移到加速器（显卡或通用计算卡）上。array类在构造时建立数据的深拷贝。把数据拷贝到加速器(GPU)上，而array_view类是个包装类。只当核心函数（kernel function）要用到数据时。才把源数据拷贝到加速器上。

#include 
     
      using namespace concurrency;//演示array类的使用方式void test_array(){	//測试数据	std::vector
      
        data(5);	for (int count = 0; count < 5; count++)	{		data[count] = count;	}	//构造array实例	array
       
         a(5, data.begin(), data.end());	parallel_for_each(		a.extent,		[=, &a](index<1> idx) restrict(amp)	{		a[idx] = a[idx] * 10;	}	);	//array实例a不须要调用同步方法	//可是须要赋值给data	data = a;	//输出0,10,20,30,40	for (int i = 0; i < 5; i++)	{		std::cout << data[i] << "\n";	}}

array_view同array之间差点儿有同样的成员，可是它们底层的行为不一样，所以当你建立两个指向同一个数据源的array_view实例时，实际上它们指向同一个内存地址。数据仅仅有当须要的时候才会被拷贝到加速器中。所以你得注意数据的同步，array_view类的主要优点是数据仅当要被加速器用到的时候才会被移动。

共享内存是能被CPU和GPU訪问的内存，array类能够控制共享内存的存取方式，可是首先我们须要測试加速器是不是支持共享内存，以下是array使用共享内存的演示样例代码。

int test_sharedMemory(){	// 一台计算机中可能有多块加速器，取默认加速器	accelerator acc = accelerator(accelerator::default_accelerator);	// 測试默认加速器是否支持共享内存	if (!acc.supports_cpu_shared_memory)	{		std::cout << "The default accelerator does not support shared memory" << std::endl;		return 1;	}	// 设置cpu默认存取方式	acc.set_default_cpu_access_type(access_type_read_write);	//为acc加速器建立accelerator_view（加速器视图）实例	//读写方式默觉得加速器default_cpu_access_type属性的设定	accelerator_view acc_v = acc.default_view;	// extent指示array实例建立一个含10个元素的一维数组	extent<1> ex(10);	// 指定加速器视图。输入数组在CPU上仅仅写	array
     
       arr_w(ex, acc_v, access_type_write);	// 指定加速器视图。输出数组在CPU上仅仅读	array
      
        arr_r(ex, acc_v, access_type_read);	// 指定加速器视图。能够在CPU上读写的数组	array
       
         arr_rw(ex, acc_v, access_type_read_write);	return 0;}

index 类

index类指定元素在array或array_view对象中的位置，以下是index类的使用演示样例代码

void test_indexClass(){	int aCPP[] = { 1, 2, 3,		4, 5, 6 };	//新建2维(两行三列)array_view包装器	array_view
     
       a(2, 3, aCPP);	index<2> idx(1, 2);	//输出6	std::cout << a[idx] << "\n";}

extent类

尽管extent类在非常多场合下不是必要的，可是微软的部分演示样例代码使用到了extent class。所以有必要介绍下extent class。

extentclass用来指定array或array_view各个维度的元素数量，你能够使用extent class建立array或array_view对象，也能够从array或array_view对象中存取extent，以下的样例演示了extent class的使用。

void test_extentClass(){	int aCPP[] = { 111, 112, 113, 114, 		           121, 122, 123, 124, 				   131, 132, 133, 134,				   211, 212, 213, 214,				   221, 222, 223, 224,				   231, 232, 233, 234 };	extent<3> e(2, 3, 4);	array_view
     
       a(e, aCPP);	//断言extent[0],[1],[2]的属性分别为2、3、4	assert(2 == a.extent[0]);		assert(3 == a.extent[1]);	assert(4 == a.extent[2]);	}

parallel_for_each函数

我们在上篇文章中调用过parallel_for_each函数，它有两个入口參数，第一个入口參数为计算域，是个extent或tiled_extent对象。定义了要在加速器上并发执行的线程集合。它会为每一个元素生成一根用于计算的线程。第二个參数是lambda表达式，定义了要在每根线程上执行的代码。

加速代码: 砖面（Tiles ）和边界（Barriers）

将全体线程划分为若干个具有相等数量矩形(M*N根)线程集合，每一个集合称为tile(砖面)。多个tile（砖面）组成全体线程。叫做平铺(tiling)。

若要使用平铺，在parallel_for_each 方法中的计算域上调用 extent::tile 方法。并在 lambda 表达式中使用 tiled_index 对象。

以下是两张来自微软官网的砖面（tile）的组织图，能够看到怎样索引元素。

图中的idx是index类。sample是全局空间（array或array_view对象）

下图中的t_idx是index类，descriptions是全局空间（array或array_view对象）

以下这个来自微软官方的样例。每2*2=4根线程组成一个砖面(tile)，计算砖面(tile)中元素的平均值。

void test_tile(){	// 測试样本:	int sampledata[] = {		2, 2, 9, 7, 1, 4,		4, 4, 8, 8, 3, 4,		1, 5, 1, 2, 5, 2,		6, 8, 3, 2, 7, 2 };	// The tiles（以下是6个砖面）:	// 2 2    9 7    1 4	// 4 4    8 8    3 4	//	// 1 5    1 2    5 2	// 6 8    3 2    7 2	// averagedata用来存放运算结果:	int averagedata[] = {		0, 0, 0, 0, 0, 0,		0, 0, 0, 0, 0, 0,		0, 0, 0, 0, 0, 0,		0, 0, 0, 0, 0, 0,	};	//每四个元素（四根线程）组成一个tile（砖面），所以共同拥有六个tile(砖面)	array_view
     
       sample(4, 6, sampledata);	array_view
      
        average(4, 6, averagedata);	//通过[1]extent.tile取代extent[2]tiled_index取代index，启用平铺模式	parallel_for_each(		// 把extent切分为以2*2为单位的tile（砖面）		sample.extent.tile<2, 2>(),		[=](tiled_index<2, 2> idx) restrict(amp)	{		//tile_statickeyword的变量范围是整个tile（砖面）		//所以每一个tile（砖面）(2*2=4根线程)仅仅实例化一个tile_static		tile_static int nums[2][2];		//tile(砖面)中的全部线程分别执行以下的代码		//把值拷贝到tile_static实例nums，所以同一个nums会被赋值2*2=4次		nums[idx.local[1]][idx.local[0]] = sample[idx.global];		//等待tile(砖面)中的全部线程，执行完上面这段代码		idx.barrier.wait();		//如今nums中的2*2=4个元素已经有有效值了		//tile(砖面)中的全部线程再次分别执行以下的代码		//计算平均值，		int sum = nums[0][0] + nums[0][1] + nums[1][0] + nums[1][1];		//把计算结果拷贝到array_view对象中.		average[idx.global] = sum / 4;	}	);	//打印运算结果	for (int i = 0; i < 4; i++) {		for (int j = 0; j < 6; j++) {			std::cout << average(i, j) << " ";		}		std::cout << "\n";	}	// Output:	// 3 3 8 8 3 3	// 3 3 8 8 3 3	// 5 5 2 2 4 4	// 5 5 2 2 4 4}

使用平铺的优点是，从tile_static变量存取数据要比从全局空间（array和array_view对象）要快。

为了从平铺中得到性能优势，我们的算法必须把计算域拆分为tile（砖面）然后把数据放到tile_static变量中加快数据存取速度。

注意不要使用类似以下的代码来累加tile（砖面）中的数据，

tile_static float total;

total += matrix[t_idx];‘

原因[1]total的初始值是不确定的，所以第二句代码的运算没有意义。

原因[2]因为tile（砖面）中的多根线程竞争同一个title_static变量，计算结果会不确定。

内存屏障(MemoryFences)

在restrict(amp)限定中，有两种内存必需要同步：

全局内存：array或array_view实例

tile_static内存：tile(砖面)内存

内存屏障确保两种内存的线程同步，要调用内存屏障能够使用以下三种方法：

tile_barrier::wait（或tile_barrier::wait_with_all_memory_fence）方法: 建立全局内存和tile_static内存的屏障。

tile_barrier::wait_with_global_memory_fence方法 : 仅建立全局内存的屏障

tile_barrier::wait_with_tile_static_memory_fence 方法 :仅建立tile_static内存的屏障

调用特定类型的屏障(fence)能够提高你应用的性能，在以下的样例中 tile_barrier::wait_with_tile_static_memory_fence 方法的调用取代tile_barrier::wait方法的调用提高了应用的性能。

// 使用tile_static内存屏障parallel_for_each(matrix.extent.tile
     
      (),     [=, &averages](tiled_index
      
        t_idx) restrict(amp){    // 把数据从全局内存中拷贝到title_static内存中.    tile_static floattileValues[SAMPLESIZE][SAMPLESIZE];   tileValues[t_idx.local[0]][t_idx.local[1]] = matrix[t_idx];     // 等待title_static内存中的数据复制完成   t_idx.barrier.wait_with_tile_static_memory_fence();     // 假设你移除if语句。代码会把被tile(砖面)中的全部线程调用。这样每一个    // tile(砖面)中的元素都会被分配一个相同的平均值.    if (t_idx.local[0] == 0&& t_idx.local[1] == 0) {        for (int trow = 0; trow

restrict(amp)修饰的代码段是在加速器（GPU）上执行的。默认在里面的代码段。下断点不会Break（进入）。在[Solution Explorer]窗体中点击项目名称。快捷键[Alt]+[Enter]，打开当前项目属性页，[Configuration Properties]->[Debugging]->[Debugger Type]默觉得“Auto”。改为“GPU Only”就能够Debug当前项目加速器(GPU)上执行的代码了。

据官网介绍。无符号整数的处理速度要比带符号整数快。所以尽量用无符号整数吧。