利用Matlab对GPU如何加速的方法

haidaowang

Matlab之GPU加速方法

" R% [6 O6 |4 l8 ]: d9 @6 [+ P
       Matlab之GPU加速方法
              一般代码加速方法
0 M  c2 N- ~- S* R1 A- _* R+ a                     GPU设备确认
8 j/ m; ~3 O: b5 U& Y- B. y3 e                     GPU和CPU之间数据传递
+ d: p7 z# [" d  Z: D' u" M              复杂代码加速方法


一般代码加速方法

$ i4 i, z' \! q2 B5 \, |8 e! K2 IMatlab目前只支持Nvidia的显卡。

, D8 i/ I6 ^, P0 c2 {
) i+ F+ i( P% ?/ X0 l' \GPU设备确认


* `% \! `* p" u$ r, n: e想知道自己的电脑有没有这个能力，在Matlab中运行 gpuDevice。
' s# n& `5 m+ ]' V7 S# ^只要数据格式是gpuArray格式的，那么计算过程会自动的调用GPU进行计算。
$ a' P, x. t2 a6 \

8 V' C/ X; J) L; EGPU和CPU之间数据传递
7 [( ^# }* P1 k7 S

• gpuArray
  . t# N3 y# q" N" Q3 C7 K

       I） 将CPU内存数据传到GPU内存中

' e2 [8 e4 p' C1 w% b

• X=rand(10,'single'); %定义在CPU上的一个10x10的随机初始化数组
•    GX=gpuArray(X);      %在GPU开始数组GX，并且将X的值赋给GX
•    GX2=GX.*GX；         %GPU上执行数组对应位置的点乘
  # T7 I4 I- q2 {: V- s& s& f. O

还有很多支持 gpuArray 数据类型的函数，具体可以用 methods(‘gpuArray’) 查看。下列某函数的说明可以用 help gpuArray/functionname 查看：
* F6 S, N9 P& [. l
. s4 F2 Z" s+ A: Z/ e0 s- n( j, W* P

• gpuArray.ones   gpuArray.colon
• gpuArray.zeros  gpuArray.rand
• gpuArray.inf    gpuArray.randi
• gpuArray.nan    gpuArray.randn
• gpuArray.true   gpuArray.linspace
• gpuArray.false  gpuArray.logspace
• gpuArray.eye
  ( K# L- ?8 c/ o. H, @

, I0 ]9 z. }2 K  C; k! n1 \其实，这些函数的用法和对应的普通函数的用法都是类似的。

' Q8 l8 K( H: \' ~6 O4 v

• II = gpuArray.eye(1024,'int32');
• size(II)
• ans=1024 1024
  8 o8 B1 r& A( P# a

. A6 m2 _3 b& [5 ?% V% uII）在GPU内存中随机初始化一些内存数据。
- ^5 @! m6 ~& o% H
- o+ V2 ^5 I3 \* I, u2 V

• GX=rand(10,'gpuArray'); %直接在GPU设备上随机初始化一个10x10的数组
• %%常用的随机初始化函数有：eye, ones, zeros, rand, randi, randn.
  

9 J4 ?/ y7 }7 h5 i7 c, S# S
1 t* ~* a9 c7 g  o1 b* @

• gather
  & Q5 E2 c8 E4 c! f# {

       将GPU内存中的数据拷贝回CPU内存中。

• X2=gather(GX2)       %将GPU内存中的数组GX2赋值给CPU中的X2
  6 g% c6 a4 D1 S, j3 s3 ^

9 N% z: [. z: Y) M" j% O4 B
TIPS
, m, a6 N- a$ t; z- d4 u有时候GPU受限于硬件架构，单精度的计算远快于双精度。这时候可以考虑在拷贝的时候顺便转换一下精度 A = gpuArray(single(B)) 。


; Q6 z7 Y2 {& U% D/ P3 i. }复杂代码加速方法
# D0 [% l: x5 m% {8 _7 V' C  `
对于一些复杂的，无法用matlab内部函数进行GPU加速的代码，matlab还提供了一个更强大的工具，就是调用.cu文件。

matlab+c混合编程把.c,.cc,.cpp等文件编译为能够使用的mex文件。对于CUDA程序.cu，matlab也提供了一套方法来调用，最终编译成.ptx文件。
( u$ g* X5 o6 W' g! @) @( `

yin123

利用Matlab对GPU如何加速的方法