EDA365欢迎您登录!
您需要 登录 才可以下载或查看,没有帐号?注册
x
最近的工作涉及到Matlab 和C,对比发现,在数字处理方面存在一些不同,Golden 比较时问题多多啊 . u5 M4 O' r& o4 U) M# g' D) _" R3 ]$ f
| C | Matlab | ceil | 向正无穷 | 向正无穷 | fix | 向0 | 无 | round | 向最近整数 | 无 | floor | 向负无穷 | 向负无穷 | 四舍五入 | floor(A+0.5) | floor(A+0.5) | 整数除法 | truncate直接丢,向0方向取整 | double型 | int转换 | truncate直接丢,向0方向取整 | int8/16等,向最近整数,round | | | | 8 F% J% A4 l8 j, v: o
9 z" D+ i: w: V L- e7 r1 N8 L% s2 m
; g) k$ L5 P5 c2 i6 P; R1 {. Tfloor(0.5+0.5)=1 floor(-0.5+0.5)=0 Matlab: round(0.5)=1 round(-0.5)=-1 int8(0.5) = 1 int8(-0.5)=-1 C: int(2.9) = 2 int(-2.9) = -2 float d=5.0/2.0 = 2.55 q/ d/ a% J4 h& u# w2 t! Z Q( K& C# H* H
float e=5/2=2.07 O# w# j4 L* [( w: H- X% n5 Z
/ U* k2 @: E% M9 d* Z6 Nfloat f=(float)5/2=2.5 2 V: D( s$ f3 ?2 D3 z
" L S+ O! W$ ]1 s2 C关于除法: 整数相除和浮点数相除有所不同。( ^, X/ S8 T' X1 w1 Y# D: a* I$ I0 T! O: \! {6 _6 m3 p
浮点数相除得到浮点数,整数相除得到整数,混合除得到浮点数。C 语言规定,整数相除产生的小数部分一律被抛弃,这就是所谓的截断(truncation)。
. [( J1 W" V/ J3 i2 ]0 i+ \C99 之前,正整数和负整数相除,如果产生小数部分,则相除的结果是不确定的。0 O1 I, r8 I0 r2 M
2 g: N g+ Q4 q7 e. |/ k例如:7/-4 的结果可能是 -2,也可能是 -1。C99 规定,正整数和负整数相除,产生的小数部分一律被抛弃。2 c# v5 Z: u% w! E
+ }2 {. m$ k! w; W% _8 J$ K) Y运算符的优先级来算的.优先级float-> double <-long <-unsigned <-int <-char,short. c整数除整数,即使赋给float,也要先取整,取整方式是直接将小数部分丢掉,这个做法的结果就是向0方向取整,也相当于先用绝对值做除法,丢掉余数,加上符号。 3 \- r) W, w# |+ f2 `
* z& J" n/ b0 V' B关于移位操作: C语言移位直接移动bit位 7 Z. \7 \1 k! f1 W6 u0 u' T
: G6 [7 ?4 Z4 m* `) Q ~8 KMatlab bitshift 先做除法,再truncate,即直接把小数部分丢掉,和C语言的整数除法操作相同 关于 模操作 Matlab 模的结果都是正值,[0,N-1], C的结果[-N+1,N-1] C语言 -1%4 = -1 -5%4 = -1 Matlab -1%4 = 3 -5%4 = 3 8 y: T; ?" w( \; o' _8 O F
5 X) Q' A1 e( W a! C5 ]存储本身就会损失精度: float a=2.1 其实存储的只是2.0999999, a*100/10 = 20,
+ C0 l+ m/ C6 q6 W4 g |