CUDA|CUDA优化--核函数--浮点数类型转换
在编写CUDA内核时,遇到一个问题,如下在核函数中使用一个2.1的浮点数,没有作类型声明,如(float)2.1或double(2.1)..
文章图片
一. 实际上,cuda默认2.1是double,在核函数计算过程中进行了类型转换,流水线中arithmetic workload和单精度的计算峰值的分析结果如下:
文章图片
文章图片
好吃惊!!!43.98%用于FloatP64转换,35%用于数值计算,浪费太严重,峰值性能只有114.83GFlops。
内核的执行时间约为6000微妙左右。
二. 于是乎,提前对数据类型进行了声明,新的分析结果如下:
文章图片
文章图片
流水线中的类型转换被消除,峰值性能提身高300GFlops。内核的执行时间降低至2500微妙左右。
花了好几天的时间才注意到这个问题,还在那使劲地作访存优化
【CUDA|CUDA优化--核函数--浮点数类型转换】
推荐阅读
- 期刊|期刊 | 国内核心期刊之(北大核心)
- 数据库设计与优化
- 活跃社群的核心标准是什么()
- VueX--VUE核心插件
- 【年终激励系列】之五(年终奖如何与考核紧密相连)
- Improve|Improve Nested Conditionals(优化嵌套的条件语句) 面对大量的if-else语句
- 首屏时间,你说你优化了,那你倒是计算出给给我看啊!
- 数据库|SQL行转列方式优化查询性能实践
- 芯灵思SinlinxA33开发板Linux内核定时器编程
- Spring|Spring Boot 自动配置的原理、核心注解以及利用自动配置实现了自定义 Starter 组件