FLOPS 注意全部大写 是floating point of per second的缩写，意指每秒浮点运算次数。用来衡量硬件的性能。
FLOPs 是floating point of operations的缩写，是浮点运算次数，可以用来衡量算法/模型复杂度。
CUDA 中FLOPS的计算方法如下：
（1）统计您每个线程的计算次数
（2）将此值乘以您的线程总数
（3）统计出总时间（利用profiler或者自己计时），将2中的值（所有线程的计算次数）除以计算时间，您将得到每秒的计算次数。
（4）因为3中的值往往较大，所以大家一般用GFlops来衡量（Giga float operations per second), 1G次运算 = 10 ^ 9次方次运算。