当前位置: 代码迷 >> 综合 >> webgl uint16Array数据溢出
  详细解决方案

webgl uint16Array数据溢出

热度:38   发布时间:2023-12-09 02:16:37.0

最近在做体素相关的但是由于数据太大
unsigned_short 溢出
50x50x50x8个顶点
50x50x50x36 个索引值
数据溢出 ~~~~~~~~~
下边写上常用的范围

UInt8, UInt16, UInt32, UInt64, Int8, Int16, Int32, Int64
固定长度的整型,包括有符号整型或无符号整型。

整型范围?
Int8 - [-128 : 127]
Int16 - [-32768 : 32767]
Int32 - [-2147483648 : 2147483647]
Int64 - [-9223372036854775808 : 9223372036854775807]
无符号整型范围?
UInt8 - [0 : 255]
UInt16 - [0 : 65535]
UInt32 - [0 : 4294967295]
UInt64 - [0 : 18446744073709551615]

short -215~215-1
unsigned short 0~2^16-1
int -231~231-1
unsigned 0~2^32-1
long -231~231-1
unsigned long 0~2^32-1

  相关解决方案