我不是把它们都变成int格式了吗?
时间: 2023-12-21 19:06:47 浏览: 62
S7-200SMART中如何把1个INT整型数据转换成REAL浮点型数据?.docx
5星 · 资源好评率100%
是的,您在表达式中使用了 Int() 函数,将栅格数据的像素值转换为整型格式。但是,即使栅格数据的像素值已经被转换为整型格式,由于计算机存储数据时使用的是二进制表示,所以在进行除法运算时,如果使用的是普通的除法符号 /,则计算结果仍然可能是浮点数类型,这与 Int() 函数的返回类型不匹配,从而导致报错。
因此,如果您在表达式中使用了 Int() 函数将栅格数据的像素值转换为整型格式,则在进行除法运算时,应该使用整除符号 //,而不是普通的除法符号 /,以确保计算结果的数据类型与 Int() 函数的返回类型一致,从而避免出现错误。
阅读全文