Warum wird der Az-Faktor 1 in meiner Ausgabe in 0,999998 umgewandelt?

Ich habe gerade ein Modell erstellt, das 3D Analyst - Surface Volume verwendet. Ich versuche, den Az-Faktor 1 zu verwenden. Wenn ich das Modell ausführe, zeigt meine Ausgabetabelle, dass anstelle von 1 ein Z-Faktor von 0,999998 verwendet wurde. Ich weiß, dass dies ein sehr kleiner Unterschied ist, aber trotzdem verzerrt er meine Ergebnisse etwas. Wirklich, was ich gerne wissen würde, gibt es eine gute Erklärung dafür, warum es auf 0,999998 geändert wird, oder gibt es eine Möglichkeit, es bei 1 zu halten?

Nochmals vielen Dank für Ihre Eingabe. Wenn ich versucht habe, den Rastertyp zu ändern, grauisiert das Tool den Z-Faktor insgesamt aus und sperrt ihn bei 0,999998. Also ... ich vermute, es gibt wirklich keinen Weg, dies mit Ganzzahl- oder Gleitkommadaten zu umgehen. Ich habe sogar versucht, in eine Ganzzahl zu konvertieren und die Daten mit dem Rasterrechner mit 1000 zu multiplizieren, um die Dezimalstellen in Ganzzahlform beizubehalten, war aber immer noch beim z-Faktor von 0,999998 geblieben. Kein Würfel.

— GeoJohn
quelle

Ich würde sagen, weil es ein Gleitkomma ist, gibt es keine 1 in float - siehe en.wikipedia.org/wiki/IEEE_floating_point

— Michael Stimson

Ja, der Z-Faktor ist ein Gleitkomma, da die meisten DEM / DSM-Raster normalerweise 32-Bit-Gleitkommazahlen sind. Versuchen Sie, Ihr Int-Raster auch in einen Float zu konvertieren. Siehe resources.arcgis.com/de/help/main/10.1/index.html#//…

— Michael Stimson

@Michael Tatsächlich wird jede Zahl, die kein ganzzahliges Vielfaches einer kleinen Potenz von 2 ist (einschließlich negativer Potenzen), nicht genau in Gleitkomma ausgedrückt. Der vielleicht prominenteste davon wäre 0,1. Was die Ursache des Z-Skalenfehlers betrifft, kann ich nur raten. Meine Vermutung würde sich auf die Möglichkeit konzentrieren, dass unter der Haube Berechnungen unter Verwendung einer ganzzahligen Darstellung der Höhen durchgeführt werden könnten und diese am Ende zurückkonvertiert werden. Vielleicht ist es das Beste, die Ergebnisse nach ihrer Erstellung zu korrigieren : Multiplizieren Sie einfach alle Volumes mit 1 / 0,999998.

— whuber

@Michael Bevor ich mich für diese andere Lösung entschieden habe, habe ich auch versucht, einen Z-Faktor von 1,000002 zu verwenden, der sich während der Ausführung des Tools auf magische Weise wieder in 0,999998 verwandeln würde. Ich bin mir also nicht sicher, ob ich etwas falsch gemacht habe oder nicht. Mit anderen Worten, egal welchen Z-Faktor ich eingeben würde, das Tool würde es zur Laufzeit auf 0,999998 ändern.

— GeoJohn

John, ich denke, es ist Zeit, sich an den Esri-Support zu wenden und ihn zu fragen, warum er sich immer auf den Skalierungsfaktor 0,999998 ändert und wie ein Skalierungsfaktor von 1 verwendet wird.

— Michael Stimson

Ich muss den Kommentaren zustimmen, es geht darum, wie Sie diese Nummer darstellen möchten. Wenn Sie Nummer 1 als Gleitkomma speichern möchten, hat ArcGIS diese Nummer als 0,9999 gespeichert ... Es scheint, dass dieses Z-Faktor-Argument auf diese Weise gespeichert wird. Ich denke, es gibt keine Möglichkeit, es als Ganzzahl zu speichern. In der Tat ist 0,9999 gleich 1.

Ich muss ein Bild hinzufügen, das ich vor ein paar Tagen gesehen habe. Es passt zu dieser Frage.

— david_p
quelle