Die Verwendung der pythagoreischen Formel für Positionen, die in Breiten- und Längengraden angegeben sind, ist so wenig sinnvoll wie die Berechnung der Fläche eines Kreises mit der Formel für ein Quadrat: Obwohl sie eine Zahl ergibt, gibt es keinen Grund anzunehmen, dass sie funktionieren sollte.
Obwohl in kleinen Maßstäben jede glatte Oberfläche wie eine Ebene aussieht, hängt die Genauigkeit der pythagoreischen Formel von den verwendeten Koordinaten ab . Wenn diese Koordinaten Breiten- und Längengrade auf einer Kugel (oder einem Ellipsoid) sind, können wir das erwarten
Entfernungen entlang von Längengraden sind ziemlich genau.
Entfernungen entlang des Äquators sind ziemlich genau.
Alle anderen Entfernungen sind in etwa proportional zu den Unterschieden zwischen Breiten- und Längengraden fehlerhaft.
Der Fehler hängt vom Start- und Endpunkt der Entfernungsberechnung ab. Da jedoch sowohl die Kugel als auch das Ellipsoid eine Kreissymmetrie um die Achse haben, hängt der Fehler nur von der Differenz der Längen ab. Um diesen Fehler zu untersuchen, können wir auch den Ausgangspunkt auf dem Nullmeridian nehmen. Da sowohl die Kugel als auch das Ellipsoid unter einer Nord-Süd-Reflexion symmetrisch sind, müssen wir nur die Ursprungspunkte auf der südlichen Hemisphäre untersuchen. Für jeden solchen Punkt können wir eine Umrisskarte des relativen Fehlers zeichnen, die gleich [Pythagoreische Berechnung] / [Wahre Entfernung] ist.
Die pythagoreische Formel unter Verwendung des mittleren Radius der Erde ist
Pythagorean distance = 6371000. * Sqrt[dx^2 + dy^2]] * pi / 180 meters
Dabei ist dx der Längenunterschied und dy der Breitenunterschied, beide in Grad. (Die Differenz der Längengrade wird modulo 360 reduziert, um den korrekten Wert von dx beim Überschreiten des Antimeridians zu erhalten. Andernfalls würden künstlich große Fehler auftreten, die nichts über die pythagoreische Formel selbst aussagen.)
Die folgenden Darstellungen zeigen den relativen Fehler im Vergleich zum korrekten Abstand auf dem WGS 84-Ellipsoid für Breiten von -70 bis 0 in Schritten von 10 Grad. Die horizontale Koordinate ist der Längenunterschied und die vertikale Koordinate ist der Breitengrad des Ziels. Helle Bereiche weisen einen relativ kleinen Fehler auf: Die Konturlinien liegen bei 1, 1,01, 1,02, 1,05, 1,1, 1,2, 1,5, 2 usw. (Die rein weißen Bereiche in den Ecken sind Stellen, an denen der Fehler über den Bereich dieser Konturen hinausgeht .) Die roten Punkte zeigen den Ursprungspunkt.
Die vertikalen weißen Streifen belegen die Richtigkeit der Erwartung (1): Pythagoreische Abstände sind genau, wenn es einen kleinen Längenunterschied gibt. Die horizontalen weißen Bänder in niedrigen Breiten bestätigen die Erwartung (2): In der Nähe des Äquators sind die horizontalen Abstände ziemlich genau. Ansonsten ist die pythagoreische Formel , wie die ausgedehnten, dunkleren Regionen belegen, in allen anderen Entfernungen schlecht.
Wir können quantitative Schätzungen des Maximums vornehmenFehler, der für Paare von nahegelegenen Punkten erreicht wird (beispielsweise innerhalb einiger hundert Kilometer voneinander). Die Skalierung - unter Verwendung eines geeigneten Werts für den Radius - gilt entlang des Meridians, aber entlang eines Breitengradkreises irrt sie sich ungefähr um die Sekante des Breitengrads. Bei einem Breitengrad von 40 Grad beträgt die Sekante beispielsweise 1,31, was bedeutet, dass die pythagoreische Formel Entfernungen in Ost-West-Richtung ergibt, die etwa 31% zu groß sind. (Dies ist in der oberen rechten Konturdarstellung für einen Ursprungspunkt bei -40 Grad Breite ersichtlich, bei dem der Bereich unmittelbar östlich-westlich des roten Punkts zwischen den Konturen 1,2 und 1,5 liegt.) Kurze Abstände in alle anderen Richtungen sind um einen gewissen Betrag zwischen 0% und 31% zu groß; längere Distanzen können sich sogar noch mehr irren (wie die Konturdiagramme zeigen).