Diese Formel bietet für die meisten Anwendungen eine hinreichende Genauigkeit und beruht auf der Annahme, dass die Erde eine Kugel ist!
Das die Erde keine Kugel ist, sieht man leicht an den Daten der Erde, da es einen Radius für den Äquator und einen für den Pol gibt. Die Erde ist aufgrund der eigenen Erdrotation an den Polen etwas abgeflacht. Genau genommen ist der Erdradius am Pol um 21 km kleiner.
Gerechnet wurde hier mit dem Äquatorradius von 6378,137 km.
Ausgangspunkt zur Berechnung sind zwei Ortskoordinaten der Erde:
z.B.: Frankfurt 50°06'44"Nord 08°40'55"Ost und Berlin 52°31'20"Nord 13°17'51"Ost
Umrechnung der Grad-, Minuten und Sekunden in eine Kommazahl:
Breite Frankfurt: 50 + (06 / 60) + (44 / 3600) = 50,11222°
Länge Frankfurt: 08 + (40 / 60) + (55 / 3600) = 08,68194°
Breite Berlin...: 52 + (31 / 60) + (20 / 3600) = 52,52222°
Länge Berlin...: 13 + (17 / 60) + (51 / 3600) = 13,29750°
a.) Berechnung mit Programmen die Winkelberechnungen nur in RAD rechnen können:
Umrechnung der Gradzahl in RAD:
Breite Frankfurt: (Breite1) 50,11222° / 180 * PI = 0,87462
Länge Frankfurt: (Länge1) 08,68194° / 180 * PI = 0,15153
Breite Berlin...: (Breite2) 52,52222° / 180 * PI = 0,91669
Länge Berlin...: (Länge2) 13,29750° / 180 * PI = 0,23209
Die Formel zur Entfernungsberechnung bedient sich einer Einheitskugel:
e = ARCCOS[ SIN(Breite1)*SIN(Breite2) + COS(Breite1)*COS(Breite2)*COS(Länge2-Länge1) ]
e = ARCCOS[ SIN(0,87462)*SIN(0,91669) + COS(0,87462)*COS(0,91669)*COS(0,23209-0,15153) ]
e = ARCCOS[ 0,60892 + 0,38893 ]
e = 0,06559
b.) Berechnung mit den meisten Taschenrechnern und Programmen die Winkelberechnungen nur mit Gradzahlen rechnen:
Die Formel zur Entfernungsberechnung bedient sich einer Einheitskugel:
e = ARCCOS[ SIN(Breite1)*SIN(Breite2) + COS(Breite1)*COS(Breite2)*COS(Länge2-Länge1) ]
e = ARCCOS[ SIN(50,11222)*SIN(52,52222) + COS(50,11222)*COS(52,52222)*COS(13,29750-8,68194) ]
e = ARCCOS[ 0,60892 + 0,38893 ]
e = 3,75781 / 180 * PI = 0,06559
Nun muss der ausgerechnete Wert nur noch mit dem Äquatorradius multipliziert werden:
Entfernung = e * r = 0,06559 * 6378,137 km = 418,34 km
Wenn Sie auf 572 km im Ergebnis kommen, haben Sie Formel a.) genommen, aber den Taschenrechner nicht auf RAD umgestellt!
Diese Formel gilt für GeoKoordinaten auf der nördlichen Erdhalbkugel und Werte die östlich von Greenwich liegen. Also Erdkoordinaten mit einem N und O. Die gleiche Formel kann man auch für alle anderen Koordinaten benutzen, man muss nur bei Süd- und Westwerten jeweils ein Minus davor stellen. Also S und W Werte mit -1 multiplizieren!
