2点の座標の差から点間距離を求める式と、端数の扱いです。
2点の座標から、点間距離と方向角（度分秒）
点間距離の公式
2点の座標の差 ΔX（＝ X2 − X1）と ΔY（＝ Y2 − Y1）は、点間距離を斜辺とする直角三角形の2辺です。三平方の定理から、点間距離 S は次の式で求めます。
農林水産省の測量作業規程 付録6 計算式集では、2.8.2 基準面上の距離の式の分子が、この式です。また 2.3.3 は逆に、平面上の距離 S と方向角 α から、座標の差を dx ＝ S cos α・dy ＝ S sin α で求めています。座標から点間距離と方向角を求める計算は、この2つの式を逆に解く計算です。
計算の例
点1（X -35,412.318 m・Y -12,745.906 m）から点2（X -35,398.104 m・Y -12,721.377 m）までの距離を、順に求めます（単位は m）。
- ΔX ＝ -35,398.104 − (-35,412.318) ＝ 14.214
- ΔY ＝ -12,721.377 − (-12,745.906) ＝ 24.529
- ΔX² ＋ ΔY² ＝ 202.037796 ＋ 601.671841 ＝ 803.709637
- √803.709637 ＝ 28.349773…
- 小数第4位を四捨五入して 28.350 m
座標の差の符号は、距離には関係しません（2乗すると正になります）。点1と点2を入れ替えても、距離は同じです。
端数の扱い（四捨五入と切り捨て）
農林水産省の測量作業規程は、計算結果の表示単位を次のように決めています。
| 規定 | 方向角 | 距離 | 端数の扱い |
|---|---|---|---|
| 第632条（応用測量） | 秒 1 | m 0.001 | 次の位で四捨五入 |
| 第717条（用地測量の境界測量） | 秒 1 | m 0.001 | 座標値と方向角は四捨五入、距離は切り捨て |
上の例の距離 28.349773… m は、四捨五入では 28.350 m、切り捨てでは 28.349 m です。境界点間の距離を求めるときは、「詳しい設定」で「切り捨て（境界測量）」を選びます。
成果表の座標値は 0.001 m 位に丸めた値です。丸める前の座標で計算した距離とは、1 mm 違うことがあります。
平面上の距離と基準面上の距離
座標の差から求める距離は、平面直角座標の上の距離（付録6 2.3 の「平面上の距離」）です。付録6 の 2.8.2 は、これを基準面（楕円体）の上の距離 S12 に直す式を次のように示しています。
s／S ＝ m0｛1 ＋（y1² ＋ y1y2 ＋ y2²）÷（6 m0² R0²）｝
m0 は平面直角座標系の X 軸上の縮尺係数（0.9999・平成十四年国土交通省告示第九号の備考2）、R0 は座標系の原点の平均曲率半径です。2点が X 軸の上（y1 ＝ y2 ＝ 0）なら s／S は 0.9999 で、X 軸から東西に離れるほど大きくなります。成果表に記載する縮尺係数は、m ＝ m0｛1 ＋ y² ÷（2 m0² R0²）｝で求めます（2.8.3）。
このアプリは、この補正をしない平面上の距離を求めます。基準点の計算などで基準面上の距離が要るときは、2.8.2 の式で直します。
出典
2点の座標から、点間距離と方向角（度分秒）