平面直角座標上の距離 s と基準面上の距離 S は、2点間の縮尺係数 s/S で換算します。
Y 座標から縮尺係数。平面距離と基準面上の距離の換算も
測った距離・基準面上の距離・平面距離
- 測定距離: トータルステーションなどで測った距離です。
- 基準面上の距離 S: 測定距離を、楕円体の面の上の距離に直した値です。測量作業規程 付録6 の 2.1.3「基準面上の距離の計算」で、測定距離と、両方の点の標高と器械高、高低角、ジオイド高、平均曲率半径 R ＝ 6,370,000 m を使って求めます。
- 平面距離 s: 平面直角座標上の距離です。2点の座標から √｛（x2 − x1）² ＋（y2 − y1）²｝で求める距離が、この平面距離です。
このアプリの「距離の換算」の画面は、基準面上の距離 S と平面距離 s の間の換算をします。測定距離から基準面上の距離を求める計算（標高による補正）は行いません。
2点間の縮尺係数 s/S の式
付録6 の 2.8.2「基準面上の距離」の式です。
S12 ＝ √｛（x2 − x1）² ＋（y2 − y1）²｝÷（s/S）
s/S ＝ m0 ×｛1 ＋（y1² ＋ y1 y2 ＋ y2²）÷（6 m0² R0²）｝
y1・y2 は2点の Y 座標、m0 は X 軸上の縮尺係数（0.9999）、R0 は座標系原点の平均曲率半径です。2点の Y 座標が同じ（y1 ＝ y2 ＝ y）なら、（y1² ＋ y1 y2 ＋ y2²）÷ 6 ＝ y² ÷ 2 となり、s/S は1点の縮尺係数 m の式と同じになります。
また、y1² ＋ y1 y2 ＋ y2² を 3 で割った値は、y1 から y2 までの y² の平均です。s/S は、点の縮尺係数 m を辺に沿って平均した値になっています。
計算の例（Ⅸ系）
点1の Y 座標 -35,210.500 m、点2の Y 座標 -35,460.250 m、平面距離 s ＝ 250.000 m の例です。
- y1² ＋ y1 y2 ＋ y2² ＝ 3,745,781,772.938
- s/S ＝ 0.9999 ×（1 ＋ 0.000015381413…）＝ 0.9999153798…
- S ＝ 250.000 ÷ 0.9999153798… ＝ 250.021156… → 250.021 m
逆に、基準面上の距離 S ＝ 250.000 m を平面距離に直すと、s ＝ 250.000 × 0.9999153798… ＝ 249.978844… → 249.979 m です。
2点それぞれの縮尺係数は 0.99991527 と 0.99991549 で、s/S（0.99991538）はその間の値です。
換算の向きの選び方
- 座標から求めた距離を、基準面上の距離にする: 「平面距離 → 基準面上の距離」。S ＝ s ÷ s/S です。現地の水平距離と比べるときは、ここからさらに標高による補正が入ります。
- 基準面上の距離を、座標の計算に使う: 「基準面上の距離 → 平面距離」。s ＝ S × s/S です。平面直角座標の上で、座標や距離の計算に使う距離になります。
換算した距離は、小数第4位を四捨五入して mm 位まで表示します。測量作業規程 第40条の計算結果の表示単位は、辺長が 0.001 m です。
出典
Y 座標から縮尺係数。平面距離と基準面上の距離の換算も