縮尺係数は、測量作業規程の計算式集の式で、座標系原点の平均曲率半径 R0 と Y 座標から求めます。
Y 座標から縮尺係数。平面距離と基準面上の距離の換算も
成果表に記載する縮尺係数の式
農林水産省の測量作業規程 付録6 計算式集の 2.8.3「成果表に記載する縮尺係数」は、次の式です。
m ＝ m0 ×｛1 ＋ y² ÷（2 m0² R0²）｝
- m: 縮尺係数
- y: その点（当該点）の y 座標（m）
- m0: 平面直角座標系の X 軸上における縮尺係数（0.9999）。平成十四年国土交通省告示第九号の備考2で 0.9999 と決められています。
- R0: 平面直角座標系原点の平均曲率半径（m）
式に X 座標は入りません。Y 座標が 0 の点（X 軸上）では m ＝ m0 ＝ 0.9999 で、Y 座標の2乗に比例して大きくなります。Y 座標の大きさが同じなら、正でも負でも同じ値です。
原点の平均曲率半径 R0 の求め方
R0 は、付録6 の 1.2「楕円体の諸公式」の平均曲率半径 R ＝ √（MN）を、座標系原点の緯度 φ0 で計算した値です。楕円体は測量法施行令第3条の楕円体で、長半径 a ＝ 6,378,137 m、扁平率 f ＝ 1 ÷ 298.257222101 です（付録6 1.1）。
- e² ＝（2F − 1）÷ F² ＝ 0.006694380023（F は逆扁平率 298.257222101）
- W ＝ √（1 − e² sin² φ0）
- M ＝ a（1 − e²）÷ W³（子午線曲率半径）
- N ＝ a ÷ W（卯酉線曲率半径）
- R0 ＝ √（M × N）＝ b ÷ W²（b は短半径 6,356,752.3141 m）
座標系原点の緯度は 20°・26°・33°・36°・40°・44° の6通りなので、R0 も6通りです。
| 原点の緯度（系） | R0（m） |
|---|---|
| 20°（ⅩⅧ系） | 6,361,734.148 |
| 26°（ⅩⅣ〜ⅩⅦ・ⅩⅨ系） | 6,364,940.518 |
| 33°（Ⅰ・Ⅱ・Ⅳ系） | 6,369,400.448 |
| 36°（Ⅲ・Ⅴ〜Ⅸ系） | 6,371,488.621 |
| 40°（Ⅹ系） | 6,374,383.582 |
| 44°（ⅩⅠ〜ⅩⅢ系） | 6,377,353.556 |
計算の例（Ⅸ系・Y 座標 -35,210.500 m）
- Ⅸ系の原点の緯度は φ0 ＝ 36° です。W ＝ 0.9988429048…、M ＝ 6,357,482.438 m、N ＝ 6,385,525.661 m で、R0 ＝ √（M × N）＝ 6,371,488.621 m です。
- y² ＝（-35,210.500）² ＝ 1,239,779,310.25
- 2 m0² R0² ＝ 2 × 0.9999² × 6,371,488.621² ＝ 81,175,496,950,121…
- y² ÷（2 m0² R0²）＝ 0.000015272826…
- m ＝ 0.9999 ×（1 ＋ 0.000015272826…）＝ 0.9999152712… → 0.999915
2点間の縮尺係数と、緯度・経度から求める式
距離の換算に使う2点間の縮尺係数 s/S は、同じ計算式集の 2.8.2「基準面上の距離」の式 s/S ＝ m0 ×｛1 ＋（y1² ＋ y1 y2 ＋ y2²）÷（6 m0² R0²）｝で求めます（基準面上の距離と平面距離の換算）。
計算式集には、座標を緯度・経度に変換して子午線収差角と縮尺係数を求める式（2.9.2）と、緯度・経度から座標と縮尺係数を求める式（2.10.2）もあります。こちらは X 座標も使う式です。成果表に記載する縮尺係数は 2.8.3 の式で、このアプリはこの式で計算します。
出典
Y 座標から縮尺係数。平面距離と基準面上の距離の換算も