座標系と点の Y 座標を入力すると、成果表に記載する縮尺係数を計算します。
Y 座標から縮尺係数。平面距離と基準面上の距離の換算も
入力する値（縮尺係数の画面）
- 座標系: 平面直角座標系の系（Ⅰ系〜ⅩⅨ系）を選びます。成果表の「座標系」の欄の番号です。どの系かは都道府県と地域で決まります（平面直角座標系の一覧）。系によって座標系原点の緯度が違い、式に使う原点の平均曲率半径 R0 が変わるので、選ぶまで計算しません。
- 点の Y 座標: 成果表や計算書の Y 座標を m で入力します。負の数は先頭に「-」を付けます。全角の数字・全角のマイナス・3 桁区切りのカンマのままでも入力できます。X 座標は使いません。
- 入力欄は空欄で開きます。入力していない数で計算結果が表示され、それに気づかないことを防ぐためです。
計算結果
- 縮尺係数 m: 小数第7位を四捨五入して、小数第6位まで表示します。下の行に、小数第8位までの値も表示します。
- 100 m あたりの差（s − S）: 基準面上の距離 100 m を平面直角座標上の距離にしたときの差です（mm）。負の数なら平面距離のほうが短く、正の数なら長くなります。
- 図: 横に Y 座標、縦に縮尺係数をとった曲線の上に、入力した点を示します。X 軸上（Y ＝ 0）で 0.9999、東西に離れるほど大きくなる形です。
- 計算の内訳: 式に数を入れた途中の値と、原点の平均曲率半径 R0 の求め方（W・M・N）を確かめられます。
計算の例
Ⅸ系（関東）で、Y 座標 -35,210.500 m の点の縮尺係数です。
| 項目 | 値 |
|---|---|
| 原点の平均曲率半径 R0 | 6,371,488.621 m |
| 縮尺係数 m | 0.999915 |
| 小数第8位まで | 0.99991527 |
| 100 m あたりの差（s − S） | -8.5 mm |
この点の近くでは、基準面上の距離 100 m が、平面直角座標上では約 8.5 mm 短くなります。
距離の換算の画面
「距離の換算」の画面では、2点の Y 座標から2点間の縮尺係数 s/S を求め、距離を換算します。入力するのは、座標系・点1と点2の Y 座標・換算の向き・距離の4つです。
- 平面距離 → 基準面上の距離: 座標から求めた距離（平面距離 s）を、基準面上の距離 S に直します（S ＝ s ÷ s/S）。
- 基準面上の距離 → 平面距離: 基準面上の距離 S を、座標の計算に使う平面距離 s に直します（s ＝ S × s/S）。
例えば Ⅸ系で、Y 座標 -35,210.500 m と -35,460.250 m の2点の平面距離 250.000 m は、s/S ＝ 0.99991538 で、基準面上の距離 250.021 m です。換算した距離は、小数第4位を四捨五入して mm 位まで表示します（測量作業規程 第40条の辺長の表示単位 0.001 m）。
「縮尺係数」と「距離の換算」の画面を上の切り替えで移ると、選んだ座標系と Y 座標（距離の換算では点1の Y 座標）が引き継がれます。
出典
Y 座標から縮尺係数。平面距離と基準面上の距離の換算も