Y 座標 10 km ごとの縮尺係数の早見表です。成果表に記載する縮尺係数の式で計算した値です。
Y 座標から縮尺係数。平面距離と基準面上の距離の換算も
縮尺係数の早見表(座標系原点の緯度ごと)
左の列が Y 座標の大きさ(km)、上の行が座標系原点の緯度です。Y 座標が負の数でも、大きさが同じなら同じ値です。値は小数第7位を四捨五入しています。表の間の Y 座標は、「縮尺係数」の画面で計算します。
| Y(km) | 20° | 26° | 33° | 36° | 40° | 44° |
|---|---|---|---|---|---|---|
| 0 | 0.999900 | 0.999900 | 0.999900 | 0.999900 | 0.999900 | 0.999900 |
| 10 | 0.999901 | 0.999901 | 0.999901 | 0.999901 | 0.999901 | 0.999901 |
| 20 | 0.999905 | 0.999905 | 0.999905 | 0.999905 | 0.999905 | 0.999905 |
| 30 | 0.999911 | 0.999911 | 0.999911 | 0.999911 | 0.999911 | 0.999911 |
| 40 | 0.999920 | 0.999920 | 0.999920 | 0.999920 | 0.999920 | 0.999920 |
| 50 | 0.999931 | 0.999931 | 0.999931 | 0.999931 | 0.999931 | 0.999931 |
| 60 | 0.999944 | 0.999944 | 0.999944 | 0.999944 | 0.999944 | 0.999944 |
| 70 | 0.999961 | 0.999960 | 0.999960 | 0.999960 | 0.999960 | 0.999960 |
| 80 | 0.999979 | 0.999979 | 0.999979 | 0.999979 | 0.999979 | 0.999979 |
| 90 | 1.000000 | 1.000000 | 1.000000 | 1.000000 | 1.000000 | 1.000000 |
| 100 | 1.000024 | 1.000023 | 1.000023 | 1.000023 | 1.000023 | 1.000023 |
| 110 | 1.000050 | 1.000049 | 1.000049 | 1.000049 | 1.000049 | 1.000049 |
| 120 | 1.000078 | 1.000078 | 1.000077 | 1.000077 | 1.000077 | 1.000077 |
| 130 | 1.000109 | 1.000109 | 1.000108 | 1.000108 | 1.000108 | 1.000108 |
| 140 | 1.000142 | 1.000142 | 1.000142 | 1.000141 | 1.000141 | 1.000141 |
| 150 | 1.000178 | 1.000178 | 1.000177 | 1.000177 | 1.000177 | 1.000177 |
系と原点の緯度: 20° = ⅩⅧ系、26° = ⅩⅣ〜ⅩⅦ・ⅩⅨ系、33° = Ⅰ・Ⅱ・Ⅳ系、36° = Ⅲ・Ⅴ〜Ⅸ系、40° = Ⅹ系、44° = ⅩⅠ〜ⅩⅢ系。
原点の緯度による違いは小さく、この表の範囲(Y 座標 150 km まで)では、同じ行の値の違いは小数第6位で最大 1 です。
縮尺係数が 1.0000・1.0001 になる Y 座標
式 m = m0 ×{1 + y² ÷(2 m0² R0²)}を y について解くと、y = m0 R0 √{2(m ÷ m0 − 1)}です。m = 1 と m = 1.0001 を入れた値です(km・小数第2位を四捨五入)。
| 原点の緯度(系) | m = 1.0000 | m = 1.0001 |
|---|---|---|
| 20°(ⅩⅧ) | 90.0 | 127.2 |
| 26°(ⅩⅣ〜ⅩⅦ・ⅩⅨ) | 90.0 | 127.3 |
| 33°(Ⅰ・Ⅱ・Ⅳ) | 90.1 | 127.4 |
| 36°(Ⅲ・Ⅴ〜Ⅸ) | 90.1 | 127.4 |
| 40°(Ⅹ) | 90.1 | 127.5 |
| 44°(ⅩⅠ〜ⅩⅢ) | 90.2 | 127.5 |
X 軸から東西に約 90 km までは縮尺係数が 1 より小さく、平面直角座標上の距離が基準面上の距離より短くなります。それより外では 1 より大きく、長くなります。
100 m あたりの差の目安(原点の緯度 36°)
基準面上の距離 100 m を、平面直角座標上の距離にしたときの差(s − S)です。
| Y(km) | 縮尺係数 | 100 m あたり(mm) |
|---|---|---|
| 0 | 0.999900 | -10.0 |
| 50 | 0.999931 | -6.9 |
| 90 | 1.000000 | 0.0 |
| 130 | 1.000108 | +10.8 |
| 150 | 1.000177 | +17.7 |
X 軸の近くでは、100 m につき約 10 mm 短くなります。座標から求めた距離(平面距離)と基準面上の距離を比べるときは、付録6 2.8.2 の式のように縮尺係数で換算します(基準面上の距離と平面距離の換算)。
出典
Y 座標から縮尺係数。平面距離と基準面上の距離の換算も