隣り合う刃先の円弧が交わる所の高さから、式を導きます。
どこの高さを求めるか
半径 RE の円弧（インサートのコーナ）が、被削材の1回転ごとに送り f だけずれて面を削ります。隣り合う2つの円弧が交わる所が山の頂で、円弧のいちばん深い所（底）から山の頂までの高さが理論粗さ h です。
三平方の定理で式を立てる
円弧の中心から底までは RE です。山の頂は、底から横に f ÷ 2、上に h の所にあり、同じ円弧の上の点なので、中心からの距離も RE です。中心から山の頂までの縦の長さは RE − h なので、次の式が成り立ちます。
これを h について解くと、近似しない形の式になります。
h² を落として f² ÷ 8RE にする
（RE − h）² を開くと RE² − 2 × RE × h ＋ h² なので、式は 2 × RE × h ＝（f ÷ 2）² ＋ h² になります。h は RE に比べてとても小さい（例題では h ＝ 0.00625 mm、RE ＝ 0.8 mm）ので、h² を落とすと次の式になります。
これに mm を μm に直す × 1000 を付けたのが、理論粗さの式 h ＝ f² ÷（8 × RE）× 1000 です。奈良工業高等専門学校の研究紀要（和田・中西）は「刃部にコーナ半径ｒを有する片刃バイト（横切れ刃角 0°）を用い，2 ｒより低い送り S で旋削した場合，仕上げ面粗さの理論値（最大高さ R ｚ）は，S²/(8ｒ) で近似できる」としています。
近似しない形との差
送りがコーナ半径に比べて小さいほど、2つの式の差は小さくなります（差は近似しない形に対する割合）。
| 条件 | 近似しない形 | 理論粗さの式 | 差 |
|---|---|---|---|
| RE 0.8 mm・f 0.2 mm/rev | 6.27 μm | 6.25 μm | 0.4% |
| RE 0.8 mm・f 0.4 mm/rev | 25.40 μm | 25.00 μm | 1.6% |
| RE 0.4 mm・f 0.3 mm/rev | 29.19 μm | 28.13 μm | 3.6% |
| RE 0.4 mm・f 0.6 mm/rev | 135.42 μm | 112.50 μm | 16.9% |
| RE 0.4 mm・f 0.8 mm/rev | 400.00 μm | 200.00 μm | 50.0% |
例題の条件（RE 0.8 mm・送り 0.2 mm/rev）では、近似しない形が 6.27 μm、式が 6.25 μm で、差は 0.4% です。送りがコーナ半径のちょうど2倍（RE 0.4 mm・送り 0.8 mm/rev）では、近似しない形の 400.00 μm に対して、式は 200.00 μm で半分になります。
計算の画面は、各社の技術資料と同じ式（近似した形）で計算します。近似しない形は、式の成り立ちを説明するための物です。
送りがコーナ半径の2倍以上のとき
中心が f だけ離れた半径 RE の2つの円は、f が 2RE のとき1点で接し、それより離れると交わりません。そのときの面の形は刃先の円弧だけでは決まらず、直線の切れ刃が面に写ります。このアプリは、奈良高専の研究紀要の「2 ｒより低い送り」に合わせて、送りがコーナ半径の2倍以上のときは理論粗さを計算しません。