"Modern computer arithmetic" - читать интересную книгу автора (Brent R.P., Zimmermann P.)