"Точность вычислительных устройств и алгоритмов" - читать интересную книгу автора (Соренков Э.И., Телига А.И., Шаталов А.С.)