Как рассчитать, насколько малым и насколько большим может быть физическое измерение, чтобы приложение не подвергалось переполнению/недостаточному заполнению при представлении измерения как двойного?
Например. Я делаю несколько измерений расстояния до плоской поверхности и хочу подобрать плоскость к набору данных. Я хочу выяснить, насколько близко и насколько далеко я могу находиться от поверхности при проведении этих измерений, чтобы результаты приложения были правильными.
В моей программе я читаю измерения в 3-кортежи типа double, чтобы представить точки в R3. Желаемая точность составляет 2 или 3 знака после запятой.
Не уверен, где начать. . .
РЕДАКТИРОВАТЬ: я не пытаюсь поймать переполнение; Я пытаюсь проанализировать ограничения приложения.