(long)Math.pow(299792458,2) возвращает неверное число

328

27 октября 2017, 11:44

При попытке возведения в квадрат значения с (скорость света) выводится неверное число.

Должно быть:

89875517873681764

Для (long)Math.pow(c, 2) выводится:

89875517873681760

В чем проблема?

Answer 1

Math.pow работает с типом double. Отсюда и ошибка округления.

Хотите получить 89875517873681764, работайте с типом long:

    long c = 299792458;
    long pow2 = c * c;

ТОП-10

Есть JavaFX проект, который работает на дескотпеНужно запустить эту программу на Android

376

Есть путь к определеному файлу (storage/sdcard/filetxt)

364

Помогите пожалуйста доделать код

299

Доброго времени суток

274