Ошибка в вычислениях с большими числами - pow(10,54)

374

25 июня 2017, 16:04

Почему при выполнении этого кода получается 0, а должно быть 123?

int b = pow(10,54)+123-pow(10,54);
qDebug() << b;

Answer 1

Точность представления числа с плавающей точкой имеет свои границы, увы, не доходящие до 54 знаков. Поэтому прибавление 123 к 1054 нисколько не меняет представление 1054 в переменной типа double.

Кстати, вы здесь проводите вычисления с типом double, который затем приводите к int - но, думаю, вы и сами это понимаете...