Windows Calculator, показывающий странный вывод
Попробуйте это на Windows
шаги:
- Откройте калькулятор напрямую или введя calc в RUN.
- Затем введите 4 и возьмите квадратный корень "sqrt"
- И что бы вы ни получили (в идеале вы получите 2!), Вычтите 2 из него.
Теперь мой вопрос, это математически правильно??
3 ответа
В идеале это неправильно, но то, как числа с плавающей запятой представляются внутри компьютера, привело бы к такому неожиданному ответу.
Если вы посмотрите на числовое значение ответа, оно очень близко к 0, что является ожидаемым ответом.
Нет, это не математически верно. 2-2 = 0:)
Calc дает -0.0000000000000000001, что означает, что функция sqrt выдает число, очень близкое к 2, но у которого есть небольшая дробная часть, округленная для целей отображения. Когда вы вычитаете 2, вы получаете число, которое очень близко к 0, но не совсем.
Это артефакт того, как числа с плавающей запятой хранятся в компьютере. Каждый (не символьный) калькулятор будет иметь некоторые проблемы, которые приводят к неправильным результатам, как это. Например, попробуйте (sqrt(pi))^2-pi, который должен быть 0. Я только что попробовал это в этом онлайн-калькуляторе и получил -1.3691388027.
Это дает -8.1648465955514287168521180122928e-39
который в основном = 0, поскольку у него есть 10^-39...