Защо Spotlight дава грешна стойност за 'cos (pi / 2)'?

5 отговора. Това се дължи на липсата на прецизност на pi и на цялостната липса на точност във вградената система. Както виждаме, има проблем с прецизността, тъй като тя дори не съвпада с представяне на поплавък. Забележете, че 2 ^ -36 е около 1.5е-11, което съвпада със задната 99.