پاسخ:
برای محاسبه خطای تقریب، ابتدا باید مقدار دقیق و تقریبی را محاسبه کنیم.
برای عدد 0/769، اگر تقریب با دقت 0/1 بزنیم، داریم:
0/8 = 0/769 ≈
حالا خطای محاسبه:
|0/769 - 0/8| = 0/031
برای عدد 42/986، اگر تقریب با دقت 0/01 بزنیم، داریم:
42/99 = 42/986 ≈
حالا خطای محاسبه:
|42/986 - 42/99| = 0/004
اختلاف این دو خطا:
0/031 - 0/004 = 0/027
پس خطای محاسبه عدد اول 0/027 بیشتر از خطای محاسبه عدد دوم است.