ตัวเลขทศนิยมคืออะไร?

รูปแบบของการแสดงที่ถูกต้อง (หรือจริง) ตัวเลข ซึ่งถูกเก็บไว้เป็นแมนทิสซาและเลขชี้กำลัง เป็นตัวเลขทศนิยม (อาจเป็นจุด ตามธรรมเนียมในประเทศที่ใช้ภาษาอังกฤษ) อย่างไรก็ตาม ตัวเลขนี้ยังมีความแม่นยำสัมพัทธ์คงที่และตัวแปรแบบสัมบูรณ์ การแสดงแทนซึ่งใช้บ่อยที่สุดได้รับการอนุมัติโดยมาตรฐาน IEEE 754 การดำเนินการทางคณิตศาสตร์ที่ใช้ตัวเลขทศนิยมถูกนำไปใช้ในระบบคอมพิวเตอร์ - ทั้งฮาร์ดแวร์และซอฟต์แวร์

เลขทศนิยม

จุดหรือจุลภาค

รายการรายละเอียดของตัวคั่นทศนิยมแสดงรายการเหล่านั้นประเทศที่พูดภาษาอังกฤษและพูดภาษาอังกฤษ ซึ่งในบันทึกของตัวเลข เศษส่วนจะถูกแยกออกจากส่วนทั้งหมดด้วยจุดหนึ่ง ดังนั้น คำศัพท์ของประเทศเหล่านี้จึงเรียกว่าจุดลอยตัว - "จุดลอยตัว" ในสหพันธรัฐรัสเซีย ส่วนที่เป็นเศษส่วนจากทั้งหมดจะถูกคั่นด้วยเครื่องหมายจุลภาค ดังนั้น คำว่า "ตัวเลขจุดลอยตัว" ที่รู้จักในอดีตจึงหมายถึงแนวคิดเดียวกัน อย่างไรก็ตาม ตัวเลือกทั้งสองนี้เป็นที่ยอมรับในปัจจุบันในเอกสารทางเทคนิคและในวรรณคดีภาษารัสเซีย

คำว่า "เลขจุดลอยตัว" มาจากความจริงที่ว่าการแสดงตำแหน่งของตัวเลขแสดงถึงเครื่องหมายจุลภาค (ทศนิยมธรรมดาหรือไบนารี - คอมพิวเตอร์) ซึ่งสามารถใส่ที่ใดก็ได้ในตัวเลขของสตริง คุณลักษณะนี้ต้องได้รับการเจรจาแยกกัน ซึ่งหมายความว่าการแสดงตัวเลขทศนิยมสามารถคิดได้ว่าเป็นการนำระบบเลขชี้กำลังไปใช้กับคอมพิวเตอร์ ข้อดีของการใช้รูปแบบจุดคงที่และรูปแบบจำนวนเต็มคือช่วงของค่าจะเพิ่มขึ้นอย่างมากในขณะที่ความแม่นยำสัมพัทธ์ยังคงเหมือนเดิม

ตัวอย่าง

หากเครื่องหมายจุลภาคในตัวเลขคงที่ ให้เขียนสามารถอยู่ในรูปแบบเดียวเท่านั้น ตัวอย่างเช่น คุณจะได้รับเลขจำนวนเต็มหกหลักเป็นตัวเลขและสองหลักเป็นเศษส่วน สามารถทำได้ด้วยวิธีนี้เท่านั้น: 123456.78 รูปแบบจุดลอยตัวช่วยให้คุณมีที่ว่างมากมายสำหรับการแสดงออก เช่น ให้เลขแปดหลักเดียวกัน สามารถมีตัวเลือกการบันทึกได้มากเท่าที่คุณต้องการหากโปรแกรมเมอร์ไม่หวงภาระในการสร้างฟิลด์เพิ่มเติมสองหลักซึ่งเขาจะบันทึกเลขชี้กำลังซึ่งโดยปกติคือ 10 จาก 0 ถึง 16 และจำนวนทั้งหมด หลักจะเป็นสิบ: 8 + 2

ตัวเลือกการบันทึกบางอย่างที่อนุญาตรูปแบบตัวเลขทศนิยม: 12345678000000000000; 0.0000012345678; 123.45678; 1.2345678 และอื่นๆ รูปแบบนี้มีหน่วยวัดความเร็วด้วย! แต่เป็นความเร็วของระบบคอมพิวเตอร์ซึ่งบันทึกความเร็วที่คอมพิวเตอร์ดำเนินการโดยมีการแสดงตัวเลขทศนิยม ประสิทธิภาพนี้วัดเป็นหน่วยของ FLOPS (การดำเนินการจุดลอยตัวต่อวินาที ซึ่งแปลว่าจำนวนการดำเนินการต่อวินาทีด้วยตัวเลขทศนิยม) หน่วยนี้เป็นหน่วยหลักในการวัดความเร็วของระบบคอมพิวเตอร์

รูปแบบจุดลอยตัว

โครงสร้าง

เขียนเลขทศนิยมมันเป็นสิ่งจำเป็นดังต่อไปนี้ โดยสังเกตลำดับของส่วนที่ต้องการ เนื่องจากสัญกรณ์นี้เป็นเลขชี้กำลัง โดยที่จำนวนจริงจะแสดงเป็น mantissa และลำดับ นี่เป็นสิ่งจำเป็นสำหรับการแสดงตัวเลขที่มากเกินไปและน้อยเกินไป ซึ่งสะดวกกว่าในการอ่าน ส่วนบังคับ: หมายเลขเขียน (N), mantissa (M), เครื่องหมายคำสั่ง (p) และคำสั่ง (n) เครื่องหมายสองอันสุดท้ายเป็นลักษณะของตัวเลข ดังนั้น N = M . nพี... นี่คือวิธีการเขียนตัวเลขทศนิยม ตัวอย่างจะหลากหลาย

1. จำเป็นต้องเขียนจำนวนหนึ่งล้านเพื่อไม่ให้สับสนในศูนย์ 1,000,000 เป็นสัญกรณ์ปกติ เลขคณิต และคอมพิวเตอร์มีลักษณะดังนี้: 1.0 . 106... กล่าวคือ ยกกำลังสิบยกกำลังหกมีสามสัญญาณในซึ่งพอดีกับศูนย์มากถึงหกตัว ด้วยวิธีนี้ การแสดงตัวเลขที่มีจุดคงที่และจุดลอยตัวเกิดขึ้น ซึ่งคุณสามารถตรวจจับความแตกต่างในการสะกดคำได้ทันที

2. และจำนวนที่ยากเช่น 1435000000 (หนึ่งพันล้านสี่แสนสามหมื่นห้าพัน) สามารถเขียนได้ง่ายๆ: 1.435 . 109, เท่านั้น. ในทำนองเดียวกัน ตัวเลขใดๆ สามารถเขียนด้วยเครื่องหมายลบได้ นี่คือความแตกต่างระหว่างตัวเลขคงที่และจุดทศนิยม

แต่พวกนี้เป็นจำนวนมาก แล้วตัวเล็กล่ะ? ใช่ง่ายเกินไป

3. ตัวอย่างเช่น จะกำหนดหนึ่งล้านได้อย่างไร? 0.000001 = 1.0 . 10-6... การสะกดของตัวเลขและการอ่านนั้นอำนวยความสะดวกอย่างมาก

4. ยากขึ้นไหม? ห้าร้อยสี่สิบหกพันล้าน: 0.000000546 = 546 . 10-9... ที่นี่. ช่วงของเลขทศนิยมกว้างมาก

การแสดงจุดลอยตัว

รูปร่าง

รูปแบบของตัวเลขอาจเป็นค่าปกติหรือทำให้เป็นมาตรฐาน ปกติ - คำนึงถึงความแม่นยำของจุดลอยตัวเสมอ ควรสังเกตว่า mantissa ในรูปแบบนี้โดยไม่คำนึงถึงเครื่องหมายอยู่ในครึ่งช่วงเวลา: 0 1 ซึ่งหมายความว่า 0 ⩽ a <1 ไม่อยู่ในรูปแบบปกติตัวเลขจะสูญเสียความแม่นยำ ข้อเสียของรูปแบบปกติของตัวเลขคือตัวเลขจำนวนมากสามารถเขียนได้หลายวิธี กล่าวคือ คลุมเครือ ตัวอย่างของเร็กคอร์ดที่แตกต่างกันของตัวเลขเดียวกัน: 0.0001 = 0, 000001 . 102 = 0.00001 . 101 = 0.0001 . 100 = 0.001 . 10-1 = 0.01 . 10-2 และอีกมากมายนั่นคือเหตุผลที่วิทยาการคอมพิวเตอร์ใช้รูปแบบมาตรฐานที่แตกต่างออกไป โดยที่ mantissa ของตัวเลขทศนิยมใช้ค่าจากหนึ่ง (รวม) และเท่ากับสิบ (ไม่รวม) และในทำนองเดียวกัน mantissa ของเลขฐานสองใช้ค่า จากหนึ่ง (รวม) ถึงสอง (ไม่รวม)

ดังนั้น 1 ⩽ a <10.ตัวเลขเหล่านี้เป็นเลขทศนิยมแบบไบนารี และรูปแบบของสัญกรณ์นี้จะแก้ไขตัวเลขใดๆ (ยกเว้นศูนย์) โดยไม่ซ้ำกัน แต่ก็มีข้อเสียเปรียบเช่นกัน - ความเป็นไปไม่ได้ที่จะเป็นตัวแทนของศูนย์ในรูปแบบนี้ ดังนั้นวิทยาการคอมพิวเตอร์จึงจัดให้มีการใช้คุณลักษณะพิเศษ (บิต) สำหรับหมายเลข 0 ส่วนจำนวนเต็มของตัวเลข (บิตที่สำคัญที่สุด) ของแมนทิสซาในเลขฐานสองที่ไม่ใช่ศูนย์ในรูปแบบปกติจะเท่ากับ 1 (โดยนัยหนึ่ง) สัญกรณ์ดังกล่าวถูกใช้โดยมาตรฐาน IEEE 754 ระบบตัวเลขตำแหน่งที่ฐานมากกว่าสอง (ternary, fourfold และระบบอื่นๆ) ไม่ได้รับคุณสมบัตินี้

เขียนตัวเลขในรูปแบบทศนิยม

ตัวเลขจริง

เลขทศนิยมมักจะเป็นเท่านั้นและมีอยู่เนื่องจากนี่ไม่ใช่วิธีเดียว แต่สะดวกมากในการแสดงจำนวนจริงอย่างที่เคยเป็นมาซึ่งเป็นการประนีประนอมระหว่างช่วงของค่าและความแม่นยำ นี่คือแอนะล็อกของสัญกรณ์เลขชี้กำลัง ดำเนินการในคอมพิวเตอร์เท่านั้น เลขทศนิยมคือชุดของเลขฐานสองแต่ละตัว คั่นด้วย เข้าสู่ระบบ (เข้าสู่ระบบ), คำสั่ง (เลขชี้กำลัง) และ mantissa (ตั๊กแตนตำข้าว).รูปแบบที่พบบ่อยที่สุด IEEE 754 แสดงถึงเลขทศนิยมเป็นชุดของบิตที่เข้ารหัสส่วนหนึ่งของ mantissa ส่วนหนึ่ง ส่วนอื่น ๆ - องศา และหนึ่งบิตระบุเครื่องหมายของตัวเลข: ศูนย์ถ้าเป็นค่าบวก หนึ่งถ้าเป็น เป็นลบ ลำดับทั้งหมดเขียนเป็นจำนวนเต็ม (รหัสที่เปลี่ยน) และแมนทิสซาอยู่ในรูปแบบปกติ ส่วนที่เป็นเศษส่วนอยู่ในเลขฐานสอง

อักขระแต่ละตัวเป็นหนึ่งบิตที่บ่งบอกว่าลงชื่อสำหรับเลขทศนิยมเต็มจำนวน แมนทิสซาและลำดับเป็นจำนวนเต็ม ลงนามร่วมกันเพื่อแสดงจำนวนจุดทศนิยม ลำดับสามารถเรียกว่าเลขชี้กำลังหรือเลขชี้กำลัง ไม่ใช่จำนวนจริงทั้งหมดที่สามารถแสดงได้ในคอมพิวเตอร์ด้วยความหมายที่แน่นอน ในขณะที่ตัวเลขที่เหลือจะแสดงด้วยค่าโดยประมาณ ตัวเลือกที่ง่ายกว่ามากคือการแสดงจำนวนจริงที่มีจุดตายตัว โดยที่ส่วนจำนวนจริงและจำนวนเต็มจะถูกจัดเก็บแยกจากกัน เป็นไปได้มากที่สุดในลักษณะที่ทั้งส่วนถูกกำหนดให้เป็นบิต X และส่วนที่เป็นเศษส่วน - บิต Y แต่สถาปัตยกรรมโปรเซสเซอร์ไม่ทราบวิธีนี้ ดังนั้นจึงกำหนดการตั้งค่าให้กับหมายเลขทศนิยม

ช่วงจุดลอยตัว

ส่วนที่เพิ่มเข้าไป

บวกเลขทศนิยมก็สวยอย่างง่าย. ในการเชื่อมต่อกับมาตรฐาน IEEE 754 ความแม่นยำของตัวเลขเดียวมีบิตจำนวนมาก ดังนั้นจึงเป็นการดีกว่าที่จะไปที่ตัวอย่างโดยตรง และควรใช้การแสดงจำนวนจุดทศนิยมที่เล็กที่สุด ตัวอย่างเช่น ตัวเลขสองตัวคือ X และ Y

ตัวแปรลงชื่อผู้แสดงสินค้าMantissa
X01001110
00111000

ขั้นตอนจะเป็นดังนี้:

ก) ตัวเลขจะต้องแสดงในรูปแบบมาตรฐาน มีการนำเสนอหน่วยที่ซ่อนอยู่อย่างชัดเจน X = 1.110 . 22และ Y = 1,000 . 20.

b) คุณสามารถดำเนินขั้นตอนการบวกต่อไปได้โดยการทำให้เลขชี้กำลังเท่ากันเท่านั้น และสำหรับสิ่งนี้ คุณต้องเขียนค่าของ Y ใหม่ ซึ่งจะสอดคล้องกับค่าของตัวเลขที่ทำให้เป็นมาตรฐาน แม้ว่าในความเป็นจริงแล้วจะถูกดีนอร์มัลไลซ์

คำนวณผลต่างของเลขชี้กำลังของดีกรี 2 - 0 = 2ตอนนี้เปลี่ยน mantissa เพื่อชดเชยการเปลี่ยนแปลงเหล่านี้ นั่นคือ บวก 2 เข้ากับเลขชี้กำลังของเทอมที่สอง ดังนั้นการเลื่อนเครื่องหมายจุลภาคของหน่วยที่ซ่อนอยู่ไปทางซ้ายสองจุด ปรากฎ 0.0100 . 22... ซึ่งจะเท่ากับค่าก่อนหน้าของ Y นั่นคือ Y แล้ว "

c) ตอนนี้คุณต้องเพิ่ม mantissa ของหมายเลข X และ Y ที่แก้ไขแล้ว

1.110 + 0.01 = 10.0

เลขชี้กำลังยังคงเท่ากับเลขชี้กำลัง X ซึ่งเท่ากับ 2

d) จำนวนเงินที่ได้รับในขั้นตอนก่อนหน้าเปลี่ยนหน่วยของการทำให้เป็นมาตรฐาน ซึ่งหมายความว่าคุณต้องเลื่อนเลขชี้กำลังและทำการบวกซ้ำ 10,0 โดยมีสองบิตทางด้านซ้ายของเครื่องหมายจุลภาค ตอนนี้ จำเป็นต้องทำให้ตัวเลขเป็นมาตรฐาน กล่าวคือ ย้ายเครื่องหมายจุลภาคไปทางซ้ายหนึ่งจุด และเลขชี้กำลังควรเพิ่มขึ้น 1 กลายเป็น 1,000 . 23.

จ) ถึงเวลาแปลงเลขทศนิยมให้เป็นระบบไบต์เดียว

รวมลงชื่อผู้แสดงสินค้าMantissa
X + Y01010000

ข้อสรุป

อย่างที่คุณเห็นการเพิ่มตัวเลขดังกล่าวไม่มากเกินไปซับซ้อน ไม่มีอะไรที่จุลภาคลอยอยู่ แน่นอน เราไม่นับการลดจำนวนที่มีเลขชี้กำลังน้อยเป็นตัวเลขที่มีค่ามากกว่า (ในตัวอย่างคือ Y ถึง X) รวมถึงการคืนค่าสถานะที่เป็นอยู่นั่นคือ , การออกค่าชดเชย - ย้ายเครื่องหมายจุลภาคของ mantissa ไปทางซ้าย เมื่อทำการบวกแล้ว ภาวะแทรกซ้อนอื่นก็เป็นไปได้มาก - การปรับค่าปกติและการตัดทอนของบิต หากหมายเลขไม่ตรงกับรูปแบบของตัวเลขสำหรับการแสดง

การคูณจุดลอยตัว

การคูณ

ระบบเลขฐานสองมีสองวิธีการคูณทศนิยม งานนี้สามารถทำได้โดยการคูณที่เริ่มต้นด้วยบิตที่มีนัยสำคัญน้อยที่สุดและเริ่มต้นด้วยบิตที่สำคัญที่สุดในตัวคูณ ทั้งสองกรณีมีการดำเนินการทั้งชุด โดยเพิ่มงานทีละรายการตามลำดับ การดำเนินการเพิ่มเติมเหล่านี้ถูกควบคุมโดยบิตตัวคูณ ซึ่งหมายความว่าหากมีหนึ่งในหลักหนึ่งของตัวคูณ ผลรวมของผลิตภัณฑ์บางส่วนจะถูกคูณด้วยกะที่สอดคล้องกัน และถ้าศูนย์พุ่งเข้าไปในหมวดหมู่ของตัวคูณ ตัวคูณจะไม่ถูกเพิ่ม

ถ้าคูณกันแค่สองจำนวนแล้วตัวเลขของผลิตภัณฑ์ในจำนวนนั้นต้องไม่เกินจำนวนหลักที่มีอยู่ในตัวประกอบ มากกว่าสองเท่า และสำหรับตัวเลขจำนวนมาก นี่ถือเป็นเรื่องสำคัญอย่างยิ่ง หากคูณตัวเลขหลายตัว ผลิตภัณฑ์อาจเสี่ยงที่จะไม่พอดีกับหน้าจอ ดังนั้นจำนวนหลักของหุ่นยนต์ดิจิทัลใด ๆ จึงค่อนข้างจำกัด และสิ่งนี้บังคับให้เราจำกัดตัวเองให้สูงสุดเป็นสองเท่าของจำนวนหลักบวก และหากจำนวนหลักมีจำกัด ข้อผิดพลาดก็ย่อมเข้ามาสู่งานอย่างหลีกเลี่ยงไม่ได้ หากปริมาณการคำนวณมาก ข้อผิดพลาดจะถูกซ้อนทับ และเป็นผลให้ข้อผิดพลาดทั้งหมดเพิ่มขึ้นอย่างมาก ทางออกเดียวคือการปัดเศษผลลัพธ์ของการคูณ จากนั้นข้อผิดพลาดของผลิตภัณฑ์จะกลายเป็นแบบสลับกัน เมื่อดำเนินการคูณ มันเป็นไปได้ที่จะไปไกลกว่าตารางของตัวเลข แต่จากด้านที่มีลำดับต่ำเท่านั้น เนื่องจากมีข้อ จำกัด ที่กำหนดไว้สำหรับตัวเลขที่แสดงในรูปแบบของเครื่องหมายอัฒภาคคงที่

คำอธิบายบางอย่าง

ดีกว่าที่จะเริ่มต้นใหม่วิธีที่ใช้บ่อยที่สุดในการแสดงตัวเลขคือสตริงของตัวเลขเป็นจำนวนเต็ม โดยที่เครื่องหมายจุลภาคแสดงเป็นนัยในตอนท้าย สตริงนี้สามารถมีความยาวเท่าใดก็ได้ และเครื่องหมายจุลภาคอยู่ในตำแหน่งที่จำเป็นที่สุดสำหรับสตริงนั้น โดยแยกจำนวนเต็มออกจากส่วนที่เป็นเศษส่วน ในรูปแบบการแสดงตัวเลขที่มีจุดคงที่ ระบบจำเป็นต้องกำหนดเงื่อนไขบางประการเกี่ยวกับตำแหน่งของเครื่องหมายจุลภาค สัญกรณ์เอ็กซ์โปเนนเชียลใช้การแสดงตัวเลขที่เป็นมาตรฐานมาตรฐาน นี่คือ q n {displaystyle aq ^ {n}} aqn... ที่นี่ {displaystyle a}และและลูกไม้นี้เรียกว่าตั๊กแตนตำข้าว มันก็แค่ประมาณนี้เองที่บอกว่า 0 ⩽ a <q. ตอนนี้ทุกอย่างควรจะชัดเจน: n {/ displaystyle n}n เป็นจำนวนเต็ม เลขชี้กำลัง และ q {/ displaystyle q}q - ทั้งหมดซึ่งเป็นพื้นฐานของการให้ระบบตัวเลข (และในตัวอักษรมักเป็น 10) แมนทิสซาจะทิ้งเครื่องหมายจุลภาคไว้หลังหลักแรก ซึ่งไม่ใช่ศูนย์ แต่เมื่อบันทึกลงไป ข้อมูลเกี่ยวกับมูลค่าที่แท้จริงของตัวเลขจะถูกส่งต่อไป

เลขทศนิยมใกล้เคียงกันมากเขียนด้วยตัวเลขมาตรฐานที่เข้าใจได้ทั้งหมด เฉพาะเลขชี้กำลังและแมนทิสซาเท่านั้นที่เขียนแยกกัน หลังยังอยู่ในรูปแบบปกติ - ด้วยจุดคงที่ซึ่งประดับหลักแรกที่สำคัญ เป็นเพียงจุดลอยตัวที่ใช้เป็นหลักในคอมพิวเตอร์ นั่นคือ ในการแทนค่าทางอิเล็กทรอนิกส์ โดยที่ระบบไม่ใช่ทศนิยม แต่เป็นเลขฐานสอง โดยที่แม้แต่ mantissa ก็ยังถูกทำให้เป็นปกติด้วยการจัดเรียงลูกน้ำใหม่ - ตอนนี้มันอยู่ก่อนหลักแรก ซึ่งหมายถึงก่อน และไม่ใช่หลังจากนั้น โดยที่ส่วนทั้งหมดโดยหลักการแล้ว มันอาจจะไม่ใช่ก็ได้ ตัวอย่างเช่น ระบบทศนิยมดั้งเดิมของเราจะมอบเลขเก้าให้กับระบบเลขฐานสองเพื่อการใช้งานชั่วคราว และนั่นจะเขียนมันด้วย mantissa จุดลอยตัวแบบนี้: +1001000 ... 0 และตัวบ่งชี้ +0 ... 0100 แต่ระบบทศนิยมจะไม่สามารถคำนวณที่ซับซ้อนดังกล่าวได้ ซึ่งเป็นไปได้ในรูปแบบไบนารีโดยใช้รูปแบบจุดทศนิยม

ตัวอย่างเลขทศนิยม

เลขคณิตยาว

คอมพิวเตอร์อิเล็กทรอนิกส์มีแพ็คเกจซอฟต์แวร์ในตัว ซึ่งจำนวนหน่วยความจำที่จัดสรรสำหรับแมนทิสซาและเลขชี้กำลังถูกตั้งค่าโดยทางโปรแกรม จำกัดด้วยจำนวนหน่วยความจำคอมพิวเตอร์เท่านั้น นี่คือลักษณะทางคณิตศาสตร์ที่มีความยาว นั่นคือ การดำเนินการอย่างง่ายกับตัวเลขที่เครื่องคำนวณดำเนินการ มันเหมือนกันหมด - การลบและการบวก การหารและการคูณ ฟังก์ชันพื้นฐานและรูท แต่มีเพียงตัวเลขเท่านั้นที่แตกต่างกันโดยสิ้นเชิง ความลึกของบิตสามารถเกินความยาวของคำเครื่องได้อย่างมาก การดำเนินการดังกล่าวไม่ได้เกิดขึ้นในฮาร์ดแวร์ แต่ในซอฟต์แวร์ แต่ฮาร์ดแวร์พื้นฐานใช้กันอย่างแพร่หลายในการทำงานกับคำสั่งซื้อที่มีจำนวนน้อยกว่ามาก นอกจากนี้ยังมีเลขคณิตซึ่งความยาวของตัวเลขถูก จำกัด ด้วยจำนวนหน่วยความจำเท่านั้น - เลขคณิตที่แม่นยำโดยพลการ เลขคณิตแบบยาวใช้ในหลายพื้นที่

1.ในการเขียนโค้ด (โปรเซสเซอร์ ไมโครคอนโทรลเลอร์ที่มีความลึกบิตต่ำ - 10 บิตและรีจิสเตอร์ความกว้างบิตแปดบิต ยังไม่เพียงพอที่จะประมวลผลข้อมูลจากแอนะล็อกเป็นดิจิทัล (ตัวแปลงแอนะล็อกเป็นดิจิทัล) และดังนั้นจึงเป็นอย่างใดอย่างหนึ่ง ไม่สามารถทำได้โดยไม่มีเลขคณิตยาว

2. นอกจากนี้ การคำนวณทางคณิตศาสตร์แบบยาวยังใช้สำหรับการเข้ารหัส ซึ่งคุณต้องรับรองความถูกต้องของผลลัพธ์ของการยกกำลังหรือการคูณถึง 10309... เลขคณิตจำนวนเต็มใช้โมดูโล m ซึ่งเป็นจำนวนธรรมชาติที่มาก และไม่จำเป็นต้องเป็นจำนวนเฉพาะ

3.ซอฟต์แวร์สำหรับนักการเงินและนักคณิตศาสตร์ยังไม่สมบูรณ์หากไม่มีการคำนวณแบบยาว เพราะนี่เป็นวิธีเดียวที่จะเปรียบเทียบผลลัพธ์ของการคำนวณบนกระดาษ โดยใช้คอมพิวเตอร์เพื่อให้มั่นใจว่าตัวเลขมีความแม่นยำสูง โดยจุดลอยตัวสามารถดึงดูดได้นานเท่าที่คุณต้องการ แต่การคำนวณทางวิศวกรรมและงานของนักวิทยาศาสตร์แทบไม่จำเป็นต้องมีการแทรกแซงของการคำนวณซอฟต์แวร์ เนื่องจากเป็นการยากมากที่จะป้อนข้อมูลอินพุตโดยไม่ทำผิดพลาด โดยปกติแล้วจะมีขนาดใหญ่กว่าผลการปัดเศษ

ต่อสู้กับข้อผิดพลาด

เมื่อทำงานกับตัวเลขที่ลอยอยู่ลูกน้ำ มันยากมากที่จะประเมินข้อผิดพลาดของผลลัพธ์ จนถึงตอนนี้ ยังไม่มีการประดิษฐ์ทฤษฎีทางคณิตศาสตร์ที่ตรงใจทุกคนซึ่งจะช่วยแก้ปัญหานี้ได้ แต่ข้อผิดพลาดเกี่ยวกับจำนวนเต็มนั้นง่ายต่อการประมาณการ ความเป็นไปได้ของการกำจัดความไม่ถูกต้องอยู่บนพื้นผิว - เพียงใช้เฉพาะตัวเลขที่มีเครื่องหมายอัฒภาคคงที่ ตัวอย่างเช่น โปรแกรมทางการเงินสร้างขึ้นบนหลักการนี้ อย่างไรก็ตาม มันง่ายกว่าที่นั่น: ทราบจำนวนตำแหน่งทศนิยมที่ต้องการล่วงหน้า

แอปพลิเคชันอื่นไม่สามารถ จำกัด ได้เพราะเป็นไปไม่ได้ที่จะทำงานกับตัวเลขที่น้อยมากหรือมาก ดังนั้นเมื่อทำงานมักจะคำนึงถึงความไม่ถูกต้อง ดังนั้นเมื่อแสดงผลจึงจำเป็นต้องปัดเศษ นอกจากนี้ การปัดเศษอัตโนมัติมักเป็นการดำเนินการที่ไม่เพียงพอ ดังนั้นจึงระบุการปัดเศษตามวัตถุประสงค์ การดำเนินการเปรียบเทียบเป็นสิ่งที่อันตรายมากในแง่นี้ เป็นเรื่องยากมากที่จะประมาณขนาดของข้อผิดพลาดในอนาคตที่นี่