Přetečení celého čísla

Autor: Louise Ward
Datum Vytvoření: 11 Únor 2021
Datum Aktualizace: 1 Červenec 2024
Anonim
Přetečení celého čísla - Technologie
Přetečení celého čísla - Technologie

Obsah

Definice - Co znamená Integer Overflow?

Přetečení celého čísla je výsledkem pokusu CPU aritmeticky vygenerovat číslo větší, než co se vejde do vyhrazeného paměťového prostoru. Aritmetické operace mají vždy potenciál vracet neočekávané hodnoty, což může způsobit chybu, která nutí celý program vypnout. Z tohoto důvodu většina programátorů dává přednost provádění matematických operací uvnitř rámce výjimek, který místo toho vrací výjimku v případě přetečení celého čísla.


Celé přetečení je také známé jako aritmetické přetečení.

Úvod do Microsoft Azure a Microsoft Cloud | V této příručce se dozvíte, o čem cloud computing je a jak vám může Microsoft Azure pomoci migrovat a řídit podnikání z cloudu.

Techopedia vysvětluje Integer Overflow

Jeden příklad přetečení celého čísla může nastat, když vývojář programu neumožňuje výskyt záporného čísla. V tomto případě, pokud proměnná provádí operaci vedoucí k zápornému číslu, dojde k přetečení a proměnná je vrácena jako kladné celé číslo. Dalším příkladem celočíselného přetečení by bylo dělení čísla nulou, což matematicky dává velké číslo s nekonečnou hodnotou.

Chování procesorů v případě přetečení celého čísla se u jednotlivých procesorů liší. Grafické procesory a digitální signálové procesory jsou konstruovány tak, aby zvládly mnoho aritmetických podmínek, včetně celočíselného přetečení. V případě přetečení celého čísla tyto procesory obvykle vracejí maximální povolený počet.