Softwareentwicklung arithmetic

5

Wird ein Computer versuchen, durch Null zu teilen?

Wir alle wissen, 0/0ist Undefinedund gibt einen Fehler zurück, wenn ich es in einen Taschenrechner stecke und wenn ich ein Programm (zumindest in C) erstelle, würde das Betriebssystem es beenden, wenn ich versuche, durch Null zu teilen. Aber was ich mich gefragt habe, ist, ob der Computer überhaupt versucht, durch …

59 math error-handling arithmetic

2

Name des Countdown-Zahlen-Rundenproblems - und algorithmische Lösungen?

Für die Nicht-Briten im Publikum gibt es einen Abschnitt einer Tagesspielshow, in der die Teilnehmer einen Satz von 6 Zahlen und eine zufällig generierte Zielnummer haben. Sie müssen die Zielzahl mit einer beliebigen (aber nicht unbedingt allen) der 6 Zahlen erreichen, indem sie nur arithmetische Operatoren verwenden. Alle Berechnungen müssen …

10 algorithms arithmetic

3

Hat die Nummer 65535 etwas Besonderes?

2¹⁶-1 & 2⁵ = 2⁵ (oder? Offensichtlich?) Ein Entwickler hat mich heute gefragt, was bitweise 65535 & 32 ist, dh 2¹⁶-1 & 2⁵ =? Ich dachte zuerst spontan 32, aber es schien zu einfach, woraufhin ich einige Minuten nachdachte und dann 32 antwortete. 32 scheint die richtige Antwort gewesen zu …

10 numbers binary bitwise-operators 32-bit arithmetic

3

Welche Gründe werden verwendet, wenn Programmiersprachenentwickler entscheiden, welches Vorzeichen das Ergebnis der Modulo-Operation hat?

Beim Durchlaufen der Modulo-Operation (der Straße, die ich betreten habe, als ich den Unterschied zwischen remundmod erkundet habe ) bin ich auf Folgendes gestoßen: In der Mathematik ist das Ergebnis der Modulo-Operation der Rest der euklidischen Division. Andere Konventionen sind jedoch möglich. Computer und Taschenrechner haben verschiedene Möglichkeiten, Zahlen zu …

9 programming-languages language-design math arithmetic design-decisions

Als «arithmetic» getaggte Fragen