Programmierung integer-arithmetic

11

Wie kann ich einem Bash-Skript Zahlen hinzufügen?

Ich habe dieses Bash-Skript und hatte ein Problem in Zeile 16. Wie kann ich das vorherige Ergebnis von Zeile 15 nehmen und es der Variablen in Zeile 16 hinzufügen? #!/bin/bash num=0 metab=0 for ((i=1; i<=2; i++)); do for j in `ls output-$i-*`; do echo "$j" metab=$(cat $j|grep EndBuffer|awk '{sum+=$2} END …

566 bash integer-arithmetic mathematical-expressions

30

Unerwartete Ergebnisse bei der Arbeit mit sehr großen Ganzzahlen in interpretierten Sprachen

Ich versuche , die Summe zu bekommen 1 + 2 + ... + 1000000000, aber ich bin immer lustig Ergebnisse in PHP und Node.js . PHP $sum = 0; for($i = 0; $i <= 1000000000 ; $i++) { $sum += $i; } printf("%s", number_format($sum, 0, "", "")); // 500000000067108992 Node.js …

192 php node.js precision integer-overflow integer-arithmetic

1

Mal zwei schneller als Bitverschiebung, für Python 3.x-Ganzzahlen?

Ich habe mir die Quelle der sortierten Container angesehen und war überrascht, diese Zeile zu sehen : self._load, self._twice, self._half = load, load * 2, load >> 1 Hier loadist eine ganze Zahl. Warum Bitverschiebung an einer Stelle und Multiplikation an einer anderen verwenden? Es erscheint vernünftig, dass die Bitverschiebung …

150 python python-3.x performance bit-shift integer-arithmetic

13

Bestimmen, ob eine Zahl entweder ein Vielfaches von zehn oder innerhalb eines bestimmten Satzes von Bereichen ist

Ich habe ein paar Schleifen, die ich in meinem Programm brauche. Ich kann den Pseudocode ausschreiben, bin mir aber nicht ganz sicher, wie ich sie logisch schreiben soll. Ich brauche - if (num is a multiple of 10) { do this } if (num is within 11-20, 31-40, 51-60, 71-80, …

103 c++ comparison conditional-statements integer-arithmetic

4

Ist die Subtraktion von Ganzzahlen ohne Vorzeichen als Verhalten definiert?

Ich bin auf Code von jemandem gestoßen, der zu glauben scheint, dass es ein Problem gibt, eine vorzeichenlose Ganzzahl von einer anderen Ganzzahl des gleichen Typs zu subtrahieren, wenn das Ergebnis negativ wäre. Dieser Code wäre also falsch, selbst wenn er auf den meisten Architekturen funktioniert. unsigned int To, Tf; …

100 c standards unsigned integer-arithmetic

6

Ist a / b / c in der C # -Integer-Arithmetik immer gleich a / (b * c)?

Sei a, b und c nicht große positive ganze Zahlen. Ist a / b / c immer gleich a / (b * c) mit C # Integer-Arithmetik? Für mich sieht es in C # so aus: int a = 5126, b = 76, c = 14; int x1 = a …

81 c# math integer integer-arithmetic

5

Ist die Maskierung vor der vorzeichenlosen Linksverschiebung in C / C ++ zu paranoid?

Diese Frage wird von mir motiviert, kryptografische Algorithmen (z. B. SHA-1) in C / C ++ zu implementieren, tragbaren plattformunabhängigen Code zu schreiben und undefiniertes Verhalten gründlich zu vermeiden . Angenommen, ein standardisierter Krypto-Algorithmus fordert Sie auf, Folgendes zu implementieren: b = (a << 31) & 0xFFFFFFFF wo aund bsind …

72 c++ c language-lawyer undefined-behavior integer-arithmetic

Als «integer-arithmetic» getaggte Fragen