Als «dc» getaggte Fragen


3
Präzision verlieren mit Gleichstrom
Ich möchte verwenden dc, um einige Basis-16-Zahlen mit Hexadezimalpunkten zu behandeln, aber ich stoße auf Präzisionsprobleme. Zum Beispiel multipliziere ich unten F423F.FDmit 100, beide hex. Die erwartete Antwort ist F423FFD, stattdessen F423FFA.E1, nahe beieinander, aber auch nach dem Runden nicht genau genug. $ dc 16 d i o F423F.FD 100 …
12 dc 
Durch die Nutzung unserer Website bestätigen Sie, dass Sie unsere Cookie-Richtlinie und Datenschutzrichtlinie gelesen und verstanden haben.
Licensed under cc by-sa 3.0 with attribution required.