[Playlisten] [Impressum und Datenschutzerklärung]

05.06 Rundungsfehler, Infinity (INF), Not a Number (NaN)


CC-BY-NC-SA 3.0

Tempo:

Anklickbares Transkript:

ebenbei demSinussah man schonRundungsfehler in Aktiondas will ich noch mal vorführenKommastellen sich vor ?? ich summierenganz häufig null Komma einsState mit einem Wert nurin der Summedes geht mit einer for-Schleifemit einer for-Schleifevonnullbis neun tausend hundert neunundneunzigkleiner zehn tausendC plus plusTiere jedes Mal null Komma einsSumme plus gleich null Komma eins flossenals pingelig mit dem floh dahinter das würde auch ohneStänder funktionierenaber was auchdasmuss mal anwas passiert wenn ich die null Staat und dann zehn tausend mal null Komma eins drauf addierenLeerzeichenFührer aus bis zum Cursores war ja schon wegund geht können Sie sehen was da rauskommt das ist zehn tausend mal null Komma eins sechs auf der Berliner Schule für ??bescheinigt worden wenn sie sagen zehn tausend mal null Komma eins istdas Essen neun neun neun Mal hatten sie noch zwei ?? Komma zwei Stellen nachrechtsneun hundert neunundneunzigKomma neun null irgendwaskommt nicht wirklich gutdas es Rundungsfehler in Aktionwarenso wie Denker sich jedoch nur durchläuftsich als habe einmal dieeinmal mitzählen hier jedes Mal gehörig Jin der Formjedem Schleifendurchgangdurch J um einsbiszu den Müttern ausführenKomma sie sehen J ist tatsächlich gleich zehn tausend in jedem Schleifendurchganggehörig Meißen täglich zehn tausend Schleifendurchgängenund es kommt eben nichttausend raus es kommtneunundneunzigKomma neun rauslassen Rundungsfehlerweil ich nur endlich viele Stellen nach dem Komma abspeicherereicht vorn und hinten nichtsicher sind manchmal ziemlich weit vorn und hinten nichtandas PTBS hatte schon erzähltganz normal vorführenwarum es bei ssi bie ess bisschen eng für ??stellt sich vor sie haben einmal denErdumfangkomplettvierzigmal vierzig tausendKilometer also vierzig Millionen Metersowasvierzig Millionen Meteran und wollen das vergleichen mitvierzig Meter mehroder über zehn Meter mehr im SkriptPunkt diverse was genaues hat es ??wenn wir hier die Differenz rechnen B minus Adiesewird sich acht nicht mehr zehn Meter aus den zehn Metern sind durch den Rundungsfehler acht Meter geworden daszu hart anerkannte Glaube für die PSdann sollte man vielleicht machenalso vorsichtig mit der Genauigkeitmit double wenn das hier bessernicht auf dieser Maschine solange sie auf zwei ?? Gaspedal steht aber typischerweisehinsichtlich bedingt aber ?? wäre das besserPunkt eins und für den letzten Lückentextnicht durch für heuteanmich noch drei Spezialfällevornämlich wenn die sowas rechnendabei A ist gleicheins Komma null ??doubledoubleB ist gleich null Komma nullund sie machen dabei C ist gleichA durch Bbei denganzen Zahlen kann einfach Blödsinn raus auf diesem System auf einen System gibt zum Programm Absturzdannbei den Gleitkomma Zahlen ist das typischerweise erlaubtsie Teil mal gerade eben durch nullsie sehr sinnvoll immer kompetente Simulationenhatzwischendurchkann es einem passieren das man durch null teilen möchte dass ich ständig abfangenbei die Millionen befehlen die Mandat und Milliarden und Billionen Befehl die man der hat?? ich darf durch null teilen folgendes passierenes kommt tatsächlich Infiniti aus das gehörter dieses Zahlenformathat besonderesKennzeichenzu sagen unendlichund besonders Kennzeichen sein Minus nämlich das wäre für den Lückentexterfahrensehen wenn ich jemals Ende käme den Lückentext nochmals siebzehn gibt es eine Spezialzahldie heißt lass Infinitisich jetzt analog die Spezialzahlenraumsmeines Infinitidas nette ist das mit dieser Spezialzahlweitergerechnetwird??ich kann jetzt bildendabei D ist gleichfünf mal zehnminusfünfundvierzig zum Beispiel weit schön geschrieben mitdabei ??ich kann das weiterbilden CS Infiniti und jetzt rechne ich fünfmal Infiniti minus fünfundvierzigund errechnet weiterals obihn das nicht störtdas da Infiniti rausgekommenistder Vorteil sie auch keine Abfrage ist jetzt da die Männer dicht bei nullanist das Ergebnis irgendwie zu groß errechnet einfach ganz locker damit weiterin hierminus?? minus fünf Komma null bestanden hätteüber den das ebenso wenig stören wird die natürliche minusmeines Infiniti werdendas sind die beiden ersten Sonderzahlendes gebrochene dritte Sonderzahl damit Schluss für heute die dritte Sonderzahl ?? not in numberen ENnumberdas passiert wenn sie sowas bilden wie die Wurzel aus minus einsdas geht nicht aber den stürzt nichts ab der typischen Einstellungen ganz aus so einstellen das natürlich etwasSchlimmes passiert aber in der üblichen Einstellung passiert nichts schlimmessondern er meldet einfach nur diese Spezial zur Zeit zurück Norte numberwar sofort weiter mit der kann auch weiter gerechnet werden können hier fünfundvierzig Komma null maldieminus fünfundvierzigwas auch immer rechnenKommafünfunddreißigKomma dreißigminus dreidamit wird auch weiter gerechnet solange sobald irgendwas Motte number geworden ist wird alles was daraus folgt auch noch number bleibenalso hier die Wurzelaus minus eins gibt's noch der Namenicht unendlich oder sowas sondernetwas was nicht definiert istund es wird weiter gerechnet sie wird jetzt auch ??alleswas insofern sind diese Gleitkomma Zahlen pflegeleichterals die ganzen ZahlenSie erhaltennoch in Anführungszeichenordentliche Ergebnisse auch bei verbotenen Rechenoperationen