[Playlisten] [Impressum und Datenschutzerklärung]
Aktuelle Themen des Maschinenlernens (Dezember 2019)
Tempo:
Anklickbares Transkript:
Zusammenfassung zum Stand des maschinenlernen 2019 – Ende 2019, – was ist zu Ende vergangenen zwei Jahren, ist passiert, was in die Themen sich so herauskristallisieren – haben in den vergangenen zwei Jahren, – was politisches – sowas wie Fairness und Fake News, – sie mitbekommen – haben, das geht schwer durch die Presse – aktuell – wieder mit neuen Handy – Google, wie kann man Rechenaufwand – verringern – das maschinenlernen? – kommt das vorn einstellen. Kannst auch vor – man für Maschinen lernen, großartig studieren, Mathematik und Informatik studieren oder geht das einfach auf Knopfdruck soviel – man Excel auf Knopfdruck bedienen kann mehr oder minder – halbes Jahr. – großes Problem ist – zu befassen, was – ich maschinenlernen gelernt? Hat er – überhaupt das was wir wollen – Drama – hängt damit zusammen hat das gelernt, was es werden soll, oder – es ziemlichen Unsinn für man's dann raus, lässt du die freie Welt. – geht auch in die Richtung, ob das Maschinen dann das gelernt hat, was es gegangen soll, – kann man das – angreifen angreifen ist nicht mit Viren an, sondern tiefgreifendes mit komischen Bildern komischen – lernen ist auch ein dickes Thema – der Computer den Menschen ablösen, – Schritte dahin sollten sich an zumindest ein paar Ideen wieder Computer die Menschen ähnlicher werden – er mir gerade auf die Schnelle – Abriss der vergangenen 12 Jahre – mal das politische. – Themen bei dem politischen das eine große Thema ist Gerechtigkeit Fairness – andere große Thema ist Desinformation – und Propaganda. – Erstmal die Gerechtigkeit – Problem ist, wir trainieren die Maschine mit realen Daten an. – keine perfekten – sind die ethischen Daten haben, wir wissen gar nicht, wie sie erzeugen könnten. Vielleicht – für Bilder kann man vielleicht noch mit GTA an trainieren – halbwegs realistische Daten Feicht ein bisschen zuviel Raubüberfälle, – aber zumindest Autos fahren der Autos und – vom Auto aus betrachtet, aber – nimmt man reale Daten maschinenlernen. – realen Daten – trainiert – auf Deutsch auf Englisch auf Chinesisch und deren Transkription und so weiter. – führt das was Gerechtigkeit angeht, – es naheliegend. – das vor ein paar Jahren noch keiner richtig drüber nachgedacht hat, – lernen aus der realen Welt, was bedeutet das, was die Gerechtigkeit angeht? ✂ man erst die ungerechte – behält die Welt ist nicht gerecht. – hört sich jetzt sehr abstrakt an. Man lernt die ungerechte Welt es – Jungs ein paar – Beispiele, was durch die Presse gegangen ist, – sonst – Intelligenz. – die Analyse von – Duft von dieser RKI soll wohl gewissen, – Reuters – hatte das vorbereitet, – hatten voll eine KI – zu – mit Sternchen 1 bis 5. Sternchen, sowie Sie und Filme und wo sie kränken war immer – das Problem ist, dass diese KI – hat aus den bisherigen – Unterlagen. Die Amazon – wurde zumindest goldplattiert – genannten Mitarbeitern, – fisica e gelernt hat aus den Unterlagen von Männern hauptsächlich, – in der Technikabteilung in Zweifelsfall – ist der Männer angestellt worden sind, – patterns gelernt hat, für Männer typisch sind die Ausdrücke – vorkommt, was nicht vorkommt in den Bewerbungsunterlagen – das wird dann automatisch diskriminieren – und sobald man ein Bewerbungsvorlage von der Frau da ist anderen ausdrücken – der Lebensläufen und so weiter – die mit weniger Sternchen einsortiert. Das geht nach hinten los. Wenn man das macht, – mal dazu soll Männer bevorzugt haben gesagt, wenn man es nur – zweiter Hand hat aus ungenannter Quelle aber über Reuters, – war – praktische – von so eine Ungerechtigkeit – die Quelle noch dazu schreiben? – mit Asus überweise – hat dann abgestellt, – das System – berichtet – Crepes – Recruiting tool – so weiter, – heute was – 18 – von vielen Beispielen – vorher schon Beispiele – maschinenlernen, – dass Banken sich z.b. Angucken, wo kommen Menschen her, die in Kredit haben wollen, – sie der falschen Straße wohnen, also Postleitzahl – teuer oder sie kriegen gar keinen Kredit – maschinenlernen geht das natürlich alles noch viel – sind sie aufgewachsen, – sind sie tätig, – lange sind sie tätig, wann haben sie – und so weiter all daraus kann ja alles mögliche gelernt werden. Weiß gar nicht was gelernt werden. – ungerechte Welt wird geleert. – thematischen Gerechtigkeit Fairness – zweite Thema Desinformation – Fake News. – wenn sich mitgekriegt haben – eine sehr spannende Anwendung, – aber eine total gefährliche Anwendung, dass man – in – austauscht – auf. – das zu zeigen. ✂ rechnet Videos – die Gesichter ersetzt werden in den Videos ein andere Leute auch insbesondere Leute von denen man viele andere Videos hat als Lernmaterial – das Problem war machine noch nicht die brauchen ganz viel lernen Material bisher – Bilder von Präsidentin – Bilder von Schauspielerinnen – Schauspielern – was auch immer – Bilder brauchen sie wo sie ganz viel lernen Material haben – dann können Sie das – andere Videos überstanden und ist fällt nicht – auf – es – spannend frische Möglichkeiten Text – zu generieren, der – sehr plausibel – ist, – hatte mal Eliza vorgestellt, – das ganz klassische Ding – Weizenbaum. – geht inzwischen – fantastischer Variante, – sie riesige texte erzeugen – lassen, – den ersten Blick nicht vom Computer stammen – durch die Presse – to erzeugt zu einem Textanfang, den sie vorgeben das nächste Wort – damit erzeugtes – Texte ist das klar, wie das funktionieren kann, aber das ist darauf trainiert – einem Text vorgegeben ist das nächste Wort zu prognostizieren – für morgen zu prognostizieren, dann erst nächste Woche etwas kommt zu prognostizieren, – kriegen sie damit den gesamten Text weiter gedichtet – mehr. Das nächste Fahrt ist das einleuchtend ✂ nicht auf die Vorhersage als Basis außen denkt an einen Text zu schreiben zuschreiben – irgendwas – oder minder absurdes über jemanden – aus der Politik oder sonstwo – GPT – rät das nächste Wort ihm Sie diesen ganzen Text und lassen den das nächste Wort raten und dann lassen sie in das nächste Wort raten und das ist in sich halbwegs konsistent. – es nicht sofort, – ist unsinnig. – ich mal gerade zeigen. – jemand Lichtmühle nutzkosten – das erzähl ich ins zu bringen. – werde dich dort, dass wir zu teuer für ihn mit 2500 $ im Monat für mich jetzt ein wenig mal Werbung schalten auf dieser Seite noch kann man ist, probier mal dieses hier hast du dein to school and – Ingwer – und jetzt muss er stinkt ja irgendwie eine Geschichte erfinden das nächste Wort und das übernächste und so weiter Worte finden, – nicht was passieren wird. – damit hätte ich es beim besten Willen nicht gerechnet, muss ich gestehen. – Kaindorf dialectic Thai body was dürfen gewählt wurden Hexen, – das so irgendwo auf Facebook oder sonstwo Stunde, – das machbar stellen sich vor sich fangen jetzt nicht hiermit an, sondern sie fangen mit irgendeiner Beleidigung an oder sie fangen – falschen Behauptung an und das Ding spinnt einfach weiter, wir können gucken generate another, – er denn machen würde. – Mercedes bleibt bei der Schule hörst du nichts class and graduated das Thema ist erkannt und bleib bei der Schule jetzt – immer das wird ja immer schlimmer – an in welche Richtung das geben mag, das ist total gefährlich, – er seine zwei extrem schlimm werden. – ein zeige ich – ist wirklich dazu gedacht – News zu generieren Rover. – reicht es, wenn ich die Überschrift vor gebe und jetzt wird der Rest Defekt muss generiert – zu Überschrift. – ist die Domain auf der das erscheinen soll Datum Autor – können Sie auch generieren lassen, lustige ist die – vorzugeben und den Artikel – zu lassen. – jetzt irgendeine absurde – hinzuschreiben, – weiß ich este day. – und jetzt muss ich hier Artikel – generate. – Ok und Geduld haben – if you think Aliens, ne have never had before – so weiter und so weiter, wir – würden News live here about you wird incident involving thirty – one foot Alien found living in a guy Spaceman – so weiter, deshalb ist Raytracing. – passt zu ungefähr geht jetzt nicht wirklich auf die Aliens ein, – gestern gelandet sind, aber ich passe so ungefähr – sich da irgendwas zusammen, das können sie es posten, wenn Sie wollen – automatisch Posten lassen, das ist – gefährlichen Aspekte von diesen Sachen, das können wir es posten und David Facebook und Twitter und sonstwas Fluten mit so ein Blödsinn. – die unteren beiden, was Desinformation – angeht, da ist – der Risiken, die man sieht, – man das Internet damit flutet – scheinbar plausiblen – den ersten Blick plausiblen – die von Menschen geschrieben zu sein scheinen. – deepfake – heißt natürlich, – man sich auf Videoaufnahmen nicht mehr verlassen kann, wenn sich jemand sprechen sehen im Video. – sie nicht mehr glauben, – er oder sie das wirklich gesagt hat? – du. – geht. Ja aktuell – die Presse ins will doch nur Fake News das mit der Gerechtigkeit ein bisschen hinter den Kulissen arbeitet kriegt man das auch mit, dass Organisationen sich dann zwischen – versuchen zu machen, was Fairness angeht, – es dann funktioniert – man sehen müssen. – nächste – große. Rechenaufwand verringern – stillen – wird gelernt. – Maschinen der Modell, man gelernt hat angewendet – beim Lernen den Rechenaufwand verringern. – beim Anwenden – Hop der große Rechenaufwand – stecken sie am meisten Rechenleistung rein, ✂ natürlich beim Lernen, das meiste – bei den neuronalen Netzen, – sie den jetzt das an trainiert haben, dass sie hier die – preiswerte richtig einstellt bis hinten das richtig rauskommt, wenn sie da vorne was anlegen, – dauert – braucht man eben im Zweifelsfall dicke Computer – davon – Grafikkarten. – davon – Lernen ist, das du Bücher Weise richtig Aufwand Kosten, wenn es auch spannend, wenn es auf dem Handy laufen soll, – auf das Anwenden natürlich – schlank sein. – wir mal so eine Idee kriegen, – groß sind die aktuellen – in der Forschung – denen so gearbeitet wird – Modelle dir da eben gelernt werden, – hätte man schon mal mehrere Tage auch z.b. 8 – beschleunigen ist ja keine Grafikkarten mehr. Im engeren Sinn, haben Grafikkarten Technik, – die – Chips sind kaum noch Grafikkarten, – sondern – sind im Endeffekt rächen – Beschleuniger – mehrere Tage. – ist eine übliche Zahl auf 8 solchen Beschleunigern – werden sie auch mieten in der Cloud – nicht kaufen. – die werden die Zeit – und den Strom – heißt man investiert Zeit man investiert Energie Kilowattstunden – tatsächlich – man – auch teure Hardware, – Bandit natürlich mieten kann jetzt wischen – der Cloud von üblichen – ist ja was sagen, ich brauche mal die nächsten Tag davon – dann haben sie den nächsten Tag über acht davon – müssen nicht gleich selber kaufen, – PayPal dazu – ersten Mal – schönen auseinander – dividiert wie hoch der – ist, – considerations – deep learning – NLP Energie ist sprechen, es gibt auch ein Psycho Verfahren namens NLP als ich gemeint in der Küche ist, Verarbeitung natürlicher Sprache – war auf der A – Konferenz dieses Jahr 2019 ✂ einer Punkte auch spannend ist, ist der – banished – ea doubleyou – ist eine Gruppe aus Stanford. – hat einen Wettbewerb ausgemacht, – man kann sich da jetzt mit seinen Daten bewerben, – wie schnell hat man ein bestimmtes – gelöst, – wie viel Dollar hat man das gelöst und wird dann auf der Webseite gelistet, das ist spannend über billig das werden kann und wie schnell das werden kann, so einem Wettbewerb herrlichen – Verfahren hast die Leute arbeiten und die fette wie schnell und die billigste bestimmte Modelle – können ✂ Frage nach Rechenaufwand bringen, ich zahle – geworden vor. Deiner besonders studentische Arbeitsgruppen gegeneinander antreten können und sagen auch jetzt haben wir's aber auch für 2 $ geschafft oder für 20 $ geschafft oder in zwei Stunden geschafft. – um das zu verfolgen, wie sich das weiterentwickelt, – man lernt, mit welchem Trainingsdaten – ist eigentlich festgelegt, der nichts Daten und Testdaten ist festgelegt – Frage mit welcher Strategie – sie dran, stellen Sie die ganzen Parameter ein hyperparameter – jetzt wie schnell geändert wird – damit passend rumspielt für das Ganze im schneller und viel billiger. – beim Lernen – Anwenden gerade die – von – der Spracherkenner jetzt auf dem läuft zumindest, wenn das Handy von Google kaufen das neueste – ist ja das Verkaufsargument dann sonst würde ich auch nicht machen, – Google sprach. – lustigerweise Geräusch erkenne auch – erkennst du Applaus, – erkennt er dann. – dem Handy und nicht mehr in der Cloud – ihr vorgeführt Spracherkennung im Browser – raus an die Google Cloud – im Browser geht nicht raus, das macht ihr Lokal, – die Spracherkennung muss im Zweifelsfall rausgehen – schon wegen der – die da benötigt wird. – ist das – den Rechenaufwand zu reduzieren? Man könnte auch sagen auch – hat doch bisher funktioniert, was sind alles Vorurteile, außer dass sie Energie sparen, wenn Sie das hinkriegen, – die Spracherkennung auf dem Handy läuft, ✂ das funktioniert also auch im Funkloch – Deutschland nicht – bleiben – die Daten hoffentlich – dann bei Ihnen und gehe nicht – vielleicht andere Leute mithören könnten. – vielleicht ist die Latenz auch besser, wenn sich erst Server schicken und dann wieder – bekommen müssen vom Server, dann gehe natürlich auch mindestens Millisekunden – verloren mit 5g – älteren letzten geht auch mehr verloren, – hat Badezeit da noch da drinnen, also viele Vorteile das so zu machen nicht nur das Energie gespart wird. – gibt es – du gerade mal reingucken können. – Leute die das bei Google gemacht haben haben auch ein Paypal – geschrieben, – sich optimal sing speech recognition for the edge – wieder so ein Modebegriff – Rand, der Cloud ist die Edge – ihr Handy – dies – Handy hängt das – direkt an, der Cloud ist ein bisschen hinten an die EDGE – ein neuer Modebegriff. – gibt's auch schon wieder ein paar Jahre, – ist dein Edge computing. Sie machen es nicht in der Cloud, sondern an der Kante der Cloud, – archived – Jahr – haben eine Zahl drin. – dass die ihr original Modell was die hatten auch die Gewichte von den Neuronen, die baires werde von den Neuronen die ganzen Einstellung – das ein halbes Gigabyte war vorher – dass sie rumgebastelt haben, um dieses halbe Gigabyte ein zu dampfen auf 56 MB, – schon – erträgliche Größen – dass sie dabei obendrein – auch noch – mal – als – dann gibt's eben – Lara liegen die Ideen – man das machen kann. vorstellen, sie haben ein neuronales Netz wie auch immer ein neuronales Netz, – wollen – Aufwand – dann auch noch den Rechenaufwand, – wollen die daten Aufwand reduzieren, – würden Sie probieren beim normalnetz? ✂ ist wird also wahrscheinlich schwierig sein, wenn sie so – ist jetzt haben – schon wie es ist, es wahrscheinlich schwierig sein – raus zu feuern, das wäre eine Möglichkeit – was gut hinkriegen kann ist dass man seine Verbindungen raus feiern kann und – volver – wollen wir nicht – das heißt man wird so trainieren, dass – viele von diesen Verbindungen schon dicht bei 0 sind ist eine Möglichkeit – probieren – dann guckt man sich an, welche denn dicht bei 0 sind und die feiert man raus zu – wieder mit einlernen und so weiter, das ist eine Art trainieren. – viele Gewichte gleich null oder – nur je nachdem wie man das macht. – nennt sich Spa City. – sozusagen ein dünnes neuronales Netz – Nullen brauchen Sie – die dann weglassen, das nennt sich puning – Pflücken, – ein bedächtiger – nicht auf diesem Gebiet. – fällt dir sonst noch was rein, also – versuchen wir die Datenmenge reduzieren – man hier von den nur aber das ist ein wesentlicher Schritt von der 94 auf die 650 Megabyte – noch an, was sie tun könnten, auch um die – schneller zu machen. ✂ Zu Mann arbeitet den ganzen Zahlen. – haben sie – zu speichern – streichen Nachkommastellen Weg sozusagen haben – sie weniger zu speichern dadurch – sie haben eine Stelle Rechnung – ganz anzurechnen – geht viel schneller als Gleitkommazahl zu rechnen – all diese fekte zusammen ergeben dann so eine Beschleunigung und – läuft eine. – recht eindrucksvolle Spracherkennung – dem Handy und – mehr irgendwo in der Cloud – hinzu. – Reduktion der Rechenlast beim Anwenden – das war der Punkt Rechenaufwand verringern. – auf Knopfdruck. – hoffe nur ml weil ich faul bin maschinenlernen – auf Knopfdruck. – zertreten ja alle davon – muss jeder in Deutschland Mathematik – und Informatik studieren, – brauchen künstliche – Intelligenz – Anbieter arbeiten genau in die Gegenrichtung, – man das bedienen kann. Ohne – Mathematik – ohne viel Informatik praktisch komplett ohne Mathematik – ohne Informatik, – ist das Ziel, – minimale – wäre sowieso übertrieben Programmierung soll ich sagen. – einfache Geschichten – sich damit schon machen auf dem Niveau, – gibt's zwei. – Ansätze die mehr oder minder parallel laufen, – eine große Ansatz ist, dass sie sowas wie Spracherkennung – Bilderkennung – der Cloud fertig kriegen als fertiges Produkt – Abo – der Cloud – mache ich ja die – Textversion für meine Videos, – ist die – von Google aktuell, die dahinter sitzt, ich schicke – meinem – schicke – ich die – der Videos raus – Google irgendwo in die Cloud und von Google kommt dann nach ein paar Sekunden – Sekunden – das kann Script die Text Variante wieder zurück und das kotzt mich dann ebenso 1 zu 4 €. – wo in der Cloud also fertige. Dienst Sie diese einfach nutzen können der Cloud – den üblichen verdächtigen – Microsoft und – auch immer, ich will gar nicht aufhören, was ist alles gibt, das ändert sich nämlich auch jeden Monat – Begriff vielleicht noch einmal der da gerne – wird irgendwie – Eis – Aisha – allgemein die Programmierschnittstelle – Ob sie nun für Jabba oder beißen was auch immer die Programmierschnittstelle mein – die Leute hier von ep.iii reden ist, da gemeint – Schnittstelle, mit der ich mit solchen Diensten reden kann im Web. – schicke ich – kriege dann – auch wieder Daten zurück. – Befehle die ich dann kommuniziere – mit der Gegenseite, die heißen dann gerne auch da EPA – als kurzbegriff für das Abo in der Cloud. – gibt es auch automatic – learning, – Maschine sucht – sich selbst – richtige Art das maschinenlernen – das ist sozusagen maschinenlernen – man zuviel – ist sowas wie Architektouren. – dich wie zusammen von den ganzen Komponenten, die ich da habe und – schnell soll gelernt werden soll ich dein Rad erst rauf gehen dann wieder runter gehen oder andersrum – Geschichten, wie viele nehme ich zusammen in einem minibatch – Sachen zum einstellen? – die automatisch – gefunden werden. – sie können sich vorstellen, dass wir im Zweifelsfall auch nicht gerade energiearm – sein, – der Mensch vor gibt, nimm diese Architektur – dieser Lernrate und so weiter und die Maschine das durch und gut ist, Sie das erstmal suchen müssen heißt dass sie machen Experimente das nicht nicht sie sondern Dich irgendwas in der Cloud – dann Experimente – herauszufinden, was den eine geschickte Architektur ist und so geht auch wieder gut den Energiebedarf. – dafür, dass die Cloud-Anbieter auch was zu tun haben – die ja die Rechenlast, die nötig ist, – das maschinenlernen – sich selbst sozusagen, was die richtige Strategie ist, etwas zu lernen, ist automated – learning. – Punkt ist – learning, verstehe – nicht verstehen. – gab ein sehr kontroverses – an, dem man das – kann habe nämlich zwei – sich überlegt, dass man Bilder nimmt von Menschen – sie hatten Menschen in dem Fahrrad – Bilder von Menschen – versucht jetzt die Bilder zu klassifizieren – ja klassifizieren – nach über 50 ist unter 50 – eine Brille hat keine Brille – so weiter und so weiter. So könnte man Bilder – haben die Bilder auf eine sehr gewagte Art klassifiziert, – die haben die Bilder – nach kriminell und nicht kriminell. – und nicht kriminell und kriminell – nach – Farbe der Krawatte oder – den Scheitel links oder haben sie den Scheitel rechts? Das versucht an zu trainieren? – sehr – aufgenommene – Arbeit – warum das – sein wird – das schief gehen kann. ✂ es ist – Wenn das gehen sollte wäre das – höchst überraschend das Bad Gesicht allein vom Passfoto sowas ablesen kann. Verdacht ist die Aussagen der Verdacht ist die Maschine wird ganz was anders lernen, das meine ich hiermit ml verstehen, was lernt die Maschine eigentlich, – war dann die große Frage, – sich alle Leute gestellt haben geht dieses Paper gelesen. – die Maschine jetzt wirklich gelernt, – es im Gesicht Unterschiede – zwischen kriminell und nicht kriminell gibt oder die Maschine ganz was anderes gelernt. – Verdacht war, die Maschine z.b. Lächeln – gelernt hat. scheint so für westliche – Augen zumindest, – die – den nicht kriminellen Leuten des – Leute auf den Bildern ihr Lächeln und die Kriminellen Leute ihr nicht lächeln, weil zumindest für westliche Augen so – anderes, was noch gefunden worden ist, das – Kragen sichtbar war – hin und dann weißer Kragen sichtbar. – weiße Kragen gelernt – Autoren haben darauf geantwortet, das will ich immer mehr dazu schreiben, das ist schon spannend das mitzuverfolgen. Also von den Autoren gibt es eine Antwort darauf – Otto und der Originalstudie – response – Service – machine learning of criminality – perceptions – 2017 – das war das Pack, obwohl es wirklich am prominentesten diskutiert – wurde, das große Frage, was hat die Maschine – man wirklich einen Menschen vor den Kopf gucken und sagen, ob er kriminelle ist oder – ist. – wenn nein, was possible ist, dass man es nicht sagen kann. Wenn nein, was hat die Maschine verflixt noch eins jetzt wirklich gelernt? – es in Kassel Schneefall den sollen sie kennen, das ist Bildung – klassisches Beispiel dafür? – denn gerne angeführt wird – klassische Beispiel ist ein Pferd namens kluger Hans. – 1910 – Leute haben dem – gezeigt – der Tafel – gezeigt 3 + 4 = – das Pferd musste denn 7 Mal mit dem Fußstapfen mit dem Hof klopfen – Mann hatte scheinbar ein Pferd elementares rechnen rechnen beherrscht hat. weiß nicht, ob sie schon auf die Trick kommen. Wie das passiert ist, das war nicht Absicht, das Mensch der das Pferd antrainiert hat hat wohl wirklich – dass es fährt jetzt rechnen könnte – wert. Konnte nicht rechnen. – Sie eine Idee, was ist fährt gelernt hat, deshalb ist das klassische Beispiel. Das Fett hat nicht rechnen gelernt – 3 + 4 oder 7 Mal mit dem Huf auf – hat nicht rechnen wir Wert, was hat es gelernt? ✂ sind drauf gekommen, also das Pferd Staub solange mit dem Fuß auf bis der die Frage gestellt hat wirklich guckt oder ganz viele Leute Publikum glücklich gucken – muss viel komplizierter das – haben, – Grundrechenarten ist muss gelernt haben – erfassen, wann das Publikum zufrieden ist, – ist für ein Pferd doch eine grandiose Leistung eine viel größere Leistung ist die Grundrechenarten zulässt, – dass ich ein Beispiel dafür der kluge Hans – seien Sie vorsichtig, – Sie glauben, dass ihre Maschine was gelernt hat ist könnte sein, dass die Maschine ganz ganz was anders gelernt hat, als das was sie glauben. – also die fundamentale Frage, was lernt ml – allem was man hier veranstaltet dann Experiment mit Maschinen, dann musst du sie mal fragen hat – jetzt wirklich das Problem erfasst – oder das was völlig falsches gelernt. – kann auch verschiedene Arten dran gehen Visualisierung, – man versucht darzustellen, was das Netz auf verschiedenen Schichten – spannt – mal an, man durch Klicken der activation etwas – eine neue Idee dazu, – man sich durch Schicht durch das Netz gehen kann – gefächert sieht was auf dieser Schicht alles verschiedenes erkannt werden kann. – Thema ist explainable – ai – heißt – Maschine soll nicht nur ein Ergebnis liefern – kriminell – oder – + 47, die Maschine soll ich nun Ergebnis liefern, sondern Tagen. Warum? – Begründung, – sich vor hätte begründen müssen, warum + 4 = 7 ist ich schreiben soll Begründung liefern, es kann auch sein bei Expendables, das ist denn normale Fassung des die Maschine nicht direkt die Begründung gleich mitliefert, sondern dass man zu wenig die Begründung abliefern kann. soll erkennbar – sein, wo die Begründung herkommt, – habe ich eben – noch was gesagt zu mir bist neighbor bei mir bist neighbor. Ist diese Begründung relativ einfach sie können sagen, dann bin ich reingegangen, dass – die Nachbarn gewesen. – war die Abstimmung Feierabend, – das ist die Begründung bei mir bist neighbor Begründung bei neuronalen Netzen ist total schwierig, wenn sie dadurch – Schichten durch müssen wir sagen, dass dieses Neuron hat jenes und dann hat jenes und dann hat jedes zum Schluss habe ich festgestellt, – sie keinen Kredit kriegen. – wird bisschen schwierig sein von der Begründung. Das wird keiner akzeptieren, das ist die Forschungsfrage bei Expendables, – kann man das nachvollziehbar – machen jetzt das Netz gleich die Begründung Hintern 3 liefert – gar nicht die beste Möglichkeit, das spiel Expertin Experten reingucken können in das Netz und sagen können. Ja – sieht possible aus, was da rauskommt. So sollte es sein. Das wäre sinnvoll – es gibt. – ich gerade noch der datenschutz-grundverordnung der – Geliebten datenschutzgrundverordnung – gibt es interessanterweise ein Erwägungsgrund. Es steht nicht als Artikel drinnen, aber – steht als Erwägungsgrund drin, das könnte dann ja noch ein bisschen. Wer werden demnächst – datenschutz-grundverordnung fängt – wieder so – Parlaments nicht direkt mit den richtigen Regelung an, sondern in Erwägung nachstehender Gründe – sie an – betroffene Person sollte – warten, sie sollte das ist ja nicht bindend, betroffene Person sollte das Recht und so weiter keiner und so weiter Entscheidung unterworfen zu sein, die ausschließlich – auf einer automatisierten Verarbeitung beruht – und die rechtliche Wirkung entfaltet – so weiter und so weiter wie die Ablehnung eines online Kreditvertrages, also es sollte – sollte die Bank nicht einfach mit einem neuronalen. Netz sagen sie nicht – es kommt auf das mit der Erläuterung. – hier unten Erläuterung der nach hier reinsprechen Bewertung Betroffenen Entscheidung – das vor als explainable. Ai – schon in der – drinnen, – könnte noch mehr werden, insofern müssen sie gefasst sein, wenn sie sowas schreiben. Sie müssen es ein System schreiben, – dem erkennbar ist wie es zu sein Folgerungen kommt, – also nicht genau, was die – Intelligenz – hat, es versuchen, – erklärbar zu machen – oder im Nachhinein oder zu visualisieren, aber – im Großen und Ganzen ist ziemlich unklar, was jetzt genau wie gelernt worden ist, – heißt – solche Produkte verkaufen will, – In Form von selbstfahrenden Autos – man ein riesen Problem. – hat – wirklich eine Produktreife. – ist schwer zu – unterscheidet ja gerne, – und Validierung – Das müsste man – Nachweisen – für eine Produktreife, – um ein Produkt in den Markt bringen zu können. Beides ist sehr schwierig – maschinenlernen – heißt ist die Spezifikation – erfüllt, als Deutschland wäre das Pflichtenheft – die Validierung ist ob das System wirklich funktioniert. Sie lassen es in der freien Wildbahn oder zumindest auf realistische Testaufgaben – fragen, ob das dann wirklich funktioniert – wird es üblicherweise unterteilt, – das sind zumindest zwei wesentliche Schritte – Produktreife nachzuweisen. – ist – mit maschinenlernen – Probleme mit maschinenlernen – die beiden Punkte angeht. – z.b. Passieren Sie ein Problem ✂ z.b. – der Verifizierung, – die Logik – nicht erkennbar ist wird irgendwas miteinander multipliziert – und wird was an dir zu ändern, wenn ich irgendwie nicht im Jahr Funktion an und dann wird Dinger weitergereicht und so weiter und so weiter hinten kommt irgendwas raus, – ist nicht wenn dieses dann jenes – ist ziemlich undurchdringlich, – wenn überhaupt auf irgendeine Art zu durchdringen, – ich würde schreiben, die Logik ist nicht existent oder zumindest – nachvollziehbar. – sagen sie denn jetzt der Zulassungsbehörde – für das – Auto das garantiert immer? – dem Stoppschild gestopft wird nicht ganz leicht zu belegen, wenn ich überhaupt zu belegen ist das andere was wir gerade hatten, – der Validierung insbesondere – die Testfälle, man wird in die Validierung show normalerweise – mit ein paar definierten Testfällen reingehen, aber – komplexer ist wird wieder selbstfahrende Auto. – wird es dass man – ist. – hinreichend große Mengen Testfällen hat viele – oder zu komplexe Testfälle. – Auto – Winterkleidung und kariert mit langen – Haaren – dann noch im Dez – Himmel oder sowas, – ein Test, weil du es wahrscheinlich nicht – oder zu komplexe Testfälle, – können nicht garantieren, dass – sie – viele Testfälle – haben. – eine Geschichte, die hatte ich mir noch notiert. Das System stürzt nicht ab, wenn sie normales – Programm haben – nicht richtig ist stürzt es gerne mal ab. – System stürzt nicht ab ist er rechnet einfach nur Unsinn, – heißt sie kriegen gar nicht mal mit, – dummes passiert ist. – ich normales Programm abstürzt wissen sie – da ist ein Fehler drin. – Ideen – ganz viel – Produktreife ist hinzubekommen. – hatte ich noch die gelernten Daten sind vielleicht nicht irre sind Dativ. – hat man z.b. – Bei daa – sie – trainieren, – Bilderkennung in den USA an mit amerikanische Straßenschilder an – amerikanischen Strommasten an der Straße die höchstwahrscheinlich in Europa nicht funktionieren – trainieren das an mit – Gesichtern von weißen Leuten wird es dann auch mit Gesichtern von – Menschen funktionieren, wahrscheinlich nicht. Dickes Problem, was da diskutiert wird bei den eingebauten Vorteilen – Daten – repräsentativ schreibe ich mal. – kurz hier. – tragisches – Beispiel aus jüngerer Zeit war der Unfall von – selbstfahrenden ubach – ist ihm hat nämlich erst weil ich gleich noch mal im Abschlussbericht dass es dem Herd erst anderthalb Sekunden vor dem – Zusammenstoß – da ein Objekt Google Map object das allgemein dass du ein Objekt auf Kollisionskurs war. – schlimmer noch im – Abschlussbericht – steht – System war gar nicht auf jaywalking – not include. – consideration. – the walking dead Istriens – Wort gibt's im Deutschen nicht so richtig Jay – die falsche über die Straße gehen – man dem Bericht trauen darf heißt dass – Leute die dieses System gebaut haben haben nicht einkalkuliert, – dass jemand falsch über die Straße geht. Ein kleiner – Satz in den ganzen langen Bericht – Wölfin jemand nachlesen wird – ich noch mal sagen, wo der Bericht steht, – ich das Techno transportation safety Board. – der Titel ist sehr schlicht schwiegel – Autowäsche report. – 5.11. – noch druckfrisch, – können uns gerade mal angucken und ziehen die die armen auch was die selbstfahrenden Autos, also drinnen haben ✂ das war Manga du Produktreife – mit tödlichem Ausgang. – es um Spracherkennung – geht und er nicht ist, dann ist das natürlich nicht ganz so ein Drama, da sieht er mal 2-3 Wörter falsch, damit kann man leben – wenn der Musikstil falsch eingeschätzt – wird oder wenn sie – Warenhaus den falschen Vorschlag kriegen und passenden Vorschlag, dann ist das vielleicht peinlich, – gefährdet keine Menschenleben, also, sobald es wirklich – Technik wird übel, wenn er auch produzieren in der Energietechnik – ist das sehr schwierig bisher – neuronalen Netzen und andere Maschinen Lernverfahren – zu garantieren. – Produktreife zählt zu – Wir müssen gar nicht so genau was die Maschine lernt und was sie gelernt hat, wenn wir das wüssten, dann – könnten wir auch die Produktreife bestätigen, aber wissen das gar nicht so genau – ist das Thema der Angriffe, weil wir gar nicht so genau wissen, – die Maschine gelernt hat. – sich böse Leute – kluge Angriffe ausdenken – die Maschine, also es geht nicht um Viren – und Trojaner. – Die natürlich auch wie bisher aber – gibt neue Arten an – ich die Maschine ins Bockshorn jagen kann. – Trick ist – wahrnehmbare – vorzunehmen, die Umwelt oder Gesichter texte, – was auch immer kaum wahrnehmbar zu ändern, der Mensch merkt – nichts, aber die Maschine – völlig irritiert, – ist der neue Angriffsvektor, – der sich heraus bildet. – wahrnehmbar Änderung mit großem Effekt auf die Maschine. – Mensch denkt sich nichts leckeres nur ein Aufkleber auf dem Stoppschild zeige – ich gleich mal – die Maschine rastet völlig aus. – sie das falsche gelernt hat. – Klassiker die sollte ich erwähnen – habe bei der Klassiker ist – Goodfellow – und – and – harnessing adversarial – examples dieser – Begriff adversarial – examples, der – hängengeblieben – die Beispiele – gegnerische Beispiele oder – Beispiele immer so viel, – mir ein paar aktuelle Beispiele davon. ✂ dass man also Beispiele – der Mensch – großartiges reicht ein bisschen raus muss aber kein Rauschen ist sondern ganz gezielte Störungen sind hoch optimierte Störung sind und die Maschine rastet völlig aus, – ist seit 2015 – ein dickes Thema, also sie brauchen keine Viren und keine Trojaner gegen neuronale Netze ist reicht. sie ganz raffiniert Störungen – platzieren – inzwischen – man das auch locker hin Störung in der Umgebung zu platzieren. – Straßenschilder – zu verzieren in Anführungszeichen, – kleiner Zettel klebt auf dem Straßenschild – schon bitte Straßenschild nicht mehr erkannt. Der Mensch denkt sich ja schön hat an der Zettel draufgeklebt. – mal Straßenschilder – in Anführungszeichen verzieren, – nicht einfach nur die Bilder verzieren, sondern wirklich die wahre Welt verzieren – und trotzdem funktioniert dieser Angriff. – so weiter hat auch ne – kann Mama gerade reingucken. ✂ als Warnhinweis, – sie was an – die Maschinen werden funktionieren – Sie sich bewusst, dass man die – kann, ohne dass der Mensch das merkt. Der Mensch glaubt es sei alles in Ordnung ja, die sind irgendwie bisschen mit Pinsel die oder fleckig und Maschine – das Stoppschild für eine Geschwindigkeitsbegrenzung – und ähnliches – die nicht wissen, – wir das Problem was man noch dahinter liegt, bei bin ich genau wissen, was die Maschinen jetzt eigentlich gelernt hat, können wir ja was tun, aber – ist das erstmal schwierig. – Beispiel kam – aus Deutschland – Aufkleber, der die – verwirrt – Aufkleber irgendwo hinkleben, Anja Auto oder an – dass Auto weiß nicht mehr genau, was jetzt sich wie – Bild Bericht – verwirrt. – Bewegungserkennung – Das ist total von den üblichen – sie sagen können, welches Objekt jetzt wie im Bild weiter schwimmen – schlau Bewegungserkennung. – optical flow ✂ dann eher – Papagei so komische Anwendung – demnächst, dass man sich Muster – Gesicht malt – neuer Art von Make-up. – jetzt Gesicht mal Bilderkennung – gibt es eine künstlerisch Aktion denen sich sie fidessa, – richtet sich gegen die ganz klassische – TV – OpenCV – wird man höchstwahrscheinlich dann auch neuronale – Netze machen können. – wilde Muster – Gesicht malen oder reicht auch gar nicht. So wilde muss da die kaum auffallen, – plötzlich wird man nicht mehr erkannt von der Maschine. ✂ an den Beispielen sieht man noch das ist menschengemacht und ich von der Maschine optimiert, das muss man natürlich dann so machen, dass dich die machen will. man zu optimieren, dass Mensch ist. gar nicht wahrnimmt nicht blaue Haare unten schwarze Streifen Gesicht, sondern – ganz minimale Änderungen, – lässt sich wahrscheinlich machen würden die Maschine – weiter optimiert. – Menschenähnliches – lernen, also es geht die ganze Zeit ging – es jetzt ja da drum, dass Maschine das falsche lernt oder mir nicht so genau wissen, was die Maschine lernt – lernen, wäre das hier – kann man das Utopie nehmen oder als Dystopie nehmen. – LG ai artificial – general – intelligence – auch Leute, die sagen eigentlich hat der Mensch auch keine general intelligence der – kann mit seinem Körper umgehen. – sollten wir nicht mehr verlangen – dem künstlichen maschinenlernen – artificial – also, dass die Maschine nicht nur Bilder klassifizieren kann – in Katze – und Hund – eine andere Maschine – kann, wo andere Autos auf der Straße sind, sondern dass Maschine praktisch alles kann, was der Mensch eben auch alles kann, das ist der Gedanke bei ETA artificial general intelligence. – sag mal, das haben wir die Frage ist, ob der Rechner dann auch noch – Könnte darüber hinaus, dass wenn sie mitgekriegt haben, das sind alle schwierige Diskussionen – mal gerade zumindest überlegen, sind Unterschiede – bedeutende Unterschiede zwischen – Lernen von Menschen und dem Lernen der Maschine – stattfindet – ist der Maschine. – Menschen anders – als die meisten Maschinen. – Als die meiste – wenn man den Begriff verwenden will. – die Unterschiede die – wesentlichen großen Unterschiede ✂ lernen multimodal, – meisten von uns sehen hören, fühlen – Finger an schmecken. – Maschine lernt oft – eben nur mit einem Modus nur Bilder nur kleiner – Auto – von uber eben haben sie gesehen. Okay, das hat Radar und hat leider und hat noch diverse Kamera ist das ist ja auf diese Art vielleicht sogar schon – normalerweise lernt die Maschine nicht multimodal Menschen lernen multimodal. – wissen – etwas aussieht, wie es schmeckt, wie es sich anfühlt, – wie schwer, es ist in der Hand – gibt's noch? ✂ Santa. – Emotionen, – ein Basis Erfolgserlebnis habe, das werde ich ihr X – etwas super schiefgeht, wenn ich das höchstwahrscheinlich – Jahrzehnte behalten – ähnliches vielleicht – Furcht sogar kontraproduktiv – ins Mathematik – Angst lernen dann weil sie vielleicht gar nicht auf jeden Fall gibt es eine Wechselwirkung mit den Emotionen – das Lernen. – kann man die Maschine einbauen, das wird üblicherweise nicht gemacht bisher. – Dazu müsste man verstehen, was ihr immer Zion bei Menschen machen. – sie scheinen wichtig zu sein für das Lernen der Emotion. – oder unterdrücken? ✂ Rolle des Bewusstseins – das ist gut, dass sie das erwähnen – Rolle des Bewusstseins – eine ganz ganz große offene Frage. – man lernen – ohne – Bewusstsein – schon einfache Sachen zumindest kann man lernen – Bewusstsein – es diese – eingeben ohne Bewusstsein – oder ist automatisch Bewusstsein dabei da diskutieren – die Philosophen und – ohne Ende, – das denn alles so sein könnte und wenn ja, wenn es sein kann, wie es aussehen müsste, – ist also eine – offene Frage. – ist keiner gesagt hatte – Vorteil ist, wir haben einen angesammeltes – im Mutterleib fangen wir ja an zu lernen. – Auto das jetzt lernen soll. – erkennen, – viel Meter – dem Auto was vor wegfährt – oder – jetzt gerade einer ungefähr abbiegt und so weiter das Auto, dass das Lernen soll, – ja nicht 20 Jahre vorher schon angefangen, – und – Geschmäcker und – alles mögliche visuelle und so weiter zu lernen wir lernen und lehren und lernen. – küssen am ehrlich wie Sachen – müssen – ist ein großer Begriff an der Stelle – gelernt, dass gewisse Sachen auf gewisse Weise funktionieren, – das muss die Maschine erst mal immer wieder lernen Maschine – die Katzen von Hunden – soll – keine Idee von Vierbeinern oder von Dinosauriern – sind Vögel im Unterschied zu pflanzen all das muss ich von Grund an neu lernen zwar ziemlich flach lernen, – der ganze Untergrund fehlt. – wir haben – wissen, was du Franzi ist. Die dem Sinne, dass wir sie angefasst haben. Das wird sie auseinander Gruft haben schon vor Jahrzehnten angefasst – und auseinander Gruft haben – haben – Weltwissen Filtermaschine – auf das physikalische – dann – Blöcke die übereinander stehen und der oberste wird angestoßen. – wird passieren? Der wird runterfallen und Nicola, das kann man alles an trainieren, aber muss es der Maschine an trainieren, das weiß sie nicht vorher, – wissen sowas alles vorher, aber ist schon irgendwann mal gelernt haben, – der letzte hier – es nicht zu übertreiben – lernen – multimodal nähere Modalitäten sind für hören – Menschen lernen. Multi-task, – habe das Bike so halt Deutsch hat Englisch – Aufgaben – Beispiel Mathematik – wir lernen addieren, dann können wir da mit dem Supermarkt umgehen, aber wir könnten damit dann auch in der Quantenfeldtheorie umgehend, – weil wir addition können. – wissen wie sich ein – physikalisch bewegt. Das können wir benutzen zum – und das können wir benutzen, um über die Straße zu kommen – Wissen über die Physik – ähnliches wie lernen – ganz ganz verschiedene Aufgaben – nicht nur für eine einzige Aufgabe wir trainieren die normalerweise – dazu – einzige Aufgabe – lösen, Katzen – von Hunden zu unterscheiden – zu sagen, ob der Abstand zum Vorgänger stimmt weiter und so weiter, also es gibt es eine lange lange Liste. – Menschen anders machen beim Lernen – die Maschine, da – gibt's so ein paar Fachbegriffe, die aktuell diskutiert – werden, wie kann man Maschine etwas menschenähnliche – lassen – den ganzen Weg hier zur LG gehen, aber zumindest etwas menschenähnlicher – lassen, was ist lernen, dann geht sind Begriffe, die dann immer wieder auftauchen, die sind – auch noch länger gültig als das nächste Jahr diese Begriffe, insofern – zu wissen Transfer – learning. – ist das Übertragen von Problem auf ein anderes. – Tattoo – lernt das nächste Wort vorherzusagen, man gibt ihm einen Text und dann das nächste Wort vorherzusagen und können Sie das andere Sachen lösen. Sie können fragen, wann barack Obama – ist. Sie können es bitten etwas zu übersetzen, – wir Transfer der Transfer von etwas gelernten auf eine andere Aufgabe, – gibt es One Shot learning. – Schuss – wenn man so will. ist das Lernen von nur einem oder wenigen Beispielen. – wir Menschen ja, wenn wir einmal eine bestimmte neue – gesehen haben, dann müssen wir ab da wie die Hunde Terrasse auszusehen haben, – brauchen nicht Millionen von solchen Bildern oder zumindest nicht tausende von solchen Bildern. Es reicht uns ein einziges Bild, – wäre One-Shot learning und – die – ist Zero shot learning – Beispiel, – ganz ohne Information – kann es nicht funktionieren, dann – brauchst du irgendwas an Informationen – eben kein Beispiel, sondern – vielleicht eine Beschreibung lernen – Beispiel. – Aus einer Beschreibung – können wir Menschen ja auch hinkriegen – der enciclopedie – steht wie die Hunde dieser – auszusehen haben, – sind so und so gestreift – und der Schwanz hat folgende Farm und die Augen sind so und so und die Zähne stehen so und so, dass ich dir vielleicht irgendein Buch drin aber es gibt kein Bild. – das würden wir trotzdem verstehen auch ohne Bild ist Zero shot learning – das wird versucht – erfolgreich – inference – inference die kausale – 189 – Deutschland auch Referenz – Schlüsse zu ziehen Castle – reasoning, – kausale begründen. – heißt, – und Wirkung finden – finden. – benutzen – Maschine soll lernen, wenn dieses dann jedes ob über sehr komplizierte – dass er natürlich auch anwenden – dieses dann jenes wenn dieses Ding – dann – das hier und da wollen und so weiter und und Wirkung finden – und benutzen. – Name in dem Zusammenhang ist zu dir, aber der – hat – den Türen Preis bekommen für seine Arbeiten auf dem Gebiet, – die Kausalität angeht, Ursache und Wirkung. – man bisher ihr hat – Korrelation auseinanderhalten. – Bisher – es ihr auch Korrelation? – nicht, ob dass – klar ist, – der Unterschied zwischen Korrelation und Kausalität – ist. ✂ also die Kausalität – typischerweise eine Korrelation, aber – nicht jede Korrelation oder kaum eine Korrelation ist auch Kausalität, – SBB mit der Vorbereitung – man sich auf Klausuren vorbereitet – ist die Wirkung höchstwahrscheinlich eine bessere Note. – wäre – aber auch korrigiert. Die – Vorbereitung geht Hand in Hand mit der bessere. Route – nicht jede Korrelation ist – eine kausale Zusammenhang – klassische Beispiel das mit den Störchen und den Kindern – wo es viele Störche gibt gibt es viele Kinder – eine Korrelation, – liegt aber nicht daran, dass die Störche die Kinder bringen soll. Es liegt daran, dass beides auf dem Land ist, – gibt auf dem Land viele Störche, es gibt auf dem Land für die Kinder und dann ist das korrigiert, – das ist und die – das ist das was das maschinenlernen lernt – typischerweise lernt. – Beispiele sind mir oder mit der korreliert – wir sagen – dieser – braun – weiß gescheckte Hund, das ist diese oder jene Sorte. – weiß die Korrelation Nähmaschine weiß nichts kausales, wieso – das so zustande gekommen ist und wieso wäscht – inference – eigentlich auch, dass man viel Weltwissen – ganz ganz ganz schwieriges Thema, wie kann man überhaupt Kausalität – herleiten – und schon Kausalität reingesteckt zu haben, da – für also einiges zu – scheinen Menschen – funktionieren zumindest, wenn es die bewusste Art – Denkens geht, dass wir kausal Vorgehen – Geschichte dazu – ist das online – machine learning. – hat doch gar keiner erwähnt bisher, was ist denn Unterschied von Mensch und Maschine ständig zu lernen? – nein, ich habe es bei dem Bild wissen habe ich irgendwie erwähnt, aber das ist natürlich ganz – ich ständig ne an – ist nicht fertig – in der Tasche, – ständig – weiter. – macht die Maschine – oft nicht, – trainiert – Maschine an. meist du das dann in Stein, was man an gelernt hat? – ist das – warum macht man das nicht typischerweise, was ist die Gefahr? Wenn Sie lernen – wie der Mensch warum kann das schief gehen, ✂ Gefahr ist in die falsche Richtung zu driften, man lernt und mir lernt und lernt und – dann fahren Blödsinn. – der Hersteller ist dann verantwortlich oder nicht? Verantwortlich, – an einigen Stellen, – von Dragon die – lange erhältlich ist Dragon NaturallySpeaking, die soll das so tun, dass sie sich an den Benutzer anpasst – im Laufe – Zeit genauso – die Schrifterkennung – hier auf dem Tablet – die soll sich ich werde zu ob sie sich wirklich anpasst, aber ich soll sich theoretisch anpassen. Das wäre online-learning. – dir noch Zeit – risikolos. – Sachen sieht risikoreicher – das klassische Beispiel inzwischen klassische Beispiel – zu such ein Bot zu bauen, der lernt aus den Diskussionen aus – den Beiträgen der Leute lernt, – gemacht haben, die haben – schlimme Beiträge gepostet – also aus dem Forenbeiträgen – Teile dieser Forenbeiträge – irgendwie – zurückgespiegelt und dann – Ganzglastür Beiträge produziert. – es Beispiel von 100 machine learning, das hätte man vorher wissen können, aber – man nicht vorher aufgepasst und dann daraus lernen müssen.