CAUSAL MACHINE LEARNING – Korrelation, Kausalität und die verirrte Statistik

- Dr. Theo SteiningerCo-Founder & CEO von Erium
- Dr. Maksim GreinerCo-Founder & CTO von Erium
Überblick
In dieser Folge des Erium Podcasts klären Theo Steininger und Maksim Greiner grundlegende Begriffe rund um Causal Machine Learning. Von Korrelation und Kausalität über den Do-Kalkül und D-Separation bis hin zu Counterfactuals und Explainable AI wird das konzeptionelle Fundament für kommende Folgen zur Causal Inference gelegt. Eingeleitet wird die Episode mit einer humorvollen Rubrik namens 'Verirrte Statistik der Woche', in der ein politisches Zitat statistisch seziert wird.
Zusammenfassung
Verirrte Statistik der Woche: Ein politisches Zitat unter der Lupe
Als neue Rubrik führen Theo und Maksim die 'Verirrte Statistik der Woche' ein. Anhand eines Zitats von Armin Laschet – 'Die großen Kanzler waren nicht immer die Lieblinge der Medien' – zeigen sie, wie politische Rhetorik statistische Schlüsse suggeriert, die sich bei näherer Betrachtung nicht halten lassen. Die Aussage impliziert, dass Unbeliebtheit in den Medien ein Indiz für Größe als Kanzler sei – doch dafür fehlen entscheidende Zutaten wie Prior-Wahrscheinlichkeiten und Evidenz im Sinne des Bayes'schen Denkens. Maksim zerlegt das Argument formal und zeigt, dass selbst wohlwollend interpretiert höchstens ein schwacher Datenpunkt vorliegt.
Korrelation vs. Kausalität: Der fundamentale Unterschied
Korrelation beschreibt das gemeinsame oder gegensätzliche Auftreten von Ereignissen, ohne eine Ursache-Wirkungs-Beziehung zu implizieren. Als anschauliches Beispiel dient die Beobachtung, dass rote Autos häufig Ferraris sind – eine Korrelation, die aber keine direkte kausale Verbindung bedeutet, da beide Merkmale eine gemeinsame Ursache haben könnten, etwa die Präferenzen der Käufer.
Kausalität geht einen Schritt weiter: Sie benennt eine bestimmte Zerlegung der Wahrscheinlichkeit, die dem realen Wirkmechanismus entspricht. Mathematisch nutzt Kausalität denselben Formalismus wie bedingte Wahrscheinlichkeiten – entscheidend ist aber die Interpretation, welche Richtung der Konditionierung der Realität entspricht. Als physikalische Analogie dient das Ohmsche Gesetz: Die Formel lässt sich zwar beliebig umstellen, aber nur eine Richtung beschreibt den tatsächlichen Wirkmechanismus.
Spurious Correlations und der Wert kausaler Modelle
Scheinkorrelatonen (Spurious Correlations) entstehen, wenn zwei Variablen korrelieren, ohne direkt kausal verbunden zu sein – etwa weil eine gemeinsame Ursache beide beeinflusst, wie das Geschlecht Körpergröße und Bartwuchs erklärt. Ohne ein korrektes kausales Modell führen solche Korrelationen zu falschen Schlüssen. Ein kausales Modell – dargestellt als gerichteter azyklischer Graph (DAG) – ergänzt die Statistik um eine Bedeutungsebene, die festlegt, welche Abhängigkeiten welchen Wirkmechanismen entsprechen.
Beobachtung, Intervention und der Do-Kalkül
Eine Beobachtung aktualisiert Wahrscheinlichkeiten symmetrisch in beide Richtungen: Wer weiß, dass ein Auto rot ist, kann besser auf die Marke schließen – und umgekehrt. Eine Intervention dagegen wirkt nur in Richtung des Wirkmechanismus: Wer ein Auto umlackiert, ändert nicht die Marke; wer die Marke 'ändert' (etwa beim Kauf), könnte aber die Farbe beeinflussen.
Der Do-Kalkül (nach Judea Pearl) ist das formale Werkzeug, um Interventionen in einem Wahrscheinlichkeitsnetz zu berechnen. Er beschreibt, wie beim Setzen einer Variable alle eingehenden Verbindungen gekappt werden – Information kann danach nur noch vorwärts, nicht mehr rückwärts fließen. Diese Unterscheidung ist essenziell, wenn aus Beobachtungsdaten Handlungsempfehlungen abgeleitet werden sollen.
D-Separation: Kausale Strukturen aus Daten eingrenzen
D-Separation ist ein Konzept, das beschreibt, wann zwei Variablen in einem kausalen Graphen gegeben einer dritten Beobachtung statistisch unabhängig sein müssen. So sind in einer linearen Kette A → B → C die Variablen A und C korreliert – konditioniert man jedoch auf B, werden sie unabhängig. Diese Zusammenhänge lassen sich rein datenbasiert testen.
Damit ermöglicht D-Separation zumindest eine Eingrenzung der möglichen kausalen Strukturen: Von vielen hypothetischen Graphen können jene ausgeschlossen werden, deren Unabhängigkeitsimplikationen den Daten widersprechen. Eine vollständige Identifikation der kausalen Richtung ist allein aus Daten jedoch nicht möglich – dafür bleiben externe Modellannahmen notwendig.
Explainable AI, NLP und Reinforcement Learning im Kontext von Causal Inference
Explainable AI ist kein Algorithmus, sondern ein Anspruch – vergleichbar damit, einen Film mit einer bestimmten Altersfreigabe zu produzieren. Es gibt viele Wege, dieses Ziel zu verfolgen: transparente Modelle wie Entscheidungsbäume, Gradientenanalysen in neuronalen Netzen oder interpretierbare Parameter in Bayes'schen Netzen. Eng verwandt ist der Begriff Whiteboxing.
Natural Language Processing (NLP) und Machine Vision werden als komplementäre Werkzeugkästen eingeordnet, die sich mit Mustererkennung in Daten befassen, aber nicht per se mit kausalen Fragen. Reinforcement Learning hingegen weist eine starke konzeptionelle Verwandtschaft mit Causal Inference auf: Ein RL-Agent interagiert mit seiner Umwelt und lernt implizit kausale Strukturen. Der Do-Kalkül würde besonders dann relevant, wenn ein RL-Agent zunächst aus reinen Beobachtungsdaten eine Policy ableiten soll, bevor er selbst eingreift.
Counterfactuals: Die dritte Stufe des kausalen Denkens
Judea Pearl unterscheidet drei Stufen kausalen Denkens: Beobachtung (was sagt mir x über y?), Intervention (was passiert, wenn ich y tue?) und Counterfactuals (was wäre gewesen, wenn x anders gewesen wäre?). Counterfactuals sind rückwärtsgerichtet: Man hat einen konkreten Datenpunkt – etwa einen Patienten mit Lungenkrebs – und fragt, ob die Erkrankung auch ohne Rauchen eingetreten wäre, wobei alle anderen Zufallsfaktoren des Lebens erhalten bleiben.
Dies unterscheidet sich von einer Intervention, die in die Zukunft gerichtet und über alle offenen Variablen marginalisiert. Theo und Maksim diskutieren offen, ob Counterfactuals primär für Schuldzuweisungen taugen oder ob sie darüber hinaus helfen können, kausale Graphen zu verbessern und zukünftige Entscheidungen gezielter zu gestalten – eine Frage, die sie in einer eigenen 'Philosophen-Folge' vertiefen wollen.
Kernaussagen
- Korrelation beschreibt gemeinsames Auftreten von Ereignissen – sie impliziert keine Ursache-Wirkungs-Beziehung.
- Kausalität ist ein konzeptioneller Layer über der Statistik: Derselbe mathematische Formalismus, aber mit einer festgelegten Bedeutung für die Richtung der Abhängigkeit.
- Spurious Correlations entstehen durch gemeinsame Ursachen und führen ohne kausales Modell zu falschen Schlüssen.
- Der Do-Kalkül ermöglicht die formale Berechnung von Interventionen, indem alle eingehenden Verbindungen zur intervenierten Variable gekappt werden.
- D-Separation erlaubt es, aus Daten kausale Graphen einzugrenzen – vollständige Identifikation der Kausalrichtung bleibt aber ohne externe Annahmen unmöglich.
- Explainable AI ist kein Algorithmus, sondern ein Anspruch, dem verschiedene Methoden wie transparente Modelle oder Gradientenanalysen einzahlen.
- Reinforcement Learning lernt implizit kausale Strukturen durch Interaktion – der Do-Kalkül wird besonders relevant, wenn eine Policy aus reinen Beobachtungsdaten abgeleitet werden soll.
- Counterfactuals fragen rückwärtsgerichtet, was unter veränderten Bedingungen eingetreten wäre, und bilden die dritte Stufe kausalen Denkens nach Beobachtung und Intervention.
Fazit
Diese Folge legt das begriffliche Fundament für ein tieferes Verständnis von Causal Machine Learning. Korrelation, Kausalität, D-Separation, Do-Kalkül und Counterfactuals sind keine abstrakten Buzzwords, sondern präzise Konzepte mit klar unterschiedlichen Implikationen für datenbasierte Entscheidungen. Wer diese Unterschiede kennt, kann Fehlschlüsse in Datenanalysen erkennen und Modelle gezielter einsetzen – ob in der Wissenschaft, im Unternehmen oder im kritischen Umgang mit statistischen Aussagen in der Öffentlichkeit.
Für Data Scientists und ML-Praktikerinnen
Die Abgrenzung von Beobachtung, Intervention und Counterfactual sowie das Konzept des Do-Kalküls sind essenziell, um aus Daten nicht nur Muster, sondern handlungsrelevante kausale Aussagen zu gewinnen. D-Separation bietet dabei ein konkretes Werkzeug zur Modellvalidierung.
Für Führungskräfte und Entscheidungsträger
Wer datenbasierte Entscheidungen trifft, muss den Unterschied zwischen Korrelation und Kausalität kennen – denn Spurious Correlations ohne kausales Modell führen direkt zu Fehlentscheidungen. Diese Folge schärft das Bewusstsein für die Grenzen rein statistischer Analysen.
Volltranskript anzeigen
Speaker0: Gut, gut. Alright. Ja, dann
Speaker1: Büroklammer verloren, mit der ich rumgespielt hab. Hast Du einmal irgendwas zum Spielen? Ich hab ich hab hier einen alten d e USB Stick. Ah. USB 2 Punkt 0. Ich weiß gar nicht, ob da 'n Gigabyte drauf passt oder also wirklich nicht viel. Der ist wirklich nur so für, ich hab grad einfach 'n, ich muss eine Textdatei irgendwohin übertragen sozusagen. So 4 Kilobyte, ja genau. Und man kann so
Speaker0: Ach, das ist 'n Fidget Spinner für Arme. Genau.
Speaker1: Den hab ich tatsächlich häufig in der Hand so.
Speaker0: Nice, ich hab auch immer irgendwas zu spielen. Momentan ist es das Gestänge für den Popschutz hier. Und das ist gefährlich, weil das Ding ist so schwer, wenn einem das aus der Hand fällt, dann macht's richtig Lärm. Ach, das ist das Lied vom Mikrofon? Ist das son Verlängerer oder? Ja, ja, genau. Das ist eine Gewindestange im Endeffekt. Ja. Gut. Ach ja. Wie überlegen wir los? Ihr hört, the iriom Podcast,
Speaker2: der Data Science und Machine Learning Podcast für Studienabsolventen und Young Professionals.
Speaker0: Herzlich willkommen zu 1 neuen Folge von die Erian Podcast. Mein Name ist Theo Steininger und mir remote gegenüber sitzt mein Kollege der Maxim. Hi Maxim. Hallo. Wie in der letzten Folge bereits angekündigt, werden wir uns heute mit ein paar Begrifflichkeiten auseinandersetzen und zwar aus zweierlei Gründen. Einmal, weil wir einfach auch des Bullshit Bingos wegen mit den ein oder anderen zu hoch gegriffenen Begriffen aufräumen möchten und schlicht und ergreifend auch den Vorhang nach oben ziehen wollen, was dahintersteckt. Meistens ist es nämlich gar nicht so kompliziert. Und zweitens aus dem ganz einfachen Grund, wir werden ja in den nächsten Folgen noch tiefer in die Thematik der Castle and Firance einsteigen. Und dabei ist es wichtig, dass wir alle auf dem gemeinsamen Vokabular unterwegs sind. Das heißt, wie in jedem ordentlichen Mathe Paper, bevor man was diskutiert, sollte man die Begrifflichkeiten festlegen, damit's keine Missverständnisse gibt. Und dazu, da den richtigen Einstieg zu finden, haben der Maximo und ich uns was überlegt, nämlich eine Kategorie einzuführen, die verirrte Statistik der Woche mit den legalen Untertitel, denn Daten lügen zwar nicht, erzählen aber nicht immer die ganze Wahrheit.
Speaker1: Ist eine gewisse Bisschen cheesy.
Speaker0: Bisschen cheesy. Aber gut, was haben wir uns dabei gedacht? Maxim, ich hab 'n Zitat für dich Oh. Von einem Politiker Und ich würd dich bitten, lass uns das mal ein bissel zerlegen. Ja, und ich bin auf deine Einschätzung gespannt, wie sehr das tatsächlich verirrt ist, die Aussage oder ob's vielleicht sogar auch passt und ich nur überkritisch bin. Keine Ahnung. Und zwar Folgendes, es geht ein Zitat vom Laschet. Zum Zeitpunkt der Aufnahme ist der Machtkampf gerade geklärt zwischen Söder und Laschet. Ich denke, das sollte auch mittlerweile jeder mitgekriegt haben und es geht jetzt ja gar nicht die Inhalte. Aber während der Auseinandersetzung, da gab's mal die Aussage vom Laschet, die großen Kanzler waren nicht immer die Lieblinge der Medien. Ah ja. Ich wiederhol's noch mal und und zwar aufgepasst, die großen Kanzler waren nicht immer die Lieblinge der Medien. Und als ich den Satz gehört beziehungsweise in den Nachrichten gelesen habe, habe ich mir gedacht, so, wow, Moment mal, das ist irgendwie da Leuten bei mir, die Alarmglocken und zwar, weil mir ja eigentlich diese Aussage etwas anderes suggerieren möchte. Also ich hätte jetzt so verstanden, der Herr Laschet möchte mir damit sagen, weil er unbeliebt ist, ist er der bessere Kanzler. Und das ist aus meiner Sicht erst mal so nicht unmittelbar ableitbar. Maxim, wie wie siehst Du das?
Speaker1: Ja, lass mal überlegen, was hat er gesagt? Also die der die großen Kanzler waren nicht immer Lieblinge der Medien. Das heißt also, wenn man's jetzt in Wahrscheinlichkeit übersetzt die Tatsache, dass Du ein großer Kanzler bist bedeutet, dass die Wahrscheinlichkeit Liebling der Medien zu sein kleiner 1 ist. Okay, das ist jetzt nicht besonders überraschend. Jetzt machen wir mal, gehen wir mal ein bisschen bisschen also die Versuchen wir's mal so zu interpretieren. Ein bisschen wohlwollend. Weil die Tatsache, dass Du ein großer Kanzler bist, bedeutet die Wahrscheinlichkeit, dass Du Liebling der Medien bist, ist gering. Mhm. Und suggerieren möchte er, wenn Du kein Liebling der Medien bist, dann ist die Wahrscheinlichkeit, dass Du ein großer Kanzler bist hoch. Das ist erst mal falsch. Also weil der Informationsgehalt von dem, was er da gesagt hat, der reicht nicht.
Speaker0: Ja, man man muss halt Base rule anwenden am Ende oder? Also und und solange Priorer und Evidenz nicht definiert sind. Genau, da fehlen
Speaker1: Zutaten. Ja. Wenn man jetzt ganz ganz ganz wohlwollend ist, also er würde sagen, die die Tatsache, dass Du ein großer Kanzler bist, verringert die Chance, Liebling der Medien zu sein gegenüber, Du bist kein großer Kanzler. Also wenn Du da sone Odds Ratio hast für die Liebling der Medien gegeben großer Kanzler und nicht großer Kanzler. Und wenn die Orts Ratio so ist, dass quasi der große Kanzler eine geringere Wahrscheinlichkeit hat, das Liebling der Medien zu sein als der nicht große Kanzler, dann wäre das zumindest mal ein 1 Datenpunkt, ja? Dann dann könnte man sagen okay gegeben das Stück Information er ist nicht Liebling der Medien erhöht das leicht oder könnte zumindest dann die Chance erhöhen, dass ein großer Kanzler ist gegenüber man hat gar keine Information. Aber na ja, das hat er ja nicht gesagt.
Speaker0: Wie geht's dir damit? Also ich bin da wirklich sehr unentschlossen, ob ich dann solche Aussagen für okay finden soll.
Speaker1: Da hab ich schon lange aufgegeben.
Speaker0: Ja, also okay, dann das heißt, Du siehst es eher so. Okay, mein Gott, ist ein Griff in die rhetorische Trickkiste?
Speaker1: Ja, ist halt Politik, natürlich.
Speaker0: Oh je. Okay.
Speaker1: Man stellen sich vor, Söder hätte dann Ja. Nee, Moment, Moment. Wir müssen mal hier in die Tafel. Er hätte dann zur Baels Run aufgemacht und dann, ja, aber Herr Naschardt, dann müssen Sie jetzt bitte schon hier noch die die Evidenz als weiteres Datum geben. So so geht das hier nicht. Ey, aber aber ganz ehrlich, an dem Tag, an dem Söder an eine Tafel geht und Base Rule aufmalt, hat er meine Stimme.
Speaker0: Alright. Ja, echt spannend. Also ich finde es super faszinierend, so was zu dekonstruieren, einfach wie wie auch kommuniziert wird. Und ich ich nehme mal vor, lass uns mal jede Folge so eine, wie haben wir es genannt, verirrte Statistik der Woche bringen. Und ja, eigentlich genau, wenn jemand der Complexity Masters da was auffällt, schickt sie es uns zu, ja, total cool. Ich les zwar auch fast täglich immer wieder mal etwas, wo ich der Meinung bin, das ist schon grenzwertig an der, ja, an der Kante zur Irreführung, aber schickt sie es uns, egal welche Plattform oder einfach an Podcastirium Punkt d e, kommt alles an und wird zerlegen das. Dann nach diesem kleinen Intermezzo würde ich mal sagen, starten wir mit dem eigentlichen vollen Content. Und zwar, wir wollten ja uns mit 'n paar Begrifflichkeiten auseinandersetzen. Und zuallererst steht bei mir, ich hab natürlich eine Liste vorbereitet, bei mir ganz oben noch mal, dass wir die Complexity Masters abholen. Was ist noch mal genau wirklich der Unterschied zwischen den Begriffen Korrelation und Kausalität? Vielleicht magst Du da kurz eine 1 kleine Einordnung geben, Maxim. Okay, ja.
Speaker1: Eine Korrelation eine Korrelation beschreibt einen Zusammenhang von Ereignissen im Sinne von das oder das in einem Gesamtereignis gewisse Subereignisse häufig gemeinsam das ist eine positive Korrelation oder eben häufig genau nicht gemeinsam, das wär jetzt eine Antikoorrelation oder negative Korrelation auftreten. Beispiel dafür wäre, die Farbe 1 Autos ist rot und die Marke 1 Autos ist ein Ferrari.
Speaker0: Cool, ja.
Speaker1: Ja, da können wir jetzt sagen, da da besteht eine Korrelation. Aber das sagt einfach nur, dass man häufig häufiger beides gemeinsam beobachtet als unabhängig voneinander. Eine Kausalität, das bedeutet, dass eine Sache etwas anderes bedingt, ja? Eine Kausalität würde zum Beispiel heißen, weil das Auto rot ist, ist es ein Ferrari oder weil das Auto ein Ferrari ist ist es rot und das ist natürlich irgendwie eine stärkere Aussage denn die Korrelation die kann ja zum Beispiel auch zustande kommen durch eine gemeinsame Ursache Keine Ahnung oder Leute, die Ferraris mögen, mögen auch rot. Ja, dann haben hat Ferrari und rot jetzt gar keine direkte kausale Verbindung zueinander. Aber die Korrelation ist trotzdem da.
Speaker0: Aber das hört sich für mich total nach einfach erstmal bedingten Wahrscheinlichkeiten auch an also P Auto ist rot gegeben Ferrari oder eben genau andersrum ja ja ganz genau also die Korrelation ist ja quasi wie son
Speaker1: gehört jetzt auch in in kann man ja mit bedingten Wahrscheinlichkeiten auch gut erklären nämlich eine positive Korrelation oder überhaupt irgendeine Form von Korrelation heißt ja dass die Wahrscheinlichkeit für das Auto ist ein Ferrari sich ändert wenn ich wenn ich dazu packe die Bedingungen das Auto ist rot ja genau und Kausalität kann man sich vorstellen wie eine bedingt wie bedingte Wahrscheinlichkeit ganz genau den gleichen Formalismus benutzen aber dieser Zerlegung in was ist Kondition also Bedingung und was ist mein Zufallsereignis der bemesse ich eine Bedeutung bei. Also für die Leute die Base Rule kennen oder die Produktregel der bedingten Wahrscheinlichkeiten das ist total symmetrisch. Ich kann das aufsplitten in Bedingung ist Auto ist rot und Event ist Autos hat Ferrari oder ich kann sagen Bedingung ist Autos hat Ferrari, Event ist Autos rot. Ich kann beides Blitz machen. Statistisch spricht weder für den einen noch für den anderen was. Das ist eine vollkommen valide Zerlegung. Bei Kausalität würd ich aber jetzt sagen, nee, es gibt eine Zerlegung, die der Realität, also dem kausalen Wirkmechanismus entspricht.
Speaker0: Ah, okay, okay. Also wie wie eigentlich 'n Layer oben drüber, ja? Also das ist gar nicht mal so die Frage von der konkreten Formel magic, sondern wie ich damit umgehe. Das ist die Interpretation
Speaker1: quasi, ja. Aha. Du sagst, Du bin Du misst dem eine Bedeutung bei. Das ist ja, Du hast das ist wie wenn Du sagen würdest, Du multiplizierst 2 Zahlen, a mal b ist gleich b mal a, aber jetzt sagst Du nee, a mal b, die Formulierung hat für mich eine besondere Bedeutung oder die oder die ist für mich nicht gleichbedeutend mit b mal a da gibt's sozusagen nur eine Interpretation dazu und das ist so verhält sich Kausalität zu bedingten Wahrscheinlichkeiten.
Speaker0: Das ist doch dann auch 'n bisschen so wie bei Formeln aus der Physik, oder? Also ich stell mir grad das Ohmsche Gesetz vor. U ist gleich r mal I. Und erst mal kann ich die Formel ja umstellen, wie ich möchte. Ja. Klar, in Firance zu betreiben. Wenn ich sage, okay, ich möchte jetzt den Widerstand rausfinden, ich messe, welchen Strom habe ich bei welcher Spannung, bilde den entsprechenden Quotienten, kriege den Widerstand raus. Aber ich könnte jetzt nicht durch Festhalten der Spannung und Reduzieren des Stroms gleichzeitig erzwingen, dass der Widerstandswert höher wird. Ja, also das entspricht ja nicht der Realität und Kausalität, wie die Größen zustande kommen. Genau. Da bricht ja dann das zusammen, wie ich die Formeln umstellen darf, einfach darzustellen, was in der Realität passiert. Genau. Crazy. Okay. Und inwiefern, ein Begriff, der da auch immer rumgeistert, ist der der Spiritious Correlations. Ich glaub, den hatten wir in Staffel 1 ja auch mal angeschnitten. Ja, ja. Da hatten wir so schöne Sachen wie
Speaker1: die Korrelation zwischen den der Menge an Haaren im Gesicht und glaub ich der Körpergröße. Und das ist eigentlich, das kann man hier auch gut verwenden. Also es ist eine die Korrelation ist da ja also ganz einfach aus dem Grund wenn ich alle Menschen in einen Topf werfe sind da Männer und Frauen drin die Männer sind die Durchschnitt größer und haben einen Durchschnitt mehr Haare im Gesicht. Ja Moment Population Mixing. Ja genau hier ganz klarer Fall von Population Mixing aber das könnte auch aus anderen Gründen sein. Also jetzt Beispiel wieder bei Auto rot und Ferrari. Es könnte weder das eine durch das andere bedingt sein noch noch umgekehrt, sondern das könnte einfach eine gemeinsame Ursache haben. So wie das Geschlecht die gemeinsame Ursache für Körpergröße und Bartwuchs ist, könnte hier eine gemeinsame Ursache die Farbpräferenz und Automarkenpräferenz der Besitzer sein. Eine also von der Spiritius Correlation spricht man eigentlich dann, wenn 2 Dinge korreliert sind, die aber eben nicht kausal direkt verbunden sind. Und im in dem Kontext kann man das einfach besser erklären und damit umgehen, ja? Also da gibt's 'n klare klaren Formalismus dann aha gemeinsame Ursache damit klar Korrelation aber eben nicht ein direkter kausaler wirkmechanismus wirkmechanismus dazwischen
Speaker0: Aber Moment, also man kann damit umgehen, aber es ist ja auch keine Magic. Also erzeugt ja nicht Information aus dem Nichts. Nee. Das heißt, ich kann die Spiritis Correlations nur mit dem richtigen kausalen Modell in den Griff kriegen. Genau. Also Was passiert, wenn ich da das Falsche drauf werfe? Dann machst Du genau das, was immer mit Spiritious Correlations passiert, wenn man sie nicht als solche erkennt. Du ziehst falsche Schlüsse. Also und zwar doppelt eigentlich ja also
Speaker1: vielleicht noch mal also heißt im Prinzip dass Du die Statistik eine einen grafisches Modell von Wirkmechanismen erweiterst also Du gibst quasi dazu zu sagen was bedingt was Und damit kannst Du eine Korrelation dann eine Spurious Korrelation auch gut erklären, aber Du kannst, wenn deine Erklärung falsch ist, auch aufsitzen. Mhm. Mhm.
Speaker0: Stichwort aufsitzen am Ende, was bei Castle Machine Learning ja sehr, sehr zentral ist, ist der Gedanke, nicht nur zu beobachten, sondern am Ende auch eine sogenannte Intervention abzuleiten. Genau. Magst Du das auch noch mal ganz kurz einsortieren? Also was ist Beobachtung formal gesehen was ist Intervention und wenn wir schon dabei sind was genau ist in dem Kontext dann der Du calcelus
Speaker1: ja okay gern fangen wir an Beobachtung Beobachtung heißt du du kriegst ein Stück Information ja vorher das Stück in ich habe das Stück Information das Auto ist rot das verändert meine Einschätzung der Wahrscheinlichkeit dass ob das Auto ein Ferrari ist oder nicht Genauso aber umgekehrt würde die Information das Auto ist ein Ferrari meine Einschätzung über die Farbe verändern. Bei 1 Intervention ist es aber ganz wichtig da unterscheide ich mit den entlag des Wirkmechanismus also wenn ich sag ich mal ich ich lackier das Auto ja dann würde ich sicherlich nicht erwarten dass sich die Automarke ändert wenn ich jetzt die Automarke ändere okay müssen wir jetzt überlegen was bedeutet das in der Realität aber das heißt vielleicht beim Kauf oder sowas ja beim Kauf ändere ich was dann könnte das durchaus sein wenn ich jetzt postolied der Wirkmechanismus heißt weil es ein Ferrari ist ist das rot, dann würde das einen Einfluss haben. Das heißt, bei der Intervention unterscheide ich, hab ich jetzt also schaue ich mir etwas an, was am Anfang der Wirkkette liegt oder am Ende. Vielleicht ist es leichter zu verstehen bei den Barthaaren und Geschlechtern ja also wenn ich sehe dass jemand ein Bart hat dann habe ich habe ich eine gute also habe ich eine erhöhte Wahrscheinlichkeit dass das ein Mann ist wenn ich aber jemand einen Bart verpasse angeklebe oder abrasiere das umgekehrte dann werde ich dadurch nicht das Geschlecht ändern Also der Wirkmechanismus ist halt aus der anderen Richtung. Wenn ich aber bei jemandem das Geschlecht umwandele, okay, dann kenn ich mir jetzt medizinisch nicht gut genug aus, aber ich könnt mir vorstellen, dass das einen Einfluss auf den Bartwuchs hast. Das heißt, der Wirkmechanismus in die andere Richtung ist durchaus vorhanden. Bei der Beobachtung lerne ich in beiden Fällen. Wenn Du mir das Geschlecht sagst, werde ich relativ gute gut raten können, wie es den Bartwuchs steht oder besser raten können, als wenn Du mir das Geschlecht nicht verrätst und aber umgekehrt auch. Bei der Intervention gibt's geht nur in eine der beiden Richtungen was. Und diese Unterscheidung, das klingt jetzt erst mal wie eine Einschränkung, aber diese Unterscheidung ist wahnsinnig wichtig, wenn ich nämlich eine Intervention dann auch durchführen möchte. Ich möchte nicht nur beobachten, ich möchte mit dem System interagieren, dann ist es wahnsinnig wichtig dass ich diesen Unterschied machen kann und Du hast glaube ich gerade den dukal Kilos auch angesprochen oder genau richtig ja also und der dukal Kilos das ist das ist quasi die Rechenregeln wie ich aus einem Netz von bedingten Wahrscheinlichkeiten bei dem ich mich auf diese Interpretation geeinigt habe dass die der Split wie ich Bedingungen und Zufallsgrößen aufteile den kausalen Wirkmechanismen entspricht. Wenn ich so einen Wahrscheinlichkeitsnetz oder Wahrscheinlichkeitsbau nennt es wie ihr wie ihr wollt habe, dann sagt mir der Du Kalkyklus wie welche Änderungen nehme ich hier vor, eine Intervention zu berechnen oder zu simulieren? Und das ist eigentlich ganz einfach. Man sagt, wenn Du eine Intervention auf Größe x machst, dann cappst Du alle eingehenden Verbindungen. Also alles, was x vorher bedingt hätte, also wenn da zum Beispiel Stand p von x gegeben ABCDE, dann vergisst Du dieses gegeben ABCDE einfach. So kann dort keine Information mehr rückwärts von x zu ABCDE fließen mit der Intervention. Es kann nur noch vorwärts fließen zu denen zu den Dingen, die von x abhängen. Und das ist der Dooker Kilos.
Speaker0: Was mir in dem Kontext grad auffällt und zwar, wenn wir von bedingten Wahrscheinlichkeiten sprechen, dann denken wir ja fast schon automatisch im Sinne 1 gerichteten a zyklischen Graphen. Und vielleicht magst Du das mal kurz einordnen. Ich denke über 'n auditives Medium wie 'n Podcast einen visuellen Graphen zu erklären. Am besten lässt's euch das vielleicht noch auf Wikipedia noch mal ganz kurz durch. Acyklischer gerichteter Graf, aber vielleicht magst Du dazu kurz was sagen, Maxim, wieso das so darstellbar ist.
Speaker1: Okay. Also wenn ihr ein System von Wahrscheinlichkeiten habt, dann könnt ihr das Also sagen wir, wir haben 5 Parameter ABCDE, okay? Dann können wir eine totale Wahrscheinlichkeit schreiben. P von a Komma b Komma c Komma d Komma e komm mal zu so die das ist die totale Wahrscheinlichkeit die kann ich jetzt auf ganz viele Arten aufspalten ja ich könnte anfangen mit a dann b gegeben a, dann c gegeben b und a und so weiter und so fort. Und so ein Split, der wird mich aber dann, wenn ich mit a anfange, nicht wieder zu a zurückführen. Deswegen ist es ein a zyklischer Graph. Und gerichtet in dem Sinne, ich unterscheide, was ist Bedingung und was ist Zufallsgröße? Das heißt, ich kann mir so diesen diesen ganz diese ganzen möglichen Split, jeden dieser Split, wie ich diese 5 Größen auf verdingter Wahrscheinlichkeit verteilen kann, Das ist im Prinzip 'n Graph und eben ein gerichteten und a zyklischer Graph. Und ein kausales Modell ist jetzt ein bestimmter, also ich kann ja die totale Wahrscheinlichkeit kombinatorische auf sehr viele mögliche Arten zerlegen. Und bei Corsal Interior sag ich, nein, eine diese eine Zerlegung, von der sag ich jetzt oder oder nehm ich an oder behandle sie jetzt so, dass das der Wirkmechanismus ist.
Speaker0: Und wie ist es genau, also gerade bei dieser sehr hohen kombinatorischen Anzahl an verschiedenen Möglichkeiten, wie son Graph aussehen könnte, ein Begriff, der find ich sehr, sehr cool ist, aber wo find ich auch schwer zu verstehen ist, was ist genau damit gemeint? Das ist der, der Deseparation. Ja. Was ist das genau in dem Kontext?
Speaker1: Vielleicht erst mal, warum ist es nützlich, bevor ihr euch die Mühe macht zu folgen?
Speaker0: Okay.
Speaker1: Ihr habt vielleicht schon gemerkt Kausalität ist so ein bisschen son Layer on top auf die Statistik. Das bedeutet aber auch, nachdem Statistik ist ja quasi das Behandelt von Daten. Und Kausalität ist ein Layout on top das bedeutet es ist wahnsinnig schwierig oder je nachdem wie man argumentieren will fast schon unmöglich rein auf Daten basiert eine kausale Aussage zu treffen. Also wenn ich Daten zu a und b hab, dann kann ich nicht entscheiden, bedingt a b oder b a. Ich muss irgendwelche Modellannahmen hinzufügen. Ich muss nicht gleich sagen a bedingt b, aber ich muss zumindest sagen, was würde a bedingt b plausibler machen als b bedingt a, vielleicht auch von den Mustern in den Daten, aber ich muss irgendwas hinzufügen.
Speaker0: Mhm. Mhm. Und
Speaker1: die Deseparation ist jetzt aber dann etwas womit ich wenn ich jetzt zum Beispiel 5 Parameter habe und theoretisch kämen da ich weiß nicht sagen wir mal 100 mögliche Graphen infrage und ich habe jetzt aber keine Ahnung was kausale Frage was kausal richtig wäre die diese Operation gibt mir die Möglichkeit das zumindest einzugrenzen nämlich es gibt quasi wenn ich einen gegebenen Graphen mir anschaue dann kann ich da drin bestimmte ja eben Unabhängigkeiten oder Abhängigkeiten ableiten und damit ist immer gemeint ich die Beziehung zwischen 2 Parametern gegeben der Beobachtung 1 Dritten ob die dann korreliert oder nicht korreliert also oder abhängig oder unabhängig sein müssen das hängt von der Struktur des Graphen ab und das wird über die Regeln der Deseparation beschrieben. Und das Schöne ist, diese abhängig unabhängig, die kann ich rein auf datenbasiert testen. Und dann kann ich zumindest meine 100 Graphen eingrenzen in einen vielleicht 10 die dann noch in Frage kommen die die gleichen Deseparations erfüllen die ich an den Daten her abeingrät aber dann muss ich zumindest nicht nur noch über 10 Kandidaten im Kopf zerbrechen und ein Beispiel wäre jetzt sowas wie nicht die Hand nee wir haben wir haben einen Wirkmechanismus a beeinflusst b beeinflusst c wenn ich jetzt sage ich habe eine Beobachtung für b
Speaker0: warte meinst Du damit quasi eine lineare Kette ja nach B B nach C oder nicht nicht ABBBBBBBBBBBBBBBBBBBBBBBBBBBB
Speaker1: einfluss c logischerweise sind jetzt a und c nicht unabhängig wenn ich einfach mir die Daten anschaue wenn ich jetzt aber sage ich mache ich ich grenze das ein, ich habe einen bestimmten Wert für b beobachtet, also konditioniere auf b, dann sind sie unabhängig, solange ich konditioniert habe. Und das wäre so ein Beispiel für eine Deseparation. Und das ja damit kann ich ja quasi testen okay wenn ich im Graph hab der a und c nur über sone lineare Kette verbindet kann ich testen wird's in den Daten unabhängig wenn ich irgendeins der Glieder dazwischen festhalte
Speaker0: Das find ich total cool, ja. Also weil, dass Du durch einen Schnitt durch den Datenraum Informationen über die kausale Struktur rausfinden kannst, obwohl's ja eigentlich, na ja, es ist damit ja nicht unmöglich, rein aus den Daten auf kausale Strukturen zu schließen, nur nicht vollständig möglich.
Speaker1: Na ja, ja. Du kannst es eingrenzen. Du kannst Eingrenzen. Die verrückten kausalen Strukturen, die den Daten vollkommen widersprechen, ausschließen. Aber Du kannst nicht unterscheiden, ob der ob der Pfeil geht a nach b, b nach c oder c nach b, b nach b. C nach b. Also es ist immer auch irgendwie genau das Konträre möglich. Ja,
Speaker0: ja, ja. Da spielen wahrscheinlich topologische Klassen mit rein, oder? Also so Äquivalenzklassen, wie ich Dinge umsortieren kann.
Speaker1: Bestimmt, aber da fragst Du den Falschen.
Speaker0: An alle Mathematiker, die sich da auskennen, die mögen sich auch bitte melden, oh je, unsere Postfächer werden übergehen, nicht. Oder für immer schweigen hast Du vergessen. Nice. Ja, wobei ich find so so Klassifikation ja sehr, sehr spannend, aber dann dann müsste man den Mathe Podcast aufmachen. Nee, cool. Okay. Also die Separation, das schreibt man zur Klarstellung mit einem d. Nur nur ein d, Dseparation. Also nicht wie das Präfix d e, sondern nur d. Genau, sonst bei 1, ja, sonst sonst landet man bei irgendwelchen obskuren japanischen Internetseiten, whatever. Okay, springen wir mal weiter besser zum nächsten Begriff. Ich hab mir hier aufgeschrieben als und jetzt wird's wird's richtig schön Bullshit Bingo mäßig, aber ich denk nach dem harten Tobak von grad eben gerade recht, nämlich Explainable AI. Ist das schön gesagt. Ja, genauso, was ich auch davon halte. Was was hältst Du von dem oder zumindest den Begriff von explplainable AI? Ist das 'n Algorithmus? So verstehen's zumindest aus meiner Sicht die, die keine Ahnung davon haben, kurz eine Einsortierung bitte.
Speaker1: Das wäre dann so eine, wie heißt das CSI Miami? Ein used explainable AI in Visual Basic to trackies IP Adresse to finde Killer oder sowas. Ja ganz genau. Also eine explainable AI das ist doch ein 1 Anspruch oder ein und kein Algorithmus, ja. Das kann man ja auf ganz verschiedene Arten versuchen zu erreichen und wann das erreicht ist, ist auch up to debate. Und gemeint ist damit, ich möchte halt mich nicht komplett auf irgendeine Blackbox verlassen. Aber das kann man zum Beispiel auch bei Deep Learning also dass man wenn man wissen möchte warum wie ein neuronales Netz tickt, dann kann man ja versuchen das irgendwie anzuregen so deep dream mäßig oder wenn ich möchten möchte warum hat das eine gewisse ein Bild als Pferd klassifiziert dann kann ich mal Gradienten da durchschicken zu schauen wo im Bild war es denn also war dann quasi der sensitive Bereich oder ich sage ich nehme Algorithmen die einfach nachvollziehbarer sind wie son Decision tree in kann den kann man für jeden jedermann quasi irgendwie visualisieren
Speaker0: und das transparent genau oder
Speaker1: Du sagst gehst quasi so whiteboxing mäßig vor Du dein Modell ist irgendwie zu jedem zu jeder Stufe irgendwie interpretierbar im Sinne von dass die Parameter da drin interpretierbar sind so wie wir es ja gerne machen mit den basischen Netzen. Aber das ist alles immer irgendwie, das sind Dinge, die auf das Ziel expainable AI einzahlen, aber das ist kein, das ist 'n extrem weicher Begriff und ich und das ist keine Methode per se, würd ich sagen.
Speaker0: Mhm. Sehr schlauer Mensch hat mal gesagt, das wär so, wenn Du einen Data Scientisten fragst, hey, ich mach mir mal einen explainable AI Algorithmus, so wie wenn Du einen Schriftsteller, einen Drehbuchautor darum bittest, machen wir mal einen FSK 12 Film. Finde ich einen sehr schönen Vergleich. Dementsprechend, wir haben's auch ganz kurz schon angesprochen, Whiteboxing ist, also zumindest aus meinen Augen, damit austauschbar. Also da gibt's keinen großen Unterschied mehr zwischen, alles quasi, ja.
Speaker1: Ja, es zahlt in die gleiche Brescheei.
Speaker0: Ja, genau, genau würde ich auch sagen. Alright. So, und jetzt als als nächsten Punkt, ich hab dann hier mal 'n paar Begriffe gesammelt, die mehr oder weniger im Dunstkreis sich von Castle Machine Learning aufhalten. Und die würde ich einfach ganz kurz ganz schnell durchklopfen. Ja, und Du sagst einfach dazu, was Du davon, nee, nicht, was Du davon hältst, aber aber wie Du's einfach mit in dem Feld verorten würdest, nämlich erster Punkt evolutionäre Algorithmen Slash Bionik.
Speaker1: Ja, das also evolutionäre Algorithmen trifft natürlich jetzt mega den Nagel aufn Kopf, weil im letzten E-Mail-up hatte Oh. Haben wir eine wundervolle Präsentation bekommen, wie man evolutionäre Algorithmen nutzen kann, zu versuchen, zum Beispiel sone kausale Struktur zu finden oder also oder zumindest verschiedene kausale Strukturen zu testen. Das ist halt 'n Optimierungsalgorithmus, der halt schön auch funktioniert bei diskreten Problemen, wo ich keine Ableitung bilden kann. Mhm. Aber das hat jetzt erst mal per se nichts mit zu tun, außer dass man da die beiden Werkzeugkästen vielleicht kombinieren kann.
Speaker0: Eine Optimierungsmaschine, ja. Genau. Genau. Genau. Dementsprechend Bionik, okay, also aus meiner Sicht Bionik, Du guckst dir etwas aus der Natur ab, einen Mechanismus oder 'n Prinzip oder und übersetzt es in eine technische Lösung.
Speaker1: Dementsprechend, ja. Hat nix mit Cause of Inference, würde ich sagen, zu tun. Genau, evolutionäre Algorithmen, ein Beispiel für Bionik.
Speaker0: Dann nächster Begriff, total cool.
Speaker1: Da hatten wir eine Folge zu 'n Staffel 1. Also da kurz, da geht's einfach nur darum, ich hab ein also guter guter Erklärung ist es bei 'nem Bilderkennungsneuronalen Netz. Ich stecke ein Foto von einem Hund rein, hab da aber für den Menschen praktisch nicht bemerkbares Rauschen mit reingepackt, deswegen Neues. Das aber die Verbindung in 'nem neuronalen Netz genauso anregt dass es dieses diesen Neues quasi von Schicht zu Schicht sage ich jetzt mal verstärkt so dass am Schluss dann zum Beispiel Pferd rauskommt oder Katze oder was auch immer. Also einfach, sag ich mal, Artefakte im im im im Vorhersagealgorithmus ausnutzen, mit vermeintlich harmlosen Änderungen das Ergebnis zu verändern.
Speaker0: Beispiel, ich modifizier ein Verkehrsschild, dafür zu sagen, dass der Tesla das Stoppschild nicht mehr erkennt. Ja, Du könntest quasi eine Folie aufm Stoppschild
Speaker1: kleben, die fürs menschliche Auge vielleicht jetzt nicht von irgend einen normalen Dreck zu unterscheiden ist. Und genau, dann würde ein Deep Learning Algorithmus zum Beispiel, wenn man die Folie genau auf diesen bestimmten trainierten Deep Learning Algorithmus, das ist immer der Catch, designt hat, könnte man den dann austricksen. Ich glaub aber, ich hoffe, dass die selbst vorhandenen Autos auch Verkehrsschilder auf einfachere Art und Weise erkennen, aber ich weiß es nicht.
Speaker0: Das schlägt auch eine Brücke zu der. Richtig? Also was ich oft gesehen hab, ist, dass in zulastungskritischen Bereichen dann wieder die vorkommen, weil ich die genau checken kann, auf Basis welcher Regeln entscheiden die. Und dann kann ich sozusagen den Stempel drauf geben, okay, ich vertraue dieser Lösung, dass die nicht anfällig ist für entweder vorsätzliche oder willkürliche Manipulation. Das heißt, die Hoffnung wär, okay, ich hab die Anforderung, dass mein System immun gegen etwas serial Noise ist, dann müsste es aus der Riege der explainable AI Algorithmen sein. Ob das jetzt der einzige Weg ist, aber Nee. Wird zumindest mal könnte helfen. Ich ich hau jetzt noch mal was raus. Hinreichen, aber nicht notwendig oder genau andersrum, keine Ahnung.
Speaker1: Weder noch.
Speaker0: Aber das ist auch auf jeder Party gut, wenn man hinreichen, aber nicht notwendig sagt. Oje. Okay, weiter.
Speaker1: NFL NFL NFL NFL NFL NFL NFL
Speaker0: NFL NFL NFL. Ist das ist das, was ist das genau?
Speaker1: Natural language Brocess, ne? Also Ja, genau. Ja, das ist halt die Verarbeitung von Sprache in Ton oder Schrift, hat jetzt erst mal nix mit Cosala Furious zu tun, Punkt.
Speaker0: Ich würd mich sogar dazu hinreißen lassen, dass ähnlich wie wie Machine Vision es da nur, jetzt in dicken Anführungsstrichen, aber nur darum geht, Strukturen in Daten zu finden. Und mein Claim ist, es spielt sich sozusagen von von von der Flughöhe der intellektuellen Fragestellungenverantwortung auf 'ner anderen ja, Ebene ab als jetzt zum Beispiel Castle and Firance.
Speaker1: Das klingt jetzt irgendwie hart, ne, aber es ist es ist was anderes, ne. Es ist sozusagen das Erkennen. Ich möchte das Wort erkennen. Ich möchte den Satz erkennen oder vielleicht sogar ja, syntaktisch unsemantisch verstehen. Aber Corse and fearance da geht's ja darum sozusagen etwas die eben diese Intervention ne also also vielleicht NLP mit Corse and fearance würde irgendwie vielleicht mit ich möchte dass mein Gegenüber folgende Antwort gibt was muss ich jetzt sagen ja wenn wir in die Richtung wenn wir in die Richtung denken, dann hätten wir vielleicht Aber das ist dann wieder eine Kombination zweier Werkzeugkasten. Also per se ist jetzt NLP und Machinevision, würde ich sagen, Kompliment. Also da ist halt einfach anderer Teil des Werkzeugkasten. Ist jetzt kann das eine ersetzt nicht das andere oder es zwangsläufig Teil des anderen.
Speaker0: Da geh ich mit. Ja, ja, durchaus. Und dann zum Abschluss noch in der Kette, unsuperwaisted machine learning. Okay okay
Speaker1: also supervised machine learning ich meine man kann ja einen einen kausalen Graphen kann man ja trainieren man kann ja dann sagen ich habe jetzt meine meiner kausalen Abhängigkeiten vorgegeben und jetzt möchte ich aber die auch quantitativ lernen. Also was beeinflusst was denn? Wie genau? Und das ist ja 'n bisschen wie das Training, also das ist auch 'n Trainingsprozess und das ist wie beim supervised Machine Learning. Also da würde ich sehen sagen ist das schon ein großer Überlapp oder zumindest eine starke starke Verwandtschaft an supervised Machine Learning also von an superweiß kann man ja irgendwie in dem Moment sprechen wo Du keine Inputs und Outputs hast und nicht irgendwie konkretes Ziel sondern einfach nur Muster erkennen möchtest und nachher zum Beispiel Outlyer finden oder sonst was ja das würde vielleicht so ein bisschen in die Richtung gehen du hast einen Satz Daten und Du möchtest jetzt die mit über die die Separation zum Beispiel alle Kandidaten für mögliche kausale Netze dazu finden und die auch gleich trainieren dann könnte man da sagen, das ist so ein bisschen die Anzug bei vist Machine.
Speaker0: Boah cool, damit ist es ja dann beides. Und zwar die das Finden des richtigen oder der möglichen kausalen Graphen über eben die Mechanismen mit mit Deseparation, das ist Unsuppbarwist. Und wenn ich dann aber ein konkretes Beispiel mit gelabelten Daten mal trainiere, dann bin ich beim Superwist Machine Learning. Ja, könnte man so sagen. Hey, come on, wir sagen wir, wir machen offiziell beides gleichzeitig. Okay, okay,
Speaker1: aber ich schicke gleich den Brief an die, weiß nicht, die internationale internationale Organisation der Wahrheit oder
Speaker0: Sehr gut. Wunderbar. Okay, dann machen wir aber hier den Sack. Gleich mal zu mit diesen Begriffen, die wahrscheinlich oder höchstwahrscheinlich denjenigen, die die 1. Staffel gehört haben, schon 'n Begriff war. Ich habe noch ein bisschen was tiefergehendes dabei, und zwar folgende Frage oder Beobachtung, nämlich, wenn ich mir ein Reinforcement Learning System hernehme, das ist ja ein System, das jetzt deutlich weitergeht als jetzt nur eine Regression oder ein Clustering Algorithmus, sondern ich hab da ja, denkt man nur mal an einen Roboter, der lernt, der selbstständig lernt, wie er ein Objekt greifen muss, es hochzuheben. Da habe ich ja ein System, das in Interaktion mit seiner Umwelt steht. Und dementsprechend, so hätte ich das interpretiert, ist ein Reanforcement Learning System auch immer ein System, das kausale Zusammenhänge lernt.
Speaker1: Ja, wie Wie siehst Du das? Weil unterschreiben.
Speaker0: Weil am und das das Erstaunliche ist, auf der anderen Seite die Implementierungen, die ich da kenne, die arbeiten überhaupt nicht mit dem Ducild gelöst zum Beispiel. Nein. Wie geht das zusammen?
Speaker1: Also das reforcement Learning, das lernt ja quasi so eine Policy, also das lernt quasi eine Übersetzung meiner verfügbaren jetzt ist Daten, also bei von meiner Umwelt und von mir, wenn ich jetzt zum Beispiel der Roboter bin, in eine Entscheidung. Und das Ziel ist eine Belohnung, die möglicherweise aber in der Zukunft liegt, Belohnung definiert, wie auch immer. Mhm. Und das heißt, da ist natürlich total, der hat total diese Intervention dahinter. Man man man tut etwas, man interagiert mit dem System. Und da ist natürlich wahnsinnig großer jetzt Überlapp. Warum quasi ein Reanforcement Learning System ohne Ducal Kilos und so weiter klarkommt, ist, weil es, wenn es, sagen wir mal, irgendwie eine Spurious Correlation für bare Münze nehmen würde dann würde das ja früher oder später mit den Entscheidungen die es trifft schlecht sein und es müsste wenn es wenn das Training vernünftig funktioniert damit diesen Teil dann ausmerzen und sozusagen nur noch die Korrelationen, sag ich jetzt mal, übrig behalten, die auch realen Wirkmechanismen entsprechen. Das bisschen wie bei 'ner medizinischen Studie mit so randomisierten Studienteilnehmern und so was. Du versuchst da auch quasi durch deine Interaktion mit der Umwelt so zu designen, dass Du nachher quasi idealerweise nur noch die richtigen oder die die erwünschten Korrelationen übrig hast, die dir nützlich sind. Es gibt aber noch einen anderen Grund würde ich sagen bei Reanforcement Learning oder wo würde Du calkyluster Sinn machen? Nehmen wir an Du bist jetzt ein Reanforcement Roboter und bevor Du anfängst relatable ja bevor Du genau okay nehmen wir an Du bist nee nee ich bin Roger the robot ich interagiere mit meiner Welt Schokolade zu kriegen okay du bist Roger the robot du interierst mit deiner Welt Schokolade zu kriegen aber du gehst du wirst nicht komplett unwissend und nackt auf die Mausoberfläche oder wo immer die Schokolade versteckt ist losgelassen sondern vorher darfst Du dir 100000 Stunden Videomaterial von deinen Vorgängern anschauen und die und die beobachten. In dem Moment, wo Du versuchen möchtest, aus diesen Daten zu lernen, was wie kannst Du mit der Umwelt reagieren, interagieren meine ich, da musst Du quasi auf das, was Du da siehst, ein kausales Modell anwenden. Weil Du weißt ja nicht, streng genommen jetzt, hat der die Schokolade gefunden oder also war die Schokolade da, weil er dort hingefahren ist oder ist er dort hingefahren, weil die Schokolade dort war? Also wenn Du jetzt so ganz naiv bist, weißt Du das ja vorher nicht. Also in dem Moment indem Du quasi aus 1 aus Beobachtungen dann Handlungen ableiten möchtest wäre der Du kein düster sehr sinnvoll aber der in der Regel sofort damit anfängt zu interagieren zumindest in also in der Regel so wie ich das kenne jetzt okay bei bei Alpha Go haben die glaube ich schon ein bisschen für die Mustererkennung mit verschiedenen Partien vortrainiert aber der reinforcement Teil so wie ich das kenne zumindest liegt in der Regel sofort los Und dann dann merzt er sich quasi die Irreümer selber aus. Mhm.
Speaker0: Mhm. Das wär übrigens 'n total cooles Thema für unser Meet-up, dass wir immer dekonstruieren, wie der Algorithmus hinter Go Zero funktioniert. Stimmt. Wobei ich mich da nicht auskenn. Aber vielleicht gibt's ja jemanden unter den Complexitymasters, der oder die möge sich Sind wir wieder so weit? Bitte melden. Das ist sone, wer war das? Jörg Pilava, nee, Kai Pflaume, bitte melde dich. Weiß ich nicht. Oh Gott, neunziger Fernsehen. Okay, oh man.
Speaker1: Schnappt wir mal einfach einen im Meet-up und dann wird der verdonnert.
Speaker0: Ja, ja, genau, genau. Uje, was dabei rauskommt. Nee. Lass uns da mal lieber zum letzten Punkt tatsächlich springen. Und zwar, ich hab ich hab noch einen schönen Begriff. Wer das Buch von Shurea Pearl, The Book of Fire, gelesen hat, der kennt es oder die die die kennen das bestimmt schon, nämlich den Begriff der Counter Facts. Mhm. What the hell?
Speaker1: Wie war das? Oder? Oje. Egal, haben wir das Thema. Also na gut bei Julia Pur, der führt ja doch diese 3 Stufen ein. Das 1. Ist, Du beobachtest im Prinzip. Das ist dieses, wenn ich x sehe, was sagt mir das über y? Okay. Und das wär jetzt so klar das wär diese Korrelationsebene ne also es interessiert mich nicht was was bedingt hat ich möchte einfach nur ich ich möchte da die Informationen verwerten das Informationstheorie Dann die 2. Stufe ist diese Intervention. Also wenn ich y tue, was passiert dann mit x oder umgekehrt? Ja, da da wär da da kommt dann der Dukkankidus rein. Also wenn ich auf Basisvollen Beobachtungen vor allem das entscheiden möchte, dann brauch ich den Dukkankidus. Und was er dann als 3. Stufe sagt vielleicht brauchte der auch einfach 3 Stufen weil das also 2 Stufen alles was cooles ist 3 ja ja genau also mein Sohn hat das zu sagen jetzt ist x jetzt ist y passiert wäre das auch passiert wenn X anders gewesen wäre also sozusagen son bisschen dieses hypothetischere nicht jetzt ich plane jetzt irgendwie keine Ahnung irgendwie ich springe oder sowas sondern ich überlege okay wenn ich gesprungen wäre hätte ich dann den Apfel vom Baum erwischt oder was auch immer oder wenn der Mann nicht geraucht hätte hätte er jetzt trotzdem Lungenkrebs das sind ja so diese das nennt der deswegen Counter factual weil man hat ja schon den Datenpunkt der Mensch hat Lungenkrebs das heißt aus dem quasi informationstheoretischen Aspekt ist ja irgendwo die Frage dann wenn man so ganz orthodox ist ja Nonsinn wir haben doch das den Datenpunkt der man hat nur konkret stellen Sie keine weiteren blöden Fragen aber wenn man jetzt deswegen nennt er das Counterfactuars wenn Du dann überlegen möchtest den hypothetischen Fall wenn ich alles andere gleichlasse, nur zum Beispiel die nur jetzt die Zigaretten verändere, also dass der nicht raucht, hätte der dann trotzdem Lungenkrebs bekommen. Also diese Art von Fragen, das ist so dieses Counter Factsual. Ich finde, das ist grundsätzlich sehr ähnlich mit dem wie mit der Intervention. Nur das eine ist irgendwie zukunftsgerichtet und das andere Vergangenheitsgerichtet. Aber er er stellt halt noch mal hervor, dass das philosophisch konzeptionell ja und der ein oder anderen Stelle methodisch vielleicht auch ein bisschen unterschiedlich ist.
Speaker0: Von der mathematischen Perspektive, ich versuche mir immer dazu merken, die zukunftsgerichtete Variante, die marginalisiert über alles, was ich nicht festlege. Die Counterfactual Auswertung, das ist ja in allen in allen Variablen ein konkreter Wert, nämlich der tatsächliche Wert aus der Vergangenheit eingesetzt.
Speaker1: Ja nicht ganz also nicht ganz du also du tauscht hypothetisch jetzt ein Glied in der Kette aus ja zum Beispiel die Zigaretten wenn jetzt zwischen Zigaretten und Lungenkrebs noch 10 andere auch von Zigaretten beeinflusste Parameter liegt die die lässt Du nicht unverändert sondern Du versuchst diese Parameter jetzt mit dem geänderten Wert für Zigaretten kannst Du dir vorstellen wie mit dem gleichen Random Seat neu zu erzeugen. Also Du versuchst all die Zufallsfaktoren, er nennt das, glaub ich, irgendwie Video Cinchratic Facts oder so was, also Du nennst diese ganzen, also Beispiel Mittelwert war 0 aber rausgekommen ist 1 jetzt und wenn Du jetzt den Mittelwert auf 1 einsetzt ja weil so weil Du zum Beispiel Rauchen mit Nichtrauchen tauscht dann würdest Du dann sagen okay jetzt vorher war's 1 über Mittelwert, es soll jetzt immer noch 1 über Mittelwert sein und machst Du aus dem anderen dann eine 2. Also sozusagen versuchst die Randomess, die im System war, die versuchst Du dir also diesen konkreten random State den versuchst Du quasi zu erhalten ne das das ist auch blöd das Eis ein bisschen aber aber es ist auch sehr interessant
Speaker0: okay aber jetzt pass auf Das Beispiel mit den Zigaretten, ja, das ist, finde ich, sehr einleuchtend so, was wäre gewesen, wenn diese Person mit ihrem gesamten Leben, das sie gelebt hat, wenn sie das genauso gelebt hätte, nur stets die Zigaretten weggelassen hätte. Und okay, aber das ist für mich son, na ja, wie Du schon gesagt hast, so ein rückwärts gerichteter Case im Endeffekt, der für mich nur fürs Blaming taugt. Wozu brauch ich dann sone Analyse? Weil irgendwie, es ist keine Explore Strategie, es ist keine Exploit Strategie. Ich seh da irgendwie nur den Nutzen des Fingerzeigens dadrin. Oder überseh ich da was?
Speaker1: Na ja, man kann sozusagen eine Ursache finden, den Verursacher zu beschuldigen. Oder Du kannst halt versuchen, daraus vielleicht zu lernen, wie man per wie das vielleicht per Design in Zukunft nicht mehr passiert. Aber ja, das ist jetzt
Speaker0: Ich kann dir die Frage nicht befriedigend beantworten. Das ist jetzt quasi geht ins Moment aber der oder? Der der der 2. Punkt ist aber spannend. Das heißt, ich würde ableiten, wie ich meinen kausalen Graphen ändern muss, das Verhalten maximal wirklich maximal wirksam zu verändern.
Speaker1: Ja, vielleicht, ne, also Okay.
Speaker0: Ich merk schon, da machen wir mal noch eine eigene Folge dazu. Nur jede Idee ist ja dann wird dann die Philosophen Folge. Die Philosophen Folge, sehr gut, sehr gut. Wunderbar. Also wenn wenn euch an der Stelle nicht der Kopf raucht, mir raucht ja. Danke, Maxime für die sehr coole Diskussion. Ich hoffe für einige Komplexity Masters da draußen konnten wir ein bisschen Licht in den ins Dunkel bringen oder den den Nebel wegwehen, whatever. Heute ist nicht mal ein Tag mit Redewendungen. Aber wofür es schon die richtige Zeit ist, es ist für die Frage, was machen wir nächstes Mal? Und zwar nach dieser definitorischen Folge wollen wir uns nächstes Mal komplett ein Beispiel kümmern. Nämlich bisher war es ja so, dass die Beispiele ja einfach aufgrund ihrer illustrativen Wirkung doch sehr einfach gestrickt waren, eben mit brennendes Haus und ist die Feuerwehr around. Ja, da lacht man rüber. Ja, das ist so offensichtlich durchschaubar. Und spannend wird's ja aber dann an dem Punkt, wo ich nicht unmittelbar erkenne, dass ich 1 Fehlinterpretation 1 kausalen Richtung aufsitze und dadurch, es geht ja am Ende immer ums Ableiten der Handlung, am Ende in der Realität eine Fehlentscheidung treffen würde. Mhm. Und da haben wir ein, 2 Beispiele vorbereitet, die wollen wir nächstes Mal durchgehen. Und bis dahin, Maxim, ich dank dir und freu mich aufs nächste Mal mit dir. Ich mich auch. In diesem Sinne, Master die Compactity.
Speaker2: Jeden Dienstag erscheint eine neue Folge von The Erium Podcast. Auf dem Laufenden zu bleiben, folgt uns auf Facebook, Instagram, Twitter und LinkedIn. Wenn ihr uns unterstützen wollt, gebt uns eine 5 Sterne Bewertung auf Apple Podcasts, folgt uns auf