CAUSAL MACHINE LEARNING – Korrelation, Kausalität und die verirrte Statistik

Season 4· 27. April 2021· 3078

Episode cover: CAUSAL MACHINE LEARNING – Korrelation, Kausalität und die verirrte Statistik
0:003078
  • Dr. Theo SteiningerCo-Founder & CEO at Erium
  • Dr. Maksim GreinerCo-Founder & CTO at Erium

Overview

In this episode of the Erium Podcast, Theo Steininger and Maksim Greiner clarify fundamental concepts around Causal Machine Learning. From correlation and causality to the Do-Calculus and D-Separation, through to Counterfactuals and Explainable AI, the episode lays the conceptual foundation for upcoming episodes on Causal Inference. The episode opens with a humorous segment called 'Misguided Statistic of the Week', in which a political quote is statistically dissected.

Summary

Misguided Statistic of the Week: A Political Quote Under the Microscope

As a new recurring segment, Theo and Maksim introduce the 'Misguided Statistic of the Week'. Using a quote from Armin Laschet - 'The great chancellors were not always the darlings of the media' - they show how political rhetoric suggests statistical conclusions that do not hold up under closer scrutiny. The statement implies that being unpopular with the media is an indicator of greatness as a chancellor - yet the essential ingredients for such a claim, such as prior probabilities and evidence in the Bayesian sense, are entirely absent. Maksim formally deconstructs the argument and shows that even interpreted charitably, it amounts to no more than a weak single data point.

Correlation vs. Causality: The Fundamental Difference

Correlation describes the co-occurrence or opposing occurrence of events without implying a cause-and-effect relationship. A vivid example is the observation that red cars are frequently Ferraris - a correlation that does not imply a direct causal connection, since both characteristics could share a common cause, such as buyer preferences.

Causality goes one step further: it specifies a particular decomposition of probability that corresponds to the real underlying mechanism. Mathematically, causality uses the same formalism as conditional probabilities - but what is decisive is the interpretation of which direction of conditioning corresponds to reality. Ohm's Law serves as a physical analogy: the formula can be rearranged in any direction, but only one direction describes the actual mechanism at work.

Spurious Correlations and the Value of Causal Models

Spurious correlations arise when two variables correlate without being directly causally connected - for example, because a common cause influences both, just as biological sex explains both height and beard growth. Without a correct causal model, such correlations lead to false conclusions. A causal model - represented as a directed acyclic graph (DAG) - adds a layer of meaning to statistics that specifies which dependencies correspond to which underlying mechanisms.

Observation, Intervention, and the Do-Calculus

An observation updates probabilities symmetrically in both directions: knowing that a car is red allows better inference about its make - and vice versa. An intervention, by contrast, acts only in the direction of the causal mechanism: repainting a car does not change its make, but 'changing' the make (for example, by purchasing a different car) could influence the colour.

The Do-Calculus (developed by Judea Pearl) is the formal tool for computing interventions within a probabilistic network. It describes how, when a variable is set by intervention, all incoming connections to that variable are severed - information can then only flow forward, no longer backward. This distinction is essential when deriving actionable recommendations from observational data.

D-Separation: Narrowing Down Causal Structures from Data

D-Separation is a concept that describes when two variables in a causal graph must be statistically independent given a third observed variable. For example, in a linear chain A → B → C, the variables A and C are correlated - but once B is conditioned on, they become independent. These relationships can be tested using data alone.

D-Separation thereby allows at least a narrowing down of the possible causal structures: among many hypothetical graphs, those whose implied independence relationships contradict the data can be ruled out. However, fully identifying the causal direction from data alone is not possible - external modelling assumptions remain necessary for that.

Explainable AI, NLP, and Reinforcement Learning in the Context of Causal Inference

Explainable AI is not an algorithm but a requirement - comparable to producing a film with a specific age rating. There are many ways to pursue this goal: transparent models such as decision trees, gradient analyses in neural networks, or interpretable parameters in Bayesian networks. The term Whiteboxing is closely related.

Natural Language Processing (NLP) and Machine Vision are categorised as complementary toolboxes concerned with pattern recognition in data, but not inherently with causal questions. Reinforcement Learning, on the other hand, has a strong conceptual affinity with Causal Inference: an RL agent interacts with its environment and implicitly learns causal structures. The Do-Calculus becomes particularly relevant when an RL agent is required to derive a policy from purely observational data before intervening itself.

Counterfactuals: The Third Level of Causal Thinking

Judea Pearl distinguishes three levels of causal thinking: observation (what does x tell me about y?), intervention (what happens if I do y?), and counterfactuals (what would have happened if x had been different?). Counterfactuals are backward-looking: one starts from a concrete data point - such as a patient with lung cancer - and asks whether the disease would have occurred even without smoking, keeping all other random factors of that person's life constant.

This differs from an intervention, which is forward-looking and marginalises over all open variables. Theo and Maksim openly discuss whether counterfactuals are primarily useful for attributing blame, or whether they can also help improve causal graphs and make future decisions more targeted - a question they intend to explore in depth in a dedicated 'philosophers episode'.

Key takeaways

  • Correlation describes the co-occurrence of events - it does not imply a cause-and-effect relationship.
  • Causality is a conceptual layer on top of statistics: the same mathematical formalism, but with a defined meaning for the direction of dependence.
  • Spurious correlations arise from common causes and, without a causal model, lead to false conclusions.
  • The Do-Calculus enables the formal computation of interventions by severing all incoming connections to the intervened variable.
  • D-Separation allows causal graphs to be narrowed down from data - but fully identifying the direction of causality remains impossible without external assumptions.
  • Explainable AI is not an algorithm but a requirement, to which various methods such as transparent models or gradient analyses contribute.
  • Reinforcement Learning implicitly learns causal structures through interaction - the Do-Calculus becomes especially relevant when a policy is to be derived from purely observational data.
  • Counterfactuals ask, in a backward-looking manner, what would have occurred under different conditions, and represent the third level of causal thinking after observation and intervention.

Conclusion

This episode lays the conceptual foundation for a deeper understanding of Causal Machine Learning. Correlation, causality, D-Separation, the Do-Calculus, and counterfactuals are not abstract buzzwords but precise concepts with clearly distinct implications for data-driven decision-making. Those who understand these differences can identify fallacies in data analyses and deploy models more purposefully - whether in science, in business, or when critically engaging with statistical claims in public discourse.

For Data Scientists and ML Practitioners

The distinction between observation, intervention, and counterfactual, as well as the concept of the Do-Calculus, are essential for extracting not just patterns from data but causally grounded, actionable insights. D-Separation provides a concrete tool for model validation.

For Executives and Decision-Makers

Anyone making data-driven decisions must understand the difference between correlation and causality - because spurious correlations without a causal model lead directly to poor decisions. This episode sharpens awareness of the limitations of purely statistical analyses.

Show full transcript

Speaker0: Gut, gut. Alright. Ja, dann

Speaker1: Büroklammer verloren, mit der ich rumgespielt hab. Hast Du einmal irgendwas zum Spielen? Ich hab ich hab hier einen alten d e USB Stick. Ah. USB 2 Punkt 0. Ich weiß gar nicht, ob da 'n Gigabyte drauf passt oder also wirklich nicht viel. Der ist wirklich nur so für, ich hab grad einfach 'n, ich muss eine Textdatei irgendwohin übertragen sozusagen. So 4 Kilobyte, ja genau. Und man kann so

Speaker0: Ach, das ist 'n Fidget Spinner für Arme. Genau.

Speaker1: Den hab ich tatsächlich häufig in der Hand so.

Speaker0: Nice, ich hab auch immer irgendwas zu spielen. Momentan ist es das Gestänge für den Popschutz hier. Und das ist gefährlich, weil das Ding ist so schwer, wenn einem das aus der Hand fällt, dann macht's richtig Lärm. Ach, das ist das Lied vom Mikrofon? Ist das son Verlängerer oder? Ja, ja, genau. Das ist eine Gewindestange im Endeffekt. Ja. Gut. Ach ja. Wie überlegen wir los? Ihr hört, the iriom Podcast,

Speaker2: der Data Science und Machine Learning Podcast für Studienabsolventen und Young Professionals.

Speaker0: Herzlich willkommen zu 1 neuen Folge von die Erian Podcast. Mein Name ist Theo Steininger und mir remote gegenüber sitzt mein Kollege der Maxim. Hi Maxim. Hallo. Wie in der letzten Folge bereits angekündigt, werden wir uns heute mit ein paar Begrifflichkeiten auseinandersetzen und zwar aus zweierlei Gründen. Einmal, weil wir einfach auch des Bullshit Bingos wegen mit den ein oder anderen zu hoch gegriffenen Begriffen aufräumen möchten und schlicht und ergreifend auch den Vorhang nach oben ziehen wollen, was dahintersteckt. Meistens ist es nämlich gar nicht so kompliziert. Und zweitens aus dem ganz einfachen Grund, wir werden ja in den nächsten Folgen noch tiefer in die Thematik der Castle and Firance einsteigen. Und dabei ist es wichtig, dass wir alle auf dem gemeinsamen Vokabular unterwegs sind. Das heißt, wie in jedem ordentlichen Mathe Paper, bevor man was diskutiert, sollte man die Begrifflichkeiten festlegen, damit's keine Missverständnisse gibt. Und dazu, da den richtigen Einstieg zu finden, haben der Maximo und ich uns was überlegt, nämlich eine Kategorie einzuführen, die verirrte Statistik der Woche mit den legalen Untertitel, denn Daten lügen zwar nicht, erzählen aber nicht immer die ganze Wahrheit.

Speaker1: Ist eine gewisse Bisschen cheesy.

Speaker0: Bisschen cheesy. Aber gut, was haben wir uns dabei gedacht? Maxim, ich hab 'n Zitat für dich Oh. Von einem Politiker Und ich würd dich bitten, lass uns das mal ein bissel zerlegen. Ja, und ich bin auf deine Einschätzung gespannt, wie sehr das tatsächlich verirrt ist, die Aussage oder ob's vielleicht sogar auch passt und ich nur überkritisch bin. Keine Ahnung. Und zwar Folgendes, es geht ein Zitat vom Laschet. Zum Zeitpunkt der Aufnahme ist der Machtkampf gerade geklärt zwischen Söder und Laschet. Ich denke, das sollte auch mittlerweile jeder mitgekriegt haben und es geht jetzt ja gar nicht die Inhalte. Aber während der Auseinandersetzung, da gab's mal die Aussage vom Laschet, die großen Kanzler waren nicht immer die Lieblinge der Medien. Ah ja. Ich wiederhol's noch mal und und zwar aufgepasst, die großen Kanzler waren nicht immer die Lieblinge der Medien. Und als ich den Satz gehört beziehungsweise in den Nachrichten gelesen habe, habe ich mir gedacht, so, wow, Moment mal, das ist irgendwie da Leuten bei mir, die Alarmglocken und zwar, weil mir ja eigentlich diese Aussage etwas anderes suggerieren möchte. Also ich hätte jetzt so verstanden, der Herr Laschet möchte mir damit sagen, weil er unbeliebt ist, ist er der bessere Kanzler. Und das ist aus meiner Sicht erst mal so nicht unmittelbar ableitbar. Maxim, wie wie siehst Du das?

Speaker1: Ja, lass mal überlegen, was hat er gesagt? Also die der die großen Kanzler waren nicht immer Lieblinge der Medien. Das heißt also, wenn man's jetzt in Wahrscheinlichkeit übersetzt die Tatsache, dass Du ein großer Kanzler bist bedeutet, dass die Wahrscheinlichkeit Liebling der Medien zu sein kleiner 1 ist. Okay, das ist jetzt nicht besonders überraschend. Jetzt machen wir mal, gehen wir mal ein bisschen bisschen also die Versuchen wir's mal so zu interpretieren. Ein bisschen wohlwollend. Weil die Tatsache, dass Du ein großer Kanzler bist, bedeutet die Wahrscheinlichkeit, dass Du Liebling der Medien bist, ist gering. Mhm. Und suggerieren möchte er, wenn Du kein Liebling der Medien bist, dann ist die Wahrscheinlichkeit, dass Du ein großer Kanzler bist hoch. Das ist erst mal falsch. Also weil der Informationsgehalt von dem, was er da gesagt hat, der reicht nicht.

Speaker0: Ja, man man muss halt Base rule anwenden am Ende oder? Also und und solange Priorer und Evidenz nicht definiert sind. Genau, da fehlen

Speaker1: Zutaten. Ja. Wenn man jetzt ganz ganz ganz wohlwollend ist, also er würde sagen, die die Tatsache, dass Du ein großer Kanzler bist, verringert die Chance, Liebling der Medien zu sein gegenüber, Du bist kein großer Kanzler. Also wenn Du da sone Odds Ratio hast für die Liebling der Medien gegeben großer Kanzler und nicht großer Kanzler. Und wenn die Orts Ratio so ist, dass quasi der große Kanzler eine geringere Wahrscheinlichkeit hat, das Liebling der Medien zu sein als der nicht große Kanzler, dann wäre das zumindest mal ein 1 Datenpunkt, ja? Dann dann könnte man sagen okay gegeben das Stück Information er ist nicht Liebling der Medien erhöht das leicht oder könnte zumindest dann die Chance erhöhen, dass ein großer Kanzler ist gegenüber man hat gar keine Information. Aber na ja, das hat er ja nicht gesagt.

Speaker0: Wie geht's dir damit? Also ich bin da wirklich sehr unentschlossen, ob ich dann solche Aussagen für okay finden soll.

Speaker1: Da hab ich schon lange aufgegeben.

Speaker0: Ja, also okay, dann das heißt, Du siehst es eher so. Okay, mein Gott, ist ein Griff in die rhetorische Trickkiste?

Speaker1: Ja, ist halt Politik, natürlich.

Speaker0: Oh je. Okay.

Speaker1: Man stellen sich vor, Söder hätte dann Ja. Nee, Moment, Moment. Wir müssen mal hier in die Tafel. Er hätte dann zur Baels Run aufgemacht und dann, ja, aber Herr Naschardt, dann müssen Sie jetzt bitte schon hier noch die die Evidenz als weiteres Datum geben. So so geht das hier nicht. Ey, aber aber ganz ehrlich, an dem Tag, an dem Söder an eine Tafel geht und Base Rule aufmalt, hat er meine Stimme.

Speaker0: Alright. Ja, echt spannend. Also ich finde es super faszinierend, so was zu dekonstruieren, einfach wie wie auch kommuniziert wird. Und ich ich nehme mal vor, lass uns mal jede Folge so eine, wie haben wir es genannt, verirrte Statistik der Woche bringen. Und ja, eigentlich genau, wenn jemand der Complexity Masters da was auffällt, schickt sie es uns zu, ja, total cool. Ich les zwar auch fast täglich immer wieder mal etwas, wo ich der Meinung bin, das ist schon grenzwertig an der, ja, an der Kante zur Irreführung, aber schickt sie es uns, egal welche Plattform oder einfach an Podcastirium Punkt d e, kommt alles an und wird zerlegen das. Dann nach diesem kleinen Intermezzo würde ich mal sagen, starten wir mit dem eigentlichen vollen Content. Und zwar, wir wollten ja uns mit 'n paar Begrifflichkeiten auseinandersetzen. Und zuallererst steht bei mir, ich hab natürlich eine Liste vorbereitet, bei mir ganz oben noch mal, dass wir die Complexity Masters abholen. Was ist noch mal genau wirklich der Unterschied zwischen den Begriffen Korrelation und Kausalität? Vielleicht magst Du da kurz eine 1 kleine Einordnung geben, Maxim. Okay, ja.

Speaker1: Eine Korrelation eine Korrelation beschreibt einen Zusammenhang von Ereignissen im Sinne von das oder das in einem Gesamtereignis gewisse Subereignisse häufig gemeinsam das ist eine positive Korrelation oder eben häufig genau nicht gemeinsam, das wär jetzt eine Antikoorrelation oder negative Korrelation auftreten. Beispiel dafür wäre, die Farbe 1 Autos ist rot und die Marke 1 Autos ist ein Ferrari.

Speaker0: Cool, ja.

Speaker1: Ja, da können wir jetzt sagen, da da besteht eine Korrelation. Aber das sagt einfach nur, dass man häufig häufiger beides gemeinsam beobachtet als unabhängig voneinander. Eine Kausalität, das bedeutet, dass eine Sache etwas anderes bedingt, ja? Eine Kausalität würde zum Beispiel heißen, weil das Auto rot ist, ist es ein Ferrari oder weil das Auto ein Ferrari ist ist es rot und das ist natürlich irgendwie eine stärkere Aussage denn die Korrelation die kann ja zum Beispiel auch zustande kommen durch eine gemeinsame Ursache Keine Ahnung oder Leute, die Ferraris mögen, mögen auch rot. Ja, dann haben hat Ferrari und rot jetzt gar keine direkte kausale Verbindung zueinander. Aber die Korrelation ist trotzdem da.

Speaker0: Aber das hört sich für mich total nach einfach erstmal bedingten Wahrscheinlichkeiten auch an also P Auto ist rot gegeben Ferrari oder eben genau andersrum ja ja ganz genau also die Korrelation ist ja quasi wie son

Speaker1: gehört jetzt auch in in kann man ja mit bedingten Wahrscheinlichkeiten auch gut erklären nämlich eine positive Korrelation oder überhaupt irgendeine Form von Korrelation heißt ja dass die Wahrscheinlichkeit für das Auto ist ein Ferrari sich ändert wenn ich wenn ich dazu packe die Bedingungen das Auto ist rot ja genau und Kausalität kann man sich vorstellen wie eine bedingt wie bedingte Wahrscheinlichkeit ganz genau den gleichen Formalismus benutzen aber dieser Zerlegung in was ist Kondition also Bedingung und was ist mein Zufallsereignis der bemesse ich eine Bedeutung bei. Also für die Leute die Base Rule kennen oder die Produktregel der bedingten Wahrscheinlichkeiten das ist total symmetrisch. Ich kann das aufsplitten in Bedingung ist Auto ist rot und Event ist Autos hat Ferrari oder ich kann sagen Bedingung ist Autos hat Ferrari, Event ist Autos rot. Ich kann beides Blitz machen. Statistisch spricht weder für den einen noch für den anderen was. Das ist eine vollkommen valide Zerlegung. Bei Kausalität würd ich aber jetzt sagen, nee, es gibt eine Zerlegung, die der Realität, also dem kausalen Wirkmechanismus entspricht.

Speaker0: Ah, okay, okay. Also wie wie eigentlich 'n Layer oben drüber, ja? Also das ist gar nicht mal so die Frage von der konkreten Formel magic, sondern wie ich damit umgehe. Das ist die Interpretation

Speaker1: quasi, ja. Aha. Du sagst, Du bin Du misst dem eine Bedeutung bei. Das ist ja, Du hast das ist wie wenn Du sagen würdest, Du multiplizierst 2 Zahlen, a mal b ist gleich b mal a, aber jetzt sagst Du nee, a mal b, die Formulierung hat für mich eine besondere Bedeutung oder die oder die ist für mich nicht gleichbedeutend mit b mal a da gibt's sozusagen nur eine Interpretation dazu und das ist so verhält sich Kausalität zu bedingten Wahrscheinlichkeiten.

Speaker0: Das ist doch dann auch 'n bisschen so wie bei Formeln aus der Physik, oder? Also ich stell mir grad das Ohmsche Gesetz vor. U ist gleich r mal I. Und erst mal kann ich die Formel ja umstellen, wie ich möchte. Ja. Klar, in Firance zu betreiben. Wenn ich sage, okay, ich möchte jetzt den Widerstand rausfinden, ich messe, welchen Strom habe ich bei welcher Spannung, bilde den entsprechenden Quotienten, kriege den Widerstand raus. Aber ich könnte jetzt nicht durch Festhalten der Spannung und Reduzieren des Stroms gleichzeitig erzwingen, dass der Widerstandswert höher wird. Ja, also das entspricht ja nicht der Realität und Kausalität, wie die Größen zustande kommen. Genau. Da bricht ja dann das zusammen, wie ich die Formeln umstellen darf, einfach darzustellen, was in der Realität passiert. Genau. Crazy. Okay. Und inwiefern, ein Begriff, der da auch immer rumgeistert, ist der der Spiritious Correlations. Ich glaub, den hatten wir in Staffel 1 ja auch mal angeschnitten. Ja, ja. Da hatten wir so schöne Sachen wie

Speaker1: die Korrelation zwischen den der Menge an Haaren im Gesicht und glaub ich der Körpergröße. Und das ist eigentlich, das kann man hier auch gut verwenden. Also es ist eine die Korrelation ist da ja also ganz einfach aus dem Grund wenn ich alle Menschen in einen Topf werfe sind da Männer und Frauen drin die Männer sind die Durchschnitt größer und haben einen Durchschnitt mehr Haare im Gesicht. Ja Moment Population Mixing. Ja genau hier ganz klarer Fall von Population Mixing aber das könnte auch aus anderen Gründen sein. Also jetzt Beispiel wieder bei Auto rot und Ferrari. Es könnte weder das eine durch das andere bedingt sein noch noch umgekehrt, sondern das könnte einfach eine gemeinsame Ursache haben. So wie das Geschlecht die gemeinsame Ursache für Körpergröße und Bartwuchs ist, könnte hier eine gemeinsame Ursache die Farbpräferenz und Automarkenpräferenz der Besitzer sein. Eine also von der Spiritius Correlation spricht man eigentlich dann, wenn 2 Dinge korreliert sind, die aber eben nicht kausal direkt verbunden sind. Und im in dem Kontext kann man das einfach besser erklären und damit umgehen, ja? Also da gibt's 'n klare klaren Formalismus dann aha gemeinsame Ursache damit klar Korrelation aber eben nicht ein direkter kausaler wirkmechanismus wirkmechanismus dazwischen

Speaker0: Aber Moment, also man kann damit umgehen, aber es ist ja auch keine Magic. Also erzeugt ja nicht Information aus dem Nichts. Nee. Das heißt, ich kann die Spiritis Correlations nur mit dem richtigen kausalen Modell in den Griff kriegen. Genau. Also Was passiert, wenn ich da das Falsche drauf werfe? Dann machst Du genau das, was immer mit Spiritious Correlations passiert, wenn man sie nicht als solche erkennt. Du ziehst falsche Schlüsse. Also und zwar doppelt eigentlich ja also

Speaker1: vielleicht noch mal also heißt im Prinzip dass Du die Statistik eine einen grafisches Modell von Wirkmechanismen erweiterst also Du gibst quasi dazu zu sagen was bedingt was Und damit kannst Du eine Korrelation dann eine Spurious Korrelation auch gut erklären, aber Du kannst, wenn deine Erklärung falsch ist, auch aufsitzen. Mhm. Mhm.

Speaker0: Stichwort aufsitzen am Ende, was bei Castle Machine Learning ja sehr, sehr zentral ist, ist der Gedanke, nicht nur zu beobachten, sondern am Ende auch eine sogenannte Intervention abzuleiten. Genau. Magst Du das auch noch mal ganz kurz einsortieren? Also was ist Beobachtung formal gesehen was ist Intervention und wenn wir schon dabei sind was genau ist in dem Kontext dann der Du calcelus

Speaker1: ja okay gern fangen wir an Beobachtung Beobachtung heißt du du kriegst ein Stück Information ja vorher das Stück in ich habe das Stück Information das Auto ist rot das verändert meine Einschätzung der Wahrscheinlichkeit dass ob das Auto ein Ferrari ist oder nicht Genauso aber umgekehrt würde die Information das Auto ist ein Ferrari meine Einschätzung über die Farbe verändern. Bei 1 Intervention ist es aber ganz wichtig da unterscheide ich mit den entlag des Wirkmechanismus also wenn ich sag ich mal ich ich lackier das Auto ja dann würde ich sicherlich nicht erwarten dass sich die Automarke ändert wenn ich jetzt die Automarke ändere okay müssen wir jetzt überlegen was bedeutet das in der Realität aber das heißt vielleicht beim Kauf oder sowas ja beim Kauf ändere ich was dann könnte das durchaus sein wenn ich jetzt postolied der Wirkmechanismus heißt weil es ein Ferrari ist ist das rot, dann würde das einen Einfluss haben. Das heißt, bei der Intervention unterscheide ich, hab ich jetzt also schaue ich mir etwas an, was am Anfang der Wirkkette liegt oder am Ende. Vielleicht ist es leichter zu verstehen bei den Barthaaren und Geschlechtern ja also wenn ich sehe dass jemand ein Bart hat dann habe ich habe ich eine gute also habe ich eine erhöhte Wahrscheinlichkeit dass das ein Mann ist wenn ich aber jemand einen Bart verpasse angeklebe oder abrasiere das umgekehrte dann werde ich dadurch nicht das Geschlecht ändern Also der Wirkmechanismus ist halt aus der anderen Richtung. Wenn ich aber bei jemandem das Geschlecht umwandele, okay, dann kenn ich mir jetzt medizinisch nicht gut genug aus, aber ich könnt mir vorstellen, dass das einen Einfluss auf den Bartwuchs hast. Das heißt, der Wirkmechanismus in die andere Richtung ist durchaus vorhanden. Bei der Beobachtung lerne ich in beiden Fällen. Wenn Du mir das Geschlecht sagst, werde ich relativ gute gut raten können, wie es den Bartwuchs steht oder besser raten können, als wenn Du mir das Geschlecht nicht verrätst und aber umgekehrt auch. Bei der Intervention gibt's geht nur in eine der beiden Richtungen was. Und diese Unterscheidung, das klingt jetzt erst mal wie eine Einschränkung, aber diese Unterscheidung ist wahnsinnig wichtig, wenn ich nämlich eine Intervention dann auch durchführen möchte. Ich möchte nicht nur beobachten, ich möchte mit dem System interagieren, dann ist es wahnsinnig wichtig dass ich diesen Unterschied machen kann und Du hast glaube ich gerade den dukal Kilos auch angesprochen oder genau richtig ja also und der dukal Kilos das ist das ist quasi die Rechenregeln wie ich aus einem Netz von bedingten Wahrscheinlichkeiten bei dem ich mich auf diese Interpretation geeinigt habe dass die der Split wie ich Bedingungen und Zufallsgrößen aufteile den kausalen Wirkmechanismen entspricht. Wenn ich so einen Wahrscheinlichkeitsnetz oder Wahrscheinlichkeitsbau nennt es wie ihr wie ihr wollt habe, dann sagt mir der Du Kalkyklus wie welche Änderungen nehme ich hier vor, eine Intervention zu berechnen oder zu simulieren? Und das ist eigentlich ganz einfach. Man sagt, wenn Du eine Intervention auf Größe x machst, dann cappst Du alle eingehenden Verbindungen. Also alles, was x vorher bedingt hätte, also wenn da zum Beispiel Stand p von x gegeben ABCDE, dann vergisst Du dieses gegeben ABCDE einfach. So kann dort keine Information mehr rückwärts von x zu ABCDE fließen mit der Intervention. Es kann nur noch vorwärts fließen zu denen zu den Dingen, die von x abhängen. Und das ist der Dooker Kilos.

Speaker0: Was mir in dem Kontext grad auffällt und zwar, wenn wir von bedingten Wahrscheinlichkeiten sprechen, dann denken wir ja fast schon automatisch im Sinne 1 gerichteten a zyklischen Graphen. Und vielleicht magst Du das mal kurz einordnen. Ich denke über 'n auditives Medium wie 'n Podcast einen visuellen Graphen zu erklären. Am besten lässt's euch das vielleicht noch auf Wikipedia noch mal ganz kurz durch. Acyklischer gerichteter Graf, aber vielleicht magst Du dazu kurz was sagen, Maxim, wieso das so darstellbar ist.

Speaker1: Okay. Also wenn ihr ein System von Wahrscheinlichkeiten habt, dann könnt ihr das Also sagen wir, wir haben 5 Parameter ABCDE, okay? Dann können wir eine totale Wahrscheinlichkeit schreiben. P von a Komma b Komma c Komma d Komma e komm mal zu so die das ist die totale Wahrscheinlichkeit die kann ich jetzt auf ganz viele Arten aufspalten ja ich könnte anfangen mit a dann b gegeben a, dann c gegeben b und a und so weiter und so fort. Und so ein Split, der wird mich aber dann, wenn ich mit a anfange, nicht wieder zu a zurückführen. Deswegen ist es ein a zyklischer Graph. Und gerichtet in dem Sinne, ich unterscheide, was ist Bedingung und was ist Zufallsgröße? Das heißt, ich kann mir so diesen diesen ganz diese ganzen möglichen Split, jeden dieser Split, wie ich diese 5 Größen auf verdingter Wahrscheinlichkeit verteilen kann, Das ist im Prinzip 'n Graph und eben ein gerichteten und a zyklischer Graph. Und ein kausales Modell ist jetzt ein bestimmter, also ich kann ja die totale Wahrscheinlichkeit kombinatorische auf sehr viele mögliche Arten zerlegen. Und bei Corsal Interior sag ich, nein, eine diese eine Zerlegung, von der sag ich jetzt oder oder nehm ich an oder behandle sie jetzt so, dass das der Wirkmechanismus ist.

Speaker0: Und wie ist es genau, also gerade bei dieser sehr hohen kombinatorischen Anzahl an verschiedenen Möglichkeiten, wie son Graph aussehen könnte, ein Begriff, der find ich sehr, sehr cool ist, aber wo find ich auch schwer zu verstehen ist, was ist genau damit gemeint? Das ist der, der Deseparation. Ja. Was ist das genau in dem Kontext?

Speaker1: Vielleicht erst mal, warum ist es nützlich, bevor ihr euch die Mühe macht zu folgen?

Speaker0: Okay.

Speaker1: Ihr habt vielleicht schon gemerkt Kausalität ist so ein bisschen son Layer on top auf die Statistik. Das bedeutet aber auch, nachdem Statistik ist ja quasi das Behandelt von Daten. Und Kausalität ist ein Layout on top das bedeutet es ist wahnsinnig schwierig oder je nachdem wie man argumentieren will fast schon unmöglich rein auf Daten basiert eine kausale Aussage zu treffen. Also wenn ich Daten zu a und b hab, dann kann ich nicht entscheiden, bedingt a b oder b a. Ich muss irgendwelche Modellannahmen hinzufügen. Ich muss nicht gleich sagen a bedingt b, aber ich muss zumindest sagen, was würde a bedingt b plausibler machen als b bedingt a, vielleicht auch von den Mustern in den Daten, aber ich muss irgendwas hinzufügen.

Speaker0: Mhm. Mhm. Und

Speaker1: die Deseparation ist jetzt aber dann etwas womit ich wenn ich jetzt zum Beispiel 5 Parameter habe und theoretisch kämen da ich weiß nicht sagen wir mal 100 mögliche Graphen infrage und ich habe jetzt aber keine Ahnung was kausale Frage was kausal richtig wäre die diese Operation gibt mir die Möglichkeit das zumindest einzugrenzen nämlich es gibt quasi wenn ich einen gegebenen Graphen mir anschaue dann kann ich da drin bestimmte ja eben Unabhängigkeiten oder Abhängigkeiten ableiten und damit ist immer gemeint ich die Beziehung zwischen 2 Parametern gegeben der Beobachtung 1 Dritten ob die dann korreliert oder nicht korreliert also oder abhängig oder unabhängig sein müssen das hängt von der Struktur des Graphen ab und das wird über die Regeln der Deseparation beschrieben. Und das Schöne ist, diese abhängig unabhängig, die kann ich rein auf datenbasiert testen. Und dann kann ich zumindest meine 100 Graphen eingrenzen in einen vielleicht 10 die dann noch in Frage kommen die die gleichen Deseparations erfüllen die ich an den Daten her abeingrät aber dann muss ich zumindest nicht nur noch über 10 Kandidaten im Kopf zerbrechen und ein Beispiel wäre jetzt sowas wie nicht die Hand nee wir haben wir haben einen Wirkmechanismus a beeinflusst b beeinflusst c wenn ich jetzt sage ich habe eine Beobachtung für b

Speaker0: warte meinst Du damit quasi eine lineare Kette ja nach B B nach C oder nicht nicht ABBBBBBBBBBBBBBBBBBBBBBBBBBBB

Speaker1: einfluss c logischerweise sind jetzt a und c nicht unabhängig wenn ich einfach mir die Daten anschaue wenn ich jetzt aber sage ich mache ich ich grenze das ein, ich habe einen bestimmten Wert für b beobachtet, also konditioniere auf b, dann sind sie unabhängig, solange ich konditioniert habe. Und das wäre so ein Beispiel für eine Deseparation. Und das ja damit kann ich ja quasi testen okay wenn ich im Graph hab der a und c nur über sone lineare Kette verbindet kann ich testen wird's in den Daten unabhängig wenn ich irgendeins der Glieder dazwischen festhalte

Speaker0: Das find ich total cool, ja. Also weil, dass Du durch einen Schnitt durch den Datenraum Informationen über die kausale Struktur rausfinden kannst, obwohl's ja eigentlich, na ja, es ist damit ja nicht unmöglich, rein aus den Daten auf kausale Strukturen zu schließen, nur nicht vollständig möglich.

Speaker1: Na ja, ja. Du kannst es eingrenzen. Du kannst Eingrenzen. Die verrückten kausalen Strukturen, die den Daten vollkommen widersprechen, ausschließen. Aber Du kannst nicht unterscheiden, ob der ob der Pfeil geht a nach b, b nach c oder c nach b, b nach b. C nach b. Also es ist immer auch irgendwie genau das Konträre möglich. Ja,

Speaker0: ja, ja. Da spielen wahrscheinlich topologische Klassen mit rein, oder? Also so Äquivalenzklassen, wie ich Dinge umsortieren kann.

Speaker1: Bestimmt, aber da fragst Du den Falschen.

Speaker0: An alle Mathematiker, die sich da auskennen, die mögen sich auch bitte melden, oh je, unsere Postfächer werden übergehen, nicht. Oder für immer schweigen hast Du vergessen. Nice. Ja, wobei ich find so so Klassifikation ja sehr, sehr spannend, aber dann dann müsste man den Mathe Podcast aufmachen. Nee, cool. Okay. Also die Separation, das schreibt man zur Klarstellung mit einem d. Nur nur ein d, Dseparation. Also nicht wie das Präfix d e, sondern nur d. Genau, sonst bei 1, ja, sonst sonst landet man bei irgendwelchen obskuren japanischen Internetseiten, whatever. Okay, springen wir mal weiter besser zum nächsten Begriff. Ich hab mir hier aufgeschrieben als und jetzt wird's wird's richtig schön Bullshit Bingo mäßig, aber ich denk nach dem harten Tobak von grad eben gerade recht, nämlich Explainable AI. Ist das schön gesagt. Ja, genauso, was ich auch davon halte. Was was hältst Du von dem oder zumindest den Begriff von explplainable AI? Ist das 'n Algorithmus? So verstehen's zumindest aus meiner Sicht die, die keine Ahnung davon haben, kurz eine Einsortierung bitte.

Speaker1: Das wäre dann so eine, wie heißt das CSI Miami? Ein used explainable AI in Visual Basic to trackies IP Adresse to finde Killer oder sowas. Ja ganz genau. Also eine explainable AI das ist doch ein 1 Anspruch oder ein und kein Algorithmus, ja. Das kann man ja auf ganz verschiedene Arten versuchen zu erreichen und wann das erreicht ist, ist auch up to debate. Und gemeint ist damit, ich möchte halt mich nicht komplett auf irgendeine Blackbox verlassen. Aber das kann man zum Beispiel auch bei Deep Learning also dass man wenn man wissen möchte warum wie ein neuronales Netz tickt, dann kann man ja versuchen das irgendwie anzuregen so deep dream mäßig oder wenn ich möchten möchte warum hat das eine gewisse ein Bild als Pferd klassifiziert dann kann ich mal Gradienten da durchschicken zu schauen wo im Bild war es denn also war dann quasi der sensitive Bereich oder ich sage ich nehme Algorithmen die einfach nachvollziehbarer sind wie son Decision tree in kann den kann man für jeden jedermann quasi irgendwie visualisieren

Speaker0: und das transparent genau oder

Speaker1: Du sagst gehst quasi so whiteboxing mäßig vor Du dein Modell ist irgendwie zu jedem zu jeder Stufe irgendwie interpretierbar im Sinne von dass die Parameter da drin interpretierbar sind so wie wir es ja gerne machen mit den basischen Netzen. Aber das ist alles immer irgendwie, das sind Dinge, die auf das Ziel expainable AI einzahlen, aber das ist kein, das ist 'n extrem weicher Begriff und ich und das ist keine Methode per se, würd ich sagen.

Speaker0: Mhm. Sehr schlauer Mensch hat mal gesagt, das wär so, wenn Du einen Data Scientisten fragst, hey, ich mach mir mal einen explainable AI Algorithmus, so wie wenn Du einen Schriftsteller, einen Drehbuchautor darum bittest, machen wir mal einen FSK 12 Film. Finde ich einen sehr schönen Vergleich. Dementsprechend, wir haben's auch ganz kurz schon angesprochen, Whiteboxing ist, also zumindest aus meinen Augen, damit austauschbar. Also da gibt's keinen großen Unterschied mehr zwischen, alles quasi, ja.

Speaker1: Ja, es zahlt in die gleiche Brescheei.

Speaker0: Ja, genau, genau würde ich auch sagen. Alright. So, und jetzt als als nächsten Punkt, ich hab dann hier mal 'n paar Begriffe gesammelt, die mehr oder weniger im Dunstkreis sich von Castle Machine Learning aufhalten. Und die würde ich einfach ganz kurz ganz schnell durchklopfen. Ja, und Du sagst einfach dazu, was Du davon, nee, nicht, was Du davon hältst, aber aber wie Du's einfach mit in dem Feld verorten würdest, nämlich erster Punkt evolutionäre Algorithmen Slash Bionik.

Speaker1: Ja, das also evolutionäre Algorithmen trifft natürlich jetzt mega den Nagel aufn Kopf, weil im letzten E-Mail-up hatte Oh. Haben wir eine wundervolle Präsentation bekommen, wie man evolutionäre Algorithmen nutzen kann, zu versuchen, zum Beispiel sone kausale Struktur zu finden oder also oder zumindest verschiedene kausale Strukturen zu testen. Das ist halt 'n Optimierungsalgorithmus, der halt schön auch funktioniert bei diskreten Problemen, wo ich keine Ableitung bilden kann. Mhm. Aber das hat jetzt erst mal per se nichts mit zu tun, außer dass man da die beiden Werkzeugkästen vielleicht kombinieren kann.

Speaker0: Eine Optimierungsmaschine, ja. Genau. Genau. Genau. Dementsprechend Bionik, okay, also aus meiner Sicht Bionik, Du guckst dir etwas aus der Natur ab, einen Mechanismus oder 'n Prinzip oder und übersetzt es in eine technische Lösung.

Speaker1: Dementsprechend, ja. Hat nix mit Cause of Inference, würde ich sagen, zu tun. Genau, evolutionäre Algorithmen, ein Beispiel für Bionik.

Speaker0: Dann nächster Begriff, total cool.

Speaker1: Da hatten wir eine Folge zu 'n Staffel 1. Also da kurz, da geht's einfach nur darum, ich hab ein also guter guter Erklärung ist es bei 'nem Bilderkennungsneuronalen Netz. Ich stecke ein Foto von einem Hund rein, hab da aber für den Menschen praktisch nicht bemerkbares Rauschen mit reingepackt, deswegen Neues. Das aber die Verbindung in 'nem neuronalen Netz genauso anregt dass es dieses diesen Neues quasi von Schicht zu Schicht sage ich jetzt mal verstärkt so dass am Schluss dann zum Beispiel Pferd rauskommt oder Katze oder was auch immer. Also einfach, sag ich mal, Artefakte im im im im Vorhersagealgorithmus ausnutzen, mit vermeintlich harmlosen Änderungen das Ergebnis zu verändern.

Speaker0: Beispiel, ich modifizier ein Verkehrsschild, dafür zu sagen, dass der Tesla das Stoppschild nicht mehr erkennt. Ja, Du könntest quasi eine Folie aufm Stoppschild

Speaker1: kleben, die fürs menschliche Auge vielleicht jetzt nicht von irgend einen normalen Dreck zu unterscheiden ist. Und genau, dann würde ein Deep Learning Algorithmus zum Beispiel, wenn man die Folie genau auf diesen bestimmten trainierten Deep Learning Algorithmus, das ist immer der Catch, designt hat, könnte man den dann austricksen. Ich glaub aber, ich hoffe, dass die selbst vorhandenen Autos auch Verkehrsschilder auf einfachere Art und Weise erkennen, aber ich weiß es nicht.

Speaker0: Das schlägt auch eine Brücke zu der. Richtig? Also was ich oft gesehen hab, ist, dass in zulastungskritischen Bereichen dann wieder die vorkommen, weil ich die genau checken kann, auf Basis welcher Regeln entscheiden die. Und dann kann ich sozusagen den Stempel drauf geben, okay, ich vertraue dieser Lösung, dass die nicht anfällig ist für entweder vorsätzliche oder willkürliche Manipulation. Das heißt, die Hoffnung wär, okay, ich hab die Anforderung, dass mein System immun gegen etwas serial Noise ist, dann müsste es aus der Riege der explainable AI Algorithmen sein. Ob das jetzt der einzige Weg ist, aber Nee. Wird zumindest mal könnte helfen. Ich ich hau jetzt noch mal was raus. Hinreichen, aber nicht notwendig oder genau andersrum, keine Ahnung.

Speaker1: Weder noch.

Speaker0: Aber das ist auch auf jeder Party gut, wenn man hinreichen, aber nicht notwendig sagt. Oje. Okay, weiter.

Speaker1: NFL NFL NFL NFL NFL NFL NFL

Speaker0: NFL NFL NFL. Ist das ist das, was ist das genau?

Speaker1: Natural language Brocess, ne? Also Ja, genau. Ja, das ist halt die Verarbeitung von Sprache in Ton oder Schrift, hat jetzt erst mal nix mit Cosala Furious zu tun, Punkt.

Speaker0: Ich würd mich sogar dazu hinreißen lassen, dass ähnlich wie wie Machine Vision es da nur, jetzt in dicken Anführungsstrichen, aber nur darum geht, Strukturen in Daten zu finden. Und mein Claim ist, es spielt sich sozusagen von von von der Flughöhe der intellektuellen Fragestellungenverantwortung auf 'ner anderen ja, Ebene ab als jetzt zum Beispiel Castle and Firance.

Speaker1: Das klingt jetzt irgendwie hart, ne, aber es ist es ist was anderes, ne. Es ist sozusagen das Erkennen. Ich möchte das Wort erkennen. Ich möchte den Satz erkennen oder vielleicht sogar ja, syntaktisch unsemantisch verstehen. Aber Corse and fearance da geht's ja darum sozusagen etwas die eben diese Intervention ne also also vielleicht NLP mit Corse and fearance würde irgendwie vielleicht mit ich möchte dass mein Gegenüber folgende Antwort gibt was muss ich jetzt sagen ja wenn wir in die Richtung wenn wir in die Richtung denken, dann hätten wir vielleicht Aber das ist dann wieder eine Kombination zweier Werkzeugkasten. Also per se ist jetzt NLP und Machinevision, würde ich sagen, Kompliment. Also da ist halt einfach anderer Teil des Werkzeugkasten. Ist jetzt kann das eine ersetzt nicht das andere oder es zwangsläufig Teil des anderen.

Speaker0: Da geh ich mit. Ja, ja, durchaus. Und dann zum Abschluss noch in der Kette, unsuperwaisted machine learning. Okay okay

Speaker1: also supervised machine learning ich meine man kann ja einen einen kausalen Graphen kann man ja trainieren man kann ja dann sagen ich habe jetzt meine meiner kausalen Abhängigkeiten vorgegeben und jetzt möchte ich aber die auch quantitativ lernen. Also was beeinflusst was denn? Wie genau? Und das ist ja 'n bisschen wie das Training, also das ist auch 'n Trainingsprozess und das ist wie beim supervised Machine Learning. Also da würde ich sehen sagen ist das schon ein großer Überlapp oder zumindest eine starke starke Verwandtschaft an supervised Machine Learning also von an superweiß kann man ja irgendwie in dem Moment sprechen wo Du keine Inputs und Outputs hast und nicht irgendwie konkretes Ziel sondern einfach nur Muster erkennen möchtest und nachher zum Beispiel Outlyer finden oder sonst was ja das würde vielleicht so ein bisschen in die Richtung gehen du hast einen Satz Daten und Du möchtest jetzt die mit über die die Separation zum Beispiel alle Kandidaten für mögliche kausale Netze dazu finden und die auch gleich trainieren dann könnte man da sagen, das ist so ein bisschen die Anzug bei vist Machine.

Speaker0: Boah cool, damit ist es ja dann beides. Und zwar die das Finden des richtigen oder der möglichen kausalen Graphen über eben die Mechanismen mit mit Deseparation, das ist Unsuppbarwist. Und wenn ich dann aber ein konkretes Beispiel mit gelabelten Daten mal trainiere, dann bin ich beim Superwist Machine Learning. Ja, könnte man so sagen. Hey, come on, wir sagen wir, wir machen offiziell beides gleichzeitig. Okay, okay,

Speaker1: aber ich schicke gleich den Brief an die, weiß nicht, die internationale internationale Organisation der Wahrheit oder

Speaker0: Sehr gut. Wunderbar. Okay, dann machen wir aber hier den Sack. Gleich mal zu mit diesen Begriffen, die wahrscheinlich oder höchstwahrscheinlich denjenigen, die die 1. Staffel gehört haben, schon 'n Begriff war. Ich habe noch ein bisschen was tiefergehendes dabei, und zwar folgende Frage oder Beobachtung, nämlich, wenn ich mir ein Reinforcement Learning System hernehme, das ist ja ein System, das jetzt deutlich weitergeht als jetzt nur eine Regression oder ein Clustering Algorithmus, sondern ich hab da ja, denkt man nur mal an einen Roboter, der lernt, der selbstständig lernt, wie er ein Objekt greifen muss, es hochzuheben. Da habe ich ja ein System, das in Interaktion mit seiner Umwelt steht. Und dementsprechend, so hätte ich das interpretiert, ist ein Reanforcement Learning System auch immer ein System, das kausale Zusammenhänge lernt.

Speaker1: Ja, wie Wie siehst Du das? Weil unterschreiben.

Speaker0: Weil am und das das Erstaunliche ist, auf der anderen Seite die Implementierungen, die ich da kenne, die arbeiten überhaupt nicht mit dem Ducild gelöst zum Beispiel. Nein. Wie geht das zusammen?

Speaker1: Also das reforcement Learning, das lernt ja quasi so eine Policy, also das lernt quasi eine Übersetzung meiner verfügbaren jetzt ist Daten, also bei von meiner Umwelt und von mir, wenn ich jetzt zum Beispiel der Roboter bin, in eine Entscheidung. Und das Ziel ist eine Belohnung, die möglicherweise aber in der Zukunft liegt, Belohnung definiert, wie auch immer. Mhm. Und das heißt, da ist natürlich total, der hat total diese Intervention dahinter. Man man man tut etwas, man interagiert mit dem System. Und da ist natürlich wahnsinnig großer jetzt Überlapp. Warum quasi ein Reanforcement Learning System ohne Ducal Kilos und so weiter klarkommt, ist, weil es, wenn es, sagen wir mal, irgendwie eine Spurious Correlation für bare Münze nehmen würde dann würde das ja früher oder später mit den Entscheidungen die es trifft schlecht sein und es müsste wenn es wenn das Training vernünftig funktioniert damit diesen Teil dann ausmerzen und sozusagen nur noch die Korrelationen, sag ich jetzt mal, übrig behalten, die auch realen Wirkmechanismen entsprechen. Das bisschen wie bei 'ner medizinischen Studie mit so randomisierten Studienteilnehmern und so was. Du versuchst da auch quasi durch deine Interaktion mit der Umwelt so zu designen, dass Du nachher quasi idealerweise nur noch die richtigen oder die die erwünschten Korrelationen übrig hast, die dir nützlich sind. Es gibt aber noch einen anderen Grund würde ich sagen bei Reanforcement Learning oder wo würde Du calkyluster Sinn machen? Nehmen wir an Du bist jetzt ein Reanforcement Roboter und bevor Du anfängst relatable ja bevor Du genau okay nehmen wir an Du bist nee nee ich bin Roger the robot ich interagiere mit meiner Welt Schokolade zu kriegen okay du bist Roger the robot du interierst mit deiner Welt Schokolade zu kriegen aber du gehst du wirst nicht komplett unwissend und nackt auf die Mausoberfläche oder wo immer die Schokolade versteckt ist losgelassen sondern vorher darfst Du dir 100000 Stunden Videomaterial von deinen Vorgängern anschauen und die und die beobachten. In dem Moment, wo Du versuchen möchtest, aus diesen Daten zu lernen, was wie kannst Du mit der Umwelt reagieren, interagieren meine ich, da musst Du quasi auf das, was Du da siehst, ein kausales Modell anwenden. Weil Du weißt ja nicht, streng genommen jetzt, hat der die Schokolade gefunden oder also war die Schokolade da, weil er dort hingefahren ist oder ist er dort hingefahren, weil die Schokolade dort war? Also wenn Du jetzt so ganz naiv bist, weißt Du das ja vorher nicht. Also in dem Moment indem Du quasi aus 1 aus Beobachtungen dann Handlungen ableiten möchtest wäre der Du kein düster sehr sinnvoll aber der in der Regel sofort damit anfängt zu interagieren zumindest in also in der Regel so wie ich das kenne jetzt okay bei bei Alpha Go haben die glaube ich schon ein bisschen für die Mustererkennung mit verschiedenen Partien vortrainiert aber der reinforcement Teil so wie ich das kenne zumindest liegt in der Regel sofort los Und dann dann merzt er sich quasi die Irreümer selber aus. Mhm.

Speaker0: Mhm. Das wär übrigens 'n total cooles Thema für unser Meet-up, dass wir immer dekonstruieren, wie der Algorithmus hinter Go Zero funktioniert. Stimmt. Wobei ich mich da nicht auskenn. Aber vielleicht gibt's ja jemanden unter den Complexitymasters, der oder die möge sich Sind wir wieder so weit? Bitte melden. Das ist sone, wer war das? Jörg Pilava, nee, Kai Pflaume, bitte melde dich. Weiß ich nicht. Oh Gott, neunziger Fernsehen. Okay, oh man.

Speaker1: Schnappt wir mal einfach einen im Meet-up und dann wird der verdonnert.

Speaker0: Ja, ja, genau, genau. Uje, was dabei rauskommt. Nee. Lass uns da mal lieber zum letzten Punkt tatsächlich springen. Und zwar, ich hab ich hab noch einen schönen Begriff. Wer das Buch von Shurea Pearl, The Book of Fire, gelesen hat, der kennt es oder die die die kennen das bestimmt schon, nämlich den Begriff der Counter Facts. Mhm. What the hell?

Speaker1: Wie war das? Oder? Oje. Egal, haben wir das Thema. Also na gut bei Julia Pur, der führt ja doch diese 3 Stufen ein. Das 1. Ist, Du beobachtest im Prinzip. Das ist dieses, wenn ich x sehe, was sagt mir das über y? Okay. Und das wär jetzt so klar das wär diese Korrelationsebene ne also es interessiert mich nicht was was bedingt hat ich möchte einfach nur ich ich möchte da die Informationen verwerten das Informationstheorie Dann die 2. Stufe ist diese Intervention. Also wenn ich y tue, was passiert dann mit x oder umgekehrt? Ja, da da wär da da kommt dann der Dukkankidus rein. Also wenn ich auf Basisvollen Beobachtungen vor allem das entscheiden möchte, dann brauch ich den Dukkankidus. Und was er dann als 3. Stufe sagt vielleicht brauchte der auch einfach 3 Stufen weil das also 2 Stufen alles was cooles ist 3 ja ja genau also mein Sohn hat das zu sagen jetzt ist x jetzt ist y passiert wäre das auch passiert wenn X anders gewesen wäre also sozusagen son bisschen dieses hypothetischere nicht jetzt ich plane jetzt irgendwie keine Ahnung irgendwie ich springe oder sowas sondern ich überlege okay wenn ich gesprungen wäre hätte ich dann den Apfel vom Baum erwischt oder was auch immer oder wenn der Mann nicht geraucht hätte hätte er jetzt trotzdem Lungenkrebs das sind ja so diese das nennt der deswegen Counter factual weil man hat ja schon den Datenpunkt der Mensch hat Lungenkrebs das heißt aus dem quasi informationstheoretischen Aspekt ist ja irgendwo die Frage dann wenn man so ganz orthodox ist ja Nonsinn wir haben doch das den Datenpunkt der man hat nur konkret stellen Sie keine weiteren blöden Fragen aber wenn man jetzt deswegen nennt er das Counterfactuars wenn Du dann überlegen möchtest den hypothetischen Fall wenn ich alles andere gleichlasse, nur zum Beispiel die nur jetzt die Zigaretten verändere, also dass der nicht raucht, hätte der dann trotzdem Lungenkrebs bekommen. Also diese Art von Fragen, das ist so dieses Counter Factsual. Ich finde, das ist grundsätzlich sehr ähnlich mit dem wie mit der Intervention. Nur das eine ist irgendwie zukunftsgerichtet und das andere Vergangenheitsgerichtet. Aber er er stellt halt noch mal hervor, dass das philosophisch konzeptionell ja und der ein oder anderen Stelle methodisch vielleicht auch ein bisschen unterschiedlich ist.

Speaker0: Von der mathematischen Perspektive, ich versuche mir immer dazu merken, die zukunftsgerichtete Variante, die marginalisiert über alles, was ich nicht festlege. Die Counterfactual Auswertung, das ist ja in allen in allen Variablen ein konkreter Wert, nämlich der tatsächliche Wert aus der Vergangenheit eingesetzt.

Speaker1: Ja nicht ganz also nicht ganz du also du tauscht hypothetisch jetzt ein Glied in der Kette aus ja zum Beispiel die Zigaretten wenn jetzt zwischen Zigaretten und Lungenkrebs noch 10 andere auch von Zigaretten beeinflusste Parameter liegt die die lässt Du nicht unverändert sondern Du versuchst diese Parameter jetzt mit dem geänderten Wert für Zigaretten kannst Du dir vorstellen wie mit dem gleichen Random Seat neu zu erzeugen. Also Du versuchst all die Zufallsfaktoren, er nennt das, glaub ich, irgendwie Video Cinchratic Facts oder so was, also Du nennst diese ganzen, also Beispiel Mittelwert war 0 aber rausgekommen ist 1 jetzt und wenn Du jetzt den Mittelwert auf 1 einsetzt ja weil so weil Du zum Beispiel Rauchen mit Nichtrauchen tauscht dann würdest Du dann sagen okay jetzt vorher war's 1 über Mittelwert, es soll jetzt immer noch 1 über Mittelwert sein und machst Du aus dem anderen dann eine 2. Also sozusagen versuchst die Randomess, die im System war, die versuchst Du dir also diesen konkreten random State den versuchst Du quasi zu erhalten ne das das ist auch blöd das Eis ein bisschen aber aber es ist auch sehr interessant

Speaker0: okay aber jetzt pass auf Das Beispiel mit den Zigaretten, ja, das ist, finde ich, sehr einleuchtend so, was wäre gewesen, wenn diese Person mit ihrem gesamten Leben, das sie gelebt hat, wenn sie das genauso gelebt hätte, nur stets die Zigaretten weggelassen hätte. Und okay, aber das ist für mich son, na ja, wie Du schon gesagt hast, so ein rückwärts gerichteter Case im Endeffekt, der für mich nur fürs Blaming taugt. Wozu brauch ich dann sone Analyse? Weil irgendwie, es ist keine Explore Strategie, es ist keine Exploit Strategie. Ich seh da irgendwie nur den Nutzen des Fingerzeigens dadrin. Oder überseh ich da was?

Speaker1: Na ja, man kann sozusagen eine Ursache finden, den Verursacher zu beschuldigen. Oder Du kannst halt versuchen, daraus vielleicht zu lernen, wie man per wie das vielleicht per Design in Zukunft nicht mehr passiert. Aber ja, das ist jetzt

Speaker0: Ich kann dir die Frage nicht befriedigend beantworten. Das ist jetzt quasi geht ins Moment aber der oder? Der der der 2. Punkt ist aber spannend. Das heißt, ich würde ableiten, wie ich meinen kausalen Graphen ändern muss, das Verhalten maximal wirklich maximal wirksam zu verändern.

Speaker1: Ja, vielleicht, ne, also Okay.

Speaker0: Ich merk schon, da machen wir mal noch eine eigene Folge dazu. Nur jede Idee ist ja dann wird dann die Philosophen Folge. Die Philosophen Folge, sehr gut, sehr gut. Wunderbar. Also wenn wenn euch an der Stelle nicht der Kopf raucht, mir raucht ja. Danke, Maxime für die sehr coole Diskussion. Ich hoffe für einige Komplexity Masters da draußen konnten wir ein bisschen Licht in den ins Dunkel bringen oder den den Nebel wegwehen, whatever. Heute ist nicht mal ein Tag mit Redewendungen. Aber wofür es schon die richtige Zeit ist, es ist für die Frage, was machen wir nächstes Mal? Und zwar nach dieser definitorischen Folge wollen wir uns nächstes Mal komplett ein Beispiel kümmern. Nämlich bisher war es ja so, dass die Beispiele ja einfach aufgrund ihrer illustrativen Wirkung doch sehr einfach gestrickt waren, eben mit brennendes Haus und ist die Feuerwehr around. Ja, da lacht man rüber. Ja, das ist so offensichtlich durchschaubar. Und spannend wird's ja aber dann an dem Punkt, wo ich nicht unmittelbar erkenne, dass ich 1 Fehlinterpretation 1 kausalen Richtung aufsitze und dadurch, es geht ja am Ende immer ums Ableiten der Handlung, am Ende in der Realität eine Fehlentscheidung treffen würde. Mhm. Und da haben wir ein, 2 Beispiele vorbereitet, die wollen wir nächstes Mal durchgehen. Und bis dahin, Maxim, ich dank dir und freu mich aufs nächste Mal mit dir. Ich mich auch. In diesem Sinne, Master die Compactity.

Speaker2: Jeden Dienstag erscheint eine neue Folge von The Erium Podcast. Auf dem Laufenden zu bleiben, folgt uns auf Facebook, Instagram, Twitter und LinkedIn. Wenn ihr uns unterstützen wollt, gebt uns eine 5 Sterne Bewertung auf Apple Podcasts, folgt uns auf

More episodes from season 4 →