Missing Values

- Dr. Theo SteiningerCo-Founder & CEO at Erium
- Prof. Dr. Christian HeumannGuest, Professor at the Department of Statistics, LMU Munich
Overview
This episode of the Erium Podcast is all about missing values in datasets. Host Dr. Theo Steininger speaks with Prof. Dr. Christian Heumann from LMU Munich about how frequently missing data occurs in practice, what causes it, and which statistical methods - in particular multiple imputation - can be used to handle it intelligently.
About the guest
Prof. Dr. Christian Heumann is a professor at the Department of Statistics at Ludwig Maximilian University of Munich (LMU). His research and teaching focus includes, among other things, the field of missing data as well as related topics such as graphical models and Bayesian statistics. He actively researches modern imputation methods and their combination with machine learning techniques.
Summary
What are missing values and why do they occur?
Missing values are entries that are absent within a dataset - typically indicated by NaN, null, or other placeholders. The causes are varied: in surveys, participants frequently refuse to answer sensitive questions (e.g. about their wealth); in industry, sensors fail or deliver faulty data; and when merging multiple data sources, features that are only present in parts of the data are often missing. Prof. Heumann emphasises that missing values are practically always present in survey data in particular - there is hardly any real-world dataset without missing values.
Why missing values should not simply be ignored
Simply removing records with missing values - also known as 'complete case analysis' - can lead to serious problems. On the one hand, a great deal of information is often lost in the process: Prof. Heumann cites an epidemiological study example in which, after deleting all incomplete cases, only 50 data points remained from an original 3,000. On the other hand, results can be heavily distorted when data is not missing at random - in the worst case, identified relationships can even reverse direction, invalidating the entire analysis. Naive replacement with the mean is also problematic: it artificially reduces the variance of the feature and destroys the correlation structure with other variables.
Multiple imputation as the statistical gold standard
The approach recommended by Prof. Heumann is multiple imputation. Rather than replacing missing values once with a single estimated value, several plausible replacement values are generated in order to explicitly capture the uncertainty arising from the missing data. The goal is not to hit the exact missing value, but to preserve the distribution of the data as well as possible. There are two broad approaches: modelling the joint distribution of all features (which quickly reaches its limits at high dimensionality) and more flexible sequential regression methods, which estimate a separate regression model for each feature conditional on all other features and iterate through all variables.
Technical details: ordering, Markov chains, and high dimensionality
A technically interesting aspect of sequential imputation methods is the question of whether the order in which variables are processed affects the result. Prof. Heumann explains that the sequences generated correspond theoretically to Markov chains that converge when correctly specified - so the order should theoretically not matter. In practice, however, it is advisable to randomly permute the order in each pass. Another open area of research is the combination of multiple imputation with modern machine learning methods, as well as the question of how different imputation strategies concretely affect the performance of ML models.
Fields of application: from medicine and epidemiology to industry and marketing
Missing value methods are relevant across a wide range of fields. In medicine and epidemiology - for example in clinical trials with patient dropouts or large cohort studies - imputation methods are already well established. There is also great potential in marketing and customer analysis (e.g. for identifying customers for banking or insurance products). In industry and the IoT space, where sensors can fail or fail in a correlated manner, dealing with missing data is present, but the methodology is, according to Prof. Heumann, less mature than in the medical field. Overall, the problem is still too often 'solved' in industrial practice using simple and problematic methods such as mean imputation.
Book recommendation: Judea Pearl and causal inference
As a reading recommendation, Prof. Heumann mentions a book by Judea Pearl - a well-known statistician and pioneer in the field of graphical models and Bayesian networks. In addition to missing data, the book covers topics such as causal inference, for example the question of to what extent extreme weather events can be attributed to climate change. According to Heumann, it is written in an accessible style and is aimed at a broader audience with a basic understanding of statistics.
Key takeaways
- Missing values are nearly ubiquitous in real-world datasets - particularly in survey data, there is hardly a dataset without missing values.
- Deleting incomplete records can lead to dramatic information loss and heavily distorted or even completely incorrect analysis results.
- Naive mean imputation is problematic because it artificially reduces variance and destroys the correlation structure between features.
- Multiple imputation is the statistical gold standard: replacing missing values multiple times correctly captures the uncertainty arising from the missing data.
- Sequential regression methods (the MICE approach) are particularly flexible because they can handle both metric and categorical features jointly.
- The combination of multiple imputation with modern ML methods is an active area of research with many open questions.
- In industrial practice, the problem of missing values is still too often handled with unsuitable methods - in contrast to medicine and epidemiology, where imputation is already standard.
- Transparency about the assumptions used is essential in any imputation strategy in order to make analyses scientifically defensible.
Conclusion
Missing values are not a peripheral problem in data analysis, but a pervasive challenge that must be taken seriously. Simply omitting them or replacing them with the mean is not a good solution in most cases and can fundamentally distort analyses. Prof. Dr. Christian Heumann demonstrates that statistically sound and practically viable alternatives exist in the form of multiple imputation - in particular sequential regression methods - which explicitly account for the uncertainty introduced by missing data.
For data scientists and ML practitioners
Anyone training machine learning models on real-world data should actively engage with imputation strategies. Naive handling of missing values can severely impair model performance and the validity of results - multiple imputation is the recommended approach here.
For decision-makers and analysts in organisations
In industrial practice, missing values are often still underestimated or handled with simple methods. Particularly in customer analytics, IoT data, and the merging of heterogeneous data sources, it is worthwhile to invest in more robust imputation methods in order to obtain valid results.
For researchers and students of statistics
The combination of multiple imputation with modern ML methods, as well as questions of inference under missing data, are active research areas with many open questions - a rewarding field for academic work.
Show full transcript
Speaker0: Herzlich willkommen zu 1 weiteren Ausgabe von The Irian Podcast, in der wir zusammen mit Professor Doktor Christian Heymann von der LMU über sprechen möchten. Doch zunächst einmal, was sind überhaupt? Sind fehlende Einträge innerhalb 1 Datenbestandes, ne. Also zum Beispiel hat man ein Feature und innerhalb dieser Spalte fehlen einfach ein paar Einträge. Das kann gekennzeichnet werden mit oder 1 0 oder für die Sie sich an die Folge erinnern, mit irgendeinem speziellen Flaut, wenn's ganz doof läuft. Und solche können verschiedene Entstehungsgründe haben. Zum Beispiel könnte ein Sensor ausfallen oder bei 1 Personenbefragung möchte zum Beispiel jemand sein, sagen wir mal, Vermögen nicht preisgeben. Oder wenn's ganz doof läuft, gibt es gar keinen Grund, warum diese Werte fehlen. Es ist wichtig, sich mit den innerhalb 1 Datenbestandes auseinanderzusetzen, damit die Analyse nicht verfälscht wird. Und dieses Problem anzugreifen, gibt es verschiedene Methoden. Zum Beispiel könnte man einfach die Daten mit den rausnehmen rausnehmen und das Risiko eingehen, so sehr viel Information zu verlieren. Oder was man auch machen könnte, ist, den Mittelwert dieser Spalte einzusetzen, was die Verteilung der Spalte verfälschen könnte. Oder man macht intelligentes Feature Engineering und nutzt die bereits vorhandenen Daten, sprich die Datenpunkte, wo es keine gibt, die klug zu füllen. Wie das vonstattengeht und was es da für Ansätze gibt, darüber sprechen wir jetzt zusammen mit Professor Doktor Christian
Speaker1: Holmer.
Speaker0: Und damit herzlich willkommen zum zweiten Teil dieser Ausgabe von Ihrem Podcast. Mir gegenüber sitzt jetzt zu meinem großen Glück der Herr Professor Doktor Heymann. Herzlich willkommen. Schön, dass Sie da sind. Könnten Sie sich vielleicht kurz vorstellen, damit
Speaker2: Hörer wissen, mit wem wir's zu tun haben? Ja, wie Sie gesagt haben, mein Name ist Christian Heumann. Ich bin hier an der LMU am Department für Statistik. Mhm. Und mach halt hier Vorlesungen und Vorschälen im Bereich
Speaker0: fehlender Daten, unter anderem auch. Genau. Und deswegen sind Sie der perfekte Gast für uns. Und vielleicht, mal ein Bild am Anfang zu bekommen über die Welt der Statistik vielleicht auch, ja. Wie gravierend ist denn das Problem? Ist das so, dass das hin und wieder mal vorkommt oder ist es wirklich eine sehr präsente Sache, dass es quasi keinen Datenbestand ohne gibt? Was würden Sie sagen? Ja, ich würde mal sagen, das hängt 'n bisschen von
Speaker2: dem von der substanzwissenschaftlichen Fragestellung ab. Wenn man zum Beispiel von Befragungsdaten ausgehen, also wo Personen befragt werden, Mhm. Sind eigentlich fehlende Werte immer vorhanden. Okay. Da kann man also davon ausgehen, dass man eigentlich gar keine Datensätze bekommt, in denen keine fehlenden Werte Okay. Vorkommen. Weil die Leute manche Sachen nicht preisgeben wollen oder? Genau. Das kann sein, dass die, wir sprechen dann meistens von 2 verschiedenen Sachen. Mhm. Eben, wenn ich eine befragte Person, wenn eine befragte Person überhaupt keine Auskunft gibt, also keine Frage beantwortet, dann sprechen wir von. Okay. Gesamte Einheit sozusagen, die Auskunft verweigert. Oder wenn einzelne Fragen nicht beantwortet werden von. Okay. Und im Endeffekt ist so, die Ursachen können verschiedene sein. Natürlich, es kann sein, dass die Person die Auskunft verweigert, weil die Frage sensibel ist. Mhm. Es kann aber auch sein, dass sie einfach keine Lust mehr gehabt hat, die Frage zu beantworten. Ja. Und dass da jetzt dastehen. Genau. Kann man im Grunde nicht wissen, Mhm. Genau, aus welchem Grund die Daten fehlen.
Speaker0: Okay. Und das ist quasi typisch für Personenbefragungen. Mhm. Jetzt gibt's ja natürlich noch weitaus andere Datenbestände. Wie können da vielleicht auftreten? Beispiel im Bereich Industrie.
Speaker2: Im Bereich Industrie, ja, hat man natürlich diese ganze Frage schon mit Sensoren. Mhm. Sensoren, die ja regelmäßig meistens Daten liefern. Und wenn man beispielsweise auf diese Daten angewiesen ist, Ja. Sie weiterzuverarbeiten, ist natürlich 'n Problem, wenn der Sensor plötzlich keine Daten mehr liefert Klar. Oder falsche Daten liefert, weil's ja auch möglich wäre. Ja. Und da gibt's ja sozusagen auch aktuell ja Beispiele dazu, wo es durchaus auch sozusagen
Speaker0: gefährlich werden kann. Genau. Also quasi wenn Sensoren ausfallen oder irgendwie falsch eingestellt sind,
Speaker2: dann kann so was auch auftreten. Wo so was auch sehr häufig vorkommt, ist natürlich wieder eine gewisse andere Art von Fehlendaten, wenn Sie Datenbestände zusammenführen. Okay. Wenn Sie zum Beispiel Daten pulen aus verschiedenen Datenquellen, dann ist es natürlich so, dass nicht alle Merkmale oder Features in allen Datenbeständen vorhanden sind. Das heißt, gewisse Features sind wir in Teilen von Datenbeständen vorhanden, in anderen Ebenen. Okay. Und auch da muss man sich dann oft was überlegen, wenn man eben die alle zusammen auswerten will. Wie geht man mit diesem Problem dass man da teilweise die Beobachtungen hat? Also angenommen, ich führ jetzt quasi zu einem Datenbestand einen anderen hinzu, aber der, den ich hinzuführ, hat ein gewisses Feature nicht. Dann bekommen diese Daten, der halt sone
Speaker0: oder halt irgend 'n So ist es. Missing Value. Ja. Alles klar. Also auf jeden Fall ein präsentes Problem. Und wie setzen Sie und Ihre Kollegen sich denn da jetzt mit mit auseinander in Ihrer Forschung? Wie wie sie das Problem? Wie gehen Sie das an?
Speaker2: Na gut, also wichtig wär vielleicht, dass man sich drüber im Klaren ist, was wir eigentlich erst mal, was wir nicht Okay. Machen wollen. Also oder was, wenn wir mal bisschen vermessen wäre, wäre, wenn wir tatsächlich exakt diese fehlenden Werte ersetzen Mhm. Würden oder wenn es die Absicherung, die exakt zu treffen. Mhm. Oder dass ich jetzt genau rausfinde oder genau den Wert treffe, den der Befragte da hätte antworten sollen. Mhm. Sondern es geht eigentlich darum, dass man im Grunde die Verteilung der Okay. Im Endeffekt erhält, ja. Und das macht man eben so im Prinzip, dass wir halt unter gewissen Annahme natürlich die fehlenden Werte ersetzen durch Ersatzwerte und am besten das Ganze nicht nur einmal machen, sondern in den letzten Jahren Mhm. Hat sich eben durchgesetzt, dass wir im Prinzip die Daten immer, die ersetzen. Das heißt durch Mehrfache, durch verschiedene Werte, dadurch sozusagen die Unsicherheit, die durch diese fehlenden Werte zusätzlich reinkommt, mit abzubilden.
Speaker0: Also sozusagen angenommen, ich würd jetzt da einen nur einen Wert reinsetzen, dann verlier ich diese Toleranz, die ja falsch liegen könnte. Genau. Und die wird durch das Multiple Wir würden dann so tun, als wär das einen tatsächlich beobachteter Wert. Und damit natürlich unterschätzen wir tatsächlich die Okay. Streuung, die da in den tatsächlich
Speaker2: die Okay. Streuung, die da in den Daten tatsächlich dann vorhanden wäre. Alles klar. Also es klingt schon mal besser als einfach rausnehmen.
Speaker0: Ja. Und quasi sagen, das bringt nix, da ist kein Datenpunkt. Das ist, ey, nein, kein Fehler. Das ist vielleicht sogar sehr problematisch manchmal oder sogar sehr oft. Also hängt natürlich davon ab,
Speaker2: sozusagen
Speaker0: welchen Mechanismus dahinter Alles sogar falsch spezifischer, ja. Ja.
Speaker2: Und wenn die Daten aber in 'ner bestimmten Art und Weise fehlen, kann es sogar so sein, dass die Ergebnisse stark verzerrt werden. Okay. Also es kann sogar sein, dass sie völlig invalige sind, dass sie Zusammenhänge sich Zusammenhänge umkehren, ja. Also sie können auch völlig falsche Ergebnisse bekommen. Und oft ist es natürlich so, dass die Datenbasis, die üblich bleibt, wenn sie sehr viele Features haben Mhm. Und die alle berücksichtigen wollen und sie löschen jeden Fall raus, indem irgendeines dieser Features fehlt, bleibt Ihnen am Ende ja nix mehr übrig. Die Tabelle wird dadurch quasi nur noch flacher. Genau. Nächstes Mal. Gibt 'n schönes Beispiel, hat mal eine epidemiuralische Studie. Mhm. Wo dann im Endeffekt hätt ich das so gemacht, dass ich alle Fälle rauslösche, während von 3000 noch 50
Speaker0: Okay. Von den Tisch warm. Okay. Also so viel dazu zu der ersten Frage, wo wie oft das wirklich vorkommt oder wie präsent das ist noch. Und Sie haben jetzt quasi gesagt, multiple oder multiple Imputation. Multipli. Genau. Das zu benutzen. Was hat sich da in den letzten Jahren getan? Also jetzt können Sie quasi bisschen von Ihrer Forschung erzählen. Was haben Sie da für Entwicklungen gemacht? Was haben Sie herausgefunden?
Speaker2: Genau, also bei der Multiple oder Multiple Imputation gibt's im Endeffekt 2 Ansätze. Mhm. Grob, ja. Die eine der eine Ansatz versucht sozusagen, die gemeinsame Verteilung aller Features Mhm. Zu modellieren, was natürlich bei sehr vielen Features 'n Problem darstellen. Wir kommen sofort in das Problem Ja. Der hohen Dimensionalität, und so weiter. Genau. Und die andere Art sozusagen, die jetzt 'n bisschen auch flexibler ist, weil sie verschiedene Merkmalstypen, sowohl, ist, weil sie verschiedene Merkmalstypen, sowohl Merkmale, die sozusagen nur Faktoren sind oder Kategorien sind, als auch metrische zusammen ganz gut abarbeiten kann, sind die Ansätze, die sozusagen, die nennen sich
Speaker1: Okay. Am Platz oder
Speaker2: wo im Endeffekt für jedes für jedes Feature oder für jede Variable ein Regressionsmodell Okay. Gebildet wird, bedingt auf alle anderen Variablen. Und dann geht man sozusagen sequenziell durch alle Merkmale durch, macht für jedes Merkmal quasi eine Regression auf die jeweils immer allen anderen Merkmale. Und das Ganze wiederholt man sozusagen in soner Art, ja, sone Art, bisschen sone Art Rationalität Okay. Hoffentlich erreicht. Und dann sieht man aus den Univayaten bedingten Verteilung.
Speaker0: Also sozusagen wird werden die Daten, wo es keine gibt, klug benutzt, daraus im Schlüssel zu den für die für die fehlenden Daten? So kann man's gut ausdrücken. Genau, wir versuchen so an die
Speaker2: Assoziationsstruktur oder Korrelationsstruktur, die in den Daten drin steckt, sozusagen auszunutzen,
Speaker0: die fehlenden Werte zu ersetzen. Dazu vielleicht noch eine Frage ganz kurz, vielleicht kann man da noch bisschen tiefer rangehen. Und zwar angenommen, ich mach jetzt quasi eine Regression für ein Feature und ich möchte das Gleiche danach noch machen für 3, 4 andere Features. Mhm. Inwiefern ist es beeinflusst denn die die, mit welchem Feature ich anfange? Hab ich da quasi, also sozusagen, wenn ich, komm ich das Gleiche raus, wenn ich jetzt mit Nummer 4 anfange, also mit dem mit dem ersten Anfang, wo das fehlt? Oder ist das
Speaker2: Also wenn wir natürlich tatsächlich stochastisch importieren, also durch Mhm. Tatsächlich Ziehen von Zufallszahlen aus diesen Verteilungen, Dann bekommen sie natürlich nicht exakt das Gleiche raus, aber im Endeffekt ist so von der Theorie her, sag ich jetzt mal, dürfte's nix ausmachen. Okay. Wenn die im Endeffekt sind das Markhofketten, die erzeugt werden. Wenn die nicht, sag mal, zyklisch in son zyklisches Verhalten kommen oder so, dann sollte eigentlich nix schiefgehen. Aber natürlich praktisch macht's oft Sinn, dass man sozusagen die Reihenfolge, weil man's ja öfters durch geht durch die Variante, dass man die Reihenfolge eventuell auch zufällig Okay. Jedes Mal sozusagen wieder eine Permutation quasi durchführt, mit welcher Variante man anfängt und mit welcher man dann immer
Speaker0: weitermacht.
Speaker1: Alles klar. Und vielleicht können Sie dann auch aus den letzten Jahren
Speaker0: vielleicht daraus erzählen, auf welche Herausforderungen Sie denn da gestoßen sind. Also welche Probleme, welche Steine haben sich waren Ihnen da in dem Weg, die Sie geschafft haben, aus Welt zu arbeiten?
Speaker2: Na ja, also eine Sache ist natürlich immer, wie gesagt, diese hohedimensionalität von den Sachen. Und was wir ja 'n bisschen gemacht haben, ist, dass wir versucht haben, auch die Inferenz 'n bisschen noch voranzubringen. Mhm. Denn die klassische, sag ich mal, diese klassischen Formeln, die der Donald Rubin Okay. Für parametrische Modelle eingeführt hat und die auch verwendet werden, zum Beispiel eine Varianz 1 Koeffizientenjetsers zu berechnen. Mhm. Diese Formen sind natürlich sehr nützlich und die kann man auch verwenden, zum Beispiel für Intervalle. Aber man würde halt heutzutage oft 'n bisschen flexibler sein, zum Beispiel Verfahren Okay. Anzuwenden. Und wir haben das zum Beispiel kombiniert, mit Multipler Imputation. Da muss natürlich erst mal rausfinden, wie macht man das überhaupt? Gibt's verschiedene Möglichkeiten? Und da haben wir, glaub ich, auch rausgefunden, was sozusagen die beste Möglichkeit wäre, Okay. Die man's tatsächlich dann auch durchführen kann praktisch. Und was natürlich auch immer noch eine, sagen wir mal, ganz aktuelle Fragestellungen sind, sind natürlich, dass man in diesem Bereich
Speaker0: -
Speaker2: Okay. Häufig geht jetzt, ja. Und da tun sie natürlich auch noch mal im im Verhältnis mit, gibt's auch natürlich noch sehr starke Zusammenhänge, die aber eigentlich noch noch erforschen brauchen. Okay. Also das ist quasi das, wo Sie grade dran sind. Ja, und wir auch 'n bisschen was machen dazu, ja. Super.
Speaker0: Alles klar. Dann ganz wichtig für unseren Podcast, unsere Hörer sind auch immer sehr interessiert an Anwendungen. Ja. Und in welchen, also vielleicht aus jetzt in der Vorlesung,
Speaker1: in welchen Bereichen, Berufszweigen vor allen Dingen, sehen Sie denn
Speaker0: vor allen Dingen, sehen Sie denn Anwendungspotenzial für Ihre Methoden von zur Behandlung von?
Speaker2: Also Berufszweige meinen Sie jetzt, wer sozusagen diese Methoden verwenden Genau. Das ist sag ich mal, ja, also im Endeffekt generell natürlich alle Leute, die mit mit sozialwissenschaftlichen Datensätzen arbeiten. Also alles, was Umfragedaten Mhm. Betrifft, müssen sich letztlich diesem Problem stellen. Dann natürlich Biostatistiker, die zum Beispiel in der klinischen Forschung arbeiten, also bei klinischen Studien haben wir oft das Problem eben mit Dropouts zum Beispiel, ja, also dass die Patienten nicht mehr in der an der Studie teilnehmen. Und dann natürlich ganz stark die epidemiologischen Studien. Okay. Denn da hat man in der Regel sehr hohe Fallzahlen, oft sehr hohe Fallzahlen, viele Merkmale. Und da macht's eben auch Sinn, eben diese Imputationssitzung zu verwenden. Wobei man sagen muss, dass die da auch schon sehr, diese Gemeinde sozusagen schon sehr aktiv in der Vergangenheit von diesem Verfahren ist. Genau, da hatt ich sogar was von Ihnen gesehen zu,
Speaker0: glaub ich, zum, vielleicht fällt jetzt auch nicht ganz so ganz völlig. Ich hab die gesehen
Speaker2: Ja, das war ein, wo man sozusagen versucht, einen bestimmten Ansatz Mhm. Sowohl für Messfehler Variablen, also für Fehlverhalten Messfehler anzuwenden, also für Fehlerdaten. Wenn man so will, 'n 'n fehlendes 'n fehlender Wert ist sozusagen ein 1 Variable, wo sozusagen der Messfehler quasi Okay. Ziemlich groß werden kann, ja. Und im anderen Fall sozusagen und das hier, genau, das war eine 1 Anwendung, die auch kombiniert wurde noch mit grafischen Modellen. Das war also schon relativ anspruchsvoll. Wobei man sagen muss, dass dass natürlich solche, sagen wir mal, bei solchen Analysen man einfach immer klar kommunizieren muss, welche Annahmen steckt man genau rein? Mhm. Und dann ist es auch okay. Denn es ist klar, dass man diese Analysen immer in irgend 'ner Weise angreifen kann, weil man sagt, okay, ja, hier wird die Varianz zu groß gewährt für den Messfehler oder zu klein. Oder die Annahme, Ja. Was ja meistens vorausgesetzt wird an diesen ganzen Imputationsverfahren, ist nicht ist hier nicht gegeben und so weiter. Aber ich denk mal, der Punkt ist, wir müssen's klar kommunizieren, welche Annahmen wir reinstecken. Das muss ja auch 'n Paper sein. Wenn die Daten, wenn der Code offen ist, dann der Analysecode, dann haben wir auch nicht das, können wir uns diesen, sag ich mal, Kritiken auch stellen, ja? Ja. Aber es ist auf jeden Fall besser, wie einfach die Daten wegzuschmeißen. Ja. Definitiv. Wo uns viel hinweg drin hat. Ah, okay. Dann haben wir im Prinzip natürlich auch in dem Ganzen alles, wo Kundenanalysen gemacht werden. Also werden ja heute überall Kundenanalysen gemacht, zu schauen, welche Kunden kann man ansprechen, die vielleicht 'n noch 'n weiteres Bankprodukt oder Versicherungsprodukt kaufen wollen oder? Und da hat man auch eben in der Regel Daten mit sehr, sehr vielen fehlenden Werten, wo man auch was machen kann. Also für cleveres Marketing Für cleveres Marketing, ja. Ja. Und in der Industrie haben wir ja schon diskutiert zum Beispiel diese ganzen Sensorfragestellung IOT, Da hat man natürlich auch, wobei man da ja auch wahrscheinlich eher, sag ich mal, von auswählen kann ja, dass also die Daten tatsächlich in 'ner gewissen Weise zufällig fehlen und nicht von dem irgendwas anderem abhängt. Aber auch das ist natürlich nicht sicher, genau. Und ich muss sagen, dass 'n Sensor auch die Wahrscheinlichkeit die Daten nicht liefert, wenn 'n anderer Sensor auch die Daten nicht liefert. Also dass solche Abhängigkeiten gibt.
Speaker0: Genau. Genau. Also mannigfaltige Anwendung Ausmickfaltige
Speaker2: Anwendungsmöglichkeiten, Ja. Und wichtig ist immer eben zu betonen, das Weglassen kann auch echt böse Konsequenzen haben, weil sich ganze Analyse wirklich eigentlich inmalidiert wird.
Speaker0: Vielleicht 'n Punkt, also oder eine Frage dazu. Würden Sie denn sagen, das passiert zu oft? Also würdest würden Sie sagen, dass das imputation von Missing Values, ja, ob das genug gemacht wird oder wird da noch zu oft gehandwaft? Dass man sagt, oh Gott, es sind Missing Values, Ich versteh nicht lieber weg damit. Oder wird schon clever genug mit
Speaker2: umgegangen? Was würden Sie da sagen? Ich würd sagen, in gewissen Bereichen eben in der Medizin, würd ich sagen oder bei medizinischen Daten oder epidemiologischen Daten wird schon viel gemacht. Aber ich denk mal, so in der Industriepraxis wird damit noch
Speaker0: Nicht weniger arbeiten. Okay. Oder es werden eben so sehr
Speaker2: fragwürdige Methoden wie Mittelwertsimputation oder natürlich dazu führen, dass sie die Streuung in diesem Feature völlig verringern, weil sie ja sozusagen immer den gleichen Wert versetzen. Und auch die Zusammenhangsstruktur mit anderen Features letztlich zerstören, wenn sie das, das dann Genau. So
Speaker0: wenn sich an unsere Folge zu erinnert, da hatten wir das auch irgendwie kurz gesagt, dass wenn man sich dann das Histogramm anschauen würde, dann hätte man bei Mittelwert auf einmal son son Son Tief. Sone riesige Säule. Mhm. Und der Rest ist relativ flach.
Speaker2: Da gibt's auch noch relativ wenig dazu, inwieweit sich das zum Beispiel auf die Performance Okay. Son Machine Learning Verfahren auswirkt. Wenn man a zum Beispiel die Fälle komplett weglässt oder wenn man b solche Einfernersetzungsmethoden macht. Oder c dann eben komplexere Imputationen, ob's sozusagen wie groß der Vorteil ist, der sich ergibt. Das müsste man eigentlich, wär auch noch 'n interessantes Thema, wo man eigentlich auch, wo's auch noch nicht so wahnsinnig viel, denk ich mal, gibt dazu. Okay. Dann kleine Interessensfrage, was finden Sie schlimmer? Mittelwert einsetzen oder komplett rausnehmen?
Speaker0: Schwierig zu sein. Beides schlimm, genau. Test oder Test oder Cola oder? Genau, jetzt zum Ende hin. Ja. Vielleicht noch eine kleine Bitte. Wir wollen immer noch unseren Hörern was mitgeben. Jetzt haben Sie quasi die Chance, haben Sie vielleicht irgendeine Form von Inspiration, irgendwas, was Sie unseren Hörern noch mitgeben wollen? Einen cleverenslogan Einen cleverenslogan Oder vielleicht ein 1 Produkt.
Speaker2: Na, ich hätt noch 'n 'n ganz gutes, 'n Literaturvorschlag. Sehr gut. Ja. Und zwar gibt's von einem relativ bekannten Statistik, der sehr viel im Bereich Mhm. Grafische Modelle auch gemacht hat und Base Mhm. Insolvenz auch. Julia Pearl hat das Buch geschrieben. Okay. Und das ist 'n sehr nettes Buch, das liest sich, also 'n bisschen Verständnis natürlich von Statistik als hilfreich. Aber er geht eben diesen ganzen Fragestellungen auch auch Themen wie fehlende Daten, kausale Inferenz. Also können wir zum Beispiel können wir zum Beispiel sagen, dass eine Extremwettersituation zu 'ner gewissen Wahrscheinlichkeit schon dem Klimawandel
Speaker0: zuzuschreiben ist oder nicht? Ja, sehr gut. Die Fragestellung werden da. Johannes, denk, ist auch ja von allgemeinem Interesse. Also nicht sehr so ganz speziell auf eine Fragestellung, sondern sehr nettes auch bisschen philosophisches Buch. Sehr schön. Ja super. Damit können unsere Hörer jeden Fall was anfangen. 'N Link dazu findet ihr dann auf jeden Fall in den Shownotes. Da findet ihr dann das Buch. Dort findet ihr auch noch eine weitere Jupiter Notebook Datei, wo wir mal verschiedene Methoden von ausprobieren und schauen, wie sich das auswirkt auf die Analyse beziehungsweise den Machine Learning Algorithmus, den man dann benutzen möchte, je nachdem, was man denn macht. Und ja, jetzt bleiben wir noch zu sagen, vielen Dank an Herrn Heumann. Toll, dass Sie dabei waren. Und dann würd ich sagen, Master the Complexity. Damit wir weiterhin für euch Complexitymasters hochwertigen Content produzieren und erstklassige Gäste einladen können, brauchen wir eure Unterstützung. Lasst uns auf Apple Podcasts eine 5 Sterne Bewertung da und drückt am besten direkt den Follow Button, uns zu supporten und keine Folge mehr zu verpassen. Bis zum nächsten Mal.