Christian Thiel – Head of Unit Data bei QUNIS

- Dr. Theo SteiningerCo-Founder & CEO at Erium
- Christian ThielHead of Unit Data at QUNIS, Consultant Data Engineering, Data Architecture & Data Science
Overview
In this episode, Dr. Theo Steininger speaks with Christian Thiel, Head of Unit Data at the data and analytics consultancy QUNIS. The two discuss how data science projects are built from infrastructure through algorithms to production deployment, what role MLOps and model lifecycle management play, and why close co-creation with the client is decisive for project success.
About the guest
Christian Thiel has been a consultant at QUNIS, a consultancy specialising in data and analytics, since September 2020, and Head of Unit Data there since September 2021. A trained electrical engineer who specialised in pattern recognition during his studies, he previously worked for several years as a data scientist at an internationally operating metal processing specialist. At QUNIS he covers a broad spectrum: from data architecture and scalable data lake infrastructures through containerisation with Kubernetes to the development of custom machine learning models and their monitoring in production.
Summary
QUNIS and the Interplay of Data Engineering, BI and Data Science
QUNIS positions itself as a fully integrated data and analytics specialist that delivers both classic BI solutions and machine learning projects. The foundation is always a solid data infrastructure - ranging from simple SQL Server architectures to enterprise-wide data lakes. Building on this, QUNIS provides self-service analytics, dashboards and data science solutions. Christian explains that the team deliberately distinguishes between data management (structured data, classic data warehousing) and data engineering (poly-structured data, data lakes) before the data scientist even begins actual model development.
Broad Expertise as a Competitive Advantage - and the Challenge of Staying Up to Date
Christian's strength lies in the combination of architecture, engineering and data science knowledge - a breadth that was not actively planned but emerged organically: when he wanted to apply machine learning after graduating, he found that the data foundation was not fit for purpose and worked his way into the topic of data architecture from there. Today he benefits from being able to assess use cases holistically. Particularly challenging, according to Christian, is keeping up with data management tooling: new file formats such as Apache Iceberg (Netflix), Delta Lake (Databricks) or Apache Hudi (Uber), as well as metadata management tools like Project Nessie, are evolving rapidly. His strategy: follow curated RSS feeds to maintain a broad overview, and dive deeper when a specific need arises.
Practical Example Henkel: Optimising Free Trade Agreements with Anomaly Detection
Christian cites a collaboration with Henkel as a particularly formative project. The goal was to automatically check whether the optimal free trade agreement had been selected for tens of thousands of chemical shipments. An anomaly detection model trained on historical transaction data achieved a hit rate of 95 percent for detected anomalies after just ten project days. The key to rapid success: start deliberately simple, find outliers rather than building a perfect rule set, and immediately create transparency for the business unit with a small dashboard. The project is now being continued by Henkel's own team.
MLOps and Model Lifecycle Management: What Really Matters After Training
Christian describes three central threads that must be mastered when deploying ML models in production. First, data availability: does the data arrive on time and with sufficient quality? Second, the runtime environment: does the model run on Kubernetes, as a serverless function, or within a dedicated framework such as MLflow or Airflow? And third, monitoring and model lifecycle management. Models are subject to concept drift - the world changes, equipment is replaced, priors shift. Christian recommends shadow deployments, in which a new model runs in parallel with the production model before taking over, as well as defined support vectors that ensure a new model does not perform worse than its predecessor in critical areas.
Agile Approach and Four Project Phases at QUNIS
QUNIS structures projects into four phases: strategy consulting (aligning business objectives with the use case and assessing the data situation), functional design (translating requirements into technical architectures), implementation, and final training for the client. For Christian, an agile approach is non-negotiable in data science projects, since no one can guarantee in advance whether a model will work. The well-known saying 'If it's PowerPoint, it's AI - if it's written in Python, it's ML' illustrates how important a sober assessment of what is actually feasible is before a project is started.
Co-Creation and Knowledge Transfer as a Core Principle
A recurring theme throughout the conversation is the commitment to never leaving the client with a black box. QUNIS accompanies the client from the very beginning, actively involves domain experts, and ensures complete documentation and training at the end of the project so that the client's team can maintain and further develop the solution independently. Christian emphasises that ML solutions without this knowledge transfer will sooner or later fail, because circumstances always change. At the same time, it is important to build trust within the business unit: more interpretable models, traceable results and the early involvement of all stakeholders help to overcome reservations about 'black-box AI'.
Favourite Algorithms and Outlook: What Comes Next?
When asked about his favourite algorithm, Christian names two candidates: XGBoost, because it works robustly out of the box and is also comprehensible to business units through feature importance lists, and transfer learning as a concept that allows building on models pre-trained by large organisations and only fine-tuning the final layers. Looking ahead, he sees movement in both infrastructure and deep learning - in particular, new architectures such as Transformers or Capsule Networks show that fundamental algorithmic innovation continues to be possible. At the same time, he cautions that a focus on benchmark scores sometimes obscures the view of genuinely novel approaches.
Key takeaways
- Data infrastructure is the indispensable foundation of every data science project - without clean, timely data, every model will fail.
- Starting small pays off: a 10-day proof of concept can already correctly identify 95 percent of relevant anomalies and validate the business case.
- MLOps and model lifecycle management are often more demanding than the actual model training and should be factored in from the very beginning.
- Shadow deployments and clearly defined support vectors protect the production environment from uncontrolled impacts of newly trained models.
- An agile approach is not optional in data science projects - no one can guarantee in advance whether a model will work.
- Clients must be brought along from the start: knowledge transfer and documentation are just as important as the technical solution itself.
- Transfer learning and XGBoost are battle-tested tools that quickly deliver interpretable and robust results.
- Statistics is the foundation of machine learning - and is far more enjoyable than its reputation might suggest.
Conclusion
The conversation with Christian Thiel shows that successful data science projects require far more than a good algorithm: a robust data infrastructure, well-thought-out MLOps processes, agile ways of working and a consistent knowledge transfer to the client are the real success factors. The pragmatic approach - start small, validate quickly, make things transparent - makes it possible to deliver genuine value even in a short time and to build long-term partnerships.
For Data Scientists and ML Engineers
Invest early in infrastructure, monitoring and lifecycle management - these topics determine a model's success in production far more than the last decimal place in an accuracy score.
For Executives and Project Managers
Enable agile approaches in data science projects and plan for knowledge transfer from the outset - only then do sustainably usable solutions emerge that can be continued without external support.
For Young Professionals and Career Starters
A broad technical foundation - combining data engineering, architecture and data science - is a strong differentiating factor; solid statistics fundamentals pay off particularly well in the long run.
Show full transcript
Speaker0: Ihr hört die Ihrem Podcast, der Data Science- und Machine Learning Podcast für Studienabsolventen und Young Professionals.
Speaker1: Heute zu Gast bei The Ihrem Podcast ist Christian Thiel. Seit September 2020 ist er Teil des Data and Analytics Spezialistenteams bei Qunis. Als Consultant Data Engineering, Data Architecture und Data Science begleitet und managt er Kundenprojekte. Zudem ist er seit September 2021 Head of Unit Data. Zum Fachgebiet des studierten Elektrotechnikers gehören neben der Entwicklung von kundenspezifischen Machine Learning Modellen, insbesondere der Aufbau von skalierbaren Infrastrukturen und Datenlandschaften im Machine Learning Umfeld mit Data Lakes, Containerisierung mit Kubernetis sowie die Themen Monitoring und Lifecycle Management von Modellen. Zuvor war Christian Thiel mehrere Jahre als Data Scientist bei einem international agierenden Metallprozessspezialisten tätig. In seiner Freizeit reist er gerne und viel, tanzt Rock 'n' Roll oder beschäftigt sich mit Heimautomatisierung.
Speaker2: Herzlich willkommen zu 1 neuen Folge von die ERIAM Podcast. Mein Name ist Theo Steininger und heute zu Gast Christian Thiel. Hi Christian, schön, dass Du da bist. Hallo Theo. Vielen Dank, dass ich da sein darf. Sehr, sehr gerne. Ich freu mich sehr auf das Gespräch. Das wird bestimmt sehr, sehr spannend. Wir haben im Intro schon gehört, dass Du einiges an Erfahrung schon sammeln konntest. Speaking of Vita, gibt's da was, das noch zu ergänzen ist oder hatte die Corinna alles abgedeckt?
Speaker3: Na, ich glaub, die Corinna hat da die meisten wichtigen Stationen schon abgedeckt.
Speaker2: Alles klar. Dann nimm uns doch vielleicht noch mal kurz an der Hand. Magst Du noch mal erklären, was genau macht noch mal Qunes, das wirklich richtig einordnen zu können?
Speaker3: Ja, sehr gerne. Qunes ist 'n Data- und Analytics Spezialist, ist eine Consultingfirma. Entsprechend bauen wir BI und eben Analytics Lösungen zusammen mit unseren Kunden aus auf Und 'n ganz wichtiger Teil davon ist eben auch Machine Learning und AI. Gerade in der aktuellen Zeit nimmt das immer mehr an Fahrt auf. Genau und dadurch haben wir an sich bei uns Inhouse eben die die ja die die Expertise eigentlich auf allen Bereichen, die man entsprechend auch fürs Machine Learning braucht, von der Datenbereitstellung performant und skalierbar. Ja, eben bis hin zur zur Data Science, die dann ja letztlich auch den Nutzen aus den Daten zieht.
Speaker2: Okay, cool. Das heißt, das noch mal wirklich explizit zu verstehen, da gehört auch so Themen eben wie BI mit dazu. Das heißt, okay, Daten werden erst mal kontaktiert und dann guck ich die an, bau die entsprechenden Dashboards. Wenn das dann reicht, dann ist es so, aber wenn eben nicht, dann kann man mit Machine Learning bei euch nur noch mal einen oben drauf setzen.
Speaker3: Ganz, ganz genauso ist es. Also die Grundlage bietet eigentlich immer die entsprechende Dateninfrastruktur im Hintergrund. Also bei uns läuft das unter dem Bereich Data Engineering oder Data Management, sei es von von von wirklich kleinen Architekturen basierend auf auf 'ner einzelnen relationalen Datenbank wie 'nem SQL Server eben bis hin zu großen unternehmensweiten Data Lakes und skalierbaren Architekturen. Ja, das ist die Basis und darauf aufbauend bauen wir dann entsprechende ja, BI Systeme. Dazu gehört dann eben auch so was wie zum Beispiel Self Service Analytics, aber eben auch Data Science.
Speaker2: Alright. Da müssen wir uns unbedingt dann nachher gleich noch mal tiefer reingraben in das Thema eben Dateninfrastrukturen und die Technik, die ihr da benutzt. Das finde ich superspannend. Sehr gerne. Vorher aber noch mal ganz kurz zu deinem Arbeitsalltag. Heute, jetzt ist es Viertel nach 10, Postzeitumstellung. Hab ich dich schon bei irgendwas jetzt vorhin unterbrochen? Hatte die vielleicht 'n Daily oder so? Wie sieht 'n Arbeitsalltag bei dir aus?
Speaker3: Ja, grundsätzlich, ich steh meistens morgens gegen 7 ungefähr auf. Dann gibt's erst mal 'n Kaffee, 'n bisschen Frühstück und dabei überprüf ich oder gucken mir 'n bisschen die aktuellen RSS Feeds an, was so neu gekommen ist. Dabei einerseits hab ich viele technische Feeds, die ich gerne lese, hauptsächlich auch von den Produkten, die wir einsetzen, eigentlich einfach mal up to date zu bleiben, was es da für Neuerungen gibt. Aber eben auch Algorithmen, gibt's 'n neues Paper? Genau. Anschließend geht's dann ja, morgens erst mal kurz Slack checken. Gab's in der Nacht irgendwelche Alerts, die man sich schleunigst kümmern sollte? Am besten noch vor dem Daily. Okay. Dann kommen natürlich die ganzen Dailys. Bei mir sind's im Moment in der Regel 2. Genau, da besprechen wir dann einfach, was was gestern gemacht wurde, was man geschafft hat und was entsprechend heute ansteht. Bei uns derzeit in den meisten Projekten basierend auf Jira, aber das wird in der Regel vom Kunden vorgegeben. Ja, genau. Nach den ganzen Dailys geht's dann tatsächlich mit der Arbeit los. Ja, als Beratungsunternehmen oder eben Beratungsumfeld typisch eben auch für für mehrere Kunden. Am Ende des Tages wird das Ganze dann dokumentiert und am nächsten Tag geht das wieder von vorne los.
Speaker2: Du hast vorhin Slack erwähnt und die Alerts, die da rein laufen, ich les da raus oder ich hör daraus, dass ihr Slack automatisiert habt's über entsprechende Plug ins.
Speaker3: Ganz genau, ganz genau. Also wir nutzen in der Regel, also übers Monitoring, ich weiß nicht, ob wir da später auch noch dazu kommen, aber da gibt's da entsprechend auch unterschiedliche Tools, aber Slack ist eben relativ gut integriert mit mit diversen verschiedenen Tools. Man kann natürlich auch auf 'ner Teams Channel alirten und so weiter. In meinen Projekten, das ist jetzt aktuell Slack. Und dann nutzen wir dann entsprechend die Webbooks, zum Beispiel dann aus aus Prometheus oder aus den Applikationen ja entsprechend Warnungen zu verbreiten.
Speaker2: Da würde mich jetzt interessieren, und zwar ist benutzt ihr das dann nur intern Slack oder oder spielen und ziehen da eure Kunden auch mit?
Speaker3: Nee, tatsächlich nutzen wir intern eigentlich fast nur Teams. Ah, okay. Dass die die also Slack war jetzt in in diesem in diesem oder bei meinen Projekten entsprechend vom Kunden vorgegeben. Genau, nee, aber die ziehen da schon auch mit. Also entsprechend irgendeine Chatsoftware haben ja die meisten Kunden dann schon im Einsatz und da richtet man sich dann danach. Es geht ja darum, eine offene Infrastruktur zu schaffen. Ich bin an der Stelle 'n großer Freund von Transparenz. Und grade, ich mein, wir bereiten Daten auf, wir stellen vielleicht Machine Learning Modelle bereit und wir machen das für eine große Anzahl von Nutzern. Und dann möchte ich auch, dass 'n Nutzer, wenn grade etwas nicht funktioniert, selbst in der Lage ist festzustellen, was was schiefgegangen ist. Und son, son offenen, den jeder abonnieren kann, der ist da einfach eine Supermöglichkeit.
Speaker2: Ah, stimmt, stimmt. Ja, ist definitiv 'n Vorteil gegenüber Teams, wo Du ja allein mit der Einladungsmechanik schon wieder deutlich mehr im Zweifel zu tun hast, ja. Und magst Du deine Rolle ins Team einordnen?
Speaker3: Ja, kann kann ich gerne einmal machen. Also grundsätzlich vielleicht zunächst noch mal zu der Team Zusammensetzung. Also wie wie arbeiten wir überhaupt beim Kunden? Welche Rollen haben wir beim Kunden? Welche Rollen haben wir in Projekten? Also da haben wir zum einen haben wir einen Data Architekten in der Regel dabei oder überhaupt einen Architekten, System Architekten, der entsprechend sehr infrastrukturnah ist, der sehr viele Tools kennt und der sich entsprechend am Anfang vom Projekt auch mit dem Kunden zusammen Gedanken darüber gemacht, wie man die Architektur aufbaut. In der in der ersten Projektphase ist das auch in der Regel erst mal auf 'ner relativ hohen Flugenebene. Das heißt, wir unterhalten hier uns hier jetzt noch gar nicht darüber, welche Datenbank wir einsetzen oder welches Monitoring Tool, aber wir platzieren zumindest, was wir sonst später brauchen würden. Mhm. Dann haben wir einen Data Engineer. Bei uns unterscheiden wir tatsächlich noch bei Tunes zwischen Data Engineering und Data Management. Data Management mehr mit dem Fokus auf strukturierten Daten und Datenqualität. Also ich sag mal so, das klassische Data Warehouseing und der Data Engineer, der sich alles drum rum kümmert, also polystrukturierte Daten, Data Lakes und so weiter. Dann haben wir den Data Scientisten. Ja, wir hatten jetzt grade schon 3 Rollen. Der Data Scientist jetzt grade bei mir erst an vierter Stelle, aber wie man immer so schön sagt, auch in Data Science Projekten ist es ja häufig 80 Prozent der Arbeit, die Daten vorher irgendwie aufzubereiten und Datenqualitätsprobleme zu beheben. Genau. Der Data Scientist dann entsprechend dafür verantwortlich, das eigentliche Modell zu bauen, Mehrwert aus den Daten zu ziehen. Genau und dann ringsherum kommen natürlich noch 'n paar unterstützende Rollen. Wir brauchen auf jeden Fall immer einen Domain Experten. Also wir brauchen einfach jemanden, der uns erklärt, ja, die Daten zu verstehen hilft. Vielleicht drück ich's an der Stelle mal so aus. Und 'n Scrum Master, der dies der den Hut aufhat, idealerweise auch nicht direkt im Projekt involviert ist, sondern eben wirklich einfach nur als Scrum Master fungiert und da dann die externe Brille aufhat. Mhm. Mhm.
Speaker2: Konkret auf deine Person dann zugeschnitten. Du bist ja sowohl im Data Engineering, Data Architecture und Data Science unterwegs. Gehst Du dann je nach Projekt in eine der entsprechenden Rollen rein oder bist Du dann doch noch mal übergeordnet?
Speaker3: Nee, also bei mir, ich ich nehm einfach typischerweise in Projekten relativ viele von diesen Rollen wahr. Also grade eben Richtung Architektur am Anfang und Engineering und dann eben die die dahinter. Genau, das mach nicht unbedingt ich alles selbst in Persona, sondern vielleicht eben auch mit 'nem mit 'nem Team dahinter oder noch mit mit weiteren Kollegen, die dann mit ins Projekt gehen. Aber ich bin auch einfach durch meine Historie relativ breit aufgestellt und ich möchte diese Breite auch nicht verlieren. Ich glaube, es hilft auch einfach grade im Data Science Umfeld, wenn man wenn man weiß, wie die Backends funktionieren und wenn man entsprechend auch Backends aufbauen kann, die Data Science Use Cases bestmöglich unterstützen.
Speaker2: Mhm. Magst Du das noch ein bissel genauer erklären? Wie kam's bei dir zu der Breite? Hast Du das aktiv forciert, beispielsweise durch 'n Selbststudium, dann noch mal off Hours? Vom Studium her, denk ich, war ja nur 'n kleiner Teil in überhaupt deiner heutigen Expertise abgedeckt. Du hast dich da massiv noch mal weiterentwickelt. Wurd das vielleicht auch von der Firma gefördert?
Speaker3: Ja, genau. Also ja, eigentlich eigentlich ich würde sagen, der der Ursprung war eigentlich mehr einen Zufall. Ich mein, ich hab im Studium mich, ich hab Elektrotechnik studiert und mich Richtung Pattern Recognition, also letztlich das, was man in der Informatik Machine Learning nennt, aber in der Elektrotechnik schon viel länger vorhanden ist, spezialisiert. Und danach wollte ich Machine Learning machen. Und hab angefangen und hab festgestellt, wie wahrscheinlich viele, dass die Daten nicht passen. Mhm. Und bin darüber dann letztlich in die ganze Architekturschiene, 'n bisschen mehr reingekommen Richtung Data Management, Data Engineering und hab angefangen entsprechend eine Datenlandschaft aufzubauen oder ja, mit aufzubauen und bin darüber dann entsprechend in in dieser Schiene gelandet.
Speaker2: Okay. Und heute profitierst Du, denke ich mal, davon, dass Du eben auch wechseln kannst zwischen den Rollen, up to date zu bleiben, nehme ich an.
Speaker3: Ja, auf jeden Fall. Es ist natürlich auch, also jeder Bereich einzeln für sich bringt derzeit, würd ich schon sagen, eine sehr hohe, eine sehr hohe Geschwindigkeit mit. Es passiert einfach in der ganzen Branche extrem viel. Deswegen ist das durchaus auch herausfordernd, wenn man dann, ich sag mal, diese Breite beibehalten will. Aber nichtsdestotrotz, das hilft natürlich schon sehr, wenn man die verschiedenen Elemente miteinander kombinieren kann.
Speaker2: Okay. Wie sieht's von der Seite der Management Skills her aus? Kam das bei dir auch Working by Doing oder?
Speaker3: Ja, in in erster Linie schon, genau. Also Working by Doing würde ich schon sagen.
Speaker2: Okay, alles klar. Wenn Du jetzt noch mal auf diese extreme Breite blickst, wo denkst Du, fällt's dir momentan vielleicht auch am schwersten Schritt zu halten? Du hast gerade diese Geschwindigkeit in den Einzellomen angesprochen, Aber wo hast Du das Gefühl, wow, da musst Du besonders aufpassen, dass Du wirklich den Ballen oder wie sagt man, ja, dass Du dass Du dann den Anschluss nicht verlierst?
Speaker3: Ja, da gibt's eigentlich, ich würde sagen, 2 Domain. Das eine ist sind Tools im Data Management Umfeld und das andere sind die neuesten Algorithmen im Data Science Umfeld. Ich muss sagen, dass mir mittlerweile der der 2. Punkt etwas weniger wehtut. Vielleicht kommen wir da auch nachher noch mal drauf zu sprechen. Gerade im im Data Science werden Algorithmen immer spezifischer, domainspezifischer, wenn dann das das das neueste neuronale Netz vorgestellt wurde, das jetzt noch einen halbes Prozent besser ist auf den üblichen Benchmarks, dann ist das was, ich sag mal, wenn ich dann mal 'n Bildverarbeitungsproblem habe, dann kann ich mich da immer noch reinlesen. Dann muss ich nicht verstehen, wie das funktioniert. Deswegen ist es mir bei Data Science selbst wichtiger, das das Big Picture zu haben und zu verstehen, was eben allgemein auf dem Markt passiert. Schwieriger oder 'n bisschen schwieriger am Ball zu bleiben ist es, das Ganze auf der Data Management Ebene. Insbesondere in den letzten Jahren hat hier einen massiver Shift auch stattgefunden hin zu zum Beispiel Data Lake Architekturen. Es gab hier diverse Neuentwicklungen, die auch von den großen Firmen im Silicon Valley vorangetrieben wurden, mal 'n paar Beispiele zu nennen. Es hat zum Beispiel Netflix vor ein paar Jahren 'n neues Dateiformat für Data Lakes vorgestellt. Das nennt sich Apatchy Eisberg, was einige von diesen grundsätzlichen Problemen, die Datalakes haben, wie zum Beispiel keine Asset conformity. Also ich hab keine Transaktionssicherheit und all diese Themen. Ich kann schlecht Historisierungen machen. Ich hab keinen Ort für Metadaten, für Schemata. Und was all diese Probleme angeht oder Databrix hat im letzten oder hat im letzten Jahr ja mit Datalaken einen ähnlichen Ansatz gefahren. Es gibt Patchi Houda, Hoodie, was aus dem Uber Stack kommt. Im letzten Jahr wurde eine neues Management Tool vorgestellt. Es nennt sich ProjektNessi, unterstützt letztlich von Dremio an der Stelle auch. Es ist ein Tool, was jetzt auf auf Data Lakes auch Multitable Transaktions so ermöglicht, also dass ich Transaktionen über mehrere Tabellen hinwegmachen kann. Und diese diese Toollandschaft in dieser Welt entwickelt sich einfach extrem schnell. Und wenn man da dann auch noch Kubernetes mit dazu nimmt und die ganzen CNCF Projekte, die im Hintergrund laufen, Apachee die neu vorgestellt werden, dann hat man da schon viel zu lesen.
Speaker2: Und wie wie gehst Du jetzt ganz pragmatisch dann doch noch mal in die Richtung gefragt damit Musst Du auch überall Bescheid wissen oder hat sich vielleicht auch für euch, weil ihr gegenüber dem Kunden der Technologie vorgeben könnt, Frage meinerseits, die Möglichkeit euch auf einen der Pfade zu spezialisieren?
Speaker3: Also ganz konkret, also ich selbst bleibt viel up to date über über RSS Feeds einfach, wo ja schon viele Leute sich die Mühe machen, die Informationen aufzubereiten und in 'ner Form darzustellen. Und wenn mich dann was interessiert, dann dann kann ich immer noch weiter reingraben. Von von von Qunes aus haben wir natürlich, wir haben einen einen Standardtechnologie Stack, Mhm. Den wir 'nem Kunden ans Herz legen. Ich sag's mal so. Aber das ist auch immer etwas, was wir mit dem Kunden zusammen diskutieren. Und in ganz, ganz vielen Fällen können wir uns das auch nicht frei aussuchen, weil es gibt eben vielleicht schon eine Unternehmensstrategie. Gerade im Bereich Monitoring ist das ja heutzutage üblich. Also ja, die die Lösungen, über die wir sprechen, Data- und Analytics Lösungen, das waren früher Lösungen, die die liefen auf 'nem Computer irgendwo unterm Schreibtisch. Die liefen irgendwo in eine Ecke, die war nicht produktionsrelevant. Und dieses Bild hat sich einfach grundsätzlich geändert. Die zentrale IT wollte vor einiger Zeit oft noch nichts damit zu tun haben, weil man eben so spezielle Anforderungen hat. Man braucht jetzt hier wieder eine neues Paket, da wieder eine neues Paket und eigentlich kann man gar nicht arbeiten, ohne irgendwo Administratorrechte zu haben. Und das ist eben etwas, was ja, was sich grundlegend geändert hat. Die die die Data Science Lösungen, Machine Learning Lösungen werden immer produktionsrelevanter und werden zum Beispiel dann eben auch ins Standardunternehmensmonitoring eingebunden. Und viele Firmen haben hier schon was. Also gerade die gerade größere Firmen haben in der Regel Ops Teams, die nichts anderes tun, als ich sag mal den ganzen Tag auf einen Bildschirm zu schauen, den man ihnen natürlich bauen muss. Aber man schreibt dann son Operators Manual für die entsprechende Lösung. Und ja, alle Alerts, die in der ganzen Firma zusammenlaufen, landen bei diesem Team Tag und Nacht. Und man hat entsprechend sone 1. Eingreiftstruppe, die dann einfach dafür sorgt, dass die Lösung, wie man's offline geht, die man entsprechend sone 1. Eingreiftstruppe, die dann einfach dafür sorgt, dass die Lösung niemals offline geht. Und grade bei den größeren Firmen gibt's eben entsprechend dann auch in in vielen Bereichen schon einen Standard. Genau. Oder zum Beispiel auch, gibt es schon eine Cloud Strategie? Gibt es eine Kubernetis, also Cloud native Strategie? Macht man das on premise? Auch on premise kann man ja letztlich durch Kubernetes Cloud nativ entwickeln. Genau, also letztlich, ja, hat man immer diese 3 Abstufungen. Entweder ich hab eben lokal irgendwie eine 'n Monolith ursprünglich. Die 2. Stufe wäre dann, ich geh eine Cloud oder hab einen Hybridmodell, das Cloud Opt Optimize nennt sich das dann in der Regel, was also Dienste, Plattform as a Service Dienste verwendet, sich möglichst wenig Infrastrukturgedanken machen zu müssen. Und dann eben die 3., aktuell vielleicht auch letzte Stufe, cloud native Entwicklungsumgebungen, die dann auch wirklich unabhängig vom Cloud Anbieter laufen, also letztlich eine Containerisierungsstrategie zum Beispiel mit Kubernetes. Und wenn so was schon da ist, dann nutzen wir das natürlich.
Speaker2: Mhm. Mhm. Okay, aber das noch mal zurückzuspiegeln, das heißt, dadurch, dass Du so viel liest und einen Überblick über die verschiedenen Technologien hast, hast Du den hast Du die Möglichkeit, wenn der Kunde dann was Spezielles wünscht, meinetwegen auch aus 'nem Technologie Stack, der bei euch jetzt nicht Standard ist, dich dann halt in kürzerer Zeit einzuarbeiten. Genau, genau. Okay, okay. Weil es hätte mich überrascht und da da seh ich dich auch nicht, dass Du sozusagen jeden Tag 4 Hello World Beispiele nachprogrammierst sozusagen und und all die Frameworks immer neu ausprobierst.
Speaker3: Nein, das stimmt natürlich. Wobei wir schon eben mit verschiedenen Frameworks bei verschiedenen Kunden arbeiten. Insofern hat man ja schon in jedem Projekt mal wieder dann einen ganz guten, eine ganz gute Übersicht.
Speaker2: Alright. Du hast jetzt schon auf 'ner allgemeinen Flughöhe die verschiedenen Projektszenarien beschrieben, find ich schon mal sehr interessant. Gibt's bei dir in der Historie und das macht muss jetzt gar nicht speziell bei Qunes gewesen sein, aber natürlich auch gern, wenn's aus der Zeit kommt, ein Data Science Projekt, das für dich wirklich herausgestochen hat in dem Sinn, dass es beispielsweise sehr, sehr erfolgreich war, warum auch immer, ja.
Speaker3: Genau, also ich ich würd da direkt 'n Projekt von von von Tuness nehmen, ist zwar schon einen einen etwas älteres Projekt, aber man muss sich ja auch immer überlegen, über was man reden darf. Das ist eine große große Einschränkung, große Einschränkung, aber das ist eben bei dem Projekt so. Und das ist für die Firma Henkel. Kennen wahrscheinlich die meisten. Die Firma hinter ja vielen Waschmitteln, Spülmaschinenzubehör und so weiter. Also großer letztlich Chemiekonzern. Und für für Henkel haben wir 'n Projekt gemacht, da ging's da drum, automatisch zu überprüfen. Also es ist letztlich 'n Thema aus aus dem Salesbereich oder Logistikbereich. Und da ging es da drum, mit Machine Learning zu überprüfen, ob für gewisse Transaktionen, also für gewisse Verkäufe, das optimale Freihandelsabkommen gewählt wurde für diesen Verkauf von Daten.
Speaker2: Kann man sich das aussuchen?
Speaker3: Das kann man sich nicht immer, also manchmal kann man es sich aussuchen, nicht immer, aber es gibt eben grundsätzlich verschiedene Wege, über die man Daten, über die man Dinge einführen kann. Und vielleicht hat man auch einfach vergessen, überhaupt 'n Freihandelsabkommen anzugeben, weil man zum Beispiel nicht wusste, ob eine bestimmte Chemikalie unter 'nem Freihandelsabkommen läuft und hat dann einfach zu viel Zoll entsprechend gezahlt. Mhm. Mhm. Genau. Bei diesem Projekt, ja, also es ging, wie gesagt, da drum, diese festzustellen, ob dieses, ob ob ob ein besseres Freihandelsabkommen hätte wählen können oder ob vielleicht überhaupt ein Freihandelsabkommen hätte gewählt werden können. Genau. Das Problem dahinter ist eigentlich son bisschen, dass die, dass das zugrunde liegende Problem zu kompliziert ist, dafür Regeln zu programmieren. Also man könnte sich ja jetzt eigentlich denken, na gut, man hat eine endliche Anzahl von Materialien und man hat eine endliche Anzahl von von Freihandelsabkommen oder vielleicht auch von Ländern zwischen denen man, die da die Chemikalien hin- und herschieben kann oder Produkte hin- und herschieben kann. Und das Problem dabei ist aber, dass die, dass letztlich die die Menge dahinter so groß ist. Also mal 'n paar Zahlen zu nennen, es geht einige 100000 Chemikalien, die entsprechend betrachtet werden müssen. In dem gesamten Prozess tauchen auch deutlich mehr Chemikalien aus, also mehrere Millionen Chemikalien. Davon sind allerdings allerdings nur einige 100000 tatsächlich auch klassifiziert. Also fallen überhaupt unter zum Beispiel Freihandelsabkommen und werden auch überhaupt nur verkauft. Und dazu gibt es eben diverse Freihandelsabkommen, die das Ganze betreffen kann. Also einige 100 Freihandelsabkommen, die entsprechend betrachtet werden müssen, unter die, die sich Chemikalien fallen könnten. Genau. Und jetzt kann man sich natürlich, kann man 'n Domainexperten für sehr, sehr lange Zeit bezahlen, der hier ein sehr komplexes Regelwerk aufschreibt, dafür welche Chemikalie, wenn sie von welchem Land in welches andere Land verschickt werden soll, unter welchem Freihandelsabkommen laufen soll. Aber das ist einfach sehr, sehr zeitintensiv. Und unsere Idee war es damals, also wir haben für Henkel auch einen Cloud Data Warehouse aufgebaut, die diese Daten, die wir da drin haben, auch einfach mal zu nutzen für einen für einen Quick Win. Und hierherzugehen, Data Science Projekt zu machen, zusammen auch mit der Data Science Truppe von Henkel und hier entsprechend mal sonen Modell zu trainieren, was das vorhersagt. Denn Machine Learning ist ja nichts anderes als 'n Regelwerk aus 'n Regelwerk aus Daten zu zu zu lernen. Und genau das hatten wir en masse. Also wir schreiben jeden Tag mehrere 1000 von diesen Transaktionen weg, wie sie tatsächlich gelaufen sind. Und wenn wir jetzt einfach davon ausgehen, dass 'n Großteil davon richtig gelabelt wurde von den Mitarbeitern dahinter, dann können wir durch eine einfache Anomaliedetektion hergehen und ja, feststellen, welche man eben hätte vielleicht besser klassifizieren können oder auf welche man auch zusätzlich vielleicht noch 'n Freihandelsabkommen hätte anwenden können.
Speaker2: Kurze Frage dazu noch mal zu dem Use Case. Und zwar, Du hattest gerade schon erwähnt, ihr geht davon aus, dass die meisten Labels korrekt sind. Das heißt, dass sozusagen der Schwarm eher die richtige Entscheidung trifft. Findet eine Bewertung statt? Angenommen, ich habe jetzt eine Chemikalie, ja, und 2 Freihandelsabkommen wird damit erfasst wie hoch der Vorteil war mit einmal Freihandelsabkommen 1 oder 2 also kann man die auch gegenüberstellen
Speaker3: Also ja, man könnte sie gegenüberstellen, das haben wir in dem Projekt allerdings nicht gemacht. Also wir haben einfach nur überprüft, wenn jetzt nicht im Micaliel quasi von von, ich sag mal, 90 neunzigmal von von Land a nach b verkauft wurde und immer unter einem Freihandelsabkommen lief und jetzt haben wir hier 5 Ausreißer oder oder einen, dann dann war es erst mal das Ziel, einfach den zu finden. Dazu muss man sagen, wir wollten hier wirklich, ich sag mal, relativ schnell einen einen Mehrwert erzielen. Es ging hier also nicht dadrum, das wirklich 100 Prozent korrekt zu machen, gerade weil auch immer wir noch eine Kontrollinstanz Mensch dahinter haben. Es ging einfach erst mal nur darum, 'n 'n Vorschlag zu machen. Und ja, wir sind hier, glaube ich, hab's gestern noch mal nachgeschaut, mit erst mal nur mit mit 10 Tagen tatsächlich reingegangen. Das ist wirklich Oh Gott. Erst mal 'n relativ kleines Projekt, das erst mal aufzubauen. Mhm. Das muss man aber, glaub ich, auch am Anfang machen. Also wir können hier nicht hergehen und sagen, ja, wir wir verschwinden jetzt 'n Jahr in unser Kämmerlein. Da ist ja der Kunde auch nicht dran interessiert, Grundlagenforschung zu bezahlen in der Regel, sondern wir wollen schnell am Anfang zeigen, ist das 'n valider Use Case und wir können das danach dann entsprechend noch weiterentwickeln. Also dieses Projekt läuft heute noch weiter. Mhm. Mittlerweile haben auf 'ner deutlich größeren Datenbasis, das wird auch mittlerweile komplett gemanagt von Henkel. Also den Data Science Teil entwickeln wir da da auch nicht mehr weiter. Aber es ist, ja, also es ist, man man muss klein anfangen und ich find's eben grade bei diesem Projekt beeindruckend, wie weit man mit diesen 10 Tagen schon kommen kann. Wir hatten im Endeffekt, also von den Anomalien, die wir gefunden haben, waren 95 Prozent korrekt klassifiziert. Das heißt, wir hatten 5 Prozent false positives. Ja, wie viele von wie viele wie viele Anomalien wir in dem Grunddatensatz verpasst haben, darüber können wir eben aktuell keine Aussage treffen. Dafür hätten wir den, also hätten wir einen komplett richtig gelevelten Datensatz haben brauchen. Aber selbst mit diesen mit diesen Anomalien, die wir gefunden haben und mit den 95 Prozent, die wir davon eben auch korrekt gefunden haben,
Speaker2: hat man eben einfach einen einen unglaublichen Wert dahinter, ja, 'n Zoll, den man sich entsprechend sparen kann. Ja, ja, ja. Ich find das extrem spannend, ja. Deswegen auch meine Frage eben dazu, was genau hattet ihr gemessen? Ging's drum, vielleicht noch mal etwas zu optimieren oder letztlich nur die Ausreißer zu finden? Weil den Use Case, so wie Du ihn grade geschildert hast, den kann ich ja auf total verschiedene Arten algorithmisch auch angehen. Ja, ich kann diese Vermeidung der Worst Cases anpacken. Eine Möglichkeit, super zielführend in dem Fall und auch kosteneffizient. Man hätte sich ja auch verkünsteln können und eine Metrik aufsetzen können, okay, kann man das irgendwie auch bei den, Du hast vorhin die die die 90 Exporte angesprochen, ja, wenn dann irgendwie 5 nicht richtig sind, hätten wir ja auch kompliziert jetzt anpacken können mit, na ja, vielleicht war aber da ja in diesen 5 noch mal son geheimer Trick mit versteckt und alle anderen haben's falsch gemacht, kann man beliebig kompliziert aufblasen. Aber letztlich geht's wahrscheinlich dann schnell auch einfach in dem Use Case in der Paretoeffizienz unter, ja. Erkennen die Anomalien, die Masse hat im Zweifel zumindest grob recht, ja. Und wenn Du die die härtesten Ausreißer eliminierst, dann hast Du die meisten den den meisten Impact geschaffen mit der einfachsten oder mit 1 möglichst einfachen Lösung. Find ich total cool, ja und und und und super gut letztlich rausdestilliert von euch, dass das der Ansatz ist, mit dem man eben dann mit, was meintest Du, mit 10 Tagen Genau. Ja, wirklich auch so weit kommt, dass der Kunde damit arbeiten kann. Echt mega, mega. Und das System innerhalb dieser Zeit, kannst Du das noch mal abstecken von der von von von der Lösung her, von der Tragweite der Lösung. Wie wie weit konntet ihr das aufsetzen? War das 'n Proof of Concept oder wirklich Genau. Etwas, das live schon benutzbar war letztlich?
Speaker3: Nee, genau. Also an an dem an in den 10 Tagen war es mehr oder weniger einen Proof of Concept. Wir haben allerdings, also wir wir bauen in der Regel, wenn wir auch wenn wir nur kleinere Proof of Concepts machen, eine kleine kleine kleine Dashboards dazu. Das haben wir in dem Fall auch gemacht. Das hat eine Kollegin da gemacht mit dem Air Stack, also eine Air shiny App war's in dem Fall. Ah, okay. Das heißt, man konnte entsprechend einfach sich verschiedene Transaktionen auswählen und dann einfach mal verschiedene, wir hatten auch verschiedene Anomalie Detektionsalgorithmen einmal auf Auto Encorder, aber auch eine einfache binäre Klassifikation, die dann am Ende tatsächlich auch die beste war. Und dann kommt, kann man sich entsprechend die Scores von den verschiedenen Modellen anschauen. Genau, hat sieht auch direkt noch mal das Shipment visualisiert, also von welchem Quellland in welches Zielland, welches Freihandelsabkommen wurde tatsächlich gewählt? Welches schlägt der Algorithmus vor? Wobei er sagt einfach nur, war das richtig oder war das falsch? Genau. Und insofern, also produktiv auf keinen Fall. Gerade ich denk mir, 'n Data Science Projekt wirklich produktiv zu bekommen, gut, von produktiv gibt's auch noch mal unterschiedliche Stufen, aber wenn's wirklich produktionsrelevant ist und 24 7 da sein soll, dann ist der Aufwand da auf jeden Fall ja deutlich höher. Ich würd sagen, auch noch mal deutlich höher wie in der Regel das der Aufwand des des eigentlichen Modell bauens und Trainierens. Mhm.
Speaker2: Kannst Du dazu auch was verraten, wie's dann sozusagen ab dem Zeitpunkt weiterging und wo dann vor allem gearbeitet wurde? Mich interessiert an der Stelle auch noch mal der Algorithmus, der dann zum Einsatz kam. Du musst jetzt nicht aus Nähkästchen plaudern, aber war das nach dem POC letztlich dann immer noch der gleiche Algorithmus oder wurde der dann auch noch mal signifikant verbessert und die eigentliche Arbeit fand dann an der Infrastruktur beispielsweise statt oder am am Dashboard, an der UI? Wie ging's da weiter?
Speaker3: Genau, also in diesem Projekt haben wir das oder haben wir letztlich danach erst mal eine Übergabe gemacht zu zu den Henkel Data Scientisten, die dann entsprechend sich den eigentlichen Algorithmus weiter gekümmert haben. Aber da Absolut. Das schon mal zu sagen, das sieht heute auch anders aus. Mhm. Also wir bauen immer noch Verhänge mit das das Data Warehouse, also die Datengrundlage. Aber diesen speziellen Use Case, der ist eben mittlerweile inhouse und wird da weitergeführt. Aber ich kann vielleicht grundsätzlich noch mal 'n bisschen was dazu sagen, wie die Operationalisierung von Machine Learning Modellen bei uns meistens von verschiedenen Modellen bei uns meistens aussieht. Also Mhm. Ich seh da grundsätzlich verschiedene Stränge, die wir die wir die wir angehen müssen. Punkt 1 sind in der Regel die Daten. Das Problem hatten wir jetzt bei Henkel nicht, weil wir eben das Data Warehouse parallel dazu aufgebaut haben. Genau. Aber in ganz vielen Firmen sind die oder bei ganz vielen Problemen, die uns auch erreichen, sind die Daten eigentlich so der der der 1. Punkt, wo man erst mal drüber sprechen muss? Sind die Daten in time da? Also sind sie rechtzeitig da, den Use Case überhaupt anzugehen? Wenn ich zum Beispiel eine Predictive Mattenance machen will, aber erst am nächsten Tag durch einen irgend einen Bet Prozess mitbekomme, dass irgendwas bewackelt? Find ich mal was. Brauch ich keine, genau, dann brauch ich keine mehr machen. Also sind die Daten intimebar, dann vielleicht, ja, bei dem Wording zu bleiben, ist es in Scope, also hab ich überhaupt die richtigen Daten in der richtigen Qualität zur Verfügung für mein System. Das ist also der 1. Strang. Der 2. Strang ist son bisschen die Run time oder die Laufzeitumgebung. Letztlich trainier ich immer irgendwie einen Modell und das Modell muss ich irgendwie ja, produktiv bekommen und das muss auch entsprechend irgendwo laufen. Und da hängt eigentlich 'n ganzer Strang von von Themen dran. Also ich muss mir einerseits Gedanken machen, wo läuft das? Also läuft das zum Beispiel auf 'nem kybernetes Cluster? Nutz ich vielleicht 'n Framework wie m l flow wie Air flow, das Ganze zu orchestrieren? Ist es 'n Streaming Use Case oder ist das eher badch orientiert? Nutz ich vielleicht einfach eine, mach ich Serverless in Azure mit 'ner mit 'ner Azure Function oder auf AWS mit 'ner Lambda Function? Also einfach mir, da muss ich mir einfach Gedanken darüber machen, wie ich das produktiv bekommen möchte, also einfach in welcher Laufzeit und entsprechend auch, wie ich das Ganze dann überwache. Ganz wichtig dabei ist, dass man dann DevOps Prozesse angeht. Also, dass man zum Beispiel über CICD spricht, über Continuous Integration und Continuous Development, dass man also die Dinge, ja, auch kontrollierbar in Produktion bekommt und dass eben nicht irgendjemand von Hand auf irgend 'nem Server jetzt 'n neues Modell hochzieht. 'N weiterer ganz wichtiger Punkt ist Management und das ist eher was, was uns Data Scientisten, glaub ich, auch dann so als Hauptaufgabe zuteilwird. Und das ist die Überwachung von dem Modell in der Produktion. Also letztlich muss ich sicherstellen, also wir wir wohnen nun mal im Wir haben so was wie 'n Concept Drift eigentlich in in allen praktischen Problemen. Dinge ändern sich, unsere Welt ist nicht statisch statisch, sondern dynamisch. Und wir müssen feststellen, wann müssen wir zum Beispiel unser Modell nachtrainieren? Haben sich vielleicht die Annahmen Also eigentlich müssen wir jede Annahme, die wir am Anfang in 'nem Modell gesteckt haben, überprüfen. Auch wenn wir an den Satz von Base denken, hat sich vielleicht unser Priorer irgendwie verändert. Also haben wir vielleicht 'n Modell trainiert, was was 'n bisschen biased ist, jetzt verändert sich unsere, unsere Priorer, dann muss ich an der Stelle auch nachtrainieren. Das heißt, ich muss mir hier auch, ja, zum Thema Model Lifecycle Management einfach 'n paar Gedanken machen, wann stoß ich sonen Prozess an? Wie stoß ich sonen Prozess an? Es gibt auch einige Modelle, bei denen ist das inhärent, wenn ich zum Beispiel an Reforcement Learning denke. Das kann ich in der Produktion auch mittrainieren lassen. Muss mir dann allerdings ganz, ganz viele Gedanken darum machen Stabilität. Also wie stelle ich sicher, dass mein Modell mir meine Produktion nicht zerschießt? Da gibt's auch ganz, ganz verschiedene Tools, die man anwenden kann. Häufig gesehen hab ich zum Beispiel hier schon, dass man Stützvektoren verwendet. Also dass man bestimmte Bereiche definiert, auch von Domänenxperten, wo man sagt, hier darf das neue Modell auf keinen Fall schlechter sein als das alte Modell. Und dass man, wenn das der Fall ist, in dann wird das Modell eben einfach nicht verwendet. Oder es gibt sogenannte Shadow Deployments. Das heißt, wenn ich, jetzt hab ich 'n neues Modell trainiert, jetzt ist die Frage, was mach ich damit? Und grundsätzlich empfehle ich nie, dieses Modell tatsächlich direkt in Produktion zu schieben, sondern es einfach erst mal mitlaufen zu lassen. Zu gucken, wie reagiert es überhaupt auf den Input live in Produktion? Das heißt, wir haben, ja, aber im, ja, aber das heißt, wir haben einfach 2 Modelle, die entsprechend irgendwo laufen und wir schicken, wenn eine neue Anfrage kommt, zum Beispiel eine REST API, dann schicken wir das einfach zu beiden Modellen. Und wir protokollieren von diesem neuen Modell, von Shadow Modell, protokollieren wir einfach nur mit, was würde es vorhersagen? Stimmt das ungefähr mit dem überein, was wir vorher hatten? Geben vielleicht dem Maschinenbediener noch die Möglichkeit, hier ein-, zweimal auf okay zu klicken. Und erst, wenn das passiert ist, dann setzen wir's auch wirklich produktiv. Genau. Also hier das Model Lifecycle Management, glaube ich, auch noch mal 'n sehr, sehr wichtiges Thema. Retraining von Modellen hatte ich gerade schon angesprochen. Und ja, genau, als als letzten Punkt hier noch mal Einbindung ins Monitoring vom Kunden ist auch, glaub ich, etwas, was man eher früher als später eingehen sollte. Wir hatten am Anfang schon mal kurz drüber gesprochen. Grade beim Monitoring ist etwas, da bringen einfach viele Firmen schon den Standard mit. Und da sollten wir in unserer Data Science Welt, glaub ich, nicht der Exot sein, sondern uns einfach versuchen zu integrieren. Die Tools können in der Regel schon sehr, sehr viel. Und wir müssen dann entsprechend einfach die korrekten Schnittstellen schaffen, uns da mit einzubinden. Mhm.
Speaker2: Bei den Prozessen und den Vorgehensweisen, die Du grade geschildert hast, geh ich komplett mit. Und ich seh eine starke Parallele, wenn ich auch bei uns in der Firma, bei uns intern in 'nem kleinen Start-up, ja, den Kulturwandel hin zu agiler Projektarbeit angucke, ja, dann ist ja auch eine große Parallele da zwischen DevOps und mlops. Die Themen sind ja ähnlich. Und eine Sache, die wir lernen mussten, ist, dass man sehr, sehr viel lesen kann und sich unterhalten kann über die Konzepte und wie man Dinge angehen muss konzeptionell, allerdings dann der Teufel häufig im Detail steckt. Damit meine ich so die komplett Tagesgeschäftsebene. Wann mache ich denn jetzt am besten das Backlog Rooming? Am Dienstag, am Mittwoch oder am Donnerstag, ja? Wann ist dann das Print Planning? Was ist das Deliverable, das in das Print Planning mit reingeht? Ja, und genauso habe ich ja letztlich die ganzen Themen dann auszudefinieren bei dem Lifecycle Management 1 Data Science Projektes und 1 Modells. Ja, Du hast die Stützstellen angesprochen. Na ja, letztlich, wer triggert dann ein Event? Ist das automatisiert? Ist es in der Person aufgeräumt, dass die die Rolle hat, da immer draufzugucken und und und und. Na, da gibt's ja ganz, ganz viele Varianten. Und an der Stelle einfach, weil wir auch selbst durch durch diese Erfahrung erst durch mussten, wir haben letztlich im, was das agile Projektmanagement und die Produktentwicklung angeht, einfach viel ausprobiert und darüber gelernt. Aber bezüglich dieses ganzen Thema und des Data Science, Data Model Lifecycle Managements würd mich von deiner Stelle interessieren, nachdem Du jetzt in so vielen Kundenprojekten letztlich bei Qunes ja auch drin warst, habt ihr vielleicht so was wie einen Leitfaden, ja, wo ihr ganz konkret dann wie Punkte abarbeiten könnt? Kommt's dann der übliche Juristensatz, ja, kommt's dann doch vielleicht aufn Kunden drauf an und man muss das Rad neu erfinden, weil's nicht anders geht, weil die Anforderungen zu individuell sind. Wie wie siehst Du das? Ja, weil das ist das, wo ich dann häufig eben hängenbleibe. Ich unterschreib das alles mit Lifecycle Management, MLOps Pipelines, aber die die Konkretheit ums sofort bei mir eine Firma anzuwenden, da fehlt mir noch zumindest in dem, was man frei im Internet findet, die die die Brücke.
Speaker3: Ja, also ich glaub, das ist das ist ein sehr schwieriges Thema. Also wir haben bei uns natürlich verschiedene Leitfäden für die ganzen, ich sag mal, einzelnen Komponenten. Mhm. Eben zum Beispiel, wie macht man Model Lifecycle Management richtig? Wie macht man MLOps? Was heißt überhaupt DevOps im Datenumfeld? Das ist ja auch gar nicht so trivial. Jetzt hat man Daten, die man nicht so gut versionieren kann. Absolut, genau. Und all diese Themen. Und ich würde aber schon sagen, dass es dann vom Kunden abhängt, wie die ganzen Themen zusammengesteckt werden. 'N ganz wichtiger Punkt, der ganz spezifisch ist für Data Science Projekte, ist eben für mich gerade diese agile Vorgehensweise. Und das ist für uns auch etwas, da gehen wir kein Machine Learning Projekt zumindest ohne an. Das ist einfach, also in in 'nem klassischen Datenmanagementprojekt oder auch in 'nem Softwareprojekt, wenn man so will, da gibt es schon, ich sag mal, da kann man noch eher abschätzen, was hinten rauskommt und eben vielleicht noch mal versuchen, doch noch irgendwie den Wasserfall aufzustellen, der dann das Management vielleicht glücklich macht. Ich weiß es nicht. Aber eben gerade bei 'nem bei 'nem Data Science Projekt geht das nicht. Wir wir können vorher nicht sagen, ob es funktionieren wird oder ob es nicht funktionieren wird. Und da da brauchen wir dann entsprechend einfach die agile Vorgehensweise. Wir gehen bei uns in unsere Projekte eigentlich immer rein mit in mit, ja, 4 verschiedenen Phasen. Data Science ist noch mal son bisschen außen vor, aber ja genau, aber trifft es schon auf bei vielen Projekten. Das ist zunächst einmal eine 1 Strategieberatung. Das heißt, wir wir gucken am Anfang zunächst mal mit dem Kunden zusammen auf seine auf ja, auf letztlich auf die Unternehmensziele, die die sich das Unternehmen vorgenommen hat und versuchen, die in Einklang zu bringen entsprechend mit dem, was wir hier jetzt grade vor uns haben, also zum Beispiel mit dem Machine Learning Use Case. Wir unterstützen da natürlich auch dabei, einen geeigneten Use Case zu finden. Das ist ja auch oft, dann treten einfach nur Firmen an uns heran, so, ja, wir wollen jetzt künstliche Intelligenz machen, ne? Das ist die 1. Frage. Jährlich, ja. Ist es künstliche Intelligenz oder ist es Machine Learning? Da gibt's ja auch den netten Satz, if it's Powerpoint, it's AI, if it's if it's ritten in Python, it's m l. Also genau eben dieser Punkt, ist es wirklich künstliche Intelligenz? Ist es Machine Learning? Eignet sich das Problem? Eigenen sich die Daten? Genau. Und all diese Punkte klären wir entsprechend am Anfang in dieser in der Strategie. Anschließend kommen wir dann zu 'ner zu 'ner Fachkonzeption. Das heißt, wir wir übersetzen dann die, ja, die die die Anforderungen oder das, was wir vorher in der Strategie entsprechend vereint haben, übersetzen wir in einen technisches Problem, uns das Sprechen Architekturen und die technische Beschreibung des Problems. Dann kommt die Implementierung und zu guter Letzt das Training. Nachdem alles implementiert ist, möchte man's übergeben. Wir wir betreiben ja auch keine IT Lösungen hin. Wir wollen, dass unsere Kunden das selber können. Und entsprechend gibt's dann eben am am Ende das Training. Wie diese einzelnen Phasen jetzt im Detail ja ausdailliert sind, das ist natürlich extrem schwierig. Und bei uns eben dann eher son, ja, Modulbaukasten, wie ich das gerade schon gesagt habe. Also, wir haben verschiedene Standards in verschiedenen Bereichen, die die wir dann entsprechend zusammenstecken, in, ja, möglichen, ja, mit 'nem Werkzeugkoffer dann irgendwie zum Kunden zu gehen, der auch zu Ihnen passt. Mhm.
Speaker2: Mhm. Ja, riesenable. Alright. Lassen Sie hier eine kleine Zäsur machen und noch mal zurück auf deine Person gehen, nämlich würd mich interessieren, ob Du einen Lieblingsalgorithmus hast und wenn ja, warum?
Speaker3: Ja, also mehrere eigentlich sogar, würd ich an der Stelle sagen. Auf der einen Seite muss ich eigentlich x g boost nennen. Der hat mir schon 'n paarmal das Leben gerettet, möcht ich einmal sagen. Also der hat mir einfach schon relativ viele Probleme relativ gut gelöst. Der kommt von der Stange und man muss hinten jetzt nicht so stark parametrisieren. Und es ist einfach für Domänexperten immer überzeugender, wenn man dann hinterher mit soner Feature Important Liste die Ecke kommen muss. Auch wenn man ringsum ganz viele Dreiecke malt, so, das, was oben steht, ist nicht automatisch das Wichtigste. Es geht immer eine Kombination, aber es ist einfach was Greifbares und da finden sich dann einfach relativ schnell Leute wieder. Und auch wenn man, ich sag mal, nur relativ kleine Entscheidungsbäume, Wälder, wie auch immer trainiert, dann ist das halt auch etwas, wo man einfach erst mal 'n bisschen, ja, reingucken kann. Genau, entsprechend den XGV's möcht ich einmal nennen und als Zweites noch einmal Transfer Learning. Ich bin mir nicht sicher, ob man das wirklich als Algorithmus zählen kann.
Speaker2: Nehmen wir's mal als Konzept mit auf, ja. Nehmen wir's mal als Konzept mit auf.
Speaker3: Für mich ist das nur etwas, was in letzter Zeit oder eigentlich schon seit Jahren immer zunehmend an Bedeutung gewinnt. Es gibt so spezialisierte Algorithmen mittlerweile für Bilderkennung, für Spracherkennung, für Texterkennung. Da muss ich mich wirklich nicht mehr hinstellen und wenn ich jetzt irgendwo einen Fehler mit 'ner Kamera erkennen möchte, mir meinen eigenen Algorithmus zu trainieren. Stattdessen nehm ich einfach etwas, wo Google tausende GPU Stunden reingesteckt hat auf irgendwelchen Supercomputern. Und ich nehm einfach das Netz, ich schneid's mir so zurecht, wie's ist und ich trainier einfach nur noch die letzten paar Layer nach. Das spart sehr viel Energie und ermöglicht einfach in, ja, in der Regel zumindest für die Bereiche, wo es fertige Modelle gibt, würd ich sagen, deutlich bessere Ergebnisse.
Speaker2: Gibt's dann einen Bereich, wo Du glaubst, dass in Zukunft noch am meisten passieren wird, wenn Du sagst, die Modelle, die werden halt immer spezieller. Es gibt immer mit noch mehr Rechenpower trainierte Modelle. Sind's denn vielleicht eher Infrastrukturthemen oder noch mal ganz anderer Bereich?
Speaker3: Also im Infrastrukturbereich, glaub ich, passiert im Moment schon sehr viel, aber auch im Data Science Bereich, glaub ich, passiert in ganz vielen Bereichen noch sehr viel. Also es gibt ja auch immer immer mal wieder noch neue Konzepte, auch wenn man denkt, so hier, jetzt neuronale Netze haben wir eigentlich abgefrühstückt, aber dann kommt ein Transformer daher. Oder wenn ich an die an Capsue Netzwerk Netzwerke denke von hinten, die auch immer noch, ich sag mal, neu aufgelegt werden. Also es kommt auch hier immer mal wieder eine neuer grundlegender Algorithmus daher. Ja, insofern, also ich ich glaube, ich glaube, ich glaube, es geht in ein in in vielen Bereichen hier noch weiter. Also Deep Learning, glaube ich eben insbesondere hier hervorzuheben, wo einfach sehr, sehr viele Momente passiert. Einfach auch, weil man sehr, sehr viele Problemklassen damit lösen kann und weil man mit Regularisierungen und und so weiter einfach auch sehr, sehr viele Dinge machen kann. Basische Statistik, glaube ich, geht auch immer weiter. Also gerade Basische Netze zum Beispiel wird man auch immer brauchen. Also grade im im im Data Science Bereich, ich glaube, diese Grundsatzentwicklungen werden weitergehen. Nichtsdestotrotz fokussieren sich einfach mehr und mehr Leuten Wissenschaftler, glaube ich, einfach auch auf diese speziellen damit einfach gut messen kann. Also wenn man jetzt eine neues neuronales Netzwerk gemacht hat oder eine neue Netzwerkarchitektur entdeckt hat, die eben nicht sofort auf der Bildklassifizierung ganz oben steht, dann landet man eben tendenziell erst mal 'n bisschen weiter unten in der Schublade wie der neue Algorithmus, der jetzt hier die die Scores knackt.
Speaker2: Ja, ja, ja. Damit sprichst Du einen ganz, ganz wichtigen Punkt bei den bei den Machine Learning Modellen an, und zwar die Scores. Wenn ich jetzt aber auf Firmenebene denke und dabei vielleicht kannst Du noch mal so weit die NDAs zulassen aus den Nähkästchen eurer Kunden plaudern. Was sind da, Stand heute, die Kriterien, nach denen Projekte letztlich ausgewählt werden? Sind das Projekte, bei denen, ich bieg's mal jetzt da noch mal rüber auf die Scores, wirklich eine gute Performance dann abgeliefert werden kann, wo sich ein Use Case dann am Ende auch monetär rechnet? Oder sagst Du, nee, die Kunden von Qunes, die sind tendenziell auch noch mal gerne in 1 Explorationsphase unterwegs und lassen das einfach im Sinne von 5 grade sein lassen, auch mal durchgehen. Wenn 'n Use Case dann eben nix gebracht hat, außer dass man die Erfahrung gesammelt hat, wie man's das nächste Mal besser macht, Wie verordnest Du da den Markt momentan?
Speaker3: Also mal so mal so. Ich glaube, bei den meisten Firmen steht Data Science tatsächlich noch relativ am Anfang und entsprechend, so aus meiner Erfahrung, lassen sich die meisten Firmen erst mal am Anfang auf einen POC ein und haben an denen auch erst mal noch nicht die unendlichen Erwartungen. Und freuen sich dann halt hinterher, wenn wenn was Schönes Wenn wenn was Schönes rauskommt. Rauskommt, genau, dass man weiterverwenden kann. Häufig ist das auch einfach etwas, was irgendwie vom Management getrieben wird dann im im im Rahmen 'ner Digitalisierungsinitiative, wo man dann halt, wenn man halt schon die ganze Firma digitalisiert, noch mal sonen kleinen Bereich macht, so, hey, lass uns doch auch noch mal son bisschen künstliche Intelligenz machen. Je nachdem, was es fürn Kunde ist, ist das halt auch etwas, womit er dann hinterher Werbung machen kann, dass er jetzt künstliche Intelligenz verwendet, seine Produkte oder irgendwie smarter zu machen oder seine Prozesse zu optimieren. Also das vielleicht das Bild auf der einen Seite. Auf der anderen Seite muss ich aber auch sagen, mit Machine Learning schaffen wir Mehrwerte. Also das ist unumstritten. Und das ist einfach 'n ganz wichtiger Punkt, den man von Anfang an in diesen Projekten auch deutlich machen muss auf auf allen Ebenen. Und das ist eben nicht immer nur monetär. Das kann eben zum Beispiel auch eine 1 bessere Produktqualität sein, die ich vielleicht nicht direkt in Euros berechnen kann. Oder Reduktionen von von Stillständen, Optimierung von Lagerbeständen, Zeiteinsparungen von Prozessen, von Mitarbeitern vielleicht auch an der einen oder anderen Stelle, die man, ja, die man vielleicht alle erst mal nicht direkt messen kann, die dann aber ja im Nachgang sich dann eben doch irgendwann rechenbar machen, auch wenn man jetzt während des Projektes dann nicht direkt eine Zahl dahinter schreiben kann. Genau, also insofern durchaus 'n geteiltes Bild. Es ist eben häufig, meiner Erfahrung nach, ist es schon etwas, was vom Management getrieben wurde und einfach, weil's 'n hippes Thema ist, die meisten Firmen halt mal machen wollen. Auf der anderen Seite schaffen wir aber eben auch Mehrwerte und das müssen wir ganz, ganz deutlich machen in den Projekten, die wir machen, denn nur dann geht's weiter. Mhm. Mhm.
Speaker2: Na ja gut, Mehrwerte ja auf jeden Fall. Die Frage ist halt nach der Kosteneffizienz.
Speaker3: Genau, die Frage ist nach der Kosteneffizienz, aber ich denke, das lässt sich eben gerade bei Machine Learning Projekten in der Regel relativ gut abstecken, indem man einfach mit 'nem kleinen PC anfängt und mal schaut, geben wir es die Daten her? Und dann kann man in der Regel vielleicht sogar schon bei kleinen Projekten in in ein, 2 Tagen oder bei größeren Projekten, in ja, wie wir's vorhin bei Henke gehört haben, in 10 Tagen vielleicht einfach schon mal ja, abstecken, ob das was ist, was ich hinterher auch monetär rechnen kann. Und einfach, ja, geben's die Daten her. Das ist sone Frage, bis man's nicht versucht hat, kann man die nicht beantworten. Also man kann raten, ja, aber letztlich muss man's einfach probieren.
Speaker2: Na ja, das ist ja die explorative Natur der ganzen Geschichte. Genau. Gibt's da, wenn Du an deine Projekte zurückdenkst und vor allem, Du hast ja ganz zu Beginn der Aufnahme die Heterogenität eurer Teams auch angesprochen und uns da durchgeführt, Gibt's da eine Rolle, die aus deiner Sicht dann noch mal raussticht, eben dieses auch Kommunikationsproblem vielleicht anzupacken, den Erfolg von deinem Data Science Projekt sicherzustellen? Oder ist es eher so eine teamübergreifende Teamspirit Geschichte?
Speaker3: Ich glaube, ich glaub, also für mich ist es wirklich in erster Linie dieser Teamspirit, der dahinter Okay. Der dahinter stimmen muss, dass man einfach erst mal alle Rollen im Boot hat, dass man entsprechend auch beim Kunden, ich sag mal, diese diese Begeisterung für das Thema weckt und dass man diesen Advokaten für das Thema findet, der das dann entsprechend auch intern treiben und verkaufen kann. Nee, also für mich ist es auf jeden Fall eine 1 Teamleistung, dass man das dann am Ende, ja, zum Erfolg bringt.
Speaker2: Und jetzt möcht ich aber doch noch mal 1 rauspicken, und zwar diese Befähigung des Kunden, die kommt jetzt in diesem Gespräch immer wieder zum Vorschein. Das scheint ja auch von Qunes und ganz persönlich von deinem Anspruch hab ich den Eindruck, 'n ganz, ganz wichtiges Element zu sein, oder dass Du jetzt nichts blackbox artiges beim Kunden deployst und dann vielleicht im schlimmsten Fall sogar auf Wiedersehen sagst, sondern ich habe jetzt immer bei allen Beispielen, die Du gebracht hast, einen Handover mit rausgehört.
Speaker3: Genau, auf auf jeden Fall. Also zu der also Blackbox gibt's ja auf 2 Ebenen. Einmal es gibt Blackbox Modelle und es gibt, ich sag mal, die die Blackbox
Speaker2: Infrastruktur oder das ganze Genau, ich meinte jetzt die komplette Blackbox Lösung. Ja, genau.
Speaker3: Genau. Nee, also also das ist uns und auch mir ganz wichtig, genau, dass wir da hinterher diesen Handover machen. Also, dass letztlich eine 1 Dokumentation geschrieben wird, dass einfach der Kunde lernt, mit den Tools zu arbeiten. Also dass er dann hinterher seine eigenen Pipelines zum Beispiel auch ergänzen kann. Ohne gerade bei Machine Learning bei Machine Learning Lösungen wird es ohne das nicht gehen, weil sone Lösung Wir haben vorhin schon kurz Concept Drift angesprochen. Sone Lösung wird nie ewig laufen. Es werden sich Gegebenheiten verändern, eine Anlage wird vielleicht ausgetauscht. Und dann ist es einfach frustrierend, weil jetzt nur weil jetzt 'n Messwert anders heißt, unsere Lösung nicht mehr läuft und keiner da ist, der's reparieren kann. Also Training deswegen eine 1 ganz zentrale Komponente. Also wir nehmen sowieso unsere Kunden also grundsätzlich von Anfang an an die Hand. Also das ist jetzt nicht, dass wir uns da hinsetzen und programmieren eine Lösung, sondern wir versuchen, die Kunden entsprechend auch mitzunehmen. Brauchen dann auch natürlich 'n entsprechendes Team und eine entsprechende Ressource vom Kunden, der sich dann auch dazu committet. Genau. Aber ansonsten ist es einfach hinterher für keinen befriedigen.
Speaker2: Okay, das wollt ich grade fragen. Also Du Du sprichst da ja von 'ner starken Co Creation letztlich der Lösung, oder? Zwischen euch und dem Kunden. Genau, auf jeden Fall. Also grade bei Machine Learning
Speaker3: Lösungen benötigen wir sowieso schon mal den Domain Experten, der ja sowieso vom vom Kunden kommt. Klar. Ja, aber es sollte eben auch von von vornherein geklärt werden, was passiert hinterher damit? Wer kümmert sich ums Deployment? Also machen vielleicht Ja. Wir den Data Science Prozess und der Kunde kümmert sich da selber dadrum. Aber das muss einfach von vornherein klar sein, was damit hinterher passiert.
Speaker2: Mhm. Mhm. Und in die Richtung auch noch mal gefragt, von 'ner negativeren Seite draufgeblickt, gibt's so Dinge, wonach Du immer die Augen offen hältst? Dinge, die nicht eintreten sollten oder vielleicht auch Szenarien, eine Stimmung im Team, beim Kunden, ne, wo Du sagst, okay, da geben bei mir sofort nicht die technischen oder vielleicht auch die technischen, aber aber auf jeden Fall die Alarmglocken los. Jetzt muss ich da eingreifen.
Speaker3: Natürlich hält man immer nach nach verschiedenen Punkten die die Sachen offen. Also ganz am Anfang hab ich eigentlich immer mein Augenmerk erst mal auf den Daten. Mhm. Mit Leuten kann man dann hinterher noch mal reden mit Daten. Das dauert in der Regel, bis man dann die die richtigen Daten hat. Ja, ansonsten ist es eben ganz wichtig, von Anfang an den Fachbereich dann irgendwie auf seiner Seite zu haben. Und grade da entsteht einfach Wir hatten's gerade schon mal mit den Blackbox Modellen auch angesprochen. Da ist eben einfach oft son bisschen eine Angst oder vielleicht auch nicht Angst, vielleicht mehr son Vorbehalt gegenüber jetzt dieses dieses Modell, in das ich jetzt nicht mir anschauen kann, wie das jetzt vielleicht funktioniert, da. Aber dem kann man gut entgegenwirken, indem man dann eben zum Beispiel verständlichere Modelle verwendet, indem man die Ergebnisse von dem Modell diskutiert, plausibilisiert und einfach die Leute von Anfang an mitnimmt. Und so entsprechend auch, ja, als einfach mit 'ner positiven Stimmung das Ganze irgendwie angehen kann. Also es nützt nützt keinem etwas, wenn wenn man da jeden Schritt skeptisch und also skeptisch oder vielleicht introvertiert angeht und und immer nur hinterfragt. Also letztlich
Speaker2: muss man überzeugen mit der Lösung und dann muss man einfach alle Leute von Anfang an mitnehmen. Mhm. Mhm. Find ich total cool. Und das Zitat von dir vorher ist T-Shirt druckreif, mit Menschen kann man immer noch reden, bei Daten wird's dann schon schwieriger. Sehr, sehr cool. Voll gut. Du, Christian, zum Abschluss, welchen Rat würdest Du deinem zwanzigjährigen Ich geben?
Speaker3: Ich glaube, dass Statistik deutlich mehr Spaß macht, als ihr Ruf vielleicht einglauben lässt.
Speaker2: Kann ich kann ich unterschreiben. Spiegel absolut meine Erfahrung im Studium wieder, ja.
Speaker3: Ja. Hat immer einen schlechten Ruf, aber wenn man dann damit anfängt Und es ist alles Statistik, Statistik ist überall. Also ja, wir leben in keiner deterministischen Welt.
Speaker2: Sehr, sehr gutes Schlusswort. Christian, ich danke dir sehr. Das war 'n sehr, sehr spannender Austausch. Ich hab viel gelernt, wie er bei Qunes extrem aus meiner Sicht sortiert und mit viel Erfahrung Infrastrukturthemen angeht von der Konzeption, von der Phase bis hin wirklich dann zum Deployment und immer schon die langfristige Perspektive im Blick, ohne sich darin zu verhaspeln, find ich extrem beeindruckend, ja. Denk ich, müssen sich einige Firmen eine 1 ordentliche Scheibe davon abschneiden. Auch wir bei Erium uns im Geschäft, ja? Wir wir denken viel zu sehr in den frühen Phasen und ja, haben da zu wenig die die die lange Perspektive häufig im Blick. Wir werden da natürlich besser, aber so so krass wie sind wir noch nicht unterwegs. Ich danke dir sehr, sehr herzlich für den Austausch und ich hoffe, es war auch was für die Zuhörer dabei zum Lernen. Wenn Du noch was hinzufügen magst.
Speaker3: Vielen Dank auch von von meiner Seite. Sehr interessantes Gespräch.
Speaker2: In diesem Sinne, ich danke dir noch mal ganz herzlich, Christian. Und an alle Zuhörer, macht's es gut. Nehmt es mit. Ich wünsch euch erfolgreiche Projekte, gute Data Science, Teams, gute Lösungen, Master die Complexity.
Speaker0: Auf dem Laufenden zu bleiben, folgt uns auf Facebook, Instagram, Twitter und LinkedIn. Wenn ihr uns unterstützen wollt, gebt uns eine 5 Sterne Bewertung auf Apple Podcasts, folgt uns auf Spotify und empfehlt uns weiter. Bis zum nächsten Mal bei The IRIUM Podcast.