WIE SOLLTE EIN JUNGES START-UP DAS THEMA CLOUDCOMPUTING ANGEHEN? – mit Dr. Nicolay Hammer

- Moderator (Host)Host of the Erium Podcast
- Dr. Nikolai HammerHead of the Big Data and Artificial Intelligence Team at the Leibniz Supercomputing Centre (LRZ) of the Bavarian Academy of Sciences and Humanities
- Dr. Theo SteiningerCo-Founder & CEO at Erium
Overview
This episode of the Erium Podcast revolves around model training and testing, framed within the fictional story of a young data scientist named Erika. The central question is where and how computations are best carried out: locally, on a server, or in the cloud. Together with Dr. Nikolai Hammer from the Leibniz Supercomputing Centre (LRZ) and Dr. Theo Steininger from Erium, the episode also explores versioning, vendor lock-in, open source vs. proprietary solutions, and the importance of training and education offerings in the HPC and AI space.
About the guest
Dr. Nikolai Hammer leads the Big Data and Artificial Intelligence team at the Leibniz Supercomputing Centre (LRZ) of the Bavarian Academy of Sciences and Humanities in Munich. Together with his team, he drives the topics of High Performance Computing (HPC) with AI as well as High Performance Data Analytics. He holds a doctorate in astrophysics and has conducted research at the Max Planck Institute (MPA), among other institutions, where he already engaged extensively with High Performance Computing.
Summary
Where Should Computation Take Place? Local, Server, or Cloud
A central challenge for the fictional data scientist Erika - and for many real data scientists - is the question of computing infrastructure. Dr. Nikolai Hammer emphasises that there is no universal answer: the choice of infrastructure must fit the specific problem, the required resources, and the team size. He distinguishes between local workstations, dedicated server environments, and cloud services, and explains that the term 'cloud' is interpreted very differently - ranging from pure storage solutions like Google Drive to scalable computing environments.
Dr. Theo Steininger adds a practical perspective from Erium: for their own use cases, massive parallelisation is not needed; what matters most is fast storage and many iterations. He sees the greatest strength of the cloud in its flexibility - the ability to scale resources up and down on demand. Those who do not need that flexibility are often better served by a good workstation.
Advice for Start-ups: Try First, Then Invest
Nikolai Hammer advises small companies and data scientists to start by renting cloud resources to try out different system types and hardware configurations before committing to fixed hardware investments. A full-cost calculation is essential: purchasing a server is only part of the expense - operations, cooling, maintenance, and follow-on costs all add up.
Theo Steininger shares an illustrative real-world example: a data scientist asked a company's internal IT department for a virtual machine - the IT team planned it with triple redundancy to data centre standards, which was neither necessary nor economically sensible. In the end, a simple office workstation was more than sufficient. The message: experiments do not require high-availability infrastructure.
Versioning and Documentation: The Cornerstones of Model Training
Both Nikolai Hammer and Theo Steininger emphasise the critical role of clean versioning and documentation. Anyone who fails to document their experiments, parameterisations, and code branches risks ending up with a working solution without knowing how it was configured - a fatal mistake in everyday data science work.
Nikolai Hammer describes how the LRZ provides its users with a GitLab instance as a foundation and actively recommends good practices such as commenting, bookkeeping, and version control. Theo Steininger asks about newer tools like DVC or MLflow that build on top of Git - the consensus: these can be useful, but the additional overhead must justify the added value.
Avoiding Vendor Lock-in: Open Source vs. Proprietary Solutions
Another central topic is the risk of vendor lock-in: the more provider-specific interfaces and services an organisation uses, the more tightly it becomes bound to a particular cloud provider. Theo Steininger describes how Erium tries to use only generic interfaces or so-called white-label VMs, in order to make switching providers possible with minimal effort.
Nikolai Hammer adds the LRZ perspective: as a public institution, the LRZ is already required by procurement regulations to keep its options open. He explains that in the HPC environment, a great deal is built on open-source software - such as Linux and OpenStack - and that leading hardware manufacturers also have to prioritise openness and compatibility, since their customers do not want lock-in. The LRZ cloud, for example, is based on OpenStack as open-source infrastructure.
On the question of whether students should learn proprietary technologies like NVIDIA CUDA or open-source alternatives, both speakers draw a distinction: CUDA is currently the market leader and highly relevant in practice, but a future-proof workflow design should keep individual components interchangeable in order to remain flexible in the long term.
AI Use Cases and the Convergence of HPC and AI
Nikolai Hammer provides an insight into the diverse AI use cases at the LRZ: from astrophysical simulation data to digital humanities and biomedical datasets. The methods and requirements differ considerably depending on the scientific community - both in terms of data volume and data type.
An important observation: the worlds of HPC and AI are converging. The growing demand for computing power in the AI space makes it increasingly necessary to draw on concepts and approaches from the HPC world. Techniques such as container virtualisation are finding their way into HPC systems, while cloud environments are catching up in terms of performance.
Cause and Effect: A Classic Data Science Pitfall
In the fictional story, Erika discovers a correlation: unplanned maintenance events occur more frequently when a machine is running slower than average. Her conclusion is to run the machine faster in general. Theo Steininger immediately identifies a classic problem: confusing cause and effect. Perhaps operators are reducing performance because they sense a defect - not the other way around.
The message to all data scientists: a statistical correlation is not the same as a causal relationship. Before making a recommendation for action, physical intuition, domain knowledge, and consultation with experts are essential.
Making Use of Training Opportunities: LRZ, GCS, and More
Nikolai Hammer points out that the LRZ, as an associated partner of the NVIDIA Deep Learning Institute, offers certified training courses - and that these are also accessible to industry customers. Through the Gauss Centre for Supercomputing (GCS), there are also training offerings explicitly aimed at industry. Theo Steininger strongly recommends these courses and shares a brief anecdote: technologies like NVLink, which are now standard in consumer graphics cards, first emerged in the HPC environment. Those who are connected to the HPC community are often years ahead of technological trends.
Key takeaways
- The choice of computing infrastructure (local, server, or cloud) must always fit the specific project, resource requirements, and budget - there is no universal recommendation.
- For start-ups and small teams, starting with rented cloud resources is advisable in order to try out different system types before investing in dedicated hardware.
- A full-cost calculation for hardware must always include operations, cooling, maintenance, and follow-on costs - not just the purchase price.
- Clean versioning and documentation are indispensable: anyone who does not document their experiments risks being unable to reproduce working results.
- Vendor lock-in is a real risk - those who rely on provider-specific interfaces should be aware of the consequences and opt for open, portable solutions wherever possible.
- Statistical correlation is not the same as causality: data scientists must carefully distinguish cause from effect and incorporate domain knowledge before making recommendations for action.
- HPC and AI are converging - concepts from the high-performance computing world are increasingly relevant for AI applications, and the training offerings of the HPC community are open to industry as well.
Conclusion
The episode makes clear that model training and testing in a professional context encompasses far more than simply writing ML code. Choosing the right computing infrastructure, maintaining consistent versioning, avoiding vendor lock-in, and developing a critical understanding of causal relationships are all essential competencies for data scientists. The convergence of HPC and AI opens up new possibilities - and the training offerings of the HPC community are more valuable than many people realise.
For Young Professionals and Students
Get to know the fundamental concepts of cloud computing and HPC early on, document your experiments consistently, and embrace open technologies - this will make you more flexible and future-proof in the job market.
For Executives and Start-up Founders
Do not rush into fixed hardware infrastructure investments: test in the cloud first, calculate total costs realistically, and seek expert advice before making long-term decisions.
For Data Scientists in Companies
Critically examine statistical correlations for causality before presenting recommendations to management - and actively make use of training offerings such as the courses provided by the LRZ or the NVIDIA Deep Learning Institute.
Show full transcript
Speaker0: Kurze Anmerkung vorweg, auch zu dieser Folge wird es wieder ein mit unserem Gast geben und zwar am sechsundzwanzigsten Ersten 16 Uhr. Weitere Informationen dazu findet ihr in der Beschreibung. Und jetzt viel Spaß mit der Folge.
Speaker1: Ihr hört,
Speaker2: der Data Science und Machine Learning Podcast für Studienabsolventen und Young Professionals.
Speaker0: Herzlich willkommen zu 1 neuen Ausgabe von The Ihrem Podcast, in der wir weiter die Geschichte von Erika, der jungen Data Scientistin, ja, beleuchten, anschauen und untersuchen. Und heute schauen wir uns dabei den Schritt des Model Trainings and Testings an. Also wie trainiere ich und teste ich mein Modell? Und dazu ist heute zu Gast Doktor Nikolai Hammer. Toll, dass Du da bist, Nikolai.
Speaker1: Hallo.
Speaker0: Nikolai leitet das Team Big Data und künstliche Intelligenz am Leibniz Rechenzentrum der Bayerischen Akademie der Wissenschaften. Und er treibt dort gemeinsam mit seinen Kollegen und Kolleginnen die Themen High Performance Computing mit KI sowie High Performance Data Analytics voran. Also Du bist wirklich der perfekte Gast für die heutige Folge und Du bist auch, wer hätte es gedacht, promovierter Astrophysiker, so wie 3 Teile der Firma Irium. Und Du hast auch am MPA geforscht, genauso wie 3 Teile der Firma Erium. Und dort hast Du dich auch schon mit High Performance Computing auseinandergesetzt. Genau, also toll, dass Du da bist, freut mich sehr. Und außerdem ist heute wieder der Theo dabei. Theo, schön, dass Du da bist, CEO von Erium und ja, genau, schon oft im Podcast dabei gewesen. Es ist mir eine Erde. Genau und diesmal, das ist wirklich spannend zu hören, die wie wir den Nikolai gefunden haben, ist diesmal nicht das MPR und nicht die Astrophysik, sondern was anderes. Theo, möchtest Du dazu vielleicht bissel was kurz erzählen? Woher kommt der Nikolai?
Speaker3: Ja, es ist tatsächlich echt interessant, wie sich die Wege da wieder kreuzen. Und zwar auf unserer Suche nach dem besten Kandidaten für diese Folge sind wir auch einmal über das LAZ rüber gegangen und haben uns gedacht, wenn uns da jemand 'n guten Gesprächspartner irgendwo darstellen kann, dann in dem in dem Mitarbeiterkreis dort und über die Anfrage, die man tatsächlich eingefädelt haben über einen ehemaligen Studienfreund von mir, kamen wir dann über den Professor Kranzlmüller, dann eben auf den Nikolai mit sozusagen Bestempfehlung, das ist absolut euer Mann. Und von daher freue ich mich doppelt und dreifach, dass wir 'n äußerst kompetenten Gesprächspartner da heut wieder am Start haben, der zugleich quasi auch noch ja den Hintergrund sehr, sehr ähnlich hat zu uns, was das Ganze natürlich dann immer sehr relatable macht.
Speaker0: Ja, genau. Also langsam wird's der der Astrophysik Podcast, in dem's nicht Astrophysik geht, ne. Es ist unheimlich. Es ist total trivial. Vielen, vielen Dank, dass ich da sein darf. Ja, gerne, gerne. Toll, dass Du da bist. Ich würde sagen, wir fackeln gar nicht lange, sondern hören direkt rein in den ersten Story Abschnitt und ja, hören uns an, was der Erika so widerfährt.
Speaker4: Erika beginnt nun damit, ihr Recurrent Neuronetwork im Hinblick auf die Vorhersage der Wartungsdringlichkeitsentwicklung zu trainieren und zu testen. Dabei sieht sie sich vor diverse Probleme gestellt. Zunächst einmal hat sie keine Idee darüber, wo gerechnet wird. Zwar hat sich die Menge an Daten reduziert, jedoch ist ihr Recurrent Neural Network in so einem Fall immer noch sehr rechenintensiv. Zusammen mit ihrem Abteilungsleiter Achim diskutieren sie mögliche Ansätze und entscheiden sich anschließend für Cloud Computing. Achim bittet Erika, sich damit auseinanderzusetzen, sich die nötigen Skills anzueignen und die Herausforderungen, die mit diesem Commitment in Zukunft entstehen, abzusehen. Bei ihr entsteht langsam der Eindruck, dass nur ein Bruchteil von dem, was sie macht, dem gleicht, was sie an der Uni gemacht hat. Nun muss sie sich plötzlich mit Cloud Computing auseinandersetzen. Schafft sie es, sich die nötigen Skills anzueignen?
Speaker0: So, ich frag einfach mal direkt nach ersten Impressionen, speziell in Bezug auf Skills, die ein Data Scientist nicht an der Uni lernt. Gehört so was da dazu? Was würdest Du zum Beispiel sagen, Theo? Also ich kann mir gut vorstellen, dass Du und der Vakzime, ihr hattet irgendwann 'n gewisses Wissen über Machine Learning euch angeeignet. War das eine Challenge, die dann plötzlich auf euch zukommen, wo man sich denkt, hey, wo rechnen wir überhaupt, wenn das Ganze mal bissel rechenintensiver wird?
Speaker3: Ja, und tatsächlich ist es so, dass ich sowieso in der Rolle nicht und der Maxime auch nur zum Teil sich auch heute mit AWS zum Beispiel auskennen. Wir haben da eine gute Aufgabenteilung und einen dedizierten Mitarbeiter im Team, der die Backend Thematiken auch für die generelle Webentwicklung sehr, sehr gut beherrscht und der dann am Ende der federführende Part bei uns im Team ist, der sich mit AWS jetzt in unserem Fall beschäftigt. Und im Studium war das für uns als Physiker sowieso kein Thema. Es gibt ja mittlerweile dedizierte Machine Learning und AI Studiengänge. Soweit ich weiß, ist es da auch 'n Teil. Man kann's zumindest als Wahlfach mit aufnehmen. Meines Erachtens ist ja sehr sinnvoll, zumindest das mal gesehen zu haben. Gleichzeitig muss ich aber sagen, jetzt wenn ich mir die Bewerberrunde angucke, die ich so im letzten halben bis dreiviertel Jahr gefahren hab für unsere Senior Data Scientist stelle. Ihr merkt schon Senior Data Scientist, also eher erfahrene Leute, die die 'n starken Statistikhintergrund haben, die kommen noch aus der alten Schule. Das heißt, entweder haben die halt keine Ahnung von Cloud Computing und auch eine entsprechenden Skalierung Oder sie haben sich halt in Eigenregie so parallel zum Job oder halt vielleicht mal in 'ner Vorbeschäftigung angeeignet. Aber das kam definitiv nicht dann ausm Studium.
Speaker0: Ist das denn ein Core Skill, den Du den Du, deren Data Scientist für Ihre unbedingt brauchen müsste, Cloud Computing oder Wissen darüber? Also wenn man bei uns
Speaker3: erarbeiten möchte, schadet's nicht, wobei's jetzt kein Knockout Kriterium ist, solang man die Grundkonzepte kapiert hat. Also wenn ich 'n Diskussionspartner sein kann für meinen Backend Mitarbeiter, dann ist das okay. Dann gibt's natürlich aber auch andere Firmen, die Cloud only arbeiten, da sähe es dann noch mal anders aus.
Speaker1: Ja, ich wollt ich wollt noch ergänzen, also ich glaub, das Allerwichtigste dabei ist, dass die Mitarbeiter bereit sind, sich in solche Themen einzuarbeiten. Also es muss niemand alle Skills mitbringen oder all die Erfahrungswerte mitbringen, aber er sollte bereit sein, auch dann Neues auszuprobieren, dort Lebenslerners Lernen, wie man so schön sagt, zu praktizieren, sich in neue Dinge einzuarbeiten und sich auf die Weise einfach auch weiterzuentwickeln. Und da ist, glaube ich, auch die Zusammenarbeit in 'nem Team wichtig. Mitarbeiter, einzelne Teammitglieder können voneinander lernen und das kann sehr schnell sehr produktiv sein, wenn die gut zusammenarbeiten.
Speaker0: Dann wurden in der Story 3 Dinge erwähnt, einmal Lokalserver und Cloud. Könntet ihr die mal für mich vielleicht oder für unsere Hörer besser gesagt, gegeneinander abwägen? Was sind da die Unterschiede, Vorteile, Nachteile? Wo sollte man denn am besten rechnen?
Speaker1: Wo sollte man am besten rechnen? Das ist eine 1 gute Frage. Dadrauf kann man natürlich eine einfache, scherzhafte Antwort geben, da ich von 'nem Service Provider komm, natürlich am NAZ. Ganz einfach ist es aber in der Realität natürlich nicht. Ich denk, es muss zu einem passen. Also es muss zu zu den zu eurer Herausforderung, zu den Aufgaben, zu dem, was ich tun will, passen. Also da spielen ja solche Dinge eine Rolle, wie wie groß ist mein Problem? Welche Ressourcen brauche ich? Welche Mengen an an an Speicherressourcen brauche ich? Welche Leistungsklasse von einem System brauche ich? Und also schon für mich nicht ganz klar war hier, lokal und Server ist jetzt aus meiner Perspektive nicht unbedingt strikt zu trennen. Gut, man könnte mit lokal bei vielen, das kenn ich von meinen Kunden, ganz gut sagen, okay, lokal ist meistens das Notebook, die die Workstation, der PC zu Hause, aber ich weiß, einige von meinen Kunden, die haben auch Geheimserver, also das heißt, das lokal ist bei denen auch eine Serverlandschaft und die kommen dann zum LRZ, wenn quasi eine 1 höhere Leistungsklasse an euren mehr an den Servern benötigt werden. Und genauso denke ich, es ist es 'n Stück weit mit der Cloud. Cloud kann man, also das ist 'n ein sehr wolkiger Begriff, wie manchmal immer wieder gesagt wird. Also es ist 'n un anschauiger Begriff. Verschiedene Leute verstehen unter Cloud sehr unterschiedlich. Also viele denken beim wenn man mit seiner Familie redet, bei Cloud zuerst mal so Storage Dienste, diese Google Drive oder so was in der Art, weil die meisten Leute nicht in der Cloud rechnen, sondern die die speichern dort ihre Urlaubsfotos. Aber genauso ist eben das das Thema Cloud kann man sehen, es ist zuerst mal eine Remote Ressource und wenn ich das noch mal meinem Arbeitgeber das 1 Zeit zurück betrachte, wir haben aber verschiedene Remote Ressourcen und nicht alle von denen würde ich 1 zu 1 mit dem Thema Cloud in Verbindung bringen. Also wir wir betreiben ja auch 'n, heißt das in Neudeutschen, 'n Supercomputer, also son Höchstleistungsrechen System. Das ist jetzt nicht unbedingt eine Cloud, auch wenn der in manchen Zügen aus der Cloud Welt mittlerweile inspiriert wird und ich glaube, in Zukunft wird sich da viel mehr in diese Richtung entwickeln. Das 2., was Cloud auszeichnet in meinem Verständnis, ist eine bestimmte Benutzungsumgebung. Also eine bestimmte Software- und Nutzungs Environment und die Art und Weise nicht mit dem System interagieren kann. Und da unterscheiden sich jetzt zum Beispiel die 2 Systemarten, die ich genannt hab, mit 'nem remote Cluster System, 'nem Supercomputer, schon deutlich von dem, was ich als als Cloud ansehen würde, wo eben sehr viel mehr grafische Interaktionsmöglichkeiten sind, wo die ganze Interaktion anders stattfindet.
Speaker0: Theo, wie geht's dir da beziehungsweise wie geht's Erium da? Also wie wie geht das wie geht Erium das Thema Berechnungen genau an?
Speaker3: Die Grundmaximis im Endeffekt die, die Nikolai grad genannt hat, nämlich, es muss passen. Und tatsächlich ist es son Punkt, der mir ein bisschen im Herz wehgetan hat. Zur Zeit der Promotion war ich nämlich auf so 'nem kleinen Ableger des Supermuck, also jetzt nicht tatsächlich der Supermuck, aber auf Sea toup, ist quasi so eine kleine Recheninsel, die immer noch für so Privathaushaltmaßstäbe abartig viel Power hatte und extrem breit parallelisiert. Und mir hat das sehr viel Spaß gemacht, darauf zu rechnen. Und dann habe ich aber festgestellt, für die Use Cases, die wir bei Erium bearbeiten, braucht's diese Art von skalierter Rechenleistung nicht. Und dann haben wir da auch keine ja zwanghaften Unternehmungen vorgenommen, da jetzt halt das irgendwie in die Richtung zu treiben. Und am Ende bei uns ist es so, wir haben vor allem die Anforderung an schnellen Speicher, also gar nicht mal viel Speicher. Unsere Datensätze sind gar nicht mal so sehr groß, weil dadurch, dass wir ja sehr stark auf Expertenwissen aufsetzen mit unseren Modelle, kommt damit auch ein sehr, sehr starkes Datenvorfiltern mit Hand in Hand mit rein. Und am Ende sind's bei uns kleine Modelle, allerdings sind die die die Genauigkeitsanforderungen hoch. Das heißt, wir brauchen sehr viel Iterationen. Das heißt, Du tust mir persönlich oder uns in der Firma mit 'nem schnellen Prozessor mehr einen Gefallen als mit 1000 langsamen beziehungsweise mit schnellem Speicher einen größeren Gefallen als mit betaweise eben langsam angebundenen Speicher. Und das ist eben sehr, sehr individuell und da muss man halt ganz genau hingucken, ob ich die Bedürfnisse auch treffe und das das ist auch sehr, sehr relevant, wenn's drum geht, zum Beispiel die Geschäftsführung zu beraten. Also nehmen wir jetzt mal an, ich bin Data Scientist in der Firma und der GF, der liest in irgendeiner Zeitschrift ja Map Reduce Cluster ist super cool, die machen hier mit HADOOP Crunchian die die Peters durch die Map Reduce Algorithmen und am Ende brauche ich das aber gar nicht. Stelle ich mir unter Umständen Infrastruktur hin, die völlig ungeeignet ist für die Use Cases, die für meinen Betrieb interessant sind. Ja und deswegen klar, ja Nikolai LATZ ist natürlich breit aufgestellt, hat die verschiedensten Ressourcen. Ich mir aber das jetzt als Firma quasi nicht leisten kann, mich so breit aufzustellen, dann muss ich da ganz, ganz, ganz genau hingucken und mich halt dann im Zweifel beraten lassen durch eben solche Profis, ja, die alle Systeme kennen vom super horizontal skalierten Supercomputer über vielleicht einzelne sehr schnelle Maschinen, GPU Computing versus CPU Computing oder dann eben, wenn's drum geht, sehr flexibel zu sein. Das ist meines Erachtens die größte Stärke von Cloud Systemen, dass ich dass ich halt skalieren kann rauf wie runter, dann dann ist es halt die Cloud, ja? Aber das muss man wirklich sauber beurteilen.
Speaker0: Mhm. Nikolai, wie geht ihr denn beim LAZ das Thema Machine Learning und Data Science an? Wie läuft das bei euch? Oder beziehungsweise wie nutzt ihr auch ihre eure Erfahrungen, die ihr bisher gemacht habt, dieses Themenfeld, sag ich mal, ja, ich sag jetzt mal, zu erkunden oder oder euch da gut gut aufzustellen?
Speaker1: Also ich denk, das knüpft schon nahtlos an an die Diskussion an das hier vorher Gesagte an. Also 2 wichtige Punkte, die für das LRZ immer in seiner langen Geschichte wichtig waren, ist zum einen auf die Kunden zu hören, also zu gucken, was brauchen unsere Nutzer? Auf sie zu hören heißt zum einen, mit ihnen direkt zu interagieren, zu fragen, was sie brauchen, direkte Interaktion zu sagen, aber auch zu beobachten und zu gucken, wo entwickeln sich Dinge in in in dem Umfeld von den Nutzern hin? Wie wie entwickeln sich Communitys? Noch son moderner Begriff, aber man muss einfach dabei sein. Also man kann nicht einfach bloß dasitzen und warten, bis irgendeiner kommt, der mit 'ner klaren Anforderung kommt, sondern man muss durchaus auch 'n klaren Blick, was passiert da draußen haben. Das ist eine wichtige Komponente. 2. Wichtige Komponente ist, denke ich, auf die eigenen Erfahrungen und Stärken aufzubauen. Also zu gucken, wo haben wir Erfahrung, wo wo kennen wir uns aus? Das heißt, zu gucken, was haben wir in der Vergangenheit gemacht und wie passt das mit den neuen Herausforderungen zusammen? Da braucht man natürlich weitere Anknüpfungspunkte, dass man eben, sagen wir mal, den Markt beobachten muss, gucken, wohin sich Technologien entwickeln. Wohin geht der Trend? Da ist eine Institution wie unsere oder wie eigentlich alle Serviceprovider 'n rege Austausch mit mit den Herstellern von Systemen angebracht. Das passiert auch. Und dann zu gucken, wie wie kann ich auf meinen bisherigen Erfahrungswerten dann mit diesen Komponenten aufbauen, das zu tun. Und wenn wenn ich dann noch mal die 2 Punkte von vorher aufgreife, ich glaube, also wir haben diese beiden Arten von Systemcluster Systeme, die so klassische HPC Systeme sind und eben die Cloud Systeme. Ich glaube aber in Zukunft wird sich das da entwickeln, dass sowohl die das Cloud System, das wir haben, mehr vom HPC kriegen wird, weil einfach der Leistungsbedarf da ist, was die Skalierbarkeit angeht, was die Größe vom System angeht, was was die Leistungsfähigkeit der einzelnen Hardwarekomponenten angeht und umgekehrt wird, was die die Nutzungsumgebung angeht, mehr aus aus dieser Cloud Word, aus diesen Cloud Environments auch in in in den Bereich von der HPC Clustern eindringen. Also Container Virtualisierung ist son Stichwort, das man da einfach mal hinwerfen könnte Und in dieser Art gibt's gibt's mehrere Dinge. Und genau in diesem Stile versucht es einerseits auch, diese Herausforderungen anzugehen, indem wir eben unsere Wurzeln, unsere Erfahrungen mit dem zusammenbringen, was wir im Austausch mit unserer Nutzerkundschaft und unseren Partnern, die uns die Systeme bauen, täglich Erfahrung bringen.
Speaker3: Was würdest Du dann jetzt in Bezug auf die Story mit der Edeka als Handlungsempfehlung aussprechen? Ich skizziere einfach mal 2 Szenarien, eben lieber 10000 Euro AWS Credits oder Azure Credits oder ja soll jetzt keine Schleichwerbung sein oder Google Cloud Credits der Erdeka zur Verfügung stellen oder lieber 10 k in eine Workstation investieren oder 5 5, ja. Also wo wo wo siehst Du dafür son kleine Firma, die jetzt den zweiten Data Scientisten eingestellt hat, 'n guten Weg, ja?
Speaker1: Also auch den folgen wird, so ähnliche Szenarien haben wir sehr häufig. Mhm. Wir empfehlen unseren Kunden ganz häufig dann, also zum Beispiel auf der LAZ Cloud Dinge einfach mal auszuprobieren. Gut, in dem Fall ist die Sache relativ einfach, weil die Kunden dort, je nachdem welchen Hintergrund sie haben, mit wenigen oder selber überschaubaren Kosten an die Sache kommen. Aber wie Du vorher richtig gesagt hast, bevor ich quasi in was Fixes investiere, in Hardware, die ich dann ja nicht mehr zurückgeben kann, einfach und dann hab ich nicht gepasst, ich tausch sie jetzt aus, würd ich's zuerst mal in 1 Institution und die Cloud Provider sind da, glaub ich, eine gute Anlaufstelle probieren, wo ich vielleicht auch die Möglichkeit hab, auf mehr verschiedenartige Ressourcen zuzugreifen, vielleicht auch Dinge auszuprobieren. Es ist manchmal nicht so einfach zu sagen, dieses Problem passt hier exakt 1 zu 1 drauf. Und das 2. Ist ja, wenn man den Zugang zu Experten hat und eure Firma ist, da denke ich 'n gutes Beispiel oder auch die Kollegen in meinem Team am LRZ, man kann Leute, die die Erfahrung haben, fragen und das das Problem erörtern und auf die Weise vielleicht auch eine Klärung herbeiführen, in welche Richtung sollte ich gehen? Also ich denk, mein Ansatz wäre, zuerst Euros in die Hand zu nehmen, auf 1 Mietressource in der Cloud Dinge vielleicht auszuprobieren und dann zu gucken, taugt wir das? Und vielleicht auch eine Kostenkalkulation zu machen, was heißt das mittelfristig, wenn ich diese Schiene weiterfahr oder zu sagen, okay, ich habe jetzt gelernt, dass diese Art von System für mich gut geeignet ist. Ist es vielleicht sinnvoll, in eine eigene Ressource zu investieren, die ich selber betreibe? Aber auch da muss man natürlich eine Vollkostenkalkulation machen. Die Hardware zu kaufen, wenn man über Server redet, ist eine Sache, sie zu betreiben und die Folgekosten
Speaker0: zu tragen, ist eine andere. Na ja, das vergessen viele, ne? Ja, ja. Das heißt, was ich da so raushör, ist, das das klingt aber schon wie eine Aufgabe, die die ja mittelfristig, weil das Wort vielleicht sogar langfristig einfach zu zu erörtern ist. Also das das ist jetzt 'n Kredit, den ich dann auch gedacht, dass man sagt, okay, gut, wenn wir jetzt mal einen Use Case und dafür bauen wir jetzt dann mal was auf, ohne groß drüber nachzudenken, was wir denn in Zukunft vielleicht auch damit damit machen wollen. Theo, wie siehst Du das denn, wenn wenn Erium als Externer herantritt, ne, an an eine Firma, welche Lage findet ihr denn da vor, was so was so das Berechnen angeht? Also ist es ist es so, dass die dann oft schon genügend Infrastruktur bei sich haben, wo solche Berechnungen angestellt werden können oder müsst ihr das meistens übernehmen? Du hast es gesagt, das ist so, dass dass das alles nicht so rechenlastig ist, weil ja viel Expertenwissen implementiert wird, aber vielleicht kannst Du ja dennoch was darüber erzählen, ja, wie denn wie denn, wenn jetzt vielleicht jetzt nicht unbedingt die Datenqualität besonders gut ist, aber vielleicht die die Rechenkapazität
Speaker3: ist, ja. Ja, klar. Gerne, gerne. Genau, da dazu gleich, also das spaltet sich so in in 2 große Gruppen auf. Da sag ich gleich noch was dazu. 1 ist mir grad noch in den Sinn gekommen, nämlich bezüglich des Rattenschwanzes, den Du erwähnt hast, Nikolaim. Und da sind ja viele Mittelständler auch gut aufgestellt in dem Sinne, dass die eine gute IT Abteilung haben und die die Serversysteme zur Verfügung stellen für beispielsweise Groupware, E-Mail, Daten Hosting inhouse, ja. Und sich auch die Backups und die Redundanzen kümmern und die Verfügbarkeit, wunderbar. Und eine wichtige oder eine witzige Geschichte, die mich seitdem ich die da miterlebt hab verfolgt war, aber dass für eine Experimentierumgebung wie eine, die ein Data Scientist benötigt, viele dieser Anforderungen gar nicht gegeben sein müssen. Und dann die Bitte war, des Data Scientists, also konkret war die Story die, ja, ich hätte gerne virtuelle Maschine mit der und der Rechenpower und dem und Speicher und dem und der der und der SSD mit so und so vielen IOPS und dann hieß es, na ja, also erstens, das kostet jetzt so und so viele 1000 Euro auf die interne Kostenstelle und gleichzeitig die Bereitstellung dauert irgendwie 2 Monate, weil da müssen wir noch mal Hardware anschaffen. Und dann so, hä, das ist völlig aus der Relation. Ja, was macht's ihr dann? Ja, also wie? Ja, ja, das müssen wir dreifach redundant ausführen und dann hat es die und die Folgekosten und dann müssen wir die Kühlung anpassen et cetera pp. Und dann war das Ende des Leads, aber die Erkenntnis für beide Seiten, ihr denkt in der viel höheren Verfügbarkeit, als das für meine Experimente nötig ist. Und am Ende wurd's dann eine Workstation, die eben im Büro und nicht im gekühlten, gesicherten, fünffach redundant ausgeführten Rechenzentrum am Werksgelände steht. Und das finde ich war ein schönes Beispiel eben dessen, dass man offen miteinander spricht, zu verstehen, was braucht man wechselseitig. Und es ist auch nicht schlimm, wenn die Testdaten, die ich sowieso synthetisiert habe, irgendwie ausfallen oder oder nicht mehr verfügbar sind, ja, weil es sind Experimente. Und was ich da gerade beschrieben habe, jetzt eben ganz konkret zurück zu deiner Frage, das ist dieser Fall. Es gibt 'n, ja, eine Abteilung, es gibt es gibt in der Firma, vor allem größere Firmen, einen ganz dedizierten Stab an Mitarbeitern, die sich nur die IT kümmern. Und zwar richtig richtig professionell. Also nehmen wir die großen Autobauer her, die betreiben ihre eigenen Rechenzentren. Und das sehen wir, dass wir sozusagen dieses ja Umfeld vorfinden, wo wir dann ja uns aussuchen können, was wir haben möchten. Ist wie wir buchen dann Ressourcen, wie wenn wir sie gegenüber AWS oder oder Azure oder Google Cloud buchen. Genauso läuft es dann im Endeffekt. Und auf der anderen Seite, wenn wir ins andere Extrem gehen, kleine Firmen, die teilweise ja ihren IT Betrieb auch komplett ausgelagert haben, man Dienstleister, die sich darum kümmern, da sind wir dann im anderen Extrem und dann wird wieder die Frage diskutiert, gibt man es dann auch ebenfalls diesen Dienstleister in die Hand oder stellen wir eben für einen ersten PoC eine Kiste hin oder halten wir das Modell am Anfang sowieso so klein, dass wir am Laptop bleiben? Irgendwie son Sechskernlaptop ist dann vielleicht für den ersten Testballon okay. Ja, also da da sind wir dann genau im anderen Extrem. Und witzigerweise dazwischen sehen wir relativ wenig.
Speaker0: Dann stellt sich noch die Frage der Versionierung. Wir hatten's auch schon in der Folge mit Sandra Romeis kurz angesprochen, mit der wir auch über Preprocessing gesprochen haben. Wie funktioniert ordentliche Versionierung? Was gilt es da zu beachten? Habt ihr da vielleicht ein, ja, handliches Toolkit für unsere Hörer, wie das denn am besten gelingt? Was habt ihr denn für Erfahrungen mit, ja, Versionierung?
Speaker1: Das ist 'n Thema, das bei uns im Team auch immer wieder aufschlägt. Da ist die Situation meistens die, dass wir uns 'n bisschen dem, also folgend, was was unsere Kunden quasi mitbringen. Also wir versuchen unsere Kunden da nicht zu indoktrinieren. Wir raten natürlich auf jeden Fall den Good Practices zu folgen und dazu gehört Diverszenierung und eben auch eine entsprechendes Aufzeichnen und Bookkeeping, will ich's mal nennen, von dem, was man tut. Ist seinerzeit versucht auch in in dem Zusammenhang Services zur Verfügung zu stellen, die genau dort Unterstützungs leisten. Also wir wir haben eine Instanz, die das jederzeit betreibt, die die als Codebasis für viele Leute im HPC dient, aber die auch genau für solche Experimente zur Verfügung gestellt hat. Wie funktioniert's? Also wie schon angesprochen, man sollte gucken, dass man die Dinge sauber aufzeichnet. Also ich sollte von den Code Branches, an den Personen, an denen ich Experimente durchführe, an denen ich was mach, an denen ich was änder, was weiterentwickel, gucken, dass ich das sauber aufgeführt hab. Weil egal, was ich glaube, wie wie gut ich im Gedächtnis hab, was ich da gemacht hab, wenn die Zeit ins Land gegangen ist, weiß kein Mensch mehr selber, was er dort gemacht hat und es wird wird echt schwierig. Ist genauso die Geschichte mit mit den gut kommentiertem Code. Unkommentiert der Code ist immer nie wirklich nachvollziehbar. Und das Gleiche gilt, wenn ich irgendwelche Set ups, irgendwelche Workflows aufgesetzt hab, damit vielleicht auch Experimente gefahren hab oder oder so was wie Benchmarking gemacht hab, noch mal auf das Thema zurückgreifen, das wir gerade besprochen haben, das zu klären, was ist für mich die richtige Hardware? Muss ich ja vielleicht irgendwelche Messungen durchführen, irgendwelche Benchmarks durchführen? Auch dort ist es absolut wichtig, dass man das entsprechend aufzeichnen und nachvollziehen kann, was wurde wann wo gemacht. Nur dann kann ich hinterher auf diese Zahlenbasis vernünftig zugreifen. Und wir, wie gesagt, haben jederzeit versuchen, durch Services, aber auch sich, dass das mein Team macht, unsere Kunden dabei wirklich möglich zu unterstützen.
Speaker3: Und wie geht's euch mit weiterführenden Technologien, die auf dem Prinzip von git weiter aufsetzen? Also was wir momentan uns für für uns und am Ende dann auch für unsere Kunden angucken, das sind so Technologien wie DBC oder Milliliter Flow, sozusagen den Funktionsumfang von Ryan Gip noch mal aufzubohren, sind uns aber da auch für uns noch nicht so ganz sicher, ob der zusätzliche Overhead den Mehrwert rechtfertigt. Ja, weil am Ende, ja okay, die grafische Aufbereitung vielleicht von 'nem Score, ich kann ihn mir auch im Git entsprechend versionieren, ja? Und da würde mich einfach deine Perspektive auch interessieren, verlangen das eure Kunden oder oder habt ihr vielleicht auch schon Kontakt damit gehabt? Ratet ihr dazu, ratet ihr davon ab oder ist es am Ende einfach nur und gut ist?
Speaker1: Also ich denke, wenn man die Mehrheit anguckt von denen, die die aktive Kunden bei uns sind, dann ist es momentan noch nicht son Start nachgefragt, aber es gibt halt immer Leute, die sagen wir mal, weiter vorne in dem Bereich sind, die mag man vielleicht als Trendsetter beschreiben, die das dann durchaus ausprobieren wollen. Das ist wieder 'n klassischer Fall, wo wir dann, da wir nicht für jeden einzelnen Kunden eine maßgeschneiderte Lösung in jedem Fall anbieten können, weil sie nicht sofort 'n Service parat haben, Den Leuten empfehlen, ja, vielleicht wollt ihr das Ganze in in der Lets Cloud dran bringen. Ich mein, da kann sich jeder sein eigenes Umfeld zusammen konfigurieren und wenn's Open Source Tools sind, ist es da relativ schnell damit auch sone Kiste aufgesetzt. Wir versuchen da immer dran teilzuhaben, also im Sinne, wenn wenn da ein Austausch ist, wenn wir was lernen können, das zu begleiten, auch eben selber was draus zu ziehen, den den Dialog mit den Kunden zu haben, dann machen wir das gerne, eben auch abschätzen zu können, ist das was, wo sich's lohnt, langfristig was draus zu machen? Deswegen hatt ich das so erwähnt, also die die die Basisdienstleistung, die jetzt zur Verfügung gestellt wird, ist ist das GitLab als Git Instanz. Das gibt's, was die Leute on top quasi drauf wollen, das müssen sie momentan selber tun, einen einen etwas anders gelagerte Bereich, aber knüpft einem das ähnlich an, wenn so Dinge wie dieses wie Continuous Integration, da sieht man eine verstärkte Nachfrage. Und da ist dann halt auch im Prinzip Arbeit im Hintergrund, gar nicht zu gucken, was was davon kann man auf welcher Zeit Skala aufnehmen, vielleicht eine 1 Servicedienstleistung draus zu machen. Aber auch da ist natürlich, Ressourcen sind nicht un unentwegt verfügbar. Man muss ja ressourceneffizient arbeiten als Dienstleister. Und man muss dann halt einfach gucken, wo sind die Prioritäten, was sind die wichtigen Dinge? Da kann man vielleicht 'n Service anbieten und bei anderen Dingen eben den Leuten, sagen wir mal, direkte Unterstützung zukommen lassen, dass die vielleicht sich auch eine maßgeschneiderte Lösung selber bauen.
Speaker0: Jetzt mal ganz doof gefragt, was kann denn auch einfach schiefgehen, wenn man denn wenn man das denn nicht macht? Also ohne Versionierung, das vielleicht mal so vielleicht mal son ganz konkretes Beispiel zu hören, was kann denn da in die Hose gehen?
Speaker3: Du hast eine funktionierende Lösung und weißt nicht mehr, wie Du sie parametrisiert hattest.
Speaker0: Okay. Das ist, also im Prinzip kann alles schiefgehen.
Speaker3: Ja, ja, also wirklich ohne ohne Quatsch. Leute dokumentiert und versioniert eure Experimente. Das ist sonst sonst könnt ihr's gleich ausm Fenster werfen. Nikolai, ich hätte noch eine kurze Frage. Du hast nämlich das Stichwort Open Source gerade genannt und ein Thema, mit dem wir uns auch auseinandersetzen, ist das des Wender Logins und es ist ja bestimmt eben schon mal passiert. Du benutzt eine Plattform, einen Service und benutzt dann zumindest aus Versehen eine Schnittstelle oder ein Service, der nur von diesem Dienst angeboten wird und hast dann mindestens einen Adaptionsaufwand, wenn du von der Plattform weg möchtest. Und je abstrakter die Interfaces werden, zumindest ist es meiner Eindruck, desto spezifischer wird's je nach Anbieter und je stärker wird dadurch auch der Login. Und wir zum Beispiel versuchen, auch wenn wir jetzt momentan bei einem bestimmten Cloud Anbieter sind, sozusagen nur generische Interfaces zu nutzen oder komplett White Label VMS, die wir dann wiederum selbst parametrisieren, einzusetzen, sozusagen mit minimalem Aufwand den Anbieter wechseln zu können. Wie ist denn da deine Sichtweise drauf? Gibt's denn auch Schnittstellen, die generell gelten von einem AWS hin zu 'nem Azure hin zu 'nem Google Cloud, aber auch 1 LAZ Cloud, die drüber hinausgehen? Ja, dann nimm halt einfach eine virtuelle Maschine und kümmer dich alles selbst, ja. Kann ich kann ich sowas nutzen? Hat das LRZ sowas oder habe ich auch einen Login, wenn ich jetzt sage LRZ Cloud, gut nutze ich auch die abstrakten Dienste, aber dann na ja, dann müsst ihr halt da.
Speaker1: Also es ist 'n großes Thema, hängt natürlich auch damit zusammen, wie im im öffentlichen Bereich Hardware beschafft wird. Ich mein, wir sind ja angehalten, die auszuschreiben und das ist auch gut so, das will ich hier überhaupt nicht hin infrage stellen. Aber das heißt, ich bin immer, also muss immer in gewisser Weise offen sein, was in der nächsten Generation passiert, weil ich ja immer Mhm. Ausschreibe. Das heißt, ich muss mir schon da, also von dieser Perspektive gesehen, die Optionen offen halten. Das 2. Ist eben, die die ziemlich große Bandbreite von den LAZ Kunden in in meinem Erfahrungsalltag, die eben auch aus sehr verschiedenen Bereichen kommen. Und auch dort ist es dann eben für uns wichtig, dass wir uns Optionen offenhalten, sprich da versuchen offener zu bleiben. Das gibt sich dann so, dass vor allem in in in in in dem High Performance Umfeld, wo es also Hochleistungs Hardware angeht und das hab ich ja vorher schon 'n bisschen entklingen lassen, ist ziemlich die Spielwiese, wo das LRZ unterwegs ist, wo wir auch unsere Stärken sehen. Dort wird sowieso sehr viel auch von den kommerziellen Lösungen eigentlich auf auf Open Source Software letztendlich aufgesetzt. Also wenn man sich anguckt, viele viele Entwicklungen ist so, dass eine Firma ihr Produkt dadrauf aussetzt, aber sie sie tut das in 1 Weise, dass es quasi immer noch gewisse Kompatibilität mit anderen Bereichen gibt und so, dass es zum zum Open Source Produkt noch in irgend 'ner Form nutzbar ist, weil die genau das gleiche Problem haben. Sind Kunden, die quasi ihre Plattform benutzen, die sich aber nicht einsperren lassen wollen. Ich denk, Du erinnerst mich vielleicht noch an eine Zeit in in in der aktiven Forschung. Auch da hat man das Thema, man ist eben nicht nur bei einem Service Provider, wenn man das Forscher mal angeklungen im Bereich HPC nimmt, dann muss ich gucken, wo kriege ich denn Rechenzeit auf welchem Rechenzentren und muss mich auch dort hin- und herbewegen können, bin ich wieder bei dem Thema, dass ich mich in in verschiedene Schnittstellen reinbringen muss. Bei LAZ ist es so, dass wir natürlich dort, wo es notwendig ist, gucken, dass wir kommerzielle Lösungen zum Einsatz bringen, aber eben gucken, dass die so offen wie möglich sind, vom Aufwand auch recht verdienen lässt, dann auf Open Source Lösungen setzen und vielleicht dann gucken, wie wir gemeinsam Unterstützung zwischen dem Hersteller der Hardwareplattform zum Beispiel und dem dem Personal am 1 Zeit eine Lösung zu fügen, schnell 'n Beispiel dafür zu nennen. Die 1 Zeit Comput Cloud, die existiert, die basiert zum Beispiel auf Open Stack als Cloud Infarktbüro. Und so wird in relativ vielen Bereichen eben geguckt, dass man entsprechende Dinge aufsetzt. Das Geklebt, das vorher schon mal genannt wurde, ist ja auch so, dass es kompatibel ist mit mit der Standardgate Infrastruktur, auch wenn da in gewisser Form 'n Produkt unterstellt. Ich weiß nicht, ob das deine Frage in diese Richtung beantwortet oder ob ich 'n Teil jetzt nicht richtig beantwortet hab.
Speaker3: Nee, nee, nee, nee, geht genau in die Richtung und ich denk im Hintergrund auch an die jungen Complexity Masters, die jetzt vielleicht noch im Studium sind und sich aussuchen können, in welche Technologien sie sich einarbeiten. Ich höre da jetzt den Trend raus, eben aufgrund des Bedarfs von Firmen den den WenderLog in zu vermeiden, sich auf Open Source Technologien zu konzentrieren das heißt bevor ich mich jetzt auch als als Experte irgendwie auf eine progriitäre Technologie einschließe könnte man ja daraus jetzt die Handlungsempfehlung ableiten nee guckt euch lieber mal die Open Source Pornos an Ist das so korrekt? Würde es das würde es da mitgehen?
Speaker1: Also ich weiß nicht, ob ich's in der Klarheit formulieren würde, weil es gibt, denke ich, auch manchmal gute Gründe zu sagen, okay, ich such mir eine kommerzielle Lösung, weil die kommerzielle Lösung ja auch eine unterstützte Lösung ist. Also ich ich krieg ja was für für das Geld, das ich da investiere. Nicht so, dass ich da irgendwie 'n 'n gleichwertiges Produkt kriege, weil dann wär die Lösung so gesehen, einfach zu sagen, ja gut, ich nehm das Open Source Projekt Produkt und oder die die Software ausm Open Source Projekt, weil es ist es ist günstiger. Sondern es ist ja immer irgendwie einen Trade off zwischen, was kriege ich geboten und was muss ich dafür investieren? Beim Open Source ist es ja häufig, dass dass ich das investieren muss. Ich muss es selber installieren, pflegen, ich bin abhängig von der Community, krieg vielleicht nicht so schnell Bugfixes irgendwas in der Richtung. Ich würd sagen, zuerst gründlich drüber nachdenken. Also sich vielleicht klar bewusst machen, was sind denn die Vorteile von von 1 Lösung? Eben Freiheit zu portieren, freier Zugang zu irgend 'ner Software, aber welchen welche Nachteile oder welche Konsequenzen fange ich mir dadrüber auch ein? Zum Beispiel, dass ich vielleicht mich selber Problemlösung kümmern muss oder oder davon abhängig bin, dass ich in irgend 'nem Community Forum schreiben muss, ich hab da einen Bug gefunden oder es verhält sich komisch, kann mir mal jemand helfen? Und je nachdem, was da draußen los ist, geht's schneller oder weniger schnell, ob ich mit meinem Problem weiterkomme oder nicht. Und das kann ja von der Firma auch von relevant sein. Und spätestens an Deutschland lohnt sich's eben vielleicht auch zu gucken, na ja, gibt's nicht auch kommerzielle, unterstützte Produkte, wo's 'n entsprechenden Support gibt, die haben mir eine gewisse Sicherheit verleiht, der mich aber trotzdem nicht gleich in in in in den Kasten einsperrt. Und ich glaub, da leben wir insgesamt in in in interessanten Zeiten. Wenn ich mein Bild von den Communitys draußen so sehe, ich glaube, die die die Bänder, also die die Firmen, die Hersteller von von Hardware, die in dem Umfeld, in dem ich tätig bin, die haben das ganz klar gesehen. Deswegen hatte ich ja schon gesagt, da da wird auch viel mit Open Source Software gearbeitet. Also die meisten der HPC Systeme laufen auf auf auf irgendwelchen Linuxen und als Betriebssystem. Es sind zwar meistens kommerzielle Distribution, aber man man setzt da ganz klar auf einen Community unterstütztes Open Source Produkt und das setzt sich in dem Ganzen auch für Environment sehr stark fort. Wenn ich das, weil vorher 'n paar andere Namen genannt würden, die die großen Cloud Tech Giganten aus den USA sehe, die haben natürlich aufgrund ihres Geschäftsmodells, verfolgen auf die, weil Sie gerne auf Kunden fangen gehen. Also das unterstell ich Ihnen jetzt einfach mal so. Das ist schon 'n Stück weit Teil des Kalküls. Und wenn ich jetzt als als kleine Firma, als potenzieller Kunde von von diesem Business Environment quasi mich sehe, dann heißt es, ich muss mir vorneweg schon 'n paar Gedanken machen, welche Konsequenzen hat denn die eine oder die andere Lösung? Weil ich das vorher gesagt hab, ja, ich würd im ersten Fall vielleicht das mal auf der Cloud ausprobieren. Ja, zum Ausprobieren ist das mal ganz gut, aber bevor ich mich quasi endgültig an Google binde jetzt als Beispiel, ohne eine Schleichwerbung machen zu wollen, aber da sollte ich eben mehr drüber klar werden, was heißt das und was kann ich dort wie tun und welche Migrationssphase gibt's vielleicht auch von dort weg auf eine eigene Lösung oder auf eine Lösung von 'nem anderen Hersteller? Und ich glaube, das ist vielleicht mittelfristig, das ist noch 'n bisschen visionär, aber da wir ja alle in Europa tätig sind, vielleicht auch 'n bisschen das braucht, dass dass es in Europa andere Lösungen gibt und wir nicht nur von von, sagen wir mal, Technologie aus ganz anderen Bereichen tätig sind. Ohne dass ich da jetzt Abschottungspolitik in irgend 'ner Form propagieren will, das liegt mir völlig fern. Ich denk, die Welt sollte zusammenarbeiten, aber man muss gucken, dass man immer mehrere Optionen hat und dass man sich drüber gewah ist, welche Optionen hab ich denn und welche Konsequenzen hat das, wenn ich in die eine oder andere Richtung geh? Mhm, mhm.
Speaker3: Und wie wie stehst Du dazu als ein Beispiel, das mir eben in den Sinn kommt, wenn Du sagst, naja, proprietär ist nicht immer schlecht, weil man den entsprechenden Mehrwert auch dafür rauskriegt. Stichwort Kuda ist momentan Nvidia für mich das Mittel der Wahl. Also es es macht jetzt aus meiner Sicht keinen Sinn als Student zu sagen, nee, ich möchte unabhängig von Nvidia bleiben und deswegen bilde ich mich jetzt nicht aus so 'nem Kuda Programmierer, sondern da ist halt die Marktlage einfach momentan so, die Performance von Kader basierten Systemen ist, soweit ich's bitte gerne spiegeln, aber soweit ich's gesehen hab, unmatcht und dementsprechend ist es dann einfach auch für mich als Student des Mittel der Wahl, mich dort in die Richtung fortzubilden.
Speaker1: Also da würde ich ja ganz klar beleidigen, momentan ist das die führende Firma in in dem Bereich, die auch vervoldensmäßig das das Beste zur Verfügung stellen kann. Ich glaube trotzdem, wenn ich die Entwicklungen, die ich so im Überblick sehe, dass sich das mittelfristig auch wieder ändern wird. Wenn man noch mal auf die jüngere Historie von Computerentwicklungen hinguckt und ich kann das schon aufn paar Jahre eigentlich schon mehr wie 'n Jahrzehnt zurückblicken, man hat auch immer die Ups and Downs gesehen, ja? Also es, vor allem im HPC Bereich gibt's berühmte Firmen, die die wirklich Hoch- und Niederzeiten erlebt haben. Vielleicht 'n Beispiel, das vielen Zuhörern mehr sagen wird, aber die Firma Apple hatte Zeiten, wo sie gut dastand und dann sind sie fast an der Pleite entlanggeschlittert und niedergegangen und dann wie Phoenix aus der Asche wieder aufgestiegen. Heute sind sie 1 der wertvollsten Unternehmen. Aber ich würd nicht all meinen Vermögen drauf verwetten, dass das für immer die einzelne Position brauchen kann. Und ich denk, das ist das ist 'n 'n Wesenszug der IT Branche. Und genauso ist es in dem Bereich, wie ich denk, man muss nutzen oder man sollte das nutzen, was momentan verfügbar ist und was leistungsfähig ist. Aber auch da lohnt sich's ja vielleicht 'n bisschen drüber nachzudenken. AI und und und und Data Science hat ja sehr viel mit mit Workflows zu tun, die aus unterschiedlichen Komponenten zusammengebaut sind. Und vielleicht kann ich dort im in der im Design von diesen Set ups durchaus was tun, sodass einzelne Komponenten austauschbar sind. Also 'n Beispiel, wo wo das schon sehr lange der Fall ist und wo wo wo man ganz stark dahin gearbeitet hat und wo sowohl die die Firmen als auch Servicedienstleister wie wie das LAZ immer an einem Ziel gezogen haben ist, das das Abkapseln von bestimmten Funktionalitäten im HPC Bereich in bestimmte Format gewesen. Also wenn Du eine Folie Transformation verwendet hast, dann gab's halt irgendwann mal, hat sich sonen quasi Standard in in FFCW etabliert und es ist mittlerweile gang und gäbe, dass es quasi mit entsprechenden Schnittstellen von jedem Hersteller eine 1 entsprechende Implementierung auf seinem System gibt. Und das ist ist vielleicht auch genau hier der Schlüssel, wenn ich wenn ich meinen Workflow so aufstelle, dass ich quasi bestimmte Komponenten dann systemspezifisch und herstellersspezifisch anpassen kann, dann hab ich auch die Chance, irgendwann in Zukunft auf einen anderes System umzusteigen. Und ich denk, das sollte im vollkommenen Eigeninteresse liegen. Was ich grade gesagt hab, heißt ja auch, na ja, mit der Entwicklung heißt, gibt's halt auch Zeiten, wo Firmen sehr gut performen. Es gibt aber vielleicht Zeiten, wo sie sich 'n bisschen schwertun, weil was auch immer die technologischen Gründe sind. Und vielleicht kommt einen Mitbewerber, der mir in Zukunft dann bessere Leistung bietet und dann will ich ja nicht mit dem anderen irgendwie ins Tal der Tränen marschieren, sondern vielleicht auch als als Endnutzer eine Option haben, mich dann weiterzuentwickeln. Also das ist wieder sonen ja, aber und vielleicht aber auch in in eine andere Richtung zu gucken. Ich weiß, das ist 'n bisschen ambivalentes Bild, aber aber das die Welt da draußen ist eben komplex, die ist nicht so einfach, weil sagen kann, ja, das ist die Lösung und ich geh jetzt dorthin. Es fällt mir auf, diese in in den heutigen Zeiten, es gibt immer so bisschen dogmatische Sichtweise. Also es gibt halt Leute, die sind dann halt absolut dogmatisch in Richtung Nvidia. Ich hab nichts gegen die Firma. Ich hab auch mit denen selber viele Kontakte. Wir wir haben ja auch Systeme, von denen kann jeder ganz auf der Homepage sehen und ich hab mit denen immer gut zusammengearbeitet. Aber sind für mich halt auch nicht das das Einzige, sondern es gibt halt immer noch mehr drauf und ich denke, das lohnt sich auch 'n bisschen rechts und links zu gucken, auch wenn in 'ner bestimmten Zeit eine Firma dort durchaus
Speaker0: führend positioniert sein kann. Alles klar. Ich würd sagen, wir hören mal in den nächsten Storyabschnitt rein von der Erika.
Speaker4: Erika schafft es, sich vor und während des Trainings die nötigen Skills anzueignen. Bis sie jedoch die Vorhersagekraft ihres Modells testen kann, dauert es einen ganzen Tag. Wieder ein Zeitaufwand, mit dem sie nicht gerechnet hat. Die Anwendung auf den Testartensatz fällt jedoch gut aus. Danach kommt ihr wieder etwas mehr Mut, denn sie macht mithilfe ihres Modells eine Entdeckung. Erika sieht einen Zusammenhang zwischen der Wartungsdringlichkeit der Stationen und der Geschwindigkeit, in der die Anlage läuft. Sie bemerkt, dass ungeplante Wartungen meistens in Phasen auftreten, in denen die Anlage langsamer läuft als durchschnittlich. Worauf das zurückzuführen ist, ist ihr leider nicht wirklich klar. Ihre Schlussfolgerung, geringere Aktivität der Maschinen, lässt diese auch veralten und das fällt hier nun mal extrem aus. Nervös macht sich Erika an die Vorbereitung der Präsentation, in der sie für die Betreiber der Anlage den Ratschlag geben möchte, die Anlage tendenziell immer schneller laufen zu lassen, ungeplante Erwartungen zu vermeiden. Noch dazu soll ihr Modell in Zukunft weiterhin dabei helfen, die Wartungsdringlichkeitsentwicklung vorherzusagen, so die wenigen ungeplanten Erwartungen, die übrig bleiben, zu geplanten werden zu lassen. Wie wird die Präsentation wohl ankommen?
Speaker0: So, vielleicht Theo als 1. Reaktion darauf. Der Gedanke, den dir Erika da hat, die Maschine tendenziell schneller laufen zu lassen. Trigger das dann irgendwas bei dir oder würdest Du sagen, das ist erst mal 'n cleverer Gedanke oder was sagst Du dazu?
Speaker3: Total clever. Ist jetzt so, wie Du's geschildert hast, für mich ein klassischer Kandidat für Ursache und Wirkung vertauscht. Woran es dann am Ende wirklich liegt, vielleicht sehen die Mitarbeiter, da stimmt schon was nicht und fahren die Leistung zurück oder keine Ahnung, vielleicht ist es in der Betriebsanleitung der Anlage mit drin, dass zu 'ner gegebener Laufzeit dann die die Frequenz reduziert wird, wie auch immer. Aber also ich kann mir vieles vorstellen, aber jedes der Szenarien hat zur Grundlage, dass Erika da grad Ursache und Wirkung schlichtweg vertauscht hat.
Speaker0: Sprich, zunächst, wenn man so was sieht, sollte man nämlich als Data Scientist vielleicht nicht denken, hey, es ist 'n neuriger Moment, ich hab jetzt den perfekten Ratschlag, sondern mehr, hey, irgendwas ist da im Busch, ich sollte nachfragen.
Speaker3: Ja und immer irgendwo sich die physikalische Intuition noch mal vor Augen führen.
Speaker0: Genau. Nikolai, wie sehen denn AI Use Cases bei euch aus am LRZ, ne? Wir hatten vorhin schon kurz drüber gesprochen, wie wie ihr das Thema angeht, aber wie seht wie sieht es denn konkret bei euch aus?
Speaker1: Also das hat eine 1 ziemliche Diversizität. Also das Und die korreliert in dem Fall sehr stark mit auch unserer enorm breiten Nutzerschicht. Also man muss einfach sagen, das LRZ hat ja sowohl eine Rolle als Universitätsrechenzentrum als auch eben die vor indirekt angeklungen Sachen, dass wir als High Performance Computing Center eben auch andere Kundenschichten entsprechen und dementsprechend kommen sehr, sehr unterschiedliche Use Cases her. Und das Gleiche ist, es schwankt sehr stark mit den verschiedenen Communitys. Also wenn man Ganz am Anfang haben wir schon genannt, das sind mehrere Astrophysiker hier anwesend, wenn man die Community nimmt. In den Bereichen ist es halt traditionell so, dass die zum Beispiel sehr stark mit numerischen Simulationen arbeiten. Also das, was man als klassisches HPC bezeichnen liefert, große Datenmengen und 'n ganz klarer Trend, den man sehen kann, viele Leute benutzen Data Analytics Methoden und auch AI Methoden heute, mit diesen Daten was zu tun. Also die weiterzuverarbeiten, die zu benutzen, weitergehende Analysen damit zu betreiben, das also quasi als Analysetool für für den Output in diesem Bereich zu liegen. Oder aber es ist ja auch mit der Astronomie verknüpft, also mit der beobachtenden Schwesterwissenschaft, wenn man so will. Man versucht quasi, Dinge zusammenzubringen, die die Beobachtungsdaten mit den Simulationsdaten unter einen Hut zu bringen und auch dort kommen solche Methoden zum Einsatz. Und wenn ich jetzt 'n 'n 'n, wie soll man sagen, krasses Gegenbeispiel machen sollte, Wir haben aber, also wir sehen bei uns auch ganz klar Communities, die quasi aus Bereichen kommen, die bis vor 'n paar Jahren mit Computern eigentlich nur in dem Sinne zu tun haben, die haben das als Textverarbeitungstool benutzt, ja? Die hatten einen PC, dann auf Texte zu zippen. Also es gibt heute, also im Bereich der Geister und Sozialwissenschaften gab's viele Bereiche, wo vor Jahren wenig mit Computern gearbeitet wurde und wenn dann nur in dem Stil, da hat man Texte reingeschrieben oder Texte mitgelesen und nicht viel gemacht. Aber in dem Bereich tut sich enorm viel. Es gibt ja diesen modernen Begriff der Digital Humanities, die fangen richtig an, mit diesen Technologien zu arbeiten. Weil man eben mit dem natural language Processing zum Beispiel festgestellt hat, dass es AI Technologien gibt, mit denen man sehr gut automatisiert Texte bearbeiten kann. Und die haben natürlich völlig andere Use Cases. Also da da ist die Menge an Daten ist völlig anders verglichen mit den Astrophysikern. Die Art der Daten ist völlig anders. Es macht eben Unterschied, ob 1 1 gescannte Bibliothek benutzen will, irgendwas zu erforschen mit automatisierten Methoden oder obobachtdaten, Beobachtungsdaten von 'nem Teleskop anguckt. Und insofern haben wir sehr, sehr unterschiedliche Szenarien hier. Und ich könnte die Liste noch endlos weitersetzen, weil im Prinzip mit jedem einzelnen wissenschaftlichen Bereich und mit all deren, wir mal, auch historischem Hintergrund, wo kommen die her, was haben die gemacht, finden sich sehr, sehr unterschiedliche Anwendungsgebiete. 'N großer Bereich, der kommt, ist so biomedizinische Daten, also Life Science, kommt auch 'n Bereich mit sehr großen, neuen und jede Menge spannenden Herausforderungen. Da könnt man wahrscheinlich 'n ganzen Podcastfolge alleine machen, nur über dieses Thema zu gehen.
Speaker0: Und welchen Blick habt ihr dabei auf die Industrie? Also wenn ihr, ihr nehmt ja irgendwie eine besondere Rolle ein, dass ihr einerseits, ja, jetzt nicht direkt das krasse Wirtschaftsunternehmen seid, wenn ich das wenn ich das mal so formulieren darf, aber was was ist da genau der der Antrieb dahinter, wenn's jetzt nicht direkt Profit ist, wenn ich das so wenn ich das so sagen kann? Oder wie wie wie genau oder wie seht ihr die wie wie siehst Du den Vergleich zwischen dem Leib ins Rechenzentrum und generell eine ihr Firma, was eher aus der Industrie kommt, wie ist zum Beispiel Erium?
Speaker1: Wo siehst Du da? Okay, also ich denk, unsere Mission ist insofern ganz klar vorgegeben, wir haben einen politischen Auftrag, ja? Also das Du hattest vorher den kompletten Titel genannt. Wir sind das Leibniz Rechenzentrum der Bayerischen Akademie der Wissenschaften, die Bayerische Akademie der Wissenschaften und da steht direkt dem Wissenschaftsministerium des Freistaates Bayern und insofern haben wir einen politischen Auftrag. Und unser Auftrag ist uns, uns akademische Kunden im IT Bereich zu kümmern, ja? Wir sollen im Prinzip die dabei unterstützen, ihre Wissenschaft machen zu können und die dabei unterstützen, was auch immer sie brauchen, das richtig tun zu können. Daran sollen wir uns auch orientieren. Und dem versuchen wir eben nachzukommen, indem wir Services, also Services in Form von Infrastrukturservices in Form von weitergehenden Softwareservices zur Verfügung stellen, dass dass die das tun können. Insofern hab ich auch 'n 'n Stück weit vorgegebenes Kundenklientel, das sich eben aus den bayerischen Universitäten oder entsprechend klassifizierten außeruniversitären Einrichtungen zusammensetzt. Ich muss diese Kunden zuerst mal nicht direkt werben, sondern wenn die irgendwelchen Bedarf haben, dann kriegen die quasi den Hinweis, na ja, dafür stellt euch der Staat, die die bayerische Staatsregierung ja Ressourcen über diesen Kanal zur Verfügung und denkt. Das ist 'n ganz großer Unterschied, wie unser Geschäftsmodell funktioniert. Es ist auch selten der Fall, dass wir quasi direkt eine Beziehung haben, wir kriegen vom Kunden Geld und dafür kriegt er von uns eine Dienstleistung, sondern ganz viele Dienstleistungen sind so, dass sie quasi vom Staat präfinanziert sind. Also wir kriegen vom Staat Geld, damit wir eine Dienstleistung zur Verfügung stellen, einen anderen Teil vom Staat entsprechend zu unterstützen. Das sind komplette Unterschiede. Zu den Anknüpfungspunkten, die sind, denk ich, auch auf der Hand liegend. Die TU München bezeichnet sich nicht umsonst selber als die unternehmerische Universität. Die hat eine sehr lange Tradition dadrin, auch gut und und und sehr erfolgreich und sehr sinnvoll und ich denke auch mit 'nem guten Fokus mit der mit der Industrie oder mit Firmen zusammenzuarbeiten, Ausgründungen zu unterstützen. Und man sieht, dass eben auch unser Kundenklientel nicht unabhängig von der Industrie ist. Und das haben wir relativ viele Fälle, wo einen Lehrstuhl eine Kollaboration mit irgendeiner Firma hat. Also bei den Ingenieuren ist das ganz häufig der Fall, dass die zusammen an einem bestimmten Thema forschen. Und dann ist es natürlich auch so, dass wir das entsprechend unterstützen und auf die Weise haben wir auch direkte Kontakte zur Industrie. Wo's 'n bisschen schwieriger wird, ist, wenn jetzt 'n mittelständisches Unternehmen direkt zu uns kommen kommen würde, dann wär's für mich schwieriger, mit dem zusammenzuarbeiten, weil es eben nicht Also ich darf keine direkte Dienstleistung für die erbringen. Dafür gibt's natürlich auch Regularien. Also ich muss ja aufpassen, dass ich keine indirekte Wirtschaftsbeihilfe leiste. Da hatte der Staat eigene Regeln, die die so was vorgeben. Das muss dann schon beachtet werden, aber über sone Konstellation, wie ich sie eben genannt hab, finden sogar relativ viel Zusammenarbeit statt. Und es ist auch nicht so, dass wir nicht mit der Industrie reden.
Speaker3: Eine Rückfrage dazu, Nikolai. Und zwar hatte ich damals das Glück, am Max Planck Institut von Mitarbeitern unterstützt zu werden. Wie hat unser Softwaredesign auszusehen? Wie müssen wir gewisse Dinge implementieren? Welche der 5 FFTW Bibliotheken nutzen wir denn dann am Ende, das Training unseres Ansatzes, des Algorithmus, performant auf die Maschinen zu kriegen. Und das war sozusagen, also das war wirklich Hands on Unterstützung. Wir haben da in Peer Coding Sessions gearbeitet, der, ah ja genau, der der Frederic Bourchon, den hatten wir mal in der Folge zum Thema autonom Fahren, der war da bei uns mit dem Team, hat uns da wahnsinnig unterstützt. Ist es eine Ausnahme gewesen und wir waren sozusagen die Glücklichen, dass wir davon mal profitiert haben? Oder ist es bei euch klassisch auch Teil des Leistungsangebots, dass ich mir dort auch diese Hands On Unterstützung holen kann, abgesehen von der Infrastruktur und den Services, die ich quasi buchen kann?
Speaker1: Also ich denk, das kann man momentan planen, das ist Teil der Unternehmenskultur und des Serviceportfolios, das einerseits Unterstützung. Also das kann man so widerspiegeln, dass es immer schon dazugehört hat. Das hat damit zu tun, dass es im Prinzip schon eine lange Tradition gibt, dass es für die die Cluster Systeme, die HPC Systeme, die eben schon wesentlich länger da sind wie die Cloud, immer schon teil war, dass es diese diese Anwenderunterstützung in dem Bereich gibt. Und diese diese Anwenderunterstützung wandelt sich momentan auch ganz klar dahin, dass für den Bereich Data Analytics und AI, also für die Data Science relevanten Teile, die in dieser Form auch gibt. Auch mein Team versucht, in diesem Bereich zu unterstützen. Limitiert ist das Ganze im Prinzip dadurch, dass da draußen Hunderte oder beim Elternzeit Tausende Nutzer sind und wir natürlich irgendwann eine Ressourcengrenze erreichen, wie viel direkte Interaktion können wir mit jedem durchführen? Das heißt, wir müssen halt gucken, wie wir einen einen Serviceangebot so strukturieren, dass dort, wo's notwendig ist und wo's sinnvoll ist, in 'ner direkten 1 zu 1 Interaktion Leute unterstützt und beraten werden, so wie Du das grade beschrieben hast. Dass in anderen Fällen vielleicht aber zum Beispiel über organisierte Trainings, wo ich schon wesentlich mehr Leute erreichen kann. Ich mein, ein Trainer, wenn er 'n Kurs macht, kann 30 entsprechende junge Wissenschaftler in eine bestimmte Richtung unterstützen und beeinflussen, indem er eben bestimmte Dinge beibringt. Das heißt, man kann da in sonem Art Pyramidenmodell eben gucken zwischen dem einen Extrem, ich hab eine 1 zu 1 Interaktion, wo lohnt sich das? Da da muss man, ja, vielleicht in gewisser Weise priorisieren, gucken, wo wo macht man das und welche Motivation gibt's dafür? Und für große Codeentwicklungen oder für große Projekte ist das eben auch durchaus sinnvoll. In anderen Bereichen muss man eben gucken, dass man versucht, Dinge, also Interaktionsmöglichkeiten und einen Wissenstransfer zu implementieren, der mehr auf die Breite zielt und eben mehr Nutzer gleichzeitig unterstützt. Und beides versucht man möglichst effizient zusammenzubringen.
Speaker3: Das ist echt noch mal tolles Feedback, denn das bekräftigt mich nämlich in der ja, in der Take home Message oder ja, in dem Call to Action am Ende auch für die Data Scientists, die vielleicht auch mal in dem Projekt das Gefühl haben, festzustecken. Nehmen wir die Erika her, ja, also bei der dauert das Training des Modells jetzt deutlich länger, als sie es ursprünglich erwartet hätte, und das kann ja verschiedenste Gründe haben. Vielleicht ist es einfach so, ja, aber vielleicht hat sie auch irgendwo in der Implementierung einen Leichtsinnsfehler drin oder einen Check, der was in eine Log Datei schreibt und das Ganze dadurch verlangsamt und die eigentliche GPU langweilt sich den ganzen Tag und es dauert aber trotzdem dann 4 Tage, bis es fertig ist. Und ich fand eben diese Unterstützung damals sehr wertvoll. Wenn Du jetzt sagst, das ist ein elementarer Baustein eures Leistungsangebots und ja gut, jetzt gibt es natürlich viele Firmen, die die die haben nicht das Glück auf die Ressourcen des LRZ zurückgreifen zu können, aber es gibt viele und da möchte ich jetzt tatsächlich keine Namen nennen, weil es wäre dann tatsächlich Schleichwerbung. Es gibt auch kleinere Infrastruktur as a Service oder Cloud Computing Anbieter. Es muss nicht immer Google, Amazon, Microsoft sein, sondern es gibt auch kleinere deutsche Player, die aber genau damit punkten, dass sie im Team als Experten noch mal mit im Haus haben, das den eigenen Kunden aber hilft, noch mal wirklich genau nach diesem Ansatz hands on vorzugehen. Und daher echter Call to Action. Es muss nicht immer 1 der großen sein. Macht's euch ein bisschen schlau. Google ist dein Freund. Schaut's mal, welche Provider gibt's. Ich bin mir sicher, die Infrastruktur, die die zur Verfügung stellen können, reicht auch allemal aus. Ja, aber dann habe ich einen starken Partner und nicht die 0 800 Nummer von Microsoft, wenn's irgendwo brennt und und was nicht so läuft. Google ist dein Freund, herauszufinden, dass man Google Cloud Computing nicht verstecken muss. Ja, so ist es halt dann.
Speaker1: Ja, ich wollte auch noch ergänzen, es es es gibt da vielfältige Angebote. Also, weil Du mich davor genau drauf angesprochen hast, sind mir noch 2 Beispiele eingefallen, wo wir auch mit mit Firmen verknüpft sind oder irgendwas tun. Das eine ist, wir haben mit NVIDIA eine Partnerschaft in in diesem Data Innovation Lab, nicht Data Innovation Lab, Deep Learning Institute. Jetzt hab ich's durcheinander gemacht. Das Data Innovation Lab ist eine Einrichtung an der TU. Ich werf die 2 immer sehr gerne durcheinander. Das Deep Learning Institut ist, also da ist das LRZ auch 'n assoziierter Partner und wir führen dort auch entsprechende Trainings durch und ich hab in meinem Team auch zertifizierte Trainer in dem Bereich, wo es drum geht, eben in in Form von Trainingsinformationen nach außen zu geben. Im Bereich, in dem das LAZ, das ja zum zum Gauß Center for Supercomputing, zu dieser nationalen deutschen HPC Infrastruktur geht, ist es auch traditionell so, dass es Trainingsangebote gibt, in denen die sich auch offen an die Industrie richten. Weil HPC 'n sehr spezielles, sehr enges Feld ist, wo's nicht so viele Angebote im im Bereich in dem Bereich aufm Markt gibt, ist es dort Möglichkeit, dass Industriekunden quasi auch Trainingsmethoden in im im staatlichen Umfeld in in Anspruch nehmen. Wäre auch zum Beispiel eine Möglichkeit, ist, glaub ich, auch vielen nicht bewusst. Und nicht das das zuletzt, was Du gesagt hattest mit dem, es lohnt sich manchmal auch vielleicht beim beim Hersteller seines Vertrauens, wenn man Hardware Infrastruktur gekauft hat, mal nachzufragen, auch die können und sind manchmal dort bereit und haben die Möglichkeiten, einem Unterstützung zukommen zu lassen, bestimmte Probleme in diese Richtung
Speaker3: zu besprechen, zu diskutieren und dann auch nach Lösungsansätzen zu suchen. Also der Link zu den Kursen muss unbedingt in die Shownotes, denn mir war bis heute oder gerade eben nicht bewusst, dass diese Kurse auch für extern zugänglich sind und ich kann das nur empfehlen. Also jetzt hier unabhängige Recommendation, ich werde von Nikolai nicht dafür bezahlt, aber die Kurse sind wirklich super interessant, vor allem wenn ich mich weiterbilden möchte und eine kleine, ja, ein kleine Story dazu, die glaube ich gar nicht so in der in der Öffentlichkeit bekannt ist. Bei NVIDIA Grafikkarten gab es ja früher das SLI, mehrere Grafikkarten zu verknüpfen und irgendwann wurde SLI abgelöst von NVID Link. Ich glaube die RTX 3060, 30 90, die hatte jetzt NVID Link drauf, kein SLI mehr und wann war das? Vor 4 Jahren, 4, 5 Jahren. Als NV Link aufkam, wo kam das zunächst auf? Im HPC Umfeld. Ja, das war der der Interconnect, die High Performance Grafikkarten nicht für Game Computing oder oder Machine Learning, sondern für ganz klassisch HP Anwendungen und dort die Grafikkarten zu verknüpfen und auch wenn es vielleicht im ersten Moment nicht so aussieht, aber sprecht mit den Leuten aus der HPC Community, die sind halt echt an der absolute Vorfront der Hardware Entwicklung auch mit drin und dann wisst ihr halt mal 2 Jahre vor euren Kollegen, wo die Reise hingeht, dass zum Beispiel sowas wie NVID Link aufkommt. Und wenn es da dann auch noch ein Coaching beziehungsweise so ein Weiterbildungsformat gibt, das für die Öffentlichkeit auch zugänglich ist, Schaut es euch an. Wir packen den Link in die Shownotes und sucht euch da mal den Kurs raus. Also ich habe einmal bei einem mitgemacht. Ich kann's mir empfehlen.
Speaker1: Ja, ich wollte einfach noch ergänzen. Also in den Fällen, wo wir was tun können für Leute, die sich an uns wenden, werden wir das immer sehr gerne tun. Und in vielen anderen Fällen wird sich aber bestimmt eine Möglichkeit finden lassen, vielleicht auch einfach zu wissen, wo wo wohin man den Interessenten auch weiterreichen kann, damit eben irgendwo geholfen wird. Ich hatte vorher das GCS erwähnt. Der Gedanke, dieses virtuelle Institut der 3 nationalen Höchstleistungsrechenzentren zu oder zu gründen. Zumindest 1 der Gedankengänge dahinter war auch, dass die auch besser zusammenarbeiten und die haben auch Die besetzen unterschiedliche Ecken in dem in dem Ganzen. Und auch über diese Kooperation gibt's meistens Möglichkeiten, Leuten weiterzuhelfen. Also Fragen ist immer möglich und das ist auf jeden Fall eine sinnvolle Sache. Und der 2. Punkt, den ich noch anmerken wollte, aber das ist mir sofort in meinen Kopf geschossen, als Du das gerade gesagt hast, Theo. Ich glaube sowieso, dass diese diese diese Welten, also die Erfahrungswelt vom HPC und die vom AI sich sehr stark ernähren werden, weil ich sehe einfach im im AI Bereich in in in in vorhersehbarer Zukunft einen solchen Bedarf an Rechenleistung, dass einfach, das ist natürlich, dass die Dinge zusammenkommen. Du hast es in meiner Einführung ja schon gesagt gehabt, Jaguar, dass wir das ja HPC mit a nennen. Man könnte vielleicht auch den den künstlichen Begriff HPA einfach, high performance a nennen. Ich denk, da da entwickelt sich was und vor allem ist es so, wie Du genannt hast, Theo, es gibt eine Menge Dinge, wo die die Leute im HBC Umfeld schon Lösungen und Lösungsansätze entwickelt haben, mit bestimmten Botlenecks, mit Herausforderungen umzugehen und warum diese Konzepte das Rad noch mal erfinden und diese Konzepte nicht nutzen. Und ich denk, das ist eine Handle, die Sache und wird auch passieren.
Speaker0: Alles klar. Dann nutz ich das jetzt mal direkt als Schlusswort. Ich sag vielen Dank Nikolai und vielen Dank Theo. Toll, dass ihr da wart. Hat mich sehr gefreut. Und ja, ich sag auf Wiedersehen, tschau, bis zur nächsten Woche, wo wir uns dann weiter die Abenteuer von der Erika anhören. Toll, dass ihr da wart.
Speaker1: Vielen Dank für die Einladung und tschau.
Speaker3: Danke euch.
Speaker0: Hier noch einmal die 3 wichtigsten Learnings der Folge. Nummer 1, wenn es an die Berechnungen geht, sollte man sich immer fragen, was passt zu mir und meinem Projekt? Nicht für jeden ist Cloud unbedingt geeignet. Daher am besten über die verschiedenen Angebote informieren und herausfinden, was am besten zu einem passt. Nummer 2, 1 ordentliche Dokumentation ist das a und o. Ohne richtige Versionierung sind selbst potenziell gute Ergebnisse völlig wertlos. Und Nummer 3, nutzt das große und vielfältige Angebot von Lehrveranstaltungen, das es zu diesem Thema gibt, wie zum Beispiel die Kurse vom LAZ. Mehr Informationen dazu findet ihr in der Beschreibung. Bis zum nächsten Mal. Master the Complexity.
Speaker2: Jeden Dienstag erscheint eine neue Folge von Podcast. Auf dem Laufenden zu bleiben, folgt uns auf Facebook, Instagram, Twitter und LinkedIn. Wenn ihr uns unterstützen wollt, gebt uns eine 5 Sterne Bewertung auf Apple Podcasts, folgt uns auf Spotify und empfehlt uns weiter. Bis zum nächsten Mal bei The IRIUM Podcast.