Zu billig, um wahr zu sein? Was KI wirklich kostet – und wer gerade draufzahlt

- Dr. Theo SteiningerCo-Founder & CEO at Erium
- Dr. Maksim GreinerCo-Founder & CTO at Erium
Overview
In this episode of Beyond AI, Theo and Maksim discuss what using AI really costs – both in euros and in kilowatt-hours. They examine the subsidy logic behind low-cost subscription models, analyse which AI use cases would still hold up at real-world prices, and put the energy consumption of prompts, video generation, and model training into tangible terms.
Summary
What Erium spends on AI internally – and why subscription vs. pay-as-you-go can make a tenfold difference
Erium spends around 3,000 euros per month on AI internally – with a team of roughly 10 full-time employees, that is approximately equivalent to the cost of a junior position. They deliberately use a mix of subscription models and usage-based billing, depending on data sensitivity and use case. Flat-rate subscriptions such as ChatGPT Plus or Claude can be up to ten times cheaper than pay-as-you-go when used consistently – though with trade-offs in response speed and data privacy. Enterprise contracts through providers like Azure, on the other hand, offer clear data privacy guarantees but come at a higher price.
Cost control in agentic systems: why limits are indispensable
Particularly with autonomous, agentic AI systems, uncontrolled token costs can spiral quickly – much like accidentally launched cloud instances in the past. Theo and Maksim describe how Halerium has therefore built in two escalation levels: a warning threshold that notifies responsible staff by email, and a hard limit that stops the workflow if necessary. This principle – warn first, then enforce a hard cap – is compared to the transfer limit in online banking and is considered best practice for any organisation deploying agentic AI.
AI pricing as a strategic decision: who is currently subsidising whom?
Current prices for AI services do not reflect actual costs. OpenAI, Anthropic, Google, and Meta are running significant losses and subsidising their models to gain market share. Theo and Maksim discuss whether – as with search engines – one dominant provider will eventually prevail. Their assessment: network effects are largely absent in pure language models, since switching between models involves almost no technical friction. Lock-in effects could emerge at most if providers deeply integrate their models with proprietary agent infrastructures.
Which AI use cases survive at real-world costs
The two offer a nuanced answer to the question of which use cases would still be profitable at real prices. Meeting summaries survive when they are focused and implemented with a clear prompt chain – a structured analyser at 4 euros per hour of meeting is justifiable in a business context. Agentic coding remains worthwhile as long as a human sets the direction and does not simply let an agent loose on an unfamiliar codebase without oversight. Deep-research agents, however, currently deliver too few curated results to be convincing at real costs without tighter guidance.
The problem of 'review debt': too much output, too little thinking
A central problem in everyday AI use is the creeping 'review debt': AI produces more output than humans can meaningfully process. Maksim describes how he actively distils AI results and only 'signs off' on the part he has genuinely read and understood. Theo adds three practical countermeasures: review early and often rather than accumulating debt, explicitly instruct the bot to give shorter answers, and prompt it to actively consider the user's context – for example by asking it to name the five most important open questions.
Energy costs of AI: from a single prompt to model training
Measured in kilowatt-hours, some remarkable figures emerge: a typical text prompt consumes around 0.3 watt-hours – comparable to two minutes of room lighting from an LED bulb. An agentic deep-research run can reach approximately 40 watt-hours, which corresponds to the energy a human brain uses for one hour of focused thinking. Generating a five-second AI video comes in at around 0.5 kilowatt-hours – the equivalent of roughly 3,000 text prompts. Training DeepSeek V3 is reported to have consumed around 3 gigawatt-hours, and GPT-4 an estimated 60 gigawatt-hours – roughly 60 hours of output from a nuclear power plant.
Will AI destroy work or simply transform it?
Finally, the two discuss the core macroeconomic question: does AI make work redundant or merely change it? Their observation so far from client projects: individual tasks have been eliminated by AI, but not a single job. People create coherence between tasks – and since everyone already has more tasks than fit into their working day, they see rising expectations and higher review demands in the short term rather than mass unemployment. The washing machine analogy applies: standards rise, and capacity is used differently.
Key takeaways
- AI subscription models can be up to ten times cheaper than pay-as-you-go when used consistently – but require deliberate usage management.
- Current AI prices are strategically subsidised and do not reflect real costs – all major providers are currently operating at a loss.
- Agentic AI systems absolutely require cost limits on two levels: a warning threshold and a hard stop limit.
- AI use cases only survive at real-world prices when they are focused, clearly directed, and closely reviewed.
- 'Review debt' is an underestimated productivity problem: AI produces more output than humans can meaningfully process.
- A text prompt consumes approximately 0.3 watt-hours, a 5-second AI video approximately 0.5 kilowatt-hours, and training GPT-4 an estimated 60 gigawatt-hours.
- So far, AI tends to eliminate individual tasks rather than entire jobs – rising quality expectations and new activities compensate for what is lost.
- The rebound effect is real: efficiency gains from AI often lead to greater usage rather than lower resource consumption.
Conclusion
The episode makes clear that today's seemingly low AI prices are an illusion built on massive subsidisation. Anyone who wants to use AI sustainably and cost-efficiently should already be working as if real costs apply: prompt in a focused way, manage agents closely, set cost limits, and actively manage their own 'review debt'. The energy consumption of AI is an additional dimension that still receives too little attention in public debate.
For decision-makers and IT leaders
Anyone deploying AI within an organisation should introduce cost limits and monitoring now – especially for agentic systems. The choice between subscription and pay-as-you-go models has significant financial and legal consequences depending on usage intensity and data privacy requirements.
For everyday AI users
Anyone who wants to use AI productively should move away from the tendency to uncritically 'just send something': think first, then prompt deliberately, actively condense and review results – this not only saves costs but also delivers better outcomes.
For sustainability and strategy leaders
The energy consumption of AI – from a single prompt to model training – has reached a scale that should be factored into sustainability strategies. The rebound effect, whereby efficiency gains are offset by increased usage, is empirically well documented and is likely to apply to AI as well.
Show full transcript
Speaker0: 20 Euro im Monat, dafür bekommst Du heute einen KI Assistenten, der Fragen beantwortet, recherchiert, deine Meetings zusammenfasst und ganze Apps programmiert. Das ist ehrlich gesagt zu billig, wahr zu sein. Und genau darum geht's heute. Maxim und ich schauen uns an, was KI wirklich kostet, was wir selbst bei Erium jeden Monat dafür ausgeben und wir eigentlich die Differenz bezahlt, solange die Anbieter ihre Preise so hart subventionieren. Danach wechseln wir die Einheit von Euro auf Kilowattstunden. Was verbrauchten prompt, was 'n KI Video und was ist das Training 1 ganzen Modells? Als Physiker fand ich die Größenordnungen ziemlich krass. Willkommen bei Beyond a I. Viel Spaß mit der neuen Folge.
Speaker1: Neverget high union supply oder wie war der Spruch? Das stimmt bei uns nicht ganz. Also roundabout, nagelt mich jetzt nicht auf die Zahl fest, aber ungefähr 3000 Euro im Monat für interne KI Kosten kommt hin.
Speaker0: In Relation gesetzt, also wir haben ja 'n Team von rund 10 Vollzeit Querenden. Mhm. Je nachdem, welche Rollen man wie wie stark damit reinrechnet. Und wenn man das mal so vergleicht, also das ist bei uns jetzt halt quasi wie eine, ja, eine Junior Rolle Stimmt. Könnten wir Ja. Ja, wobei, ne, bissel weniger, ja. Aber es ist ist mehr als quasi nur son jeder kriegt 'n 20 Euro im Monat Abo wie Ja, genau.
Speaker1: Wir haben aber auch eine Kombination daraus eben aus diesen, also ich denke, Du willst auch darauf hinaus, wo wie viel kosten diese Abos oder was würden die kosten, wenn nach Token abgerechnet wird und so weiter. Also wir machen da auch eine Mischung, je nach Use Case, je nach Sensitivität der Daten, die verarbeitet werden und so weiter, benutzen wir halt auch unterschiedliche Abomodelle für unsere interne Arbeit.
Speaker0: Genau. Das find ich, ist nämlich ein wichtiger Punkt. Wenn ich mir das noch mal noch mal zu Gemüte geführt hab, wofür wir eigentlich wie viel ausgeben Ja. Macht es natürlich schon massiven Unterschied, ob ich sozusagen geschickt Abomodelle nutze beziehungsweise Volumenpakete oder quasi stumpf immer über den teuersten Pay as you go Tarif gehe Genau. In den Tokens, ne. Da können wir ja mal kurz bisschen reingehen. Also
Speaker1: was man zum Beispiel bei den Flatrate Modellen also hat, ist einerseits, dass typischerweise deine Anfragen deutlich langsamer beantwortet werden, weil Du quasi in der Prioritätenliste bei den Anfragen natürlich niedriger bist als derjenige, bei dem alles, was durchgeht, halt auf die Rechnung geht. Und das andere ist auch 'n Privacy Thema. Also was wir zum Beispiel für die in Halerium angebundenen KIs benutzen, sind ja grundsätzlich die Enterprise Verträge, wo keine wo die Daten nicht analysiert werden vom Provider, sondern das Einzige, was halt mal passiert, ist. Das da kommt man nur sehr schwer raus, aber die sind dann auch standortgebunden, also beispielsweise bei Azure. Nur da, wo die Server stehen, da werden dann diese Abouse Monitoring Daten gespeichert für einen Monat, wenn ich die das grad richtig im Kopf hab und danach gelöscht. Die gehen niemals in irgend 'nem Training und so weiter. Das heißt, da ist man so safe von der Privatsphäre, wie man heutzutage in mit in im Cloud Zeitalter eben sein kann. Aber wenn Du jetzt son Abomodell hast, irgendwie ChatGPT oder Claude oder so weiter, wo Du für 20 Euro im Monat als quasi, das kannst Du auch businessmäßig machen, aber sagen wir mal, das ist ja im Prinzip wie son Privatpersonenabo, son personenbezogenes Abo. Und da hast Du keine Kontrolle, wo die Daten verarbeitet werden und auch nicht wirklich, was mit denen passiert. Und und eben deine Anfragen werden mit geringerer Priorität beantwortet. Aber wenn Du dir dessen bewusst bist, kann ja trotzdem der Deal passen, ne. Und sagst, okay, ich hau da nur, keine Ahnung, irgendwelche technischen Aufgaben rein, die wo wo kein Rat neu erfunden wird, da Aufgaben, wo Du nix neu erfindet, ja. Und wo Du sagst, hey, dann rather halt mal den halben Tag. Ist mir doch wurscht. Ich hab jetzt die Aufgabe abgesendet und hab ja sowieso was anderes zu tun. Sind diese Abomodelle ja teilweise, ich hab's doch mal überschlagen, Faktor 10 oder so was günstiger, als wenn Du quasi pro Token bezahlst. Ich glaub, Du hattest das mal kalkuliert. Ja, ja, ja. Grob, genau. Weil Du
Speaker0: verlässt dich halt einfach auch darauf in der Mischkalkulation als Provider, ne, dass die allermeisten das Abo nicht ausreizen. Und wenn Du's schaffst, das auszureizen, dann dann profitierst Du natürlich überproportional, ne. Ja, genau. Genau. Und das ist dann mal natürlich auch so was, wo Du dann so deine Arbeitsanweise
Speaker1: son bisschen anpasst, dass Du diese, die haben ja dann meistens, also beispielsweise bei Claude Coat, wie war das das für 5 Stunden Fenster und 7 Tage Fenster, in denen quasi deine Kontingente wieder aufgefüllt werden. Und wenn Du an diesen Faktor 10 ran willst, musst Du die Kontingente natürlich auch irgendwie ausschöpfen. Mhm. Und dann... Also uns hat doch mal 1 erzählt, ein Freund des Podcasts, dass er beim Frühstück zu Hause noch nur quasi Hallo per Handy an Claude Coach schickt, damit das 5 Stunden Zeitfenster schon angebrochen sind mit der dicken beginnt, ne. Damit er dann 3 5 Stunden Zeitfenster über seinen Arbeitstag anzapfen kann. Ja, genau. Also das sind das führt dann zu diesen kleinen Artefakten, die eigentlich auch wieder Effizienz kosten, aber sich in der Gesamtkalkulation vielleicht trotzdem mehr lohnen als das Pay as you go Modell, wo Du halt dann zehnmal mehr pro quasi Output bezahlst, als wenn Du als wenn Du das Abo gut ausreihst.
Speaker0: Ja, und ich find also schon echt bemerkenswert, der Unterschied zwischen, okay, ich kauf mir irgendwie son 20 Euro pro Monat pro Mitarbeiter, auch ChatGPT Ja. Plus Account heißt der, glaub ich, genau. Verses, wenn wenn wieder irgend eine Firma sagt, so, ja, wir haben im März 4000000000 Dollar KI Kosten verursacht mit mit 1000 Mitarbeitern. Ja. Es steht ja irgendwo nicht in Relation, ja. Aber das ist ja genau, wie Du sagst, ne. Das eine, das sind sozusagen diese quersubventionierten Abo Accounts. Und das andere sind aber auch wieder mal vollautonome, agenetische Schwärme, die sich auch gegenseitig
Speaker1: hoch potenzieren, ja, und Subagenten, Subagenten bestatten, oder? Auf jeden Fall. Also wenn man wirklich im vollen Pay use you go Modell ist beim argentischen Arbeiten, dann sollte man auch son bisschen 'n Finger drauf haben. Ich meine, vor paar Jahren gab's doch so manchmal so diese lustigen Storys, die dann irgendwie jemand anonym bei raidet so, ja,, weil ich meiner weil ich aus Versehen übern Skript 100 GPU Server gestartet hab. Und das hat dann erst irgendwie 2 Tage später jemand bemerkt und die Genau. AWS Kosten sind jetzt, müsst ich jetzt überschlagen, aber Ja. Signifikant.
Speaker0: Ja, genau.
Speaker1: Das ist auch mit den Cloud Systemen ja schon vorher passiert, ne, wenn man so irgendwelche falschen falschen Provisionierungsskripte hat und dass man sonen großen Cloudaccount hat, dass es nicht sofort auffällt. Aber da hast Du plötzlich mal irgendwie mehrere 10000 Euro verbrannt als irgendwie Junior im am ersten Tag oder so was. Das kann dir jetzt heute passieren mit argentischen Systemen, ja. Also wenn Du in 'nem keinem keine Kontingentdeckelung hast, das sollte man auch, wenn man ist, sollte man intern Ja. Nach Zugriffstoken und so weiter da irgendwelche Limits reinziehen, dass dir nix davonrennt. Aber wenn Du das jetzt nicht hättest und keine Ahnung, der Junior am ersten Tag setzt eine prompt ab, hey, spawnen dir mal so viele Subagenten wie Du willst und recherchier das ausgiebig. Da kann das halt sein, dass Du da halt Abermilliarden Token durchbläst und das kann dann schnell teuer werden.
Speaker0: Da fand ich das 'n spannenden Punkt. Erinnerst Du dich, als wir in Halyarium, die die Hallo Grenzen auch mit eingebaut haben und 2 2 davon, ja? Weil Du tust ja niemanden gefallen damit, wenn Du einen legitimen Workflow abwirgst mit 'ner harten Grenze. Und deswegen haben wir hier 2 Limits eingebaut, ne, die die Die Warnung die Warnung, genau. Das harte Limit, ja. Ja, richtig. Und bei dem Ersten kriegen erst mal die zuständigen Mitarbeiter eine E-Mail, so ey, ist das Absicht, was ihr da grad macht. Und wenn Du 'n hartes Limit konfigurierst, dann dann erst dieses harte Limit, wirkt dir wirklich Hardcore
Speaker1: das System dann ab, damit wirklich keine zusätzlichen Kosten entstehen? Ja, das ist, denk ich, generell immer gut, diese 2 Level zu haben, weil ja, dann dann bist Du informiert. Und sagen wir mal, Du hast auch beide Level konfiguriert und Du hast, oh, nee, ich will aber, dass es weiterläuft, dann musst Du halt, wenn Du die Warnung bekommen hast, reagieren und das harte Limit halt jetzt dann mal hochsetzen. Mhm. Mhm. Bisschen wie Überweisungslimit beim Onlinebanking oder so. Genau.
Speaker0: Ich würd mit dir jetzt mal gern ein bissel in die Glaskugel gucken. Mhm. Und zwar haben wir momentan ja die Situation. Das ist das ist glasklar, ja. Aktuell ist KI vor allem über diese Accounts noch nicht profitabel. OpenAI hört jetzt halt erst neulich, ich hab das gestern gelesen so am Rande in den News, OpenAI schwört die Investoren ein, so, ja, wir werden auch zukünftig noch Milliardenverluste machen. Ja. Ja, das heißt, momentan so wie die Kostenstruktur ist, kann's nicht weitergehen. Das wissen eigentlich alle. Mhm. Und also meines Erachtens wird's dann wahrscheinlich trotzdem noch so Abomodelle geben, aber das ist dann vermutlich eher bei den Modellen, die man aktiv versucht zu promoten oder den Supergünstigen, die man quasi wie Wegwerf oder einfach so aufm Ramschen Ich mein, Du kannst ja 'n Abomodell die Mischkalkulation
Speaker1: auch so machen. Also nehmen wir Fitnessstudios oder so was. Ja, ja, ja. Bei denen basiert's ja darauf, wenn jeder käme, der eine Mitgliedschaft hätte, dann wär's ganz schön voll, ne? Ja, ja, richtig. Und das kannst Du wahrscheinlich auch mit KI Abos machen. Wenn Du gewisse Limits immer noch entweder explizit oder implizit machst, dass Du halt, keine Ahnung, die Poweruser dann kriegen vielleicht in der Priorität dann immer weniger schnell die Antwort. Also Mhm. Das heißt, ich glaub, Abomodelle sind werden schon noch irgendwie bleiben, grad weil es im Business to Consumer Bereich. Ich mein, würdest Du privat ein Pay as you go Modell einfach mal so für für dich und deine Familie und so weiter abschließen, wo Du dann wo dann plötzlich, keine Ahnung, dein Teenager Kind dann aus Versehen... Also gut, wir haben ja diese Limitstufen und so weiter, aber trotzdem würde ich eher dann halt aufn Abomodell geben, sofern ich sowieso meine Familie privat mit KI ausstatten würde. Das ist jetzt eine andere Diskussion. Mhm. Aber ich glaub, dass in dem Bereich sich Abomodelle erhalten werden, aber sie werden sicher anders kalkuliert werden als Mischkalkulation, die sich tragen muss und nicht wie jetzt, dass ja de facto einfach Subventionen passiert, ja. Also die Anthropic und Open Ais, die mit den Modell, weiß nicht, weiß man das, tragen die sich damit mit den Tokenkosten, die sie da aufrufen?
Speaker0: Also es ist definitiv nicht ganz so schlimm wie bei den Abomodellen. Ja, gut, gut. Aber aber de facto fahren die KI Hyperscaler ja Verluste ein. Ja, genau. Also signifikante Verluste. Das heißt, ich find das dann immer bissel ja, relativ, wenn wenn sich egal wär,, Google, Meta, Mhm. Open Air, wenn sich die hinstellen, ja, wir haben 'n neues Modell und das ist jetzt Faktor 3 günstiger als das der Konkurrenz. Ja, weil ihr Geld verbrennt.
Speaker1: Ja, danke. Ja, das stimmt. Das ist im Ende des Tages ist es im Moment einfach nur eine Entscheidung, welchen Preis sie aufgehoben Korrekt. Und nicht zwingend darüber definiert, was es wirklich kostet. Ja. Das ist halt der klassische digitale oder so dieses... Ich meine, da gibt's ja verschiedene Auffassungen drüber, wird KI ein, also wie, genau, Suchmaschinen, ja, ich meine. Mhm. Das war son Klassiker und irgendwann gab's halt nur noch Google. Und wie hießen sie? Yahoo und?
Speaker0: Ja, stimmt, da war was. So.
Speaker1: Also ja, also das ist so der, ob das sich bei KI diese Wette aufgehen wird des Turf Wars, ich bin da persönlich skeptisch, also weil ich da nicht so den Case sehe wie bei 'nem Google Suche, Ja. Dass es quasi, dass dass das alles auf einen dann konvergiert. Aber vielleicht hab ich unrecht.
Speaker0: Auf jeden Fall setzen die grad drauf auf Aber aber würd ich der richtigen. Also seh seh ich genauso. Und zwar, was mir bei den KI Modellen fehlt im Gegensatz zu den Suchmaschinen, das sind die Netzwerkeffekte. Mhm. Mhm. Und es hätte sonen Punkt geben können, als OpenAI angefangen hat, Werbeanzeigen beziehungsweise Werbeanzeigen ist das falsche Wort, Verkaufsempfehlungen in den in den Chat Ergebnissen anzuzeigen. Es gibt ja mittlerweile superstandardisiert die Schnittstellen zu Shopify und den ganzen E-Commerce Anbietern, also auch den den WordPress Plug ins, dass Du mit deinen Artikeln dann in im Chat GPT Antwort Verlauf auftauchst direkt mit dem Kaufen Button. Ah ja. Und da hätt's natürlich schon den Effekt, ne, dass dass es umso besser wird, je mehr Du angeboudet hast. Ja. Und dann hast Du diesen Netzwerkeffekt, wo Du wahrscheinlich diesen 80 20 1 oder 80 19 1 Effekt hast. Aber aber irgendwie wurd da auch wieder nix draus. Oder wie wie wie ist da deine Wahrnehmung? Also dieses dieses Shopify Ja, Du brauchst diese Netzwerkeffekte.
Speaker1: Du also und Du brauchst dieses, dass das Wechseln Wehtut. Wehtut. Ja. Und aber solange Du KI definierst über Modelle Ja. Und ich will gleich, ich betone Modelle hier so sehr, werd gleich werd ich gleich erklären, aber sobald solange das auf Modelle ist, Mhm. Sind die Wechselschmerzen sehr gering. Also wenn weil die, also grad im Businessbereich, die Anwendungen, die wir halt ja auch selbst sehen mit unseren Kundenentwicklungen und so weiter, die sind ja schon individuell, ne. Also wir reden hier ja von nicht irgend einen Plug and play Agent und der läuft sofort, sondern Du hast ja, Du entwickelst 'n KI System, was eine bestimmte Aufgabe hat. Da steckst Du Hirnschmalz rein und so weiter. Nachher das Modell auszutauschen, ist ja im Prinzip provokant gesagt, eine URL und ein Token zu ändern. Ja. Klar, das Modell wird sich leicht an das Verhalten, aber das kriegst Du relativ schnell hin. Ich glaub, wo es 'n Unterschied machen würde, wäre, wenn KI Agenten, was es ja jetzt teilweise gibt, aber das hat sich im B2B aus meiner Sicht bisher jetzt noch nicht so etabliert oder durchgesetzt, ist, dass der mit viel mehr kommt Mhm. Als nur dem Modell. Also mal, Du hast ja jetzt bei den APIs kannst Du zum Beispiel gleich sagen, Du möchtest dem einen Suche, Websuche mitgeben und filetools und bindest 'n externen NFCP Server dran. Mal angenommen, ein Endhropic Endpunkt würde viel mehr Ja. Bild in bieten als ein reines Modell. Mhm. Sondern lauter drumrum Ja. So technisch gesprochen, dass es halt zu 'nem viel höherwertigen Agenten macht als Modell, aber trotzdem eben in den b-two-b-Anwendungen auch so benutzt werden kann, dann hättest Du natürlich mehr Lock an Effekte. Aber das reine Modell ist aus meiner Sicht relativ gut austauschbar, sofern man vielleicht nicht immer zwingend den absoluten braucht. Aber bei vielen Anwendungen reichen ja auch die Modelle von vor 6 Monaten wunderbar. Mhm. Und sobald Du diesen Zeitdelay hast, also die Modelle, die vor 6 Monaten rauskommen, die haben Konkurrenz noch und Löcher.
Speaker0: Ja. Das find ich, hat sie ja zu zu früher geändert. Ich weiß nicht, wie deine Wahrnehmung da ist, ja, aber also mittlerweile ist das so, ja, es ist jetzt GPT 5 Punkt sonst was rausgekommen. Vor 'nem Jahr war das Und jetzt gibt's GPT 6 neulich hatten wir doch fast gar nichts. Ja, ja, ja. Und und vor 'nem Jahr oder eineinhalb war das nur son richtiges Ding, ja, wenn eine wenn ein neues Modell rausgekommen ist, auch bei uns im Team, ja. Wir haben uns drüber unterhalten und mittlerweile ist so, ja, okay, dann
Speaker1: spielen wir halt das Upgrade ein. In meiner Wahrnehmung war der der der Punkt war der Release von GPT 5. Mhm. Der ja sehr. Ja. Weil ich meine bis dahin, wie lange waren wir bei Version 4? Und der Sprung von 3 5 auf 4, der war sehr. Ja. Oh, das kann ja jetzt plötzlich mehr. Und dann kam und dann waren so, was kam dann 4 Turbo?
Speaker0: 4 hoch, 4 1. 4 1
Speaker1: und zwischen also 4 und 4 Turbo, weil der, wie der Name sagt, das war plötzlich halt, ey, Du wartest nicht Ewigkeiten nach deiner Tour, sondern 4 o konnte halt Multimodalität mit dem Mhm. Mit den Bilderkennung und ja auch mit diesen prototypischen Voice to Voice Anwendungen und so weiter. 4 1 war dann so im Prinzip wie 4 ohne, irgendwie alles mal 'n bisschen stabiler und auch das ganze Tool Calling kam ja auch in dieser Zeit und wurd besser, dieser ganze Workflow. Ja, und dann kam, dachte man, wenn die jetzt von 4 1 auf 5 gehen, Gottes Willen, das wird ja jetzt hier die autonome Überintelligenz, so Skynet oder so. Und dann war's so, okay. Alles, was es dann war, war es diese bis dahin rausgekommenen Modelle irgendwie mit reinintegriert waren, ne. Dass so so o Ja, ja, ja, ja. O 1, o 3 und 4 1 so eigentlich fusioniert wurden. Und ich glaub, seitdem hat keiner mehr so richtig stark auf die Modell
Speaker0: Auf die Kernintelligenz, ne, da da da da da da da gab's
Speaker1: natürlich mit Mythos und von von Anthropic son bisschen diesen, ja, so diesen Misshap Slash Hype, quasi die ersten so Cybersecurity Vorfälle. Und seitdem hat man das Gefühl, dass wenn ein Modell nicht irgendwie Mhm. Was ist das? Ein 1 in den United States begeht, dann ist es keine Pressemitteilung mehr wert. Ja,
Speaker0: also deswegen Und das finde ich erkennt man auch daran, so jetzt halt mit den neuesten GPT Veröffentlichungen, das, was am meisten Resonanz gemacht hat, waren die Fähigkeiten, nicht was das Modell kognitiv konnte, sondern wie gut, dass es ausgestattet war mit Werkzeugen zu haben. Der Hannes, ja. Den des der Hannes, zum Beispiel mal kurz eine Web App nicht nur zu bauen, sondern auch starten und und laufen lassen zu können. Das war's mir, wenn man in der unterwegs ist ja über, also nehmen wir mal Manus als son sehr niedrigschwelligen App Builder, aber auch was Klo, der auch schon länger konnte, ja. Deswegen,
Speaker1: hast Du vorhin erwähnt, ne, das so so ging's mir ja stark. Genau. Und die technischen Fortschritte sind total jetzt in den letzten, also in diesem Jahr würd ich sagen oder seit, sagen wir mal, in den letzten 12 Monaten sind die. Also was meinen wir damit? Ja. Dass, ich hab's vorhin ungeschickt vielleicht formuliert im Sinne von zwischen dem reinen Modell Mhm. Und dem Agenten. Mhm. Das Modell wird erst zum Agenten durch das Drumherum, also diese Umgebung mit den Tools und den den Mechanismen, die das die das Modell immer wieder anfeuern, weiterzumachen und so weiter. Und das sind das sind die Teile, wo nur wenn man das mit betrachtet, könnte sich vielleicht eine Geschichte draus ergeben. Das ist das, was ich vorhin meinte. Aber im Moment ist es eigentlich so, dass man Modelle und Harness, ja, es gibt die Provider von von Claude und und und Open AI selbst, aber eigentlich ist das sind das im Moment 2 Module, die man miteinander kombinieren kann und dementsprechend keine Dynamik ergeben. Und diese sind im Moment eigentlich der der spannende Teil. Ja.
Speaker0: Wenn wir jetzt dann noch mal auf die Kosten schauen und mal angenommen, jetzt mal nicht die die Billo Modelle ja, die sozusagen in den in den den den den Rechenzentren fast nix kosten, sondern wirklich die leistungsfähigen Modellen, die man aber momentan hinterher geschmissen bekommt, warum auch immer, ja. Ja. Wenn sich da jetzt erst mal der Wind dreht und die Kosten korrigiert werden. Also sagen wir mal, den Faktor 10 nach oben bei der Ja, zum zum Beispiel, ja. Oder oder was ich mir auch vorstellen kann, ist, dass manche Dinge überhaupt nicht mehr über eine angeboten werden. Welche welche Anwendungsfälle siehst 'n Du, die momentan genutzt werden, die in Zukunft dann aber vermutlich wieder weniger werden? Also ich ich werf mal ein in Raum Meeting 1 Leiser. Ja. Glaubst Du, so was hat in der aktuellen Form Zukunft?
Speaker1: Kommt drauf an, was mit der aktuellen Form ist. Aber ich sage mal jetzt ja. Mhm. Aber natürlich 'n bisschen zielgerichteter. Also im Sinne von, Du hast dann Agenten, der beliebig iteriert und dem haust jetzt aus Faulheit einfach die aus Microsoft Teams das Video reinmach, ja, so wie Du's jetzt vielleicht mit 'nem Abomodell tust, das wird dann zu teuer. Aber der Meetinganalyzer, der quasi nicht allzu authentisch arbeitet, sondern mit 'ner relativ klaren Promptchain ausgestattet ist. Das haben wir ja schon zu GPT 4 0 Zeiten gemacht und mit quasi Kosten und so weiter waren damals ja die Kosten trotzdem pro Stunde Meeting 2 Euro oder so was. Jetzt wär's heute, wenn man wenn man, weil man diese die argentischen Willigkeiten schon 'n bisschen nutzen wär, wär's vielleicht 'n bisschen teurer bei nicht Flatrate Kosten. Aber wenn Du eine Stunde Meeting, und davon kriegst Du die Zusammenfassung, sagen wir mal, für 4 Euro kann ich mir vorstellen, dass es sich im Businesskontext durchaus lohnt. Also weil sonst muss doch irgendjemand auf seiner Zeit diese Meetingminits tippen. Oder Du hast eine Extraperson dafür oder so den den den Fall seh ich auf jeden Fall, dass er sich überlebt, aber man muss ihn halt bisschen mehr kuratieren. Mhm. Dann nehmen wir mal das Nächste, das ganze.
Speaker0: Mhm. Mhm.
Speaker1: Also mit argentischer KI programmieren. Wird aus meiner Sicht definitiv auch überleben, aber muss viel, also wenn jetzt plötzlich diese diese eine Entwicklungsaufgabe, die Du jetzt einfach mal so machst, Mhm. 200 Euro an Kosten generiert. Das ist immer noch deutlich weniger als deine Personalkosten vielleicht fürn ganzen Tag als als qualifizierter Programmierer. Aber im Moment hat man ja die Tendenz, ich hab grad Tokens frei, ich hab hier grad auch noch mentale Kapazität frei, explorier mir mal das. Mhm. Mhm. Lies dir alles durch und dann dann überlegen wir, wie das funktioniert. Und das kannst Du dann nicht mehr bringen. Also Du musst dann schon noch mal mehr mitdenken. Im Moment macht man viel auch, okay, Feuer ist raus, weil kostet ja quasi nix extra und dann kann ich informierter brainstormen. Also da muss man dann schon mehr steuern. Aber überleben wird das Programmieren durch KI aus meiner Sicht sehr sicher, weil also bei den Skalierungseffekten der Programmierer, die sind dann immer noch da, auch wenn die sich genau überlegen, was sie tun. Ja, und der andere Teil ist natürlich, gibt ja so viele Leute, die jetzt quasi was programmieren, die das gar nicht sonst könnten. Mhm. Und das ist ja dann Unterschied wie 0 und 1. Ja. Wo ich persönlich auch sehe, dass man sehr dann vorsichtiger sein wird, ist so diese ganzen Recherchetätigkeiten.
Speaker0: Ach so, die Deep Research wirklich. Ja, genau.
Speaker1: Klar, es kostet wirklich auch viel Zeit, als Mensch wirklich in 'n Thema sich rein zu recherchieren. Aber im Moment zu sagen, hey Agent, Mhm. Suchen wir mal alles zu Thema x raus, ohne mitzudenken, wirklich in welche Richtung die Recherche gehen soll, Kann ich mir vorstellen, wird schnell nicht so ergiebig. Weil ich weiß nicht, wie's dir geht, aber diese Deep Research Ergebnisse ist zwar besser geworden, aber Hocker hauen die mich jetzt auch nicht, ja. Also ich würd's, ich würd jetzt in der Regel nicht dafür 100 Euro bezahlen. Mhm. Ich würd dafür vielleicht 10 Euro bezahlen, weil ich dann ja immer noch was tun muss nachher, das zu verdauen. Aber man kann's ja auch auf 10 10 Euro drücken, wenn man's halt, also selbst bei den echten Kosten, wenn man's halt bisschen mehr vielleicht steuert, wie weit, wie tief soll die Recherche gehen und worauf soll sie sich fokussieren? Ja, ja, ja.
Speaker0: Also ich nehm dabei den 3 Beispielen Mhm. So aus aus meiner Perspektive mit. Es überlebt dann, wenn man's fokussiert und in die richtigen Bahnen lenkt. Also mal das letzte Beispiel von dir, der Deep Research Agent, Ich hab bisher noch keine einzige Aufgabe so erledigt bekommen, als dass ich nicht innerhalb der ersten 5 Minuten, wenn ich mir die Ergebnisse anschaue, feststelle, okay, Du hast irgendwo mindestens ein Ding fett übersehen Ja. Im Agent, ja. Also deswegen ist es für mich quasi eigentlich nur der Startpunkt für meine eigene für meinen eigenen Deep Researcher. Auf der anderen Seite, wenn Du dich erinnerst, wir haben doch das Marktüberwachungstool für für für den einen Kunden geschrieben, der genau wusste, wer seine Wettbewerber sind. Mhm. Und der die Agent, der hat supergut gearbeitet, Ja. Weil wir das Setting kontrolliert haben. Aber wenn wir jetzt jetzt sozusagen hier, die ist das wilde Internet, schau mal, wie Du klarkommst, das das ist noch zu zu unkontrolliert.
Speaker1: Ja. Und wir hatten damals auch bei diesen Kunden dann ja auch die Aufgaben zwischen verschiedenen teuren Modellen verteilt. Ja, das außerdem, ja. Was aber natürlich auch Entwicklungsarbeit dann ist, menschliche Zeit Ja.
Speaker0: Invest, aber dann die laufenden Kosten niedrig zu halten. Ja, ja, korrekt. Und genauso beim beim Programmieren, ja. Wenn ich einfach 'n Webe Coader losschick auf eine Code Base, die aus dem Nichtsitz für den Agenten erst mal kommt, wie oft hat man das denn, dass der Zeug neu erfindet oder oder oder sich erst mal in 'ner dreistündigen Einarbeitungsphase son Überblick über die Codebase verschaffen muss, was eigentlich, wenn 'n Skill oder eine entsprechende vorhanden gewesen wäre oder eine, was eigentlich innerhalb von 10 Sekunden offensichtlich gewesen wär. Also da ist mir momentan bei den Vanilla Vibe Codern dieses das Rad neuer Finden Moment einfach viel zu omnipräsent. Also 90 Prozent der Kosten gehen dann da drauf für eigentlich Quatsch, der nicht hätte sein müssen. Ja. Und die Meetinganalyzer, also da da ich persönlich hab da momentan so den den größten Reiz, wo ich sag so, also momentan hab ich das Gefühl, irgendwie die allermeisten schmeißen's nur rein, weil's nix kostet, ja. Ja. Und lassen sich Transkripte oder dann Zusammenfassungen generieren, die dann am Ende wieder keine Sau liest. Ja. Vielleicht ist es ein bisschen so,
Speaker1: im Moment ist es so also in vielen Bereichen so billig, dass Du's quasi einfach machst, ohne dein eigenes Hirn großartig einzuschalten. Ja, ja, absolut. Und wenn's dann zu Realkosten kommt, dann musst Du plötzlich dein Hirn wieder einschalten. Aber vielleicht ist es ja bis dahin so, dass wir das nicht mehr können und dann müssen wir die teureren Kosten bezahlen. Dann sind wir quasi alle opium abhängig. Nee, aber jetzt Spaß beiseite. Im Moment kann man bei einigen Sachen einfach sein Hirn ausschalten und erst mal die KI denken lassen und dann erst mitdenken. Und das, glaube ich, muss sich dann umdrehen. Erst selber denken, dann prompten, wenn die Realkosten irgendwann fällig sind. Mhm.
Speaker0: Und wie siehst Du das? Also es gibt ja nur son Effekt. Und zwar, dass auf der einen Seite war das Versprechen von KI, okay, also Du mit KI an deiner Seite kannst Du jetzt mit deutlich mehr Daten oder Texten oder dem Internet umgehen, kannst quasi als Mensch mehr Information verarbeiten. Und auf der anderen Seite gibt's jetzt die Bewegung, dass wir vor allem mal im beruflichen Kontext sind wir es egal, ob das ja Programmierung ist oder etwas, das White color Work eher auf der Managementseite passiert, dass man auf einmal das Gefühl hat, okay, ich hab hier deutlich mehr Informationen zu verarbeiten, seitdem's KI gibt. Mir wurd das Gegenteil versprochen. Wo kommt es her? Ja.
Speaker1: Ja gut, wenn Du dich erinnerst, ich hab, glaub ich, schon vor oder seit wir eigentlich gegründet haben immer gemeint, wir leben in 1 Zeit, wo mehr Text geschrieben als gelesen wird. Und das war ja noch vorgenerativer KI. Ja, ja, stimmt. Das stimmt. Seitdem jetzt 'n Faktor 10 schlimmer. Mhm. Und das ist so, also das ist 1 der aus meiner Sicht 1 der größten Probleme beim Arbeiten mit KI, wenn man's einfach irgendwie macht, ist, dass es viel mehr Output produziert, als Du wirklich Reviewen kannst. Mhm. Wir haben ja auch heut Morgen erst darüber gesprochen son bisschen, ob man vielleicht im im Programmieren hat man ja früher auf oder immer noch viel von gesprochen im Sinne von, Du weißt, dass hier irgendwas ist, aber Du hast jetzt noch keine Zeit, das zu ändern. Und es funktioniert grad noch. Es funktioniert grad noch, aber Du weißt, es kommt jetzt auf eine To do Liste für, wenn mal Zeit ist oder wenn dann die Dringlichkeit steigt. Mhm. Und ich seh das so bei bei KI auch viel, sone. Also im Sinne von, wie welche Ergebnisse hast Du quasi durchgewunken? Mhm. Obwohl Du sie eigentlich hättest müssen. Mhm. In der Hoffnung, dass die KI dadurch nicht falsch abgebogen ist. Mhm. Und diese langen Outputs, diese, die machen's natürlich wahnsinnig verführerisch, diese Reviewschuld Ja. Größer werden zu lassen. Aber es ist eine Schuld, die dich in der Regel irgendwann irgendwann beißt. Und diese unendlich vielen Outputs, die die KI generiert, wenn man sich nicht dagegen wehrt, sag ich mal, die können ja fürn Menschen ja fast schon lähmend sein. Also ich muss sagen, ich versuche, also ehrlich gesagt, ich lese die von der KI nicht, sondern ich versuch dann, hey, das müssen wir anders. Mhm. Das müssen wir eindampfen, das müssen wir kürzen. Und und ich versuch es dann auch quasi auf Portionen runter zu einzudampfen, die wo ich sag, das ist das, das les ich jetzt auch gern. Das review ich auch gern, da denk ich jetzt auch gern mit. Und das ist der Teil, den ich unterschreib. Wenn Du, liebe KI, die Langfassung für interne, also grad bei sonem längeren Projekt für interne Zweckungen noch behalten willst, muss jetzt nicht löschen. Genau. Aber das, was ich jetzt unterzeichnet hab, also was sozusagen zum Beispiel in so in so in 'nem Projekt oder so was festgehalten werden kann, das ist dann der kurze Teil. Also weil ich würd's ja auch von 'nem Mitarbeiter nicht akzeptieren, dass der mir jetzt irgendwie für für einen einen für einen für eine Ja. Wie's so schön heißt, 10 Seiten bringt. Will sagen, sorry, ich ich verstehe, dass Du viel zu sagen hast, aber Daumen fürs ein. Mhm. Oder was war bei der Gründungsberatung, als wir diesen Antrag geschrieben hatten? Mhm. Was waren denn die die Hälfte aller Kommentare vom von unserem Reviewer, von der TUM? Eindampfen, Eindampfen, Eindampfen. Die andere Hälfte war, Begründung fehlt. Also so ungefähr. Das ist ist alles, was der was der Prinzip machen musste, Mhm. Die uns zu forcieren, die Qualität zu verbessern. Genau das muss man da halt auch einfordern. Oder war das das Goethe Zitat, ich hatte keine Zeit, einen kurzen Brief zu schreiben, deswegen ist es ein langer Brief geworden. Da musste ich auch grad dran denken, ja. Also das heißt, dieser Ausdruck von viel Text ist kein Qualitätsmerkmal, auch wenn er bei der KI geschliffen klingt. Es ist erst, wenn es kurz ist, verdaulich ist, ist es gut. Mhm. Und das muss man einfach in der Arbeit dann einfordern, sonst lähmt man sich selbst, weil man die Dinge
Speaker0: entweder durchwinkt oder den ganzen Tag nur noch liest und nicht mehr wirklich denken kann. Ja. Aber das ist der Punkt. Also da würd ich nur mal gern kurz einhaken, weil nicht, dass es jetzt so fatalistisch klingt, ist irgendwie alles verloren, weil wir werden hier nur nur vom KI mit Text zugekleistert. Man kann ja da wirklich sehr schön rein darüber, dass man sich seine Agenten entsprechend von der Persönlichkeit und der. Und ich seh da so 3 Punkte. Also das eine ist die die Angewohnheit, dass man eben eher früh und dafür kleine macht. Mhm. Anstatt diese diese diese Reviewschuld aufzubauen, Ja. Weil die ja, ist es exponentiell oder vielleicht sogar vollfaktoriell schlimmer wird. Na ja, je je je größer auch die Review Dokumente werden, die sich untereinander aufeinander beziehen,
Speaker1: Ja gut, die geht das das alte Komplexitätsproblem.
Speaker0: Das stimmt schon, ja. Ja, deswegen deswegen sozusagen, das ist eher 'n persönlicher Habitus, den ich etablieren muss. Ich reviewe den den Agenten sehr, sehr engmaschig. Mhm. Dann, was ich festgestellt hab, ist, den auch einfach so zu prompton, dass man sagt, okay, das was Du mir zeigst, hat nur eine 1 gewisse Länge, ja. Also Wall of Text, nee, noch mal noch mal noch mal knackiger. Und dann, was ich auch häufig sehe trotz Wall of Text, ist eine Dekontextualisierung. Also dass der Bot mir 10 Seiten gibt, aber völlig ausm Zusammenhang gerissen. Und selbst wenn ich die lese, weiß ich noch gar nicht, worauf der Bot sich bezieht oder hinauswill. Also das würd ich auch nur als Tipp mitgeben an die Zuhörer, dass wenn die jetzt ihren ihren Bot prompten, nicht nur kürzer die Instruktion, sondern gib mir den Kontext, weil das KI Modell, ich stell das fest über alle Modelle hinweg, die vergessen sehr gerne, was ist ihr Kontext und was ist der Kontext des Users? Okay. Ja, und dann noch mal hinzuwirken und hinzudeuten, jetzt überlegst Du mal, wie's das jemanden erklären muss, der nicht deine 4000 Seiten mit gemacht hat. Und das sind alles 3 total billige Punkte,
Speaker1: ja. Aber promptest Du das wirklich einfach nur so oder sagst Du konkret, hey, lies noch mal die Aufgabe von ganz normalen Anfang durch und und und tune deine Antwort genau darauf? Oder oder sagst Du wirklich einfach nur, ja, jetzt überleg dir mal, was weiß ich als User, was Du vielleicht,
Speaker0: also nee, was weiß ich als User nicht und oder Also in dem reproptest Du. Na, in dem Moment, ja? Also der Trigger, dass ich jetzt quasi reingreife und und Ja. Die Reviewschleife einfordere, die kommt von mir und dann einfach formuliert, ja. Also jetzt mal von der Leber weg, stelle mir die 5 Fragen, die ich dir beantworten muss, damit Du maximal zielgerichtet weiterarbeiten kannst. Mhm. Gib mir konkreten, aber knapp formulierten Kontext dazu. Mhm. Ja. Ich weiß nicht, welche Gedanken Du dir gemacht hast. So. Also mit mit soner prompt. Du merkst, das ist jetzt total hemdsamtig dahergesprochen, weil ich auch quasi gar keine Hardcore Schablone da irgendwie Nee,
Speaker1: das das das so das war meine Frage. Das heißt, die diese Prompt ist eigentlich relativ generisch. Du kontextualisierst die vielleicht, aber sie ist jetzt nicht, mein Rezept ist da bei den Programmierarbeiten häufig, dass ich dann sag, hey, jetzt lies noch mal Mhm. Die Aufgabe vom Anfang durch, das, was wir entwickeln wollten. Und und explizit die Entscheidungen, auf die wir uns geeinigt haben und formulier jetzt deine Antwort nur geben darauf. Mhm. Also da haben wir sie darauf ein und nicht auf alles, was Du dazwischen hattest. Aber das ist ja plötzlich konkret auf auf Artefakte und Dokumente, die vorher erzeugt wurden. Deins war ja noch mal
Speaker0: allgemein anwendbar. Ja, ja, fluider. Ja. Mhm. Genau, genau, genau.
Speaker1: Ja, okay, spannend. Ja. Probier ich mal
Speaker0: aus. In kleiner Vorschau auch auf die übernächste Folge, wo's ein bissel Sustainability geht. Ich würd heut schon mal gern die Kiste aufmachen wollen mit dir. Und zwar, dass wir uns nicht nur unterhalten, Kosten im Sinne von Euros oder Dollars. Ja. Sondern auch Energiekosten, weil das ja auch 'n Thema ist, das mittlerweile eine Größenordnung erreicht hat. Also ich hab so auf 'ner Metaebene die Info irgendwie für mich auch verinnerlicht, die Menschheit kann grad auch irgendwo gar eine mehr Energie und Ressourcen in KI reinstecken, weil einfach die Erde schon langsam mal erschöpft ist. Ja. Ja. Und und und vielleicht lass uns das mal runterbrechen, was bedeutet es eigentlich zu prompten beziehungsweise wie teuer ist eine prompt im im Energiesinn? Nicht nicht unbedingt im Eurosinn.
Speaker1: Mhm.
Speaker0: Hast Du da
Speaker1: eine Größenordnung? Ja, wir haben ja vorher dann mal gemeinsam die Zahlen recherchiert. So viel hinter die Kulissen können wir ja mal lassen. Also was hatten wir was haben wir rausgefunden? Eine so prompt. Mhm. Typische ist tatsächlich relativ vergleichbar mit früher der oder immer noch existierenden Google Suche. Welche Suche? Der Suche. Ah ja. Das war, glaub ich, 'n Labrador. Jedenfalls 0.3 Wattstunden. Mhm, mhm. Ne, also was ist das in 'ner heutigen Glühbirne, also den modernen LED Dingen? Was verbrauchen die sonen Watt? Je nachdem. Je nachdem. Ja, klar, aber Aber so, ja. Aber so, ne. Dick gehört's irgendwie so 8 7 7 8 9 10 Watt, ja. Okay, nehmen wir mal eine ordentliche LED, die 'n Raumer Raum erhält. Die hat dann 10 Watt, das heißt, dann wären's 0.03 Stunden. Also was sind denn das so? 2 Minuten? Ja, circa. 2 Minuten. Genau. 2 Minuten Licht für deinen Raum. Aber wenn Du natürlich jetzt so authentisch, ja, ist, das sind da schon mal so nicht 0.3 Wattstunden wie jetzt die Einzel kurz, was soll ich heute kochen prompt, sondern sagen wir mal, 40 Wattstunden, weil da einfach so viele Tokens generiert werden. Mhm. Und aufs menschliche Hirn, ne, 40 Wattstunden bei uns im Hirn wären so eine Stunde nachdenken. Der Vergleich hinkt natürlich hinten und vorne, aber trotzdem werden wir jetzt mal überlegen, eine Stunde nachdenken, konzentriertes Nachdenken, da kommt meiner Meinung nach schon was deutlich Wertvolleres raus als einfach die prompt an den an den Agenten. Mhm. Auch wenn der viel mehr Wörter in der Zeit gedacht hat als der Mensch. Aber ja, das da ist schon noch 'n 'n Unterschied in der Qualität. Was haben wir noch rausgesucht, ne, was son Videogenerierung kostet? Also 5 Sekunden Video, 0.5 Kilowattstunden. Also kommen wir jetzt schon langsam in die bisschen größeren Bereiche. Also das sind so wie 3000 Textproms, ne.
Speaker0: Und das das mit 1 Videoprompt, die man einfach mal abschickt, ja? Genau. Die die zahlt, die hat mir hier Die generieren ist ist ist ist teuer, ja. Mhm. Das das muss man einfach so sagen.
Speaker1: Und Du hast recherchiert, Theo, das mag ich, dass Du erklärst, weil die die Zahl hast Du schön rausgefunden. Ja. Das Trainieren von KI, ne? Das sind ja eigentlich großen Investitionskosten. Was was verschlingt 'n das?
Speaker0: Also Du hast ja jetzt da schon disclaust, ja, bei der Recherche. Was ich rausgefunden hab, ist, dass man dass man munkelt, dass das Training von dem Deepseak V-drei-Modell, das auch relativ hohe Wellen geschlagen hat, weil das mit mit sehr sparsamer Hardware passiert ist, doch aber auch so viel verursacht hat an an Energieverbrauch wie ein Oktoberfest, was grad thematisch zur Jahreszeit ganz gut passt, nachdem das Oktoberfest grad läuft, und zwar 3 Gigawattstunden. Und da stellt sich für mich dann wiederum die Frage, ob das sone gute Idee ist, 3 Gigawattstunden Energie fürs Oktoberfest auszugeben,
Speaker1: ja. Ja, man muss ja irgendwie die ganzen wieder vergessen. Ja.
Speaker0: Gehört Punkt. Und dem gegenüber, das mittlerweile ja sehr, sehr alte GPT-vier Modell hat im Vergleich dazu aber 60 Kilowattstunden Energie
Speaker1: Zwanzigmal mehr. Zwanzigmal mehr. Ja, das klingt aber realistisch. Ich mein, Liebsig war ja eben genau dafür bekannt geworden, dass es auf kleinere, also sparsamere Hardware tolle Ergebnisse geliefert hat. Und Richtig. 4 war ja damals einfach so. Ja, ja. Halt überhaupt die Intelligenz quasi mal, wenn wir's so wollen nennen wollen, auf die Straße zu bringen. Mhm. Ganz andere Pionierleistung ja quasi.
Speaker0: Ja, ja. Und man findet dann ja schwer Zahlen dazu, aber GPT-vier im Vergleich zu den Trainingsaufwänden, die heute bei den aktuellen Frontiermodellen verwendet oder angewandt wird, ist ja, also es ist ja noch mal gestiegen. Und das find ich, ist schon eine krasse Größenordnung, in der man sich da bewegt. Ja, ich mein, was ist das?
Speaker1: Eine 1 Gigawatt, das ist son Atomkraftwerk, oder? Nee, Megawatt sind. Ist jetzt Nee,
Speaker0: kommerzielle
Speaker1: Atomkraftwerke gehen schon in Gigawatt. Genau, ja, nee, Megawatt wär's sind ja schon fast die großen Winter Windkraftanlagen. Ja, ja. Also die ja, also 60 Stunden von 'nem Atomkraftwerk fürn KI Modell. Ich mein, also sagen wir mal so, 60 Gigawattstunden klingt verdammt viel. Wenn man jetzt überlegt, okay, 'n Atomkraftwerk, wie viel hat son größeres oder 'n mittelgroßes Land? Wie viel bräuchte das, wenn wir jetzt mal in dieser Einheit denken an an die Stromkosten? Dann sind auch 60 Stunden nicht wenig. Aber grundsätzlich würd ich jetzt sagen, eigentlich 'n vertretbarer Invest für ein KI Modell, was ja nachher sehr, sehr, sehr skaliert werden kann. Mhm. Im Moment haben wir natürlich diesen Effekt, dass wir diese Dinge auch ständig trainieren, neu trainieren, weil wir immer noch, weil weil ja diese Technologie nicht konvergiert ist. Ja. Ich meine, aber mal angenommen, wir würden sagen, kann man ja grad mit den Nachrichten son bisschen mal angenommen, wir würden sagen, hey, stopp. Die aktuelle Generation, die ist jetzt gut genug und wir trainieren keine neuen KI Modelle erst mal. Und würden jetzt sagen, okay, die es gibt jetzt vielleicht 5, 6 Flaggship Modelle
Speaker0: und die halten dann 3 Jahre oder so was und jedes hat 60 Gigawattstunden verschlungen. Und das ist dann eigentlich vernachlässigt beim Vergleich zum Auswerten und zum Pferden. Wenn wir die dann
Speaker1: erstens teurer, aber auch jetzt im Sinne von, wenn wir mal postulieren, sprechen wir gleich noch drüber, ob das die, also das Anwenden sich lohnt, dann wär das ja als Investment vollkommen fein. Ja. Ja. Aber auch ja die, kostet ja auch Energie, haben wir ja grad drüber gesprochen, ne. Eine prompt, 0.3 Wattstunden so typischerweise. Und haben wir dann ja abschätzen abschätzen lassen, abgeschätzt, was die Energie im Moment so verbraucht. Und wenn man das auf nur die den den Verbrauch der Gehirne runterbricht dann, also was sozusagen Gehirne an an Watt zu verschlingen, dann sind wir so bei 1000000000 Menschen. Das klingt jetzt irgendwie verrückt, krass und so weiter. Aber man muss ja überlegen, ich mein, okay, unser Gehirn ist ja nicht... Also sagen wir mal so mal so, ich bin heut mit dem Auto zur Arbeit gefahren. Die Wattstunden, die jetzt in meinem Fall Benzin verbraucht haben, da kann ich schon 'n paar Tage, glaub ich, von denken, Ja. Du fährst 'n E-Auto, da hast Du gleich die Zahl leichter umzurechnen. Wie viel wie viel Wattstunden braucht deinen Weg zur Arbeit? Na ja, deutlich mehr als ich als Mensch, ja. Also wenn's jetzt da, sagst 'n E-Auto irgendwie so
Speaker0: 18 Kilowattstunden auf 100 Kilometer, aber dann bist bei Kilowattstunden, also allein schon von der Einheit. Und wenn das Gehirn irgendwie paar paar Watt braucht, selbst wenn man das die die die Nahrungsmittel von Menschen mit reinrechnet Ja. Ja. Und dem gegenüberstellt, KI plus Laptop, ja. Also wenn man dann bei Zahlen rauskommt, die KI, so wie man's momentan nutzen, entspricht dann irgendwie vielleicht sogar 3 oder 4000000000 Menschen, dann ist die reine Zahl noch gar nicht das, was mich so so erschreckt, sondern 'n Effekt. Wie nimmst Du das wahr? Ich ich hab momentan so den Eindruck, anstatt dass man KI nutzt, aktuell noch in der aktuellen Phase ja, quasi das Bestehende effizienter zu machen, wird man ins Geheimen größer, also sowohl Firmen, also Prozesse, Firmen, aber auch auch auch die Menschheit, deren Footprint nimmt derzeit netto zu, weil sone Superkompensation stattfindet, ja. Das heißt, anstatt wenn ich jetzt sag, ich hab nehm mal wieder die Meetinganalyzer, ja, ich spar mir ja nicht die die die Transkriptions- und Zusammenfassung. Nein. Die hat nämlich vorher keiner gemacht, sondern man hat jetzt auf jemand dies, auf einmal diesen zusätzlichen Service. Und der kost dann nur 'n paar Prozentpunkte dessen, wie wenn's 'n Mensch gemacht hätte, aber es kommt trotzdem on top. Weißt Du, wie ich mein? Ja, klar. Das ist ja, also das ist aber die, ist das nicht im Prinzip die Menschheitsgeschichte. Ich mein,
Speaker1: als Waschmaschinen und Spülmaschinen irgendwie und Staubsauger eingeführt wurden Hatten die Leute am Ende weniger Zeit. Ja, die die die die a haben wir dann halt unsere, haben wir angefangen, unsere Klamotten täglich zu wechseln, zumindest die, die am Körper aufliegen. Mhm. Haben quasi ein benutztes Besteck nicht abgeschleppt, sondern die die Spülmaschine getan. Und die, ja, bis dahin waren das natürlich hauptsächlich die die Frauen, die diese Arbeit gemacht haben, die sind in die Workforce gegangen. Mhm. In in in weiten Teilen, ja. Also das heißt, den Menschen ist nicht langweilig geworden. Also die die Standards erhöhen sich und die und die vielleicht freigewordene Zeit wird in andere Tätigkeiten investiert. Aber vor allem dieses, die Standards erhöhen sich, ne. Also das heißt, okay, Meeting einerleiser, das heißt, bald gibt's vielleicht einfach ist es komplett inakzeptabel, dass 'n Meeting nicht transkribiert und auf und ausgewertet wird. So wie es keine Ahnung, jetzt sagen wir mal, inakzeptabel wär, dass Du dein T-Shirt jetzt schon seit 1 Woche trägst oder Mhm. Vielleicht einmal, was was was was war damals? Vielleicht Sonntag zur Kirche? Hat man die frischen Klamotten gefehlt? Ich weiß es gar nicht. Ja, ja. Aber die, das ist ja Gute Vergleich. Der Klassiker. Oder es ist ja bei allem so, Motoren sind effizienter geworden von Autos, aber der Gesamtbensieverbrauch ist gestiegen, weil halt a die Autos dann größer wurden Mhm. Und b wir halt mehr fahren. Da hab ich auch eine Analogie zu den
Speaker0: Flugtaxis oder Flugfahrzeugen gelesen. Und zwar, dass genau aus diesem Effekt heraus die Illusion nicht hält, dass man sagt, okay, der Pendelweg, der wird jetzt nicht verdrittelt, ja, gedrittelt, sondern die die Prognose war, dass die Leute dann ihren maximal zumutbaren Pendelweg verdreifachen. Ja. Ja. Und dann ist es quasi ganz normal, dass Du einmal München, ja Stuttgart oder? Stuttgart, ja, dass das quasi so, ja, ganz normaler Pendelweg jetzt auf einmal, ja. Das das das schlägt so bissel in die gleiche Kerbe.
Speaker1: Ja, also das ist natürlich eher son volkswirtschaftliche Frage, wo wir jetzt nicht so superqualifiziert für sind, aber das ist Oh, doch. Ja.
Speaker0: Ich hab da eine KI.
Speaker1: Genau, ich ich hab ich hab einen Freund, der Ja. Der ist der ist qualifizierte in Volkswirtschaftslehre und der ist der ist eine KI, ja. Nee, also ich mein, generell ist es aber eine 1 hochspannende Frage, wird die Arbeit durch KI weniger oder wird sie mehr? Mhm. Also und da können wir ja schon 'n bisschen was zu sagen. Und bisher haben wir eigentlich nirgendwo gesehen, dass die Arbeit weniger geworden ist, sondern dass die dass der Output mehr geworden ist, ja. Also selbst so bei bei bei Sachen, wir haben ja zum Beispiel auch Wirtschaftsprüfer im Mhm. Im im im Kundenstamm. Und so der 1. Instinkt, da gibt's ja auch dann Beharrlichkeitskräfte, dass ja, what the fuck, wenn die KI jetzt meinen Job macht, was machst Du was tue ich den ganzen Tag? Aber wir sehen halt, na ja, über die die Ansprüche. Die Prüfungsstandards gehen jetzt schon hoch, ne. Genau, die die Ansprüche an die Prüfung gehen halt hoch oder denkt mal an so, man liest doch immer so Sachen wie, keine Ahnung, dass... Nimm mal so was wie dein die die Steuererklärung, ja. Also dass dass viel mehr... Oder in den USA hab ich mal die die Zahl gelesen, dass quasi jeder RIRS Beamte refinanziert sich, wenn die mehr einstellen würden, würde der sich sofort hätte den AeroI vom Faktor 3 oder so was? Richtig. Weil mehr Anträge geprüft werden können und mehr Mhm. Aus versehen oder absichtliche Fehler in Steuererklärung entdeckt werden können. Das heißt Mhm. Wir haben ja bei ganz vielen Sachen im Moment eigentlich eine Stichprobenprüfung. Ja. Aus aufgrund von menschlichen Kapazitätseinpässen. Also niemand kann alle Steuererklärungen prüfen, ne. Es werden Stichproben gemacht und die besonders prüfen. Es werden Stichproben gemacht und die besonders saftigen werden vielleicht überprüft. Aber das wird natürlich, der Anteil der automatisierten und KI Prüfungen, der wird natürlich steigen und dadurch die Prüfungsdichte. Jetzt finden manche das vielleicht blöd, wenn mehr Steuererklärungen geprüft wird. Aber was ich weiß, worauf ich hinauswill, ist, dass, wir haben ja in ganz vielen Bereichen keine Abdeckung, keine richtige. Und das ist... Und und in manch, in vielen dieser Bereichen wird sie sich durch KI die Deckung halt erhöhen und dadurch dann die Menschen nicht unbedingt mehr nicht weniger zu tun haben, sondern vielleicht sogar ihre Arbeit ist dann anspruchsvoller geworden, weil das, da haben wir ja auch schon drüber gesprochen, die mentale Kapazität, mehrere KI Agenten zu kontrollieren, zu überwachen und und und zu reviewen und so weiter, die ist die ist nicht gerade klein. Und die quasi volkswirtschaftliche Frage, die sich daraus ergibt, ist, wird die KI uns alle arbeitslos machen? Das wär jetzt quasi die Sichtweise des Zero Summ Games. Ja. Die Arbeit bleibt gleich, aber sie wird jetzt von KI erledigt. Oder wird sich die Arbeitswelt nur verändern? Das wär jetzt quasi die die die andere Sichtweise mit na ja, haben jetzt die Waschmaschine, aber wir haben wir wir haben dann halt öfter saubere Hemden. Ja. Das kann ich jetzt nicht beantworten, ne. Das ist diese interessante volkswirtschaftliche Prognose daraus, aber das ist so der springende Punkt. Und aus meiner bisherigen Wahrnehmung haben wir für unsere Kunden haben wir die ein oder andere Aufgabe gekillt im Sinne von, Menschen tun diese nicht mehr, aber wir haben keinen Job gekillt bisher. Und diese Unterscheidung zwischen Aufgaben und Jobs oder Aufgaben und und und wirklich, wie übersetzt man Jobs gut? Also einfach der ein, was Du in deinem Tag an deinem Tag machst, ist mehr als nur eine anderen Kette von Aufgaben. Du als Mensch hast hast deinen deinen deine Arbeitsstelle auch deswegen, weil Du Kohärenz zwischen diesen Tasks, diesen Aufgaben schaffst. Und die die Aufgaben selbst werden vielleicht teilweise halt einfach wegrationalisiert mit KI, aber deswegen noch lange nicht deinen deinen Arbeitsplatz, wenn Du quasi deine Tätigkeit ein bisschen uminterpretierst und neu interpretierst. Weil ein anderes Faktum, was ich jetzt all meiner beruflichen Erfahrungen bisher kenn, ist, jeder hätte mehr Aufgaben als in seinen 8 Stunden, 10 Stunden, was auch immer Tag reinpassen würde. Absolut, ja. Und insofern seh ich da jetzt nicht so mäßig auf die Arbeitswelt mit KI.
Speaker0: Das ist die perfekte Brücke zur nächsten Folge, bei der wir dann nicht nur quasi fast kostet der ganze Spaß, sondern uns noch mal mehr auf die Outcome Seite konzentrieren können. Genau. Bevor's dann übernächstes Mal wieder in eine Episode mitm Gast reingeht. Maxim, danke dir erst mal so weit für diese Folge. Ja, bis bald.