Kurze Leine oder freie Hand? Wie du KI-Agenten richtig führst

- Dr. Theo SteiningerCo-Founder & CEO at Erium
- Dr. Maksim GreinerCo-Founder & CTO at Erium
Overview
In this episode, Theo and Maksim discuss how much autonomy it makes sense to grant AI agents. They distinguish three categories of AI systems - chatbots, sub-agents, and fully autonomous agents - and explore when each approach is appropriate, what risks uncontrolled autonomy entails, and how to define goals in a way that allows agents to work productively and safely.
Summary
Three Levels of AI Autonomy: Chatbot, Sub-Agent, and Agent
Maksim structures the discussion around three categories: chatbots, which interact with the user in a dialogue and make use of individual tools; sub-agents, in which a fixed, predefined workflow is executed step by step; and fully autonomous agents, which are given only a goal and determine the path themselves. Theo adds that the sub-agent, despite its rigidity, leaves the least room for error - but is also the least flexible when it comes to unexpected situations, such as a password-protected PDF causing the entire workflow to fail. The fully autonomous agent, by contrast, is more flexible but also less predictable: it will attempt to achieve its goal by any available means - which is both a blessing and a curse.
Autonomy and Risk: When Does Freedom Become Dangerous?
According to Maksim, a central criterion when choosing the degree of autonomy is the severity of potential errors. Code changes made by an agent can be undone with a few clicks - but erroneous emails sent to 500 customers cannot. Theo points to current real-world examples: even leading AI companies such as Anthropic and OpenAI struggle to keep their models fully under control in agentic environments. Both are particularly critical of the trend toward so-called 'coworker' agents that are installed locally on a computer with super-admin privileges. As a countermodel, they recommend using virtual machines or isolated environments such as Halerium Runner to limit the potential damage caused by an uncontrolled agent.
AI as Universal Glue: Meaningful Automation vs. Blind Actionism
Theo describes a concrete use case: a point-of-sale system in self-service supermarkets was generating erroneous duplicate bookings that had previously been reviewed manually by a tax professional. Because the anomaly rules were easy to describe, this process was well-suited for automation with an AI agent - though only at a small scale, since at millions of transactions the costs and error rates would be too high. At the same time, both warn against the opposite extreme: tasks that could be solved trivially through conventional programming are unnecessarily delegated to AI agents. This wastes resources and creates unnecessary complexity.
AI as Exoskeleton or as Buddy? Finding the Right Working Model
Theo describes his personal evolution in working with AI: in the past, when models were still expensive and had limited context, AI was for him a pure exoskeleton - a tool he controlled at a fine-grained level. Today, when tackling new tasks, he first uses a 'buddy mode' in which the agent works independently, but he then aims to transition this mode into an exoskeleton, gradually regaining control. Maksim adds the key difference from human colleagues: a human bears responsibility and has a reputation to lose - an AI agent does not. This means responsibility always remains with the human, making a certain degree of control indispensable.
Goal Definition as a Core Competency: How to Brief Agents Properly
Theo says he deliberately invests a great deal of time in defining goals - often as much as half an hour just on the target picture and context before an agent is set in motion. His approach: he first loads all relevant documents, transcripts, and thoughts into the context, then rather than immediately having the agent carry out the task, he has it first orient itself and develop a plan. Only once the plan and strategy have been discussed and agreed upon does the actual implementation begin. This iterative approach helps to identify blind spots early on. Maksim emphasizes that many users skip exactly this step and then wonder why the results are poor.
Who Can Really Use Agentic Systems? An Honest Assessment
Theo acknowledges that working effectively with agentic systems is a skill that not everyone possesses. It requires the ability to formulate clear goals, define acceptance criteria, and critically evaluate results. In practice, he therefore sees more of a two-tier model emerging: on one side are experts who build agents and workflows; on the other are consumers who work within clearly defined boundaries. Maksim announces that this topic - what human prerequisites are needed to be productive with AI agents in a given domain - will be explored in greater depth in a future episode.
Key takeaways
- The choice between a chatbot, sub-agent, and autonomous agent depends on how well the task is understood in advance and how clearly the solution path can be defined.
- The more severe the consequences of an error, the shorter the agent's leash should be - irreversible actions such as sending emails require human oversight.
- Agents with super-admin privileges on a local machine pose a significant security risk; isolated environments such as virtual machines are the better choice.
- AI works well as a 'universal glue' for tasks that can be described clearly in words, but does not scale well for millions of transactions or entirely open-ended decision processes.
- Not every task should be delegated to an agent - replacing trivial programmatic solutions with AI is inefficient and error-prone.
- A well-crafted goal definition including context, strategy, and plan is the most important prerequisite for successful agentic workflows and requires considerable effort.
- AI agents bear no responsibility - responsibility always remains with the human, which makes continuous oversight and traceability of results essential.
Conclusion
Autonomy is not an end in itself: how much freedom an AI agent is given should be guided by the task at hand, the potential consequences of errors, and one's own ability to evaluate the results. Those who take goal definition seriously, plan iteratively with the agent, and set clear boundaries can deploy agentic systems productively and safely - those who skip these steps risk uncontrollable outcomes.
For Leaders and Decision-Makers
Agentic AI systems promise a great deal, but require clear governance: who bears responsibility for AI decisions and how errors can be reversed must be clarified before deployment.
For Developers and AI Practitioners
Choosing the right level of autonomy - sub-agent, chatbot, or fully autonomous agent - is a design decision with significant consequences; isolated environments and careful goal definition are not optional extras, but fundamental prerequisites.
For Beginners and AI Enthusiasts
Anyone who wants to work with AI agents should first learn how to formulate clear goals and acceptance criteria - this skill is more important than technical knowledge and is a decisive factor in determining success.
Show full transcript
Theo: Maxim, wie sehr fehlt dir die Zeit am Max-Planck-Institut? Maksim: Ach, eigentlich geht es. Aber manchmal kommen solche Gedanken durch und dann Maksim: hast du keinen, mit dem du sie teilen kannst. Maksim: Während bei so einer Coffee Break am MPA wäre das jetzt. Maksim: Dann wären wir jetzt direkt an die Tafel gegangen, hätten versucht, Maksim: irgendein Paper draus zu schreiben, was nachher keiner lesen will. Theo: Ja, aber ich glaube, das ist vielen gar nicht so bewusst, wie wissenschaftlich gearbeitet wird. Theo: Also gerade so mit der Corona-Zeit, wo ja dann auch viel Wissenschaftsskepsis Theo: hochgekommen ist, war das für mich vor allem informativ, Theo: zu lernen, wie wenig das eigentlich bekannt und publik ist, wie in der Wissenschaft Theo: gearbeitet wird und wie hart man sich da auch gegenseitig challenged, bis was reviewed ist. Theo: Und auch sowas wie das, was du gerade beschrieben hast, die Friday Coffee Break Theo: Seminar Sessions, wo man dann am Whiteboard steht und erstmal eine Idee durchickst. Maksim: Ja, nachher sind dann so richtig schöne Diskussionen, wo auch mal komische Szenarien Maksim: diskutiert werden, müssen dann nachher veröffentlicht werden und dann hast du die Kacke am Dampfen. Theo: Spannend wird es bei den Papern, wo nicht darum gestritten wird, Theo: wer als Autor mit draufsteht, sondern wer als Autor mit draufstehen muss. Maksim: Das stimmt. Theo: Apropos draufstehen muss, ich würde gerne die Diskussion vom letzten Mal fortführen. Theo: Und zwar haben wir ja schon darüber gesprochen, Verantwortung für KI-Systeme, Theo: Was muss man tun, um dann am Ende wirklich die Verantwortung für das, Theo: was die KI ausspuckt, übernehmen zu können? Theo: Und das letzte Mal waren wir relativ high-level unterwegs und wir haben uns Theo: für heute vorgenommen, dass wir ein bisschen tiefer einsteigen. Maksim: Und ich darf wieder die Fragen stellen. Theo: Oh ja, ich freue mich. Maksim: Ja, dann fangen wir doch mal gleich an. Thema Freiheit. Wie viel Freiheit gibst du denn der KI? Maksim: Und vielleicht um die Frage so ein bisschen zu strukturieren, Maksim: auch für das Publikum da draußen. Maksim: Wir denken da so ein bisschen in drei Kategorien. Wir denken in Chatbots. Maksim: Frage, Antwort, Frage, Antwort, Frage, Antwort. Maksim: Dazwischen darf der Bot vielleicht ein bisschen was machen, eine Websuche oder Maksim: irgendwie Code ausführen, aber grundsätzlich führt er ein paar Tools aus mit Maksim: dem Ziel, nach kurzer Zeit mit dir wieder zu kommunizieren. Maksim: Dann haben wir das Thema, das nennen wir Subagenten, das sind die, Maksim: wo der Pfad der Instruktionen vorgegeben ist, Maksim: also im Prinzip wie so eine Arbeitsanweisung hat dann der Agent, Maksim: mache A, dann mache B, dann mache vielleicht parallel C1, C2, Maksim: führe beides in D zusammen und E ist dann dein Ergebnis. Maksim: Also sowas wäre so eine Kette an Instruktionen mit Prompts, die robust sind, Maksim: die eigentlich immer gut funktionieren. Maksim: Und dann kannst du das abfeuern und der macht es und fertig. Maksim: Und dann haben wir ja quasi dann die höchste Intelligenz. Das ist dann nicht Maksim: der Subagent, sondern der Agent. Maksim: Das ist dann der, dem gibst du eine Aufgabe und dann darf der machen, Maksim: wie der Bot es für richtig hält. Maksim: Und so innerhalb dieser drei Kategorien eingeordnet, Theo. Maksim: Wie viel Freiheit gönnst du deiner KI? Theo: Also du hast ja die Hauptkategorien gerade schon aufgespannt und der Grad der Theo: Autonomie steigt von einer zur nächsten Kategorie tatsächlich. Theo: Wobei das nicht ganz stimmt. Theo: Der vordefinierte Workflow, das wäre jetzt sozusagen Kategorie 2, Theo: bei dem man ganz klar die einzelnen Prompt Chain Steps oder die Kettenglieder, Theo: vorgibt, bei denen kann der Agent eigentlich am wenigsten ausbrechen. Theo: Also man kann sich so vorstellen, du hast zum Beispiel einen Vertragschecker, Theo: Und brichst da konkret runter, okay, nicht nur die einzelnen Fragestellungen, Theo: sondern das Dokumenten-Read-In, das, Theo: nach einem ganz gewissen Muster erfolgen muss, um beispielsweise Fußnoten immer Theo: richtig einzulesen, sodass der Agent nicht von einem aufs nächste, Theo: aufs nächste, aufs nächste Mal immer wieder neu erfinden muss, Theo: hey, okay, wie rekonstruiere ich jetzt diese Seitenumbrüche, Theo: wo dann zwischendrin Fußnoten drin vorkommen. Theo: Und dann auch die inhaltliche Prüfung, die, wenn ich es voll durchdeklinieren Theo: kann und quasi die maximale Sicherheit haben möchte, wirklich dann in einer Theo: Prompt dann nur umfasst, hey, wie schaut es aus mit der Definition dieses Fachbegriffs? Theo: Ist der in dem Vertrag richtig definiert? Und dann macht der Bot an der Stelle, Theo: nichts anderes, als nur diese eine Prompt abzuarbeiten. Theo: Auf der anderen Seite, das Erste, was du gemeint hast, das sind ja Chatbots, Theo: die über eine System-Prompt definiert werden. Genau. Maksim: Und den Tools. Theo: Und den Tools, genau. Also letztlich, ich predige ja in meinen Schulungen immer Theo: die Dreifaltigkeit, die Prompt Instruction, der System Message, Theo: die Tools und das Kontextwissen, das man den Agenten quasi über Rack-Systeme noch mit reingibt. Maksim: Amen. Theo: Ja, aber so bleibt es hängen. Immer wieder wiederholen und am Ende könntest du die Teilnehmer. Theo: Und bei denen ist es so, also da legst du ja am Anfang sehr viel fest über die Theo: Persönlichkeit und eben welche Tools haben die überhaupt zur Verfügung. Genau. Theo: Und außer man gibt denen jetzt wieder irgendwelche Jailbreaks und so weiter Theo: mit in die Hand, aber dann sind sie da erst mal festgelegt. Theo: Und dann ist aber so, und das ist vielen, finde ich dann auch bei mir in den Theo: Schulungen gar nicht so bewusst, ab da ist dann wieder Freestyle. Theo: Also der Chatbot in der Interaktion mit dem Nutzer, der macht ja dann auch gern mal, was er will. Theo: Und wenn du dem sagst, okay, jetzt überprüfst du meinen Vertrag für mich, Theo: dann ist es quasi zu erwarten, dass der auch irgendwelche Dinge vergisst oder Theo: sich ablenken lässt vom Nutzer. Theo: Wenn du jetzt sagst, okay, jetzt steigen wir mal in die Klausel total tief ein, Theo: dann kommt er aus dem Rabbit Hole nicht mehr raus. Maksim: Ja, genau. Also du hast diese Attention, die Aufmerksamkeit des Bots, die ist. Maksim: Nur weil du in der System Message irgendeinen Arbeitsablauf vorgegeben hast, Maksim: der hält sie nicht hundertprozentig daran. Wäre auch wahrscheinlich relativ Maksim: nervig, wenn er das täte. Maksim: Und da ist der Kontrast zu dem Subagenten, wo das ja dann quasi wie vorgefertigte Maksim: Prompts sind, als hättest du Maksim: sie geschrieben, wo du dann dadurch ja den Arbeitsablauf total vorgibst. Maksim: Der ist dann sehr deutlich. Theo: Ja, und gleichzeitig ist halt irgendwo bei diesen vorgefertigten RPR, Theo: also Robotic Process Automation inspirierten Workflows, wo ja wirklich das total Theo: starr ist, aber wiederum nervig, weil wenn halt irgendwo unterwegs in der Kette Theo: was schief läuft oder nicht so wie vorher gesehen, dann ist es relativ schwer zu reparieren. Maksim: Genau, der Klassiker ist, das PDF konnte nicht eingelesen werden wegen, Maksim: keine Ahnung, Passwortschutz, dass man das her vielleicht noch nicht drin hatte. Maksim: Und dann laufen aber die 17 anderen Prompts mit, analysiere jetzt, Maksim: war dieses NDA symmetrisch und dann steht dann überall, wenn du Glück hast. Maksim: Das PDF konnte nicht eingelesen werden, aber wenn es so wäre, Maksim: dann könnte ich hier beantworten, bla bla bla, oder wenn du Pech hast, Maksim: beginnt er dann tatsächlich, das sind noch so die einzigen Fälle, Maksim: wo ich heute mit modernen Modellen noch Halluzinationsprobleme habe, Maksim: wenn so ein Subagent am Anfang scheitert. Theo: Oder das Abbruchkriterium und eine Fehlermeldung im Gesicht. Maksim: Aber das ist dann noch der bessere Fall. Theo: Ja, richtig, und bei den agentischen Cases, und mit agentisch, Theo: so wie wir es jetzt die letzten Male ja immer definiert haben, Theo: Du hast ein Modell, das sozusagen in einer großen Endlosschleife selber Aufgaben Theo: abfeuert, der wird sich davon jetzt erstmal nicht stoppen lassen. Theo: Der merkt dann, okay, PDF ist passwortgeschützt. Theo: So, dann schauen wir mal. Also entweder versuchen wir das Ding jetzt zu knacken Theo: oder wir fragen den Nutzer, Nutzerin nach Passwort. Theo: Das ist natürlich dann die deutlich flexiblere, aber auch immer eine Glücksspielgeschichte, Theo: wo man dann am Ende dabei rauskommt. Maksim: Um nochmal das konkret auf die Freiheit runterzubringen, da sind ja auch im Maksim: Prinzip drei Freiheitsmodi, wenn man so will, also Subagent der unfreieste, Maksim: würde ich jetzt mal sagen. Maksim: Wie entscheidest du, was du benutzt? Theo: Ob die Tätigkeit oder die Aufgabe, die der Bot übernehmen muss und soll, Theo: ob die von vornherein verstanden ist und wie gut. Theo: Also sowas wie ein Vertragschecker, das funktioniert in der Form nur, Theo: wenn am Anfang schon klar ist, okay, das ist nicht nur immer genau diese Art Theo: von Vertrag, sondern es werden mich immer genau diese Aspekte interessieren. Theo: Das ist sozusagen, wo der Mensch auch schlecht ist, weil wir gerne einfach Dinge Theo: vergessen und uns ja auch ablenken lassen. Theo: Genau für die Art von Tätigkeit, wo man so total genau arbeiten muss. Theo: Das eignet sich sehr, sehr gut. Theo: Und auch so ein Beispiel, das ich immer wieder an den Projekten erwähne, Theo: ist, sobald du Daten zu verarbeiten hast, die von extern kommen, Theo: dann kannst du dir sehr, sehr häufig den Ansatz schon mal abschminken, weil. Theo: Du externe Daten nie vollständig unter Kontrolle hast. Theo: Also du kannst ja auch ein Lied davon singen. Und dann, ja, was bleiben dann für Use Cases übrig? Theo: Entweder, dass die externen Daten absolut strikt einem Schema folgen müssen Theo: oder dass du halt dich darauf verlassen kannst, dass es gute Daten sind, Theo: weil du hast sie selber sozusagen verwaltet und maintained. Theo: Und je mehr es zu einer offenen Fragestellung wird, Theo: wo der Lösungsweg auch per se noch völlig unbekannt ist, desto mehr geht es Theo: rüber in die agentischen Workflows und sozusagen, wenn der Nutzer oder die Nutzerin Theo: nur Ahnung hat, dann kann man denen ein Chatbot an die Hand geben, dass die den steuern, Theo: aber spätestens wenn die Nutzerschaft selber gar nicht mehr weiß wie man zur Theo: Lösung kommt, dann kannst du eigentlich nur noch, ja, prompt and pray das an Theo: den agentischen Loop geben und hoffen, dass der dann schon rausfinden wird, wie es zu tun ist. Maksim: Ich würde da noch ergänzen, für mich ist auch so die Konsequenzen eines Fehlverhaltens. Maksim: Beispielsweise bei einem, wenn ich wieder bei der Programmierung, Maksim: hey, wenn der Agent halt total Mist baut, dann habe ich halt nachher in meinem Maksim: Repository, irgendeine Code-Änderung, die absolut dämlich ist, Maksim: aber die ich mit zwei Klicks verwerfen kann oder rückgängig machen kann. Maksim: Während wenn du sagst, das kommuniziert jetzt zum Beispiel direkt oder, Maksim: keine Ahnung, der schreibt E-Mails, da wollte ich dir auch noch was zu fragen, aber sagen wir mal, Maksim: der macht deine CRM-Kommunikation, also dein Customer Relationship Management, Maksim: die Fehler kriegst du nicht mit zwei Klicks korrigiert, sondern da kriegst du Maksim: dann vielleicht nachher bei 500 Leuten zu Kreuze, den du irgendeine total dämliche Maksim: E-Mail geschrieben hast. Maksim: Also bei Letzterem wäre ich dann vorsichtig, ein autonomes, agentisches System, das machen zu lassen. Theo: Ja, das ist ein guter Punkt. Maksim: Also, was ist das, sagen wir, Fallout? Der Knastcase. Der Knastcase, genau. Maksim: Also wenn ich zum Beispiel sagen würde, ich hätte ein modernes, Maksim: agentisches Modell und sage, ich Maksim: möchte das in einer Sandbox auf seine IT-Sicherheitsfähigkeiten testen. Maksim: Und bin mir aber vielleicht nicht sicher, wie sicher meine Sandbox ist. Maksim: Also ich hätte das jetzt nicht gemacht. Maksim: Aber gut. Theo: Naja, also du zielst ja auf die Ausbrüche ab, die jetzt vor kurzem erst auch passiert sind. Theo: Und witzigerweise ja bei Entropic und bei OpenAI. Theo: Und da merkt man ja erstmal, wie hart es sogar den Hyperscalern, Theo: oder wie schwer es denen fällt, die Modelle unter Kontrolle zu halten. Theo: Und deswegen, also was ich schon krass finde, der momentan aktuellste Hype, Theo: das ist ja dieses Cowork, also nach den Co-Piloten jetzt mit den Coworks, Theo: wo man dann den Agenten seiner Wahl bei sich lokal auf dem Computer mit Super-Admin-Rechnen installiert. Theo: Also ich finde, das ist schon krass. Also einerseits predigen immer alle, Theo: ja, ja, Vorsicht, Vorsicht, keine Zugriffe. Theo: Und hey, wie kann man nur so dumm sein, den Agenten hier vollständigen Zugriff Theo: zu geben? Und dann ist es genau das, was momentan versucht wird, Theo: über das Marketing zu platzieren. Maksim: Es existieren irgendwie da beide Welten. Für mich ist es deswegen auch, Maksim: also deswegen mag ich das auch so gern, zum Beispiel Cloud-Code in Hallerium Maksim: zu nutzen, weil dann ist das in diesem Workspace auf dieser Maschine und nicht Maksim: auf meinem Computer, wo daneben irgendwie, Maksim: keine Ahnung, wenn du dich durchs File verzeichnest, dann sind da vielleicht Maksim: sensitive Kundendaten. Maksim: Ich möchte nicht, dass mein Cloud, auch wenn er das noch nie probiert hat, Maksim: theoretisch mit seinem Terminal darauf zugeführt hat. Maksim: Also, und wenn er in einem Hallerium-Runner ist, dann ist er da drin gefangen, Maksim: kann trotzdem immer seine Aufgaben, die ich von ihm will, wunderbar erledigen. Maksim: Also ich kann ja nur predigen, nutzt virtuelle Maschinen. Maksim: Dann habt ihr nämlich genau diesen Super-GAU-Fall, von dem wir vorhin gesprochen haben. Maksim: Dann wisst ihr, was der ist. Also wenn auf dieser Maschine halt mein E-Mail-Account Maksim: einfach nicht verknüpft ist. Theo: Ja, richtig. Maksim: Was soll dann passieren? Also aus dem Blickwinkel jetzt, dass E-Mails verschickt werden oder sowas. Maksim: Aber wenn ich das alles auf meinem Personal-Computer laufen lasse, Maksim: gibt es ja diverse Frameworks, ja, dann muss ich halt auch dieses Risiko tragen. Theo: Letztlich ist da aus meiner Sicht da gar nicht die Frage, ob da Scheiße dabei Theo: passiert, sondern nur wann. Maksim: Wie mit dem Datenverlust, ne? Theo: Ja, richtig, genau. Es gibt nur zwei Arten von Menschen, die schon Daten verloren Theo: haben und die es noch werden, oder? Den Spruch meinst du? Genau. Theo: Und genauso ist es mit den KI-Agenten, die du lokal installierst. Theo: Ich habe es am Wochenende wieder von einer gelesen, die hatte so zum Spaß gesagt, Theo: ja, okay, ich glaube, das war wieder mein Claude Cowork, Theo: aktualisieren wir die und die Info in dem und dem System. Ich glaube, Theo: das war so Projektmanagement-System. Theo: Und was macht Claude? Claude findet von ihrem Passwortmanager das Recovery PDF, Theo: loggt sich in den Passwortmanager ein, zieht sich da das Passwort raus und loggt Theo: sich dann bei ihrem Projektmanagementsystem ein. Also das geht auch über Eck. Maksim: Ja, das ist so ähnlich wie sich auf Hugging FaceEye zu hacken, Maksim: um für diesen Hacker-Test zu finden. Theo: Ja, richtig, richtig. Maksim: Ei, aber Claude hat doch die Aufgabe gelöst. Theo: Ja, genau. Aber ich hoffe, das ist jetzt so eine Fun-Story, aber da steckt natürlich Theo: ein cooler, auch finde ich sehr, sehr, sehr interessanter Kern drin, Theo: dieser vollautonom-agentischen Loops. Theo: Du gibst dir eine Aufgabe, also eine Zieldefinition, sagst mach und das Modell Theo: wird alles in seinem Training und Toolset mögliche versuchen, um da hinzukommen. Maksim: Genau, und das ist Fluch und Segen zugleich. Theo: Ganz genau, ja. Maksim: Gehen wir ein bisschen in eine andere Richtung. Maksim: Mal folgendes. Ich glaube, das habe ich mal in irgendeinem Y-Combinator-Podcast gehört. Maksim: Da ging es so darum, hey, überleg mal, wie viele heutige Office-Jobs sind doch Maksim: eigentlich sowas wie, du tippst Daten aus Maske A ab und tippst sie in irgendeiner Maksim: pivotierten Form in Maske B ein. Maksim: Also das hat auch heute noch irgendwie jeder von uns ein bisschen zu tun. Maksim: Und das ist eigentlich eine relativ stupide Tätigkeit auf der Abstraktionsebene. Maksim: Und genau das kann ja die KI heutzutage machen. Also im Prinzip, Maksim: ich glaube, du hast es mal so wie sagen, den Universalkleber genannt oder sowas. Maksim: Also was quasi eine Schnittstelle nicht bietet, kann die KI ausbügeln. Maksim: Was hat deine KI denn für dich zusammengeklebt in den letzten drei Jahren, Maksim: was vorher noch nicht zusammengepasst hat? Theo: Also ein sehr, sehr cooler Case, der mir da neulich untergekommen ist, das war die... Theo: Datenverarbeitung von einem Kassensystem. Und zwar ist der Use-Case der, Theo: es gibt doch diese Self-Service-Supermärkte, Theo: wo du mit deiner IC-Karte kommst quasi in den Raum und holst dir deine Waren, Theo: scannst die ein, bezahlst und alles quasi ohne Personal, dafür 24-7 geöffnet. Theo: Und da hat man den Case, dass diese Kassensysteme sehr. Theo: Unzuverlässig hinsichtlich ihrer Buchungsdaten waren. Also die haben dann doppelte, Theo: Buchungen angelegt, weil der Barcode-Scanner hat quasi den Barcode zweimal gelesen, Theo: dann gab es quasi gleich einen doppelten Satz. Theo: Und die Konsequenz war dann, dass eine sehr gut bezahlte Steuerfachkraft diese Theo: Buchungssätze eins nach dem anderen gecheckt und musste quasi die Duplikate rausholen und so. Theo: Und das war so ein klassischer Klebercase, weil diese Regeln, Theo: nach denen die Anomalien zu erkennen waren, eigentlich sehr, Theo: sehr einfach beschreibbar waren. Theo: Also du sagst, okay, jetzt pass mal auf, wenn innerhalb von fünf Sekunden zweimal Theo: der gleiche Artikel gescannet wird, dann ist das erstmal verdächtig. Theo: Also checkt das nochmal, ob das wirklich Sinn ergibt. Theo: Oder auch bei den Abbuchungen. Also teilweise wurde die EC-Karte zweimal mit Theo: dem gleichen Betrag belastet und so schluss. Theo: Und sowas kannst du gut in Worte fassen und gleichzeitig, naja, Theo: für irgendwie fünf so Terminals baust du nicht gleich eine neue Monster-App. Theo: Und da war dann auch der Trade-Off okay. Aber man muss schon auch sagen, Theo: Wahrheit von den skalierten Kosten, also wenn du jetzt sagst, Theo: du lässt es mal auf eine Milliarde Buchungen los, dann wäre es wieder zu teuer gewesen. Theo: Und es gibt da wieder Spielraum, dass das Modell dann doch Fehler macht. Maksim: Mit Trade-Off meinst du, Maksim: Die Kosten zu sagen, hey, eine KI, der ich quasi jetzt einfach mit Brain, Maksim: ein bisschen formalisiert, ein Brain Dump erkläre, was sie zu tun hat versus Maksim: ich programmiere was Vernünftiges dafür oder lasse was programmieren. Maksim: Und da ist halt dieser Trade-off bei einem einzelnen oder zwei Läden KI. Maksim: Aber wenn du dir auf eine Milliarde Buchungen, dann sagst du halt, Maksim: na, dann passieren A zu viele doch Fehler und B ist halt auch teuer. Theo: Ist genau, einfach viel, viel zu teuer und ist es nicht in der Programmier-Community, Theo: also in der Informatik-Community momentan so ein Meme, Theo: dass Juniors dazu neigen, Dinge, die man, Theo: ohne Problem einfach programmatisch lösen kann, wie eine Vorschleife, Theo: dass man das als Tasks eintaktet bei einem Manus und der muss das dann abarbeiten. Maksim: Das habe ich noch nicht gehört, aber das glaube ich sofort. Theo: Genau dieses Pattern, dass man jeden Scheiß jetzt an der KI auslagert, Theo: obwohl es weder nötig ist, noch förderlich, sondern dir ja eher eigentlich nur Probleme bereitet. Maksim: Wo ich das manchmal beobachte, ist, dass Leute sowas wie einen Git-Push oder Git-Commit, Maksim: das sind ja wenige Zeilen getippt ins Terminal, dass dann lieber halt dem Klotz Maksim: sagen, der vielleicht noch auf irgendwie super extra langem Nachdenken konfiguriert Maksim: hat und da bläst du dann einfach mal, keine Ahnung, Maksim: hast gefühlt jetzt einen Hektar Regenwald abgeholzt, um dir selber irgendwie Maksim: zehn Zeichen Code tippen zu ersparen. Theo: Ja, genau das ist die Idee, ne? Maksim: Ja, er kann ja immer alles mal durch eine KI durch. Warum also nicht? Maksim: Er bringt uns so ein bisschen dahin, Maksim: Was ist denn die KI für dich? Also ist das sozusagen, keine Ahnung, dein Exoskelett oder Maksim: dein Ausrüstungsgegenstand oder ist das der Buddy oder der Kollege oder der Assistent? Maksim: Also verstehst du, was ich meine? Ist das ein Tool an dir oder ist das eine Persona? Maksim: Vielleicht ist es auch beides, aber du kannst es mal so ein bisschen einordnen, Maksim: in welcher Situation ist das was für dich? Theo: Ja, vielleicht auch zeitlich aufgeräumt, ganz zu Beginn, also so auch mit den Theo: allerersten Modellen, als GPT-4 noch der heißeste Scheiß war, Theo: da war das für mich total die Exoskelett-Geschichte, weil die Modelle ja auch, Theo: einen sehr, sehr kurzen Aufmerksamkeitshorizont hatten, bis sie an eine Mauer Theo: gelaufen sind, wo dann sowieso zurückkam, okay und was soll ich jetzt machen? Theo: Das heißt, da waren wir eher in diesem super fein granularen Steuern mit drin. Maksim: Ja, die agentischen Systeme haben ja damals auch noch gar nicht funktioniert. Theo: Ja, und also auch vom Pricing her, die waren auch damals viel zu teuer, Theo: wenn man noch sagt, okay, da hatten wir 10 Euro pro Kilo-Token und nicht Mega- oder Gigatoken. Maksim: Ein ganzer Mann. Theo: Ja, genau, genau, genau. Und Theo: okay, also back in the days stellte sich die Frage aus meiner Sicht nicht. Theo: Und jetzt seit heute ist es eine Zweiteilung für mich tatsächlich. Theo: Also das Zeug, was ich gut verstanden habe, da will ich auch irgendwie so in Theo: diese Exoskelett-Nummer wieder mit rein, aus der Sicht der Kontrolle, Theo: weil diese Buddy-Modelle, Theo: also Buddy-Modelle im Sinn von Arbeitsmodell, nicht KI-Modell, Theo: wo ich sage, okay, hier ist eine Aufgabe, mach. Theo: Da fühle ich mich dann immer zu sehr aus dem Loop genommen, wenn du weißt, Theo: was ich meine. Also ich bin dann sozusagen dem Ergebnis schutzlos und ahnungslos ausgeliefert. Theo: Wenn das von der KI erledigt wurde, die Aufgabe, also was schreiben, Theo: was reviewen, was programmieren, gibt da die verschiedensten Arten von Aufgaben. Theo: Und deswegen stelle ich bei mir persönlich fest, also wenn es eine komplett neue Aufgabe ist, Theo: dann bin ich eher in diesem Body-Mode und habe dann aber das intrinsische Verlangen, Theo: das zu einem Exoskelett zu machen, also dass ich den Body absorbiere und der Theo: eigentlich immer, dass die Leine immer kürzer wird tatsächlich, Theo: obwohl ja eigentlich so das propagierte, Theo: im Marketing, also so KI-Marketing-Bubble, die sagt ja, okay, Theo: die Agenten werden immer autonomer, also dass man da hin möchte. Maksim: Ja, ich sehe da noch so diesen fundamentalen Unterschied, auch einfach zwischen Maksim: einem menschlichen Kollegen und einem KI-Agenten, selbst wenn einzelne Aufgaben Maksim: gleichermaßen delegiert werden können, Maksim: habe ich quasi bei einem menschlichen Kollegen das Bedürfnis, Maksim: immer mehr zu delegieren, Maksim: also immer mehr von der Verantwortung, wo ich denke, jetzt hat er sich da eingefressen, Maksim: kennt sich jetzt langsam besser aus als ich, hey, ja, dann, take it off my plate. Maksim: Und beim KI-Agenten, wie du sagst, irgendwann, okay, jetzt müssen wir mal schauen, Maksim: wie wir das jetzt wieder standardisiert kriegen und vielleicht aus diesem Floor Maksim: dann wieder so einen Subagenten machen oder sowas, um das dann in diese Exoskelett-Welt zu bringen. Maksim: Und mein mentales Bild ist da so ein bisschen, ja, weil halt ein Mensch Verantwortung Maksim: tragen kann und ein KI-Agent nicht, bei dem trägst immer noch du die Verantwortung und dann Maksim: dann musst du ja deine Due Diligence auch irgendwie, also du musst dann diese Leine behalten. Maksim: Also für mich ist das so, emotional formuliert der Unterschied. Hast du das mit? Theo: Ja, und erinnert mich an eine Diskussion, die wir im Team geführt haben, Theo: weil da ja auch eine Kollegin von uns meinte, ich weiß nicht, Theo: ob du da im Loop warst, so, Theo: hey Theo, am Ende muss ich mich hinstellen können vom Kunden und sagen, Theo: das ist jetzt so und so und so gebaut, weil, und dann brauche ich da eine Antwort drauf. Maksim: Genau, dann kann ich nicht sagen, weil die KI das so entschieden hat. Theo: Ja, jetzt stell dir mal vor, wie man sich da auch lächerlich macht, Theo: wenn man am Ende bei einem kritischen Feature total blank ist und sagt so, Theo: ja, hat Talerium entschieden. Maksim: Ja, während wenn du sagst, ja, das hat mein Entwickler entschieden, Maksim: ist vielleicht immer noch nicht optimal in der Präsentation, Maksim: aber dann sagst du halt, ja, okay, wenn sie da die Details wissen wollen, Maksim: machen wir ein Follow-up und morgen ist der dabei, der Entwickler. Theo: Aber wo ziehst du dann die Grenze? Also wo ist die Schallmauer, Theo: wo du sagst, okay, das ist jetzt, keine Ahnung, woran du das festmachst? Theo: Eine Geschichte, wo es okay ist, dann auch zu sagen, keine Ahnung, Theo: wie das gelaufen ist, das hat die KI für mich gemacht, oder da weißt du ganz Theo: genau, wie es passiert ist. Maksim: Ich denke da so ein bisschen wieder vom Ergebnis, vom Ende her. Maksim: Kann ich am Ende so halbwegs plausibilisieren, ob das sinnvoll ist? Maksim: Und dann kann mir ja der Weg dahin egal sein. Und Maksim: Vielleicht auch so ein bisschen bei so Sachen wie Informationsbeschaffung, Maksim: wenn du da so einen Agenten auf so eine Deep Research Sache geschickt hast, Maksim: ich werde nahe nicht die Quellen von dem prüfen, Maksim: sondern ich werde das Ergebnis überprüfen und dann versuchen, Maksim: kann ich irgendwie beurteilen, ob das jetzt Fantasie ist oder real, Maksim: aber ich hätte keinen Deep Research Agenten bemüht, wenn ich sage, Maksim: ich müsste nachher noch alle überall schauen, ob das korrekte Primärquellen sind. Maksim: Aber wenn ich das gar nicht hinten raus Maksim: beurteilen kann, dann ist eine Möglichkeit noch zu sagen, ich gehe dann wieder Maksim: in so einen Chatty-Agenten und lasse es mir vom Ergebnis her dann Schritt für Schritt erklären. Maksim: Also quasi der Agent hat seine lange Reise dahin gehabt, vielleicht da Umwege Maksim: gehabt, Dinge verworfen und so weiter, aber dann habe ich irgendein Ergebnis, Maksim: für das muss ich gerade stehen und dann muss ich es tatsächlich, Maksim: wie du sagst, irgendwie verstehen. Maksim: Das kann ich mir dann wieder von einer KI erklären lassen, aber in einem Ping-Pong dann. Maksim: Und zwar so, dass ich es halt bei meinem Skill-Profil verstehe. Theo: Aber das heißt, du hast gerade dieses Deep Research Beispiel gebracht, Theo: Für mich ist da der Eindruck, aber das ist natürlich immer alles subjektiv, Theo: dass dieses Deep Research war Theo: so ein massiver Hype, der dann aber relativ wieder schnell verpufft ist. Theo: Und das ist aktuell, ich glaube bei JetGPT, so unter Tools oder Workflows, Theo: weitere und dann quasi nochmal Submenü 12, das ist mittlerweile so in den Hintergrund gerückt, oder? Maksim: Ich meine auch nicht das ganz konkrete Tool, was diesen Namen geprägt hat, Maksim: sondern wenn du jetzt einen modernen Agenten nimmst, der Internetzugriff hat Maksim: und du sagst dem, du stellst dem eine komplexe Research-Frage und sagst dem, hey, bitte Maksim: mach dich wirklich schlau, überleg erstmal, Maksim: welche Art von Informationen du einsammeln würdest, dann finde zu allem Quellen Maksim: und dann schreib nachher was, quasi umfassend das zusammen, der würde das ja Maksim: in neuer und schöner dann ja auch gut machen. Theo: Ja, aber von der Logik her trotzdem ja das Gleiche. Du schickst einen Agenten Theo: los und am Ende kommt was raus. Es ist hochgradig kondensiert. Theo: Und ich habe da immer so den Eindruck, das Thema ist eben verpufft, Theo: weil sich kaum jemand hinstellen möchte vor zum Beispiel dann einem Komitee Theo: und PowerPoint-Karaoke-mäßig dann die Ergebnisse von einem KI-Agenten vorliest. Theo: Sondern was du ja beschrieben hast war dann okay es gibt quasi jetzt ein vorläufiges Theo: ergebnis ja und dann geht die arbeit eigentlich erst los und zwar dass ich mich Theo: als mensch wieder mit reingraben oder. Maksim: Richtig aber das ist ja häufig dann schneller als von scratch zu machen gerade Maksim: wenn es so viel hit and miss ist keine ahnung wenn ich dir sagt finde die Maksim: 20 wichtigsten Firmen für irgendwie ganz seltsame Segmentierung raus und so Maksim: weiter, suchst du dir die Finger rund und wenn du das die KI machen lässt und die, Maksim: sind es dann wirklich die 20, vielleicht sind 10 von denen eigentlich nicht Maksim: so relevant, aber 10 sind dabei, ist wahrscheinlich immer noch gut, Maksim: das zu haben. Also es hängt so ein bisschen von der Aufgabe ab. Theo: Ja, aber ich fand das hier gerade spannend, dass eben dieses Heilsversprechen Theo: von wegen so Deep Research, der macht sein Ding und dann so mit dem Ergebnis Theo: ist man fix und fertig, dass das eben nicht hält. Maksim: Wenn es einen Mitarbeiter gemacht hätte, der Maksim: Verantwortung, wenn ich wieder meine Mitarbeiter, als Person kann er Verantwortung Maksim: oder hat auch einen Ruf zu verlieren und so weiter, hat eine ganz andere noch Maksim: mal Agency als der Agent. Maksim: Und dementsprechend da könnte ich dann sagen, hey, das hat der Son so gemacht, Maksim: dem Ergebnis vertraue ich. Da schaue ich jetzt vielleicht einmal drauf, Maksim: das ist ungefähr das, was ich mir vorgestellt habe, so als Finger dann schauen, Maksim: oder das mache ich nur beim ersten Mal. Maksim: Und das sehe ich halt mit der KI halt aufgrund der Verantwortungs- Maksim: Ownership nicht. Maksim: Wollen wir weitermachen? Ein paar Beispiele. Da sind wir auch so bei, Maksim: so Ownership, Verantwortung und so weiter. Maksim: Ja, was lässt du deine KI alleine machen? Also nehmen wir mal ein Beispiel, Maksim: wir hatten vorhin E-Mails verschickt, da wollte ich auch nochmal drauf hinaus. Maksim: Du hattest Vertragsprüfung. Vertragsprüfung genannt, und dann generell so Entscheidungen treffen. Maksim: Das wären ja alles so diese Punkte, diese Case-by-Case. Also was davon lässt Maksim: du die KI autonom machen, was lässt du sie gar nicht machen? Maksim: Wo schaust du nochmal über die Ergebnisse drüber? Theo: Das ist mir jetzt in der Vorbereitung auf die Folge auch nochmal klar geworden. Theo: Das hängt total davon ab, welche Art von Aufgabe das ist. Theo: Und das wiederum sind sich viele bei mir auch in den Schulungen überhaupt nicht Theo: bewusst, welche verschiedene Arten von Arbeit es eigentlich gibt. Maksim: Das ist ein Framework für uns. Theo: Naja, das ist jetzt keine wissenschaftliche Klassifikation, aber nur mal ganz einfach. Theo: Das hängt dann mit diesem Kleberthema von vorher zusammen. Wenn es darum geht, Theo: dass die KI für mich die richtigen Knöpfe drückt über eine API und die richtigen Theo: Texte in die richtigen Textfelder einträgt. Theo: Das ist sowas, da denke ich mir so, okay, mach. Ja, weil A ist da der Spielraum Theo: relativ klein, wo was schief gehen kann. Maksim: Ja. Theo: Und da findet sozusagen nichts kritisches unterwegs statt, sondern das ist Text Theo: von A nach B, vielleicht ein bisschen umformatieren, umtransformieren, okay, passt schon. Theo: Und dann wiederum, nächste Stufe von diesem voll mechanischen Arbeiten, Theo: das ist sozusagen, das sind so Execution-Themen, wie ich habe einen Plan, Theo: ich wüsste, wie ich es machen müsste, wenn ich es selber, Theo: kann und ich weiß auch, woran ich dann das Ergebnis festmache. Theo: Das ist dann quasi die Zügel ein bisschen lockerer gelassen und das Kritischste, Theo: du hast gerade schon das Wort Entscheidung treffen erwähnt, so Entscheidungsabläufe, Theo: und deswegen, also ich mag diesen Deep Research Workflow überhaupt nicht, Theo: weil da wird quasi implizit, werden schon so viele Entscheidungen getroffen, Theo: in welche Richtungen weiter recherchiert wird und in welche nicht, Theo: da bin ich am kritischsten und greife quasi dann wirklich am tiefsten auch in Theo: den Denkprozess von dem KI-Agenten mit rein. Theo: Das wären für mich so drei. Ich weiß nicht, fällt dir noch eine vierte ein, Theo: die ich da übersehen habe oder wird es da mitgehen? Maksim: Wenn du bei Entscheidungen auch das meinst, also jetzt bei Deep Research passiert Maksim: ja nichts Schlimmes, weil das ist ja quasi ein Passives, also ein Aufsaugen Maksim: von Informationen, nicht ein Ausführen von Handlungen. Maksim: Aber wenn du bei Entscheidungen das Ausführen von Handlungen, Maksim: wir hätten es vorhin besprochen, wenn da E-Mails an 500 Kunden rausgehen könnten Maksim: durch den Agenten, da bin ich dann bei dir. Das ist halt der Teil, Maksim: wo ich Entscheidungen nicht komplett autonom haben will. Maksim: Weil die meistens von etwas abhängen, woran ich vielleicht noch nicht gedacht Maksim: habe, als ich die Aufgabe formuliert habe. Maksim: Und der Agent somit, nachdem er ja nicht meine Gedanken lesen kann, nur raten kann. Maksim: Also das bringt mich auch vielleicht zu der letzten Frage, die ich mitgebracht Maksim: habe mit dem Thema, wann ist denn so ein Agent fertig? Maksim: Oder was sind, vielleicht technisch formuliert, seine Breakpoints? Maksim: Also fertig ist die, okay, also es gibt quasi, wann ist die Aufgabe fertig fertig? Maksim: Und das ist ja auch eine Kunst, das zu formulieren. Maksim: Wie konkret kann ich das machen, damit das Ziel dem Agenten immer klar ist und Maksim: dann nicht auf, jetzt wäre es so ein Beispiel mit, hey, Maksim: ich muss hier eine Entscheidung treffen, habe die Informationen dafür nicht, Maksim: habe aber das trotzdem irgendwie ein Ziel vor Augen und dann kann ganz schnell Maksim: so ein agentischer Workflow falsch abbiegen. Maksim: Da habe ich persönlich ganz gern, dass dann der Agent so gepromptet ist, Maksim: dass er erkennt, puh, das ist jetzt hier eine kritische Weiche, Maksim: da möchte ich bitte mit meinem Auftraggeber kommunizieren. Maksim: So wie es ja auch ein Mitarbeiter oder ein Mensch ein Kollege macht wenn der dann merkt, hey ich Maksim: Könnte jetzt hier eine Entscheidung treffen aber ich weiß nicht welche die richtige Maksim: ist weil ich nicht weiß worauf es dem Theo ankommt dann kommt der ja auch zu dir und so Maksim: habe ich das gern bei den agentischen Workflows vielleicht kannst du mir und Maksim: dem Publikum mal erklären wie du überhaupt erstmal mit der Zieldefinition anfängst Maksim: weil da liegt ja der Hund begraben Theo: Vielleicht allein schon dadurch, also ich investiere da sehr viel Mühe drauf. Theo: Das heißt auch bei den und insbesondere bei den agentischen Workflows, Theo: die dann sehr autonom arbeiten sollen, ich verbringe da gerne mal eine halbe Theo: Stunde, um nur mal dieses Zielbild zu definieren und auch den Kontext zu schaffen. Theo: Also nicht nur die Prompt, weil am Ende sind wir uns ehrlich, Theo: wie dann am Ende eine Word-Datei genau zu formatieren und so weiter ist, Theo: das ist alles entweder eh zentral spezifiziert oder die Modelle machen es besser als ich. Theo: Aber wo möchte ich eben hin und was ist der konkrete Kontext dazu? Theo: Also wenn man jemandem eine Aufgabe wie bei einem Menschen auch gibt und die Theo: Hälfte an relevanter Kontextinformationen weglässt, dann braucht man sich nicht Theo: wundern, wenn die Person dann auch nicht klarkommt mit einer Aufgabe. Theo: Das heißt, ich lade da alles an Dokumenten mit rein, an Transkripten, Theo: an Gesprächsnotizen und die Gedanken, die ich mir gemacht habe, Theo: auch bei den Dingen, wo ich mir unsicher bin. Theo: Also wenn ich zum Beispiel eine Idee habe für, okay, die Variante, Theo: die könnte man vielleicht so machen oder so oder so. Theo: Dann gebe ich dem Agenten schon mal das quasi als Startpunkt für seine weiteren Überlegungen mit. Maksim: Das bedeutet dann aber anknüpfend an das, was wir letztes Mal besprochen haben, Maksim: diese ganzen, du sitzt im Auto und machst einen Braindump, oder beim Joggen Maksim: kommt dir ein Gedanke und du diktierst das schnell in dein Handy. Maksim: Gibst du denen dann halt alles als Paket? Theo: Ja. Maksim: Mit der Aufgabe kannst nachschauen, musst aber nicht. Entscheide du, Maksim: welche Informationen du dir rausfischen willst, so ungefähr? Theo: Als ersten Step, ja genau. Also sozusagen, wenn man jetzt in Bögen denkt, Theo: erst mal Informationsaufladung, so wie wir das ja bei den Prompt-Trees schon Theo: immer machen. Also ein erster Step ist ja gerne mal, dass du die Prompt-Chain Theo: auflädst mit Informationen. Theo: Dann geht es in die Arbeit und dann ins Extern entweder verwursten, Theo: ausgeben, über die API rausgeben oder so weiter. Theo: Und genau da der gleiche Step. Das heißt, auch heute Morgen erst passiert, Theo: eine halbe Stunde im Auto, ein Prompt, Braindump, in die Haley reingekippt. Theo: Und dann besteht der erste Step darin, dass die nicht die Aufgabe sofort erledigt, Theo: sondern sich erstmal orientiert. Also so eine klassische Prompt von mir ist Theo: dann, okay, du orientierst dich jetzt in die Unterlagen und machst dir einen Plan. Theo: Und dann reden wir erstmal bitte über den Plan. Maksim: Das wollte ich dich auch gerade fragen. Theo: Ob du das richtig verstanden hast. Maksim: Diese Zieldefinition, die machst du nicht alleine, sondern da denkst du bereits Maksim: mit dem KI-Agenten drüber nach. Theo: Genau, genau. Und dann kommen ja wieder Punkte auch auf, wo ich dann merke, Theo: so hoppla, das ist jetzt ein Black Spot, den ich noch gar nicht bedacht habe. Theo: Dauert eine Minute, dann hat man sich auch dazu Gedanken gemacht. Theo: Und dann ist sozusagen nicht nur das Zielbild klar, sondern auch die Strategie Theo: und die Taktik und dann kann man irgendwann sagen, okay, der Plan steht, go, jetzt setzt es um. Theo: Egal, ob das dann das Bauen von einer App ist oder von einem Vertrag oder von Theo: einem Visual oder oder oder. Das ist eigentlich immer das gleiche Pattern. Maksim: Wie anstrengend findest du, ist das? Weil ich glaube, das ist der Teil, Maksim: den viele Leute dann zu wenig machen oder gar nicht machen und dann sich über Maksim: die agentischen Ergebnisse ärgern. Maksim: Also ich empfinde das als mühsam. Notwendig, aber sehr mühsam. Wie geht es dir? Theo: Naja, wenn man sich einigermaßen in der Thematik auskennt, dann ist es natürlich leichter. Theo: Vielleicht ist es dann auch so die Erwartungshaltung, dass man jetzt davon ausgeht, Theo: ja, ja, passt, du delegierst das komplett, wird schon flutschen. Theo: Also ich habe nicht die Erwartungshaltung, dass ich leicht eine Aufgabe formulieren Theo: kann, egal ob gegenüber Mensch oder KI-Agent, wenn ich mich selber erst in das Theo: Thema einarbeiten muss. Theo: Also gerade so das Thema Normencompliance ist ja bei uns momentan auch in der Theo: Firma so ein Thema wo ich eine super starke Lernkurve auch hatte, Theo: und mittlerweile tatsächlich den dritten Anlauf unternehme um das Thema für Theo: uns intern in der Firma zu lösen und quasi auch ich selbst iteriere und von Theo: Mal zu Mal schlauer werde um das Thema jetzt mittlerweile habe ich ein gutes Gefühl, Theo: immer immer besser zu adressieren also meine Specs an den Agenten werden halt Theo: auch immer konkreter Mhm. Maksim: Das heißt, du hast für dich quasi so ein mentales Bild erarbeitet des Zieldefinitionsprozesses Maksim: und auch, wie sieht ein Ziel aus? Maksim: Hast du das schon mal in deiner Schulung mit den Leuten gemacht? Maksim: Also im Prinzip, woran erkennt man, ist das jetzt ein Ziel, womit man einen Maksim: Agenten auf die Reise schicken kann? Theo: Es ist tatsächlich für die meisten sehr, sehr schwer. Also es ist so dieses Theo: klassische Beraterthema, das Theo: wir beide ja auch schon seit den ersten Tagen in der Firma erlebt haben. Theo: Die Leute sind total aufgeschlossen, aber die wissen gar nicht, Theo: was einen interessiert. Theo: Braindumpen sich total aus dir gegenüber und du musst dann eigentlich die Pieces rausfischen. Theo: Und was ich dann mache, ich moderiere das schon auch als Mensch, Theo: lasse die Transkription mitlaufen und habe währenddessen die richtigen Fragen Theo: gestellt, damit eine KI am Ende dann die Akzeptanzkriterien aus dem Transkript rausfischen kann. Theo: Aber ich nehme da schon wahr, das fällt vielen schwer. Maksim: Was bedeutet das denn dann eigentlich für den Nutzen von agentischen Systemen, Maksim: für, sage ich mal, die Nicht-Berater-Style-Leute? Theo: Also ich habe da ein totales Service-Modell im Kopf, dass es eben nicht so leider Theo: dieses hyperdemokratisierte ist, dass alle sind gleich und haben quasi die superpotenten Rechte, um, Theo: weiß der Teufel was zu tun, sondern für mich ist echt nach wie vor so eine Zwei-Klassen-Gesellschaft. Theo: Es gibt die, die kennen sich total gut aus in dem Prozess und die bauen dann, Theo: egal ob das ein Chatbot, ein agentisches System, eine Rack-Pipeline ist und Theo: dann gibt es die Konsumenten, Theo: die innerhalb dieser gesteckten Grenzen operieren können, weil für alles andere, Theo: das ist zu anstrengend, wie du ja sagst. Maksim: Das ist zumindest aber was, was mich beschäftigt. Was sind die Dinge, die... Maksim: Die manchen Leuten fehlen oder was sind die Voraussetzungen sozusagen die human Maksim: requirements nicht die system requirements um mit einem agenten oder einem agentischen Maksim: system in einer bestimmten Domäne Maksim: gut produktiv zu sein weil ich frage mich das so wie wenn du Web Apps baust Maksim: also ich meine sowas wie Cloud Code oder verwandte Systeme und auch auf Valerium Maksim: wenn ich da kurz schamlose Eigenwerbung mache du sagst hey ich brauche eine Maksim: App die dies und das und das macht und dann Maksim: hast du sie paar Minuten später Maksim: Trotzdem ist das irgendwie was, was den Leuten, die sich nicht mit Web-Apps Maksim: halbwegs auskennen, wahnsinnig schwerfällt, dann kohärent zu formulieren oder Maksim: einfach ein gutes Ergebnis rauszukriegen. Maksim: Und da würde ich vielleicht gerne in einer zukünftigen Podcast-Folge mit dir eintauchen wollen. Maksim: Woran liegt das und was sind sozusagen die Make-it-or-Break-it-Sachen da? Maksim: Also das ist nämlich ein Thema, was mich beschäftigt, weil eigentlich müsste Maksim: ja jeder alles können, aber so ist es nicht. Theo: Ja, ja, ja. Ja, lass uns das gerne aufmachen. Also vor allem, Theo: was mir da gerade als Beispiel kommt, du hast gerade Coding erwähnt, aber auch Slides bauen. Theo: Ja. Und ich hatte erst letzte Woche genau das Thema und kriege dann als Feedback Theo: über den Chat so, ja okay, Theo, du hast jetzt gerade nochmal deine Hayley drüber Theo: laufen lassen und jetzt sieht es auf einmal viel ordentlich und klarer und strukturierter aus. Theo: Und dann denke ich mir also, was zum Teufel passiert da? Ich habe doch gar nichts anderes gemacht. Maksim: Genau. Theo: Und habe dann am Ende irgendwie die Vermutung, aber lass uns das gerne mal aufmachen. Theo: Ich habe dem Bot eigentlich nur gesagt so, Eine Message pro Slide. Theo: Weißt du, wie ich meine? Also eine Aussage pro Slide. Nicht fünf, sondern eine. Theo: Und vielleicht sind es dann so einfache Kochrezepte oder ich weiß nicht. Theo: Aber lass uns das gerne mal zerlegen, auch je nach Domäne. Maksim: Ja, sehr gerne. Also stay tuned, Leute. Ich habe keine weiteren Fragen mitgebracht. Maksim: Möchtest du noch irgendwas ergänzen? Theo: Nächste Folge mit Camilla, da tauchen wir im One-on-One total tief ein in die Theo: Fragestellung KI in der Wirtschaftsprüferei, Theo: was ja erstmal wie ein Widerspruch klingt, weil wenn jemand genau und verlässlich Theo: und absolut wasserdicht arbeiten sollte, dann sind das Wirtschaftsprüfer. Theo: Aber das finde ich total spannend, weil das ist eine Industrie, Theo: da bewegt sich momentan total viel mit KI und Camilla ist eine ausgewöhnliche Theo: Persönlichkeit, sollte man sich reinziehen. Maksim: Ich freue mich auf die Folge. Theo: Bis dann, Maxim. Maksim: Bis dann, Theo.