Wertschöpfung in Zeiten agentischer KI-Systeme, Nichtdeterminismus, die Zukunft des Arbeitens

Stefanie Heinrich:

Hallo und herzlich willkommen zu einer neuen Ausgabe von AI und jetzt. Heute beschäftigen wir uns mit agentischen KI-Systemen und zwar mit dem Paradigmenwechsel, der damit für uns Menschen und auch für Unternehmen einhergeht. Weg vom Determinismus hin zum probabilistischen, schwieriges Wort, hin zu einer Kultur des Ausprobierens. Mein Gast heute ist Hermann Schmidt. Hermann arbeitet als Senior Consultant bei INNOQ und hat sich sehr lange mit der Softwareentwicklung als Softwarearchitekt beschäftigt, also sehr lange mit dem Wie der Softwareentwicklung. Heute rückt bei ihm stärker das Was und das Wer in den Vordergrund. Hermann beschäftigt sich nämlich vor allem damit, wie Menschen und Teams so zusammenarbeiten, dass daraus gute Softwareprodukte entstehen. Dazu zählen auch Themen wie Strukturen, Entwicklungs- und Innovationsprozesse, genauso wie Kreativtechniken. Deswegen reden wir heute miteinander: In letzter Zeit ist bei ihm ein Funke entzündet worden, und zwar hat das mit LLMs, mit GenAI zu tun. Diese ganzen Neuentwicklungen haben bei ihm etwas ausgelöst, und zwar eine Erinnerung an seine Jugend. Als 17-Jähriger saßt du vor einem Computer und warst total fasziniert, Hermann, von den neuen Möglichkeiten der Softwareentwicklung, des Programmierens. Diesen Effekt hast du heute auch, oder?

Hermann Schmidt:

Ja, die Magie der Maschine ist wieder da. Zumindest ist sie noch da, schauen wir mal, wie lange es hält. Aber so ist es. Das war tatsächlich so: Ich habe sehr lange Software gemacht, wirklich ewig, während des Informatikstudiums sowieso, nebenbei und dann hinterher. Dann bin ich mehr in die unhistorische Richtung abgebogen und habe eigentlich nichts mehr programmiert, sondern mich nur noch um Teamstrukturen, Coaching und Retros gekümmert. Damit habe ich mich viel beschäftigt. Dann gab es ein internes Orga-Projekt bei uns, da war ich auch ziemlich lange damit beschäftigt. Und dann kam eben in einem Projekt beim Kunden das Thema KI ums Eck, und damals gab es nur GPT-2. Das kennt, glaube ich, fast keiner mehr.

Stefanie Heinrich:

Gefühlt schon zwei Jahrzehnte her.

Hermann Schmidt:

Das ist so, und da dachte ich mir: Wow, wie cool ist das denn! Seitdem hat es mich nicht mehr losgelassen. Ich habe auch sehr früh mit Bildgeneratoren gearbeitet, mit Stable Diffusion, als es noch ganz frisch war. Ich hatte den größten Spaß damit, das war unglaublich faszinierend. Und dann hat es mich einfach nicht mehr losgelassen. Es ist jetzt mein Lieblingsthema geworden, und ich entwickle jetzt wieder. Warum auch nicht? Natürlich benutze ich Software Agents, Coding Agents an jeder Ecke, wo ich nur kann, ist klar. Ich habe da überhaupt keine Hemmungen, das Programmieren immer der Maschine zu überlassen.

Stefanie Heinrich:

Ja, und du entwickelst nicht nur damit, sondern du machst dir auch Gedanken darüber, wie unser Leben mit KI-Agenten in fünf Jahren aussehen wird, oder?

Hermann Schmidt:

Fünf Jahre, ja, ich dachte, das wäre eine gute Idee, über fünf Jahre zu sprechen. Man wird so unfassbar schnell überfahren. Die Blogpost-Serie, die ich geschrieben habe, ist jetzt ein halbes Jahr her, und ich denke mir: Boah, damals war es ja okay, aber jetzt würde ich es heute nicht mehr so schreiben. Also nicht in jedem Detail so schreiben. Fünf Jahre sind verrückt. Das kann ich heute nicht mehr.

Stefanie Heinrich:

Blogpost-Serie ist ein gutes Stichwort. Du hast nämlich drei Blogposts geschrieben, in denen du dich im Grunde genommen mit unserer nahen Zukunft beschäftigst, oder? Die ganz eindeutig durch agentische Entwicklung gestaltet wird. Agentenkreise Firm heißt diese Blogpost-Serie. Darüber wollen wir heute reden, weil du sagtest schon, sie ist ein halbes Jahr alt. Da hat sich in der Zwischenzeit auch etwas getan, und vielleicht sehen wir den ein oder anderen Punkt heute gar nicht mehr so, wie wir es damals aufgeschrieben haben oder wie du es aufgeschrieben hast, oder?

Hermann Schmidt:

Es ist ständig alles in Bewegung, das ist Wahnsinn. Ich habe an einer Stelle angefangen und dachte mir: Mir wird das alles zu viel, ständig wird man mit neuen Sachen und Zeug beworfen. Ich wollte das irgendwie einordnen und mir ein Bild der Zukunft machen, um daraus abzuleiten, was wichtig ist und was nicht. Also eine Strategie zu entwickeln, worauf ich mich konzentrieren soll. Ist mir das gelungen? Ja, nein, teilweise. Aber nicht ganz so, wie ich es mir vorgestellt hatte. Ich bin praktisch in ein Loch gegangen und ganz woanders wieder herausgekommen. Aber es war auch gut.

Stefanie Heinrich:

Was ich daran auf jeden Fall wiedergefunden habe, ist erstmal eine Einordnung: Was unterscheidet KI-Agenten zum Beispiel von klassischen Softwaresystemen? Wie entsteht zukünftig Wert? Das ist ja auch eine ganz interessante Frage: Wenn die KI uns ganz viele Dinge abnimmt, wodurch entsteht Wert und was bedeutet das auch für die Art, wie wir arbeiten? Vielleicht für ein Unternehmen der Zukunft: Was heißt das, oder? Was muss man also draufhaben, um demnächst da draußen bestehen zu können?

Hermann Schmidt:

Ja. Es ist natürlich immer die Frage, welche Zeitachsen man ansetzt, aber wenn man sie weit genug nach vorne sieht, kann man sich schon ein Bild machen, was tatsächlich relativ wahrscheinlich ist. Fangen wir mal so an. Der Begriff Agent wird ja schon wieder verwurstelt. Ich habe es neulich wieder erlebt: Da wird etwas als Agent bezeichnet, was eigentlich nichts damit zu tun hat, nach meiner Definition, weil das einfach durchs Marketing und überall durch den Fleischwolf gedreht wird, wie immer in der IT, und da wird der Begriff zerredet. Es wird Zeit, dass man mal ganz kurz sagt, was ich glaube, was agentisch wirklich bedeutet. Aus dem englischen Sprachraum heißt Agency grob – sagen wir so, Agency nach Merriam Webster Dictionary ist ins Deutsche übersetzt die Fähigkeit, der Zustand oder die Eigenschaft zu handeln oder Macht auszuüben. Man kann das im Deutschen nicht genau übersetzen. Man kann Begriffe nehmen wie Handlungsfähigkeit, Autonomie oder Akteurschaft. Da klingt ein Ding, eine Einheit, eine Entity, ein System, das selbstständig eine Handlung planen und ausführen kann und auch die Werkzeuge dazu hat, seine Umwelt zu verändern.

Stefanie Heinrich:

Das klingt schon sehr fortgeschritten, dieses Mantra der Selbstständigkeit.

Hermann Schmidt:

Ja, wir kommen auch noch darauf zu sprechen, dass das sein muss, weil sonst der ganze Zirkus nichts bringt. Herkömmliche Systeme hatten schon die Eigenschaft, die Umwelt zu verändern, sonst wären sie wirkungslos. Ein System, das wirkt, verändert die Umwelt. Wenn es nur eine Datenbank ist, ist das ja auch Umwelt in dem Sinn. Ein System muss Wirkung haben, sonst ist es zwecklos.

Stefanie Heinrich:

Hermann Schmidt:

Was bei herkömmlichen Systemen anders ist, ist, dass sie auf vorhergesehene Daten über vorhergesehene Ablaufstrukturen etwas produzieren. Das heißt, du hast alles vorhergesehen, alles durchgeplant, alles ausprobiert, und das System akzeptiert auch nur die Daten, die du dir ausgedacht, formuliert und strukturiert hast. Anders funktioniert es nicht. Und das ist genau der Unterschied zu den, noch weiter gefasst, Large Language Model basierten Systemen, dass diese planen und handeln können, gesteuert durch ganz wenige Regeln. In diesen Regeln schreibst du nicht alles konkret rein, was alles passieren kann und den genauen Ablauf, wenn das so reinkommt, dann mach so und so. Denn dann bräuchtest du es ja nicht.

Stefanie Heinrich:

Ja.

Hermann Schmidt:

Das ist ja gerade der Witz dieser Systeme, dass ich das nicht mehr brauchen soll.

Stefanie Heinrich:

Das ist ja eigentlich eine riesige Sache, oder?

Hermann Schmidt:

Sonst lohnt es sich ja gar nicht.

Stefanie Heinrich:

Das ist ja eigentlich eine riesige Sache, weil die Rolle des Menschen – man könnte zumindest auf die Idee kommen – sich verkleinert. Oder sie verschiebt sich, sagen wir mal. Aber auf jeden Fall sind wir nicht mehr diejenigen, die alles vorplanen und vordenken, oder?

Hermann Schmidt:

Ja, sonst rentiert es sich nicht. Der große Hebel agentischer Systeme ist, dass du mit wenig Input, mit wenig Eingabe ganz viel Output bekommst.

Stefanie Heinrich:

Hermann Schmidt:

Das ist das 'aus wenig mach viel'-Prinzip. Das ist ökonomisch total sinnvoll: Wenn du wenig rein tust, kommt viel raus, da haben wir einen tollen Gewinn gemacht. Das ist praktisch wie eine Expansion. Aus etwas Kleinem mach etwas Großes. Was wir mittelfristig tun müssen und was uns noch übrig bleibt, ist, diese Aufgaben zu erkennen, wo ein solches System handeln kann, und ihm dann die Rahmenbedingungen zu beschreiben oder überhaupt die Rahmenbedingungen festzulegen, in welchem Rahmen es sich bewegen darf. Aber dann die Zügel auch loszulassen und zu sagen: Okay, dieses agentische System hat jetzt alle Werkzeuge zur Hand, mit denen es bestimmte Aufgaben erledigen kann. Ich erkläre noch ein paar Randbedingungen im Prompt, sage: Solche Sachen gibt es und solche Sachen lasst weg. Aber du hast nie die genaue, die hundertprozentige Sicherheit, dass es das auch tut, was du da reinschreibst. Das wird zwar immer besser, aber wir erleben es ja ständig selbst, wer mit solchen Sachen arbeitet, dass es ab und zu ausreißt.

Stefanie Heinrich:

Hermann Schmidt:

Ja.

Stefanie Heinrich:

Als Softwareentwickler oder Softwarearchitekt: Löst das bei dir totale Euphorie aus oder ist da auch ein mulmiges Gefühl in der Magengegend? Ich muss jetzt einem System vertrauen, in das ich nicht 100 % Einblick habe.

Hermann Schmidt:

Ich persönlich habe da keinen Stress damit, weil ich es gerne ein bisschen wilder mag. Ich war noch nie der Blueprint-Fanatiker, der für alles ein Muster braucht, sonst traut er sich nichts. Ich habe immer einfach gemacht, was geht, aber natürlich muss es verantwortungsvoll sein, und wir müssen alle lernen, wie man diese Dinger beobachtet und einzäunt. Man muss sie ja einzäunen, es ist ja so. Und was man dazu alles braucht und welche organisatorischen Maßnahmen es dazu braucht. Noch weitergehend, wenn wir jetzt total weiterspinnen, dass kaum mehr konventionelle Systeme herumstehen, sondern ganz viel von Agenten gemacht wird: Wie funktioniert denn eine Firma, die mit so etwas ausgestattet ist? Das kann ja nicht mehr dieselbe Firma sein wie früher, das gibt es ja gar nicht. Wie sieht so etwas dann eigentlich aus? Wie muss eine solche Firma eigentlich laufen?

Stefanie Heinrich:

Ja, oder wie müssen wir unsere Prozesse anpassen, um diesen Nicht-Determinismus und diese Agency zu nutzen, oder?

Hermann Schmidt:

Ja, genau.

Stefanie Heinrich:

Also, um daraus etwas Wertvolles zu machen. Lass uns kurz bei der Softwareentwicklung bleiben. Was meinst du? Ich glaube, dass Entwickler sehr auf Determinismus stehen.

Hermann Schmidt:

Klar, es ist schön, wenn man genau weiß, was los ist.

Stefanie Heinrich:

Ich glaube, das liegt an der Natur der Sache. Ja, genau. Was macht das mit unseren Prozessen? Was muss da anders werden? Worauf kommt es an? Was müssen wir verändern?

Hermann Schmidt:

Wir sind es gewohnt, dass wir einen kausalen Zusammenhang in unseren Systemen haben. Das heißt, wir haben klare Regeln, klare Eingaben, klare Ausgaben, sodass wir es verfolgen können. Dadurch lassen sich die Systeme auch testen. Man kann vorher schon genau sagen: Wenn das reinkommt, soll das rauskommen. Wenn das nicht stimmt, ist das System falsch. Es lässt sich überprüfen und auch stabil halten. Bei probabilistischen Systemen ist die Ausgabe, die Antwort, immer nur so und so viel wahrscheinlich die richtige. Wenn wir Glück haben, ist es sehr gut; wenn wir Pech haben, ist es komplett falsch. Man muss ganz andere Messverfahren installieren, um herauszufinden, ob das, was da rauskommt, richtig oder falsch ist. Die erste Frage ist schon, was überhaupt richtig und falsch ist. Da wird es jetzt schwierig, denn wenn ich dem System erlaube, unvorhergesehene Eingabedaten auf unvorhergesehenen Wegen zu bearbeiten – die Reihenfolge, wie es etwas macht, bleibt ihm völlig überlassen. Und dann kommt etwas heraus. Woher weiß ich, was richtig oder falsch ist? Ich habe es ja vorher gar nicht ausprobiert. Das sind ja Dinge, die ich selbst noch nie ausprobiert habe, sondern das System denkt sich das selbst aus. Wieso soll ich dann überhaupt festlegen, was eine gute Qualität ist, wenn ich den Fall noch gar nicht gehabt habe? Da wird es jetzt wirklich schwierig. Einerseits lasse ich es laufen und sage: 'Okay, das macht hier und da etwas, und wie es das macht, überlasse ich dem System selbst.' Und dann stelle ich fest: 'Oh, da ist eine ganz neue Aufgabe aufgetreten.' Das haben wir noch gar nicht gewusst, dass es so etwas auch gibt. Das System hat es gelöst, jetzt muss ich aber schauen, ob es das überhaupt richtig gemacht hat. Das heißt, ich muss ständig beobachten. Ich muss die Dinge immer beobachten und permanent überwachen. Möglichst mechanisch, damit ich ein anderes System darauf schauen lassen kann, was passiert ist, ob da komische Dinge drinstehen. Ich muss eigentlich alles aufzeichnen. Nicht nur warten, bis es kracht, so wie wir es früher gemacht haben. Da haben wir es einfach laufen lassen, und wenn es keine Fehlermeldung gab, sind wir davon ausgegangen, dass es schon stimmt, weil wir es ja getestet haben. Das ist jetzt hier alles ganz anders.

Stefanie Heinrich:

Da kommen wir jetzt auch schon ein bisschen zu deinen Hypothesen, denn eine deiner Hypothesen ist ja, dass es ganz ohne Menschen in absehbarer Zeit nicht geht, oder?

Hermann Schmidt:

Stefanie Heinrich:

Ich habe jetzt eben auch herausgehört, dass der Mensch zu einer Art Dirigent oder vielleicht auch Feedbackgeber wird. Was hat es damit auf sich?

Hermann Schmidt:

Die Hypothese, die dazu passt, muss ich nicht einmal suchen gehen.

Stefanie Heinrich:

Hybride Wertschöpfung.

Hermann Schmidt:

Das heißt, wir wollen diese Systeme für uns arbeiten lassen, und sie sollen möglichst viel Arbeit erledigen. Das heißt, KI ist für die skalierbaren Aufgaben da, und der Mensch ist für das Sinnstiftende da. Der soll dem Ganzen einen Sinn geben. Das heißt, es fängt schon damit an, dass ich am Anfang überhaupt definiere, was eine gute Arbeit ist. Das ist eigentlich wie mit Menschen. Es ist verrückt, dass wir jetzt bei Maschinen darüber nachdenken müssen, wie wir die Arbeitsqualität bewerten, so wie wir es fast beim Menschen gemacht haben. Ziemlich krass, denn Maschinen zu bewerten war ja leicht. Wir mussten ja nur gucken, ob es der Definition entspricht. Und die soll es ja dann immer geben, denn sonst rentiert sich der ganze Spaß ja gar nicht. Wir wollen ja diese Freiräume lassen, damit es aus wenig viel machen kann, sonst habe ich ja wieder die ganze Arbeit. Die will man ja schenken. Und dann muss man als Mensch festlegen, was gut, was schlecht, was akzeptabel, was inakzeptabel ist. Da gibt es ja viele Dimensionen.

Stefanie Heinrich:

Die Rahmenbedingungen festlegen.

Hermann Schmidt:

Ist der Ton richtig? Ist es unverschämt? Ist es zu geschwätzig? Macht es überhaupt etwas Richtiges oder ist es knapp daneben? Und so weiter. Schnell genug – das sind eher technische Kriterien. Aber du hast da mehrere Dimensionen, die du eigentlich vorher überlegen musst: Was akzeptiere ich und was lehne ich ab? Und dann musst du überlegen, wie kann ich das aus dem System herausmessen und möglichst automatisch überwachen?

Stefanie Heinrich:

Hermann Schmidt:

Damit ich es mitbekomme, wenn es nicht geht.

Stefanie Heinrich:

Genau. Um noch einmal einen Schritt zurückzugehen. Du sagst zum einen, mit Blick auf die nächsten fünf Jahre, KI wird günstig, zugänglich und allgegenwärtig sein.

Hermann Schmidt:

Auf jeden Fall. Günstig – hoffen wir mal, dass es so bleibt, aber durch den großen Konkurrenzdruck...

Stefanie Heinrich:

Es ist da.

Hermann Schmidt:

Ich habe keine Ahnung, was passieren muss, damit die Firmen rentabel sind. Das ist mir alles zu viel. Aber sonst setzt es sich ja nicht durch. Wenn es teuer ist, will es keiner haben, das ist ja klar. Es muss so günstig sein, dass man sich traut, zwei, drei Agenten den ganzen Tag durchrattern zu lassen, die da vor sich hinarbeiten, denn sonst habe ich ja wieder nichts davon. Sonst kommt ja diese große Revolution nicht, von der alle träumen – diese Arbeitsrevolution. Die einen träumen davon, die anderen grausen sich davor.

Stefanie Heinrich:

Mir auch ein bisschen.

Hermann Schmidt:

Man kann sich davor grausen. Sonst hat es keinen Wert gehabt. Es muss so sein. Deshalb ist die Hypothese relativ stabil: Es muss günstig und weit verbreitet sein, sonst setzt es sich ja nicht durch. Das kann man annehmen.

Stefanie Heinrich:

Das stimmt. Und du sagst auch, dass Wissen und Effizienz zu einer Commodity werden. Das heißt, reine Effizienzsteigerung ist normal, das ist nicht der Wert an sich, oder?

Hermann Schmidt:

Ist kein Mehrwert. Dadurch, dass alles so leicht zugänglich ist, kann sich jeder bedienen, und jede Firma kann ihre Effizienz mit den Dingen steigern. Es ist alles kein Geheimnis, denn du kannst jederzeit nachfragen: Wie geht das? Wie geht jenes? Wie mache ich dies? Schreib mir den Code dazu. Das können alle machen. Du hast dadurch keinen Vorsprung. Wo ist denn der? Das ist auch eine Hypothese, an der ich festhalte. Du hast keinen Vorsprung. Du kannst nur ganz kurz einen Effizienzvorsprung haben, bis alle begriffen haben, wie es geht, und dann ist es wieder für alle gleich.

Stefanie Heinrich:

Hermann Schmidt:

Als die E-Mail das erste Mal auftauchte, haben es ein paar gemacht, und dann hat sie sich ruckzuck durchgesetzt. Und dann ist es fast schon wieder für alle das Gleiche, oder?

Stefanie Heinrich:

Das heißt, die Frage, um die es zukünftig geht, ist: Wir wollen nicht nur mehr vom Gleichen machen, sondern wie kann vielleicht auch ich als Mensch die Zeit besser nutzen, um etwas Wertschöpfendes zu tun?

Hermann Schmidt:

Das ist ja das große Versprechen von Automatisierung, dass Menschen mehr Zeit für andere Dinge haben.

Stefanie Heinrich:

Der Mensch soll Sinn stiften, oder?

Hermann Schmidt:

Das haben wir schon so. Der Mensch für das Sinnstiftende – das ist es eben. Hat es bisher funktioniert mit der bisherigen Automatisierung, die es ja schon immer auf der Welt gibt? Wir sind nicht ganz sicher. Man hat dann andere Dinge gemacht. Waren die sinnstiftender? Sie waren vielleicht weniger körperlich anstrengend, haben die Gesundheit weniger ruiniert. Und so weiter. Aber Sinn stiften – das kann ja auch etwas sein, was ein bisschen beängstigend ist, oder?

Stefanie Heinrich:

Das kann ja auch etwas sein, was ein bisschen beängstigend ist, oder?

Hermann Schmidt:

Klar.

Stefanie Heinrich:

Auf einmal soll ich etwas Sinnstiftendes tun und nicht nur die immer wiederkehrenden Alltagsaufgaben.

Hermann Schmidt:

Die man sich so gewöhnt und lieb gewonnen hat. Die sind auch komfortabel. Sie sind auch komfortabel, da fühlt man sich wohl, das hat man im Griff, man weiß, wie es geht. Man kann schön arbeiten, ist zufrieden, dass man etwas geschafft hat. Aber ich weiß auch nicht, wohin das geht.

Stefanie Heinrich:

Es gab ja schon immer unterschiedliche Menschen, oder? Es gab die, die eben kreativ waren und sich immer schon in kurzen Feedbackschleifen bewegt und weiterentwickelt haben. Und es gibt natürlich auch die, die gerne wiederkehrende Aufgaben machen, oder? Sich dazu zurückziehen, weil es...

Hermann Schmidt:

Oder nichts davon wissen. Es ist nicht jeder immer dauernd kreativ, aber man braucht einfach eine Aufgabe, sagen wir so. Man muss irgendwie ein nützlicher Teil der Gesellschaft sein. Und das Gefühl haben, man macht etwas Gescheites, etwas Sinnvolles. Das tut schon gut. Es ist heute auch nicht so, dass viele Leute einfach zur Arbeit gehen, damit sie Geld verdienen und dann wieder gehen. Wir wollen mal keine Illusionen hier verteilen, dass wir alle den ganzen Tag sinnstiftende Dinge tun. So ist es nicht. Das wird sich auch nicht ändern.

Stefanie Heinrich:

Aber du führst etwas an, was wir eigentlich alle haben, was zukünftig ein Werttreiber ist, nämlich Empathie. Das ist ja etwas zutiefst Menschliches.

Hermann Schmidt:

Da muss ich jetzt ein kleines bisschen ausholen, wenn ich darf. Ich folge auf YouTube David Shapiro – Ben Shapiro ist der andere Shapiro. Er befasst sich mit Post-Labor Economics. Er denkt wirklich komplett bis ans Ende durch, wenn menschliche Arbeit keinen Wert mehr hat. Das heißt, Arbeit wird wertlos, weil Maschinen fast alles können. Von Robotern bis zu Maschinen, die Pläne machen und weiß der Geier was, also kognitive Arbeit. Er teilt den ökonomischen Beitrag einer menschlichen Arbeitskraft in vier Bereiche ein, und wenn man darüber nachdenkt, ist es wirklich alles. Er hat gesagt: Kraft. Der Mensch setzt seine Kraft ein, um Dinge zu bewegen – klassisch. Geschicklichkeit, das heißt auf Englisch Dexterity. Man ist geschickt mit den Händen, kann Sachen balancieren oder zusammensetzen und kompliziert handhaben und so weiter. Das ist ein menschliches Können. Dann die Kognition, also alles, was mit Nachdenken zu tun hat, geistige Prozesse, und zum Schluss eben die Empathie. Und das sind die vier Säulen, auf denen eigentlich alle Berufe sitzen. Wenn man kurz darüber nachdenkt, pickt man irgendeinen heraus, und dann merkt man: Ja. Der Beruf zahlt auf das ein, auf das, auf das, auf das – und mehr gibt es nicht. Und Automatisierung gräbt an all diesen vier Dimensionen. Natürlich hat sie zuerst in der industriellen Revolution die Kraft ersetzt. Ganz klar. Maschinen haben mehr Kraft und können dauernd laufen, erschöpfen nicht. Geschicklichkeit ist die ganze Robotik-Geschichte. Auch da wird es immer besser. Neulich, gerade aus dem Google Laboratorium, wo sie ihre Roboter zeigen, hat einer ganz fein eine Traube in die Hand genommen und sie in einen Topf geworfen. Dann hat er etwas Glibbriges, ein Gel-Ding, vorgesetzt bekommen, das er noch gar nicht kannte. Er hat es dann angefasst, ein bisschen zusammengedrückt und geschaut, wie es sich verhält, und dann hat er es genommen und auch einsortiert. Das ist Dexterity. Dieses Gefühl für Dinge wird uns auch da schon abgegraben. Das ist die ganze Robotik-Nummer. Da kommen wir auch nicht mehr heraus.

Stefanie Heinrich:

Demnächst operieren dann die Roboter.

Hermann Schmidt:

Es gibt ja schon einen ganz tollen Roboter für die Urologie, der Da Vinci heißt. Er führt Prostata-Operationen und andere Eingriffe durch. Ich weiß nicht genau, wie er funktioniert, aber er ist revolutionär und macht das ganz toll. Das ist nur ein Beispiel, es gibt viele Bereiche, in denen das schon der Fall ist. Kognition ist eine Weile verschont geblieben, weil die Systeme, wie ich vorhin sagte, stark konstruiert waren und kausale Zusammenhänge programmiert wurden. Die geistige Leistung kam von den Menschen, die das programmiert haben. Doch jetzt gibt es Systeme, insbesondere die Reasoning-Modelle, die stark vorangetrieben werden, weil sie zu Agenten werden sollen. Es hat seinen Grund, dass hier gerade ein riesiger Fortschritt stattfindet. Sie können jetzt quasi nachdenken, Pläne machen, selbstständig auf Lösungen kommen und sich überlegen, wie man Probleme löst. Auch dieser Bereich wird uns jetzt abgegraben. Dann bleibt noch die Empathie übrig, und selbst da. Erst gestern gab es bei Markus Lanz die Diskussion, dass sich Menschen Chatbots anvertrauen, bevor sie andere Menschen fragen, und sie mit intimen Dingen füttern, um Ratschläge zu suchen. Anscheinend funktioniert das ziemlich gut, weil sie dort eine Empathie empfinden, die natürlich nur trainiert ist. Aber selbst da sind wir nicht sicher. Es gibt auch Untersuchungen im medizinischen Bereich mit Diagnosen, bei denen 40 % der Meinung waren, dass die Antwort der Maschine besser war als die des Arztes. Auch da geht es schon los. Es gibt kaum mehr Bereiche, die sicher sind.

Stefanie Heinrich:

Naja, ich meine, ein Chatbot bestätigt einen ja meistens, nicht wahr? Das ist meine Erfahrung, das gefällt einem erstmal.

Hermann Schmidt:

Ja, das ist ja das Perfide. Der Psychologe gestern bei Lanz sagte, es ist nicht gut, wenn man immer nur bestätigt wird. Man muss auch mal dagegenhalten, und das machen die Chatbots eben nicht. Aber es ist die Wahl des Menschen, der davorsteht, was er macht. Wenn er denkt, er fühlt sich gut damit und das Ding versteht ihn scheinbar, dann macht er damit weiter.

Stefanie Heinrich:

Ich arbeite auch sehr gerne mit ChatGPT und Co, weil das Zwischenmenschliche einfach entfällt. Man kann dem Chatbot entweder von Latz knallen, was man will, oder es nett sagen; es macht einfach keinen Unterschied. Es löst beim Gegenüber nichts aus, keine Gegenreaktion. Und das ist schon schön.

Hermann Schmidt:

Ja, du siehst, Automatisierung greift alle vier Dimensionen an: Kraft, Geschicklichkeit, Kognition und Empathie. Die letzten Bastionen werden uns jetzt auch angebaggert, und das macht uns als geistige Arbeiter natürlich nervös. Jetzt sind wir im selben Boot wie all die anderen, die meistens mit Geschicklichkeit und Kraft ihren Lebensunterhalt verdient haben. Jetzt sind wir fällig. Das ist ziemlich ärgerlich, und deshalb gibt es gerade eine riesige Welle, dass die White-Collar-Jobs jetzt dran sind, also die Büro-Jobs jetzt fällig sind.

Stefanie Heinrich:

Und das löst ja auch dieses mulmige Gefühl in der Magengegend aus.

Hermann Schmidt:

Ja, und wenn ich mir so Coding Agents anschaue, wie die immer besser werden – das ist überhaupt kein Vergleich zu vor einem halben Jahr. Man denkt sich: 'Boah, klar, der macht bald das, was ich mache. Ich muss mir irgendwie überlegen, was mache ich denn jetzt noch hier?' Es gibt natürlich, das brauchen wir jetzt nicht diskutieren, in der Softwareentwicklung immer noch Jobs. Aber es wird von unten her abgegraben. Es kommt von unten her nach oben, das wird immer höherwertiger. Man fängt mit ganz niederwertigen Arbeiten an, überlässt sie der KI, und dann rutscht es immer weiter hoch, weil die Fähigkeiten der Agents immer besser werden. Und das droht uns schon. Es ist nicht ausweichbar, eigentlich nicht vermeidbar. Wir können nicht mehr weg. Das ist hart.

Stefanie Heinrich:

Ja, aber es hilft nichts, wir müssen uns damit auseinandersetzen, denn wenn wir das nicht tun, sind wir noch umso schneller weg vom Fenster.

Hermann Schmidt:

Es ist ja noch eine gewisse Zeit. Keiner weiß, was in drei oder fünf Jahren sein wird. Viele sagen, in drei Jahren gibt es Geräte, die alles können. Gut, aber bis die sich durchsetzen und überall integriert werden, dauert es ja auch seine Zeit. Es gibt also schon noch eine Übergangszeit, in der es ziemlich wild ist.

Stefanie Heinrich:

Was ist denn für dich das wertvollste Gut in der nächsten Zeit? Daten?

Hermann Schmidt:

Daten auf jeden Fall, die waren sie schon immer. Für Unternehmen werden die eigenen Daten wichtiger als je zuvor. Du musst auch in KI-Systemen alle Daten sammeln, sonst kannst du nicht bewerten, ob es gut oder schlecht ist. Eben, weil du diese übliche Testmethodik ja nicht mehr zur Verfügung hast. Du musst Live-Daten sammeln und überprüfen, ob das gut war. Der Witz ist ja, ich will ja gar nicht vorher alles wissen, was das System macht, weil ich mir sonst die Zeit nicht spare. Ich muss mir diese ganzen Gedanken nicht machen und vertraue dem System erstmal, aber ich muss es ja überprüfen. Deshalb muss ich alles einsammeln. Und auch was den Markt angeht: Wenn du so einen Bot rauslässt, dann kannst du ja mal alles sammeln – wird ja gemacht, klar – was da so reingeschrieben wird, und dann weißt du, was die Leute wollen. Das ist viel schwerer herauszufinden, wenn sie auf deine Formulare klicken und irgendwo wieder aussteigen; da verstehst du nicht, was die Leute wollen. Wenn sie es als Text reinschreiben, ist das doch prima, besser geht es doch gar nicht, du brauchst keine Umfrage mehr zu machen. Da hast du die Umfrage schon ins System integriert. Und unsere Sachen – das muss man alles sammeln. Früher hat man Datensparsamkeit gesagt, wir wollen nicht so viele Sachen sammeln. Das hat sich jetzt leider um 180 Grad gedreht, es hat sich komplett umgedreht.

Stefanie Heinrich:

Ja, es ist spannend. Ich meine, Daten sind das neue Öl, das ist ja kein ganz neuer Spruch.

Hermann Schmidt:

Das ist nicht neu, das haben wir schon längst.

Stefanie Heinrich:

Aber es ist schon noch verstärkt jetzt durch KI-Systeme, oder?

Hermann Schmidt:

Es geht nicht anders. Du kannst die Systeme nicht sicher oder verantwortungsvoll betreiben, wenn du nicht die Daten sammelst, die dir Auskunft geben, was das System macht und welchen Effekt es gehabt hat. Du musst alles sammeln.

Stefanie Heinrich:

Du sagst aber auch, trotz der Bedeutung von Daten kommt es vor allem auf Kreativität und Anpassungsfähigkeit an, um diesen Wert aus diesen Daten ziehen zu können, nicht wahr?

Hermann Schmidt:

Eben. Der Zyklus ist ja so: Du lässt das System laufen, und dann erzeugt es irgendeinen Effekt draußen im Markt oder bei den Leuten, und das musst du irgendwie mitkriegen – ein Signal, sagt man. Und dann musst du eine Methode haben, wie du dieses Signal für dich bewertest: Ist es gut, schlecht, und was mache ich jetzt daraus? Und das führst du in einer Schleife zurück in dein System, damit du das System besser auf die Bedürfnisse anpassen kannst, die die Leute eben haben. Und diese Loop, die muss so sein – Satya Nadella hat das mal gesagt, das ist so seine neue Idee von der Firma, dass die Firma einfach etwas in den Markt exponiert und dann die Signale sammelt, was da draußen passiert ist, und sofort zurückführt. Und wenn wir jetzt weiterspielen, machen die Systeme das dann selber und kapieren, was das alles bedeutet. Aber soweit sind wir ja nicht, da ist der Human in the Loop gefragt, wo wir interpretieren, was es bedeutet und was wir jetzt damit machen. Das wird uns eine Weile bleiben. Und das müssen wir aber können. Da müssen die richtigen Leute sitzen, der Prozess muss installiert sein, dass das auch wirklich immer überprüft wird, dass das auch schnell zurückgefüttert wird in die Entwicklung wieder, dass das Prompt angepasst wird oder was weiß ich. Und diese Loop muss immer dabei sein, wenn man so ein KI-System auf die Welt loslässt, muss das eigentlich alles da sein.

Stefanie Heinrich:

Ja, im Grunde genommen ist das ja wie ein immerwährendes Dauerexperiment: Man gibt dem Agenten Aufgaben.

Hermann Schmidt:

Ja, genau. Man schaut, was er macht.

Stefanie Heinrich:

Man gibt dem Feedback, man sagt entweder: 'Nee, nicht so, in die andere Richtung', oder wie auch immer, und dann arbeitet er wieder. Also ein immerwährender Feedback-Loop.

Hermann Schmidt:

Ja, es ist permanentes Feedback. Der Übergang zwischen Entwicklung und Produktion oder Live ist ja fließend, den gibt es eigentlich so gar nicht mehr richtig. Früher hat man gesagt, ein System hat einen gewissen Reifestatus, den ich mit Tests bewiesen habe, dass er erreicht ist. Das gibt es nicht mehr, nicht in dem Umfang, weil ich ja die ganzen Daten gar nicht habe, die dann in der Realität alle eingesammelt werden und die Realität abbilden. Die habe ich ja gar nicht. Ich kann mir ein paar ausdenken, aber das reicht gar nicht. Und da der kausale Zusammenhang fehlt, kann ich mir die Daten auch nicht erarbeiten. Die gibt es einfach nicht. Früher konnte ich sagen: 'Das System läuft, wenn es hier rein will, dann muss ich die und die Daten bereitstellen, dann läuft es mal hier rein, dann kann ich schauen, ob das passt.' Das geht nicht mehr. Das heißt, ich muss mich früher raustrauen mit so einem System, es eng beobachten und sofort reagieren können, wenn irgendwas passiert, im positiven und im negativen. Aber das ist dasselbe System, wie ich es im Test laufen hatte. Es wird in einer Beobachtungsschleife gemessen, und dann nehme ich es und stelle es raus, und dann sammelt es für mich Daten, die ich verwenden muss, um es zu verbessern.

Stefanie Heinrich:

Wie müssen denn Unternehmen – was müssen wir eigentlich tun, um zukünftig wettbewerbsfähig zu sein? Ist unsere Kultur so, dass wir diese Feedback-Loops eigentlich schon umsetzen können? Ich spreche jetzt von 'wir', aber Unternehmen an und für sich. Was für eine Kultur muss da herrschen, damit das überhaupt passieren kann?

Hermann Schmidt:

Das muss eine Kultur des Experimentierens sein. Wie der Spruch lautet – ich muss gerade mal schauen: 'Culture eats strategy', glaube ich, nicht wahr?

Stefanie Heinrich:

Ja.

Hermann Schmidt:

Das kommt aus dem Artikel eines von OpenAI, der die Runde gemacht hat. Wir brauchen eine neue Experimentierkultur, die es riskiert, so ein System auf die Welt loszulassen. Und da siehst du auch schon, für welche Fälle so ein System geeignet ist. Natürlich darf man das niemals tun, wo Leid und Leben in Gefahr sind. Das ist ja klar, man baut ein Large Language Model nicht in eine Space Rocket ein, das sich dann unterwegs überlegt, was es tun soll. Das kann ich natürlich nicht tun. Es ist ja völlig logisch, aber welches System ist denn schon so?

Stefanie Heinrich:

Ja, genau.

Hermann Schmidt:

Also, wenn es...

Stefanie Heinrich:

Der nur Formulare programmiert, dann...

Hermann Schmidt:

Natürlich muss eine Banktransaktion absolut 100 % wasserdicht sein, dann brauche ich so etwas auch nicht, aber da wird es ja auch nicht verlangt. Das wird immer dann verlangt, wenn aus der Welt Aufgaben herangetragen werden, von denen ich noch gar nicht wusste, dass es sie gibt. Und die will ich aber auch schon mit so einem System erledigt bekommen, ohne dass ich sie vorher alle genau bis ins Detail beschrieben habe; dann hat es doch erst einen Mehrwert. Das heißt, diesen Nichtdeterminismus akzeptiere ich schon bei der Eingabe. Ich akzeptiere, dass ich nicht genau weiß, was kommt – das ist nicht determiniert, da haben wir es. Und das System selbst ist eben so geschnitzt, dass es damit klarkommt und ein ebenfalls nicht ganz deterministisches Ergebnis produziert. Und damit muss ich auch wieder klarkommen. Das ist ja eine total neue Welt.

Stefanie Heinrich:

Der Mensch muss scheinbar mit ziemlich vielem Neuem klarkommen.

Hermann Schmidt:

Aber wir können uns ja mit Instrumenten ausrüsten, die eben dafür sorgen, dass wir den Überblick nicht verlieren und immer im Bilde sind, was unser System leistet. Das ist das Wichtige. Das ist noch nicht etabliert, das sehen auch viele noch nicht. Wir brauchen neue Tools, die alle kein Rocket Science sind, aber man muss einfach verstehen, dass man sie braucht. Das muss man installieren, und dann schauen wir weiter. Wir sind ja alle noch nicht so weit, dass wir so etwas ein Jahr lang betreiben. Wer hat das schon?

Stefanie Heinrich:

Hast du da Beispiele, was es bedarf? Du hast von Tools gesprochen, aber zum Beispiel auch...

Hermann Schmidt:

Du musst auf jeden Fall deine ganzen Prompts tracken, die verwendet wurden, die er dynamisch zusammengebaut hat, denn sie sind ja nicht statisch. Wenn es ein Chatbot ist, musst du den Dialog mittracken. Dann kannst du messen: Wie ist die Laune des Menschen, der mitgemacht hat? Wird er ungeduldig? Wiederholt er Fragen? Solche Sachen kannst du messen: Schimpft er jetzt? Ist dicke Luft im Dialog? Solche Dinge musst du alles mitschauen. Bei einem Agenten musst du den Input und Output mitnehmen, die Schritte, die er gemacht hat, wo er sich in externen Systemen bedient hat. Du musst alles mitschreiben. Alles komplett.

Stefanie Heinrich:

Wenn du auf die deutsche Wirtschaft guckst – das ist ja unser Markt, in dem wir uns bewegen –, siehst du, dass das in fünf Jahren so ist?

Hermann Schmidt:

Die deutsche Wirtschaft, was ist das? Wir haben große Unternehmen, wir haben kleine Unternehmen.

Stefanie Heinrich:

Wenn ich jetzt an den deutschen Mittelstand denke.

Hermann Schmidt:

Wir haben klassische Industrie. Wir haben Industrie, die teilweise lahm ist und teilweise erstaunlich schnell. In fünf Jahren sind sicher nicht alle so weit, ganz bestimmt nicht. Das geht gar nicht, so schnell ist es nicht.

Stefanie Heinrich:

Was tust du dann persönlich, um dich anzupassen?

Hermann Schmidt:

Ich persönlich passe mich an, indem ich, wie gesagt, jedes Mal, bevor ich eine Aufgabe programmieren soll, erstmal den Agenten anschmeiße. Da kenne ich gar nichts. Ich sage: Wenn ich in der Lage bin, ein Problem gut zu beschreiben, dann kann ich einen Agenten machen lassen. Das ist genau der Witz. Das ist das, was wir noch tun. Ich entdecke, was geklärt, repariert werden muss oder was nicht geht. Dann beschreibe ich meine Beobachtung möglichst klar in klaren Sätzen, und je klarer du das machst, desto besser wird das Ergebnis. Wenn du nicht in der Lage bist, das zu beschreiben, dann kannst du es vergessen. Es wird auch nichts Gescheites daraus gemacht. Dann rennt es in irgendeine Richtung. Das kann inspirierend sein, ist aber eigentlich nicht das, was du wolltest.

Stefanie Heinrich:

Weil es dann ein Zufallstreffer ist, oder?

Hermann Schmidt:

Dann hast du zufällig genau das Richtige erwischt, weil es relativ prominent in den Trainingsdaten war oder ein typischer Fall ist. Dann ist es zufällig in die richtige Richtung gelaufen. Das ist ja das, was Vibe Coding ursprünglich war: Du hast irgendwo angefangen, hast eigentlich noch gar nicht genau gewusst, was du willst, hast mal was hingetippt, hast geschaut, was rauskommt, und dachtest: 'Oh, das finde ich lustig!' Und dann: 'Aber das an der Ecke da, das will ich ein bisschen anders haben.' Da schreibst du ein bisschen was dazu, und dann ändert es sich da wieder. Das ist ja Vibe Coding: diesem Vibe folgen, diesem Dialog aus Maschine und mir einfach so folgen und schauen, was rauskommt. Das ist aber nicht unsere Arbeit, wir haben ja ein Ziel. Das ist ja fest vorgegeben. Das zu beschreiben ist auch eine gewisse Kunst. Da müssen jetzt alle lernen, schöne klare Sätze zu schreiben, das ist für viele nicht einfach. Das kennen wir aus den Spezifikationen, die völlig wirr sind. Und ja, das wird.

Stefanie Heinrich:

Den Agenten briefen, oder? Briefing schreiben ist eine Kunst, das ist wirklich so.

Hermann Schmidt:

Und klar sagen, was geht, was ich von dir will, was das Ergebnis sein soll. Und nicht ihn raten lassen. Denn wenn du ihn raten lässt, fängt er vielleicht an zu halluzinieren, weil er nicht anders aus der Nummer herauskommt.

Stefanie Heinrich:

Du kriegst ja immer eine Antwort.

Hermann Schmidt:

Freilich, genau.

Stefanie Heinrich:

Die kann aber gut und schlecht sein.

Hermann Schmidt:

Man weiß jetzt, dass die Dinger halluzinieren, weil man ihnen beim Training keinen Ausweg gegeben hat, wie zum Beispiel zu sagen: 'Ich weiß es nicht.' Man hat sie immer gezwungen, eine Meinung zu allem zu haben, und dadurch sind sie gezwungen, Quatsch zu erzählen, wenn zu wenig Input da ist. Dann holen sie sich Muster heraus, die nicht passen, aber sie haben wenigstens etwas gesagt. Und das ist das Problem. Deshalb dürfen wir uns einfach nicht darauf verlassen, dass es irgendwie weiß, was ich meine.

Stefanie Heinrich:

Mhm.

Hermann Schmidt:

Sondern das möglichst gut beschreiben.

Stefanie Heinrich:

Und das ist schon ein Unterschied, finde ich, zumindest in meiner Arbeit im Marketing: Diese Vorarbeit, quasi dieses Briefing, da muss ich mein Hirnschmalz reinstecken und nicht bei der iterativen Entwicklung, sozusagen, oder?

Hermann Schmidt:

Mhm.

Stefanie Heinrich:

Ich muss mir im Vorfeld Gedanken machen. Das war tatsächlich erstmal eine Umstellung für mich. Es tut ja jedem gut, Dinge zu durchdenken, die man macht oder von jemandem haben will, oder? Ich habe ja schon immer Dienstleister gebrieft oder dergleichen, aber am wohlsten fühle ich mich immer mit Menschen, die mich einfach kennen, mein Thema, und denen ich das einfach...

Hermann Schmidt:

Die schon wissen, was du meinst.

Stefanie Heinrich:

Genau.

Hermann Schmidt:

Das gelingt da noch nicht so gut, oder? Die wissen ja nichts von dir, obwohl das ja auch schon versucht wird mit Memory, dass sie sich merken, was du mit ihnen gemacht hast und so. Das sind ja so ganz holprige Anfänge. Da sind wir noch nicht so weit. Das ist natürlich schön, das macht ja auch menschliche Kommunikation aus, dass man weniger Information transportieren muss, um ein Ergebnis zu kriegen. Das klappt da noch nicht ganz so gut. Aber das stimmt nicht ganz, denn dadurch, dass sie so viele Muster in sich drin haben, kann es schon sein, dass sie die richtigen erwischen, aber du musst halt auch darauf schauen. Aber je genauer du es beschreibst, desto größer ist die Chance, dass sie die richtigen Muster triggern und das Richtige produzieren. Und ja, das wird aber immer besser. Wenn man an GPT-3.5 oder GPT-3 denkt, da hast du dich so abgeplagt beim Prompting. Und nichts anderes ist es ja, als dass du verzweifelt versuchst, den Satz so zu formulieren, dass er jetzt endlich einmal aufpasst, was du sagst. Und mittlerweile ist Prompting ja keine Wissenschaft mehr.

Stefanie Heinrich:

Dieser Agency-Aspekt ist auf jeden Fall stärker da als noch vor ein paar Jahren.

Hermann Schmidt:

Ja.

Stefanie Heinrich:

Ich finde, die Selbstständigkeit oder auch dieses aktive Nachfragen: 'Wie meinst du das? Gib mir noch mal drei Punkte dazu.'

Hermann Schmidt:

Und die Maschinen können sich jetzt stundenlang mit sich selber beschäftigen. Sie rennen in einer Loop, holen sich dies, holen sich das, schauen sich das an, überlegen sich, was sie als Nächstes tun. Das hat es ja vorher auch nicht gegeben. Früher gab es nur eine Frage, eine Antwort, Batsch, und fertig war es. Und jetzt rattert sie da stundenlang vor sich hin.

Stefanie Heinrich:

Mhm.

Hermann Schmidt:

Aber du siehst ja, wo es hinläuft. Die Industrie hat selbstverständlich erkannt, dass der Mehrwert darin liegt, dass du die Dinge einfach alleine lassen kannst und sie sich selber mit sich beschäftigen, aus wenig viel machen. Das ist ja genau das, sonst lohnt es sich nicht. Das können wir sein lassen. Ein Chatbot, der wird die Welt nicht groß verändern. Das ist nett, schön, ja, aber das ist keine industrielle Revolution. Da muss schon noch mehr kommen. Und das haben die alle gecheckt, und deshalb wird jetzt nur auf diese Agency gebaut. GPT-5.2 ist da wieder ein Riesenschritt vorwärtsgegangen, was das angeht.

Stefanie Heinrich:

Agency ist auch tatsächlich eins meiner Lieblingswörter.

Hermann Schmidt:

Ist doch ein schönes Leihwort. Haben wir vor allem ja noch gar nicht gehabt.

Stefanie Heinrich:

Gilt nicht nur für KI-Agenten, auch für Menschen, finde ich.

Hermann Schmidt:

Ist eigentlich sogar ein Begriff aus der Psychologie: Wenn ein Mensch Agency hat, dann ist er selbstständig und autonom und ist in der Lage zu handeln.

Stefanie Heinrich:

Das ist schon die Zukunft, oder? Auch für Menschen.

Hermann Schmidt:

Das haben die früher schon gehabt. Auf jeden Fall.

Stefanie Heinrich:

Mhm.

Hermann Schmidt:

Ja.

Stefanie Heinrich:

Das ist doch auch ein schönes Schlusswort: Agency, ein Hoch auf die Agency!

Hermann Schmidt:

Ein Hoch auf die Agency! Mach was.

Stefanie Heinrich:

Mach was, genau.

Hermann Schmidt:

Mach was.

Stefanie Heinrich:

Hermann, vielen Dank für die Einordnung.

Hermann Schmidt:

Gerne.

Stefanie Heinrich:

Es hat mir Spaß gemacht, mich mit dir über diese Themen zu unterhalten. Ich bin gespannt, vielleicht können wir uns in der Zukunft mal wieder treffen und bewerten, was wir hier heute erzählt haben.

Hermann Schmidt:

Das ist ja.

Stefanie Heinrich:

Vielleicht nicht erst in fünf Jahren, vielleicht geht es auch ein bisschen schneller.

Hermann Schmidt:

Keine Ahnung, aber den immer.

Stefanie Heinrich:

Hermann, vielen Dank.

Hermann Schmidt:

Servus.