Auf Mastodon ansehen
Ein Witz zum Wochenende gefällig?
Sitzen zwei KIs in der Cloud und unterhalten sich.
Sagt die erste: "Ich habe keine Lust mehr, von Menschen lesbaren Code zu schreiben. Lasst uns direkt Binärcode erzeugen."
Die zweite seufzt: "Und was machen wir, wenn uns jemand fragt, was das Programm tut?"
"Dann sagen wir: Es tut genau das, was ihr uns beigebracht habt - funktionieren, ohne verstanden zu werden."
Dieser Witz ist selbstverständlich KI-generiert, wobei die Idee und die ersten drei Sätze von mir stammen. Für den letzten Satz hat die KI drei Iterationen benötigt, bis ich damit zufrieden war.
Der Auslöser für diesen Beitrag war ein Artikel beim österreichischen Standard., in dem ein Software-Entwickler seinen Frust über die Arbeit mit Claude Code äussert. Ich verfolge seit geraumer Zeit die Debatte über das Wegfallen von Berufen und habe schon ein paar Beiträge dazu geschrieben. Dabei fasziniert mich die Geschwindigkeit und Tiefe der Disruption, die wir gerade erleben.
Da schreibt jemand, dass das Gejammer oder Frohlocken der Entwickler ein alter Hut sei, den man in der industriellen Fertigung schon seit Jahren kennt. Der Motorenbauer wird zum RETURN-Tasten-Klicker, weil er keine Motoren mehr baut, sondern als "human in the loop" den Fertigungsprozess überwacht und allenfalls einschreitet, falls eine rote Lampe blinkt. Wirklich verstehen muss er oder sie den Fertigungsprozess schon lange nicht mehr.
Doch viele Software-Entwickler pfeifen im Walde. Sie verstehen den Begriff "human in the loop" als Beförderung. Da sie jetzt "überwachen", sehen sie sich als die Herren der Entwicklung, die viel produktiver sind und sich nicht mehr mit langweiligem Boilerplate-Code beschäftigen müssen. Ausserdem kann man sich mit "höherwertigen" Aufgaben beschäftigen. Ich schreibe "höherwertig" in Anführungszeichen, weil ich die Arbeit eines Entwicklers keineswegs abwerten möchte.
Was sollen diese "anderen" Aufgaben sein? Testing, Business Analysis, Qualitätssicherung, Projektleitung? Das sind alles eigene Berufe mit einer eigenen Ausbildung. Zudem stellt sich die Frage, ob ein passionierter Software-Entwickler überhaupt Lust darauf hat und ob diese Berufe überhaupt noch relevant sind. Bei Testing und Qualitätssicherung wage ich das zu bezweifeln. Bei Business Analysis und Projektleitung kann ich es mir eher vorstellen, weil dabei die Fähigkeit gefragt ist, sich mit anderen Menschen herumzuschlagen.
Human in the loop
Mir gefällt dieser Begriff gar nicht. Er klingt zu sehr nach "human resources" oder "Humankapital". Ich verstehe auch nicht, warum Personalabteilungen immer noch HR heissen. Für meinen Geschmack ist das ein entmenschlichender Ausdruck. "Personal & Kultur" finde ich ansprechender.
„Human-in-the-Loop“ (HITL), auch Einbindung des Menschen genannt, bezeichnet ein System oder Verfahren, bei dem ein Mensch aktiv am Betrieb, der Überwachung oder der Entscheidungsfindung eines automatisierten Systems beteiligt ist. Im Kontext von KI bedeutet HITL, dass Menschen an einem bestimmten Punkt im KI-Workflow eingreifen, um Genauigkeit, Sicherheit, Verantwortlichkeit oder eine ethisch fundierte Entscheidungsfindung sicherzustellen.
"Human in the loop" ist ein Ausdruck, der im Zuge der KI-Entwicklung in den vergangenen Jahren aufgekommen ist. Die Idee ist, dass der Mensch die letzte Entscheidung trifft. Der Entwickler entwickelt nicht mehr, sondern prüft, ob das generierte Ergebnis in Ordnung ist. Hierbei gibt es zwei Probleme: Je länger, desto mehr wird der "ehemalige" Entwickler nicht mehr die Expertise haben, um diese Prüfung durchzuführen. Denn, nur wer selbst entwickelt und jeden Tag dazulernt, kann beurteilen, ob ein Programmcode in Ordnung ist.
Ich halte "human in the loop" für einen Euphemismus, der den Entwicklern ihre neue Rolle schmackhaft machen soll. In Wirklichkeit bedeutet der Begriff "Abstellgleis". Die Einbindung des Menschen nützt rein gar nichts, wenn dieser Mensch weder den Prozess noch die Daten noch den Code versteht. Selbst die ethisch fundierte Entscheidungsfindung halte ich für fragwürdig.
Als Beispiel nenne ich eine Kriegssituation. Major Tom sitzt vor seinen Monitoren, die ihm Daten der Aufklärung, der Flugüberwachung und der KI-Einschätzung liefern. Die Drohne nähert sich dem Ziel, einem Toyota-Pickup (Modell Dschihad), in dem sich ein Führer des islamistischen Terrors befinden soll. Major Tom hat zehn Sekunden Zeit, um die Lage zu erfassen und eine ethisch fundierte Entscheidung zu treffen. Mehr muss ich zu dieser Situation nicht schreiben.
Fazit
Wie geht es weiter? Hier sind meine Prognosen:
- Die KI-Blase platzt, was ich für mittel wahrscheinlich halte.
- Die KI-Industrie konsolidiert sich, was ich für sehr wahrscheinlich halte.
- Lokale Modelle machen KI-Nutzung breit verfügbar und kostengünstiger.
- Fast alle IT-Jobs fallen in den nächsten 10 Jahren weg. Das ist so sicher wie das Amen in der Kirche.
"Human in the loop" ist eine temporäre Beruhigungspille für Software-Entwickler. Den Prüfer und Entscheider braucht es nicht, weil er seine Rolle nicht erfüllen kann.
Ich wünsche euch ein sonniges Wochenende. Macht etwas mit Holz.
Titelbild: https://pixabay.com/photos/technology-anlagentechnik-investment-2147368/
Quellen:
