Gedanken zur KI Nutzung in der Software Entwicklung oder warum es auch weiterhin IT Profis brauchen wird
Auch wenn ich nicht mehr als Head of IT in einem Konzern unterwegs bin, darf ich in der letzten Zeit beruflich doch wieder einiges an IT Entwicklung betreiben. Das Ganze allerdings mit der Hilfe von LLM Automation („KI“, „GenAI“ und seit ein paar Tagen auch „Superintelligenz“ genannt).
Ich war die letzten vier Jahre aus der aktiven Software Architektur und Entwicklung raus und exklusiv im Bereich des Programm Management, Unternehmensberatung und Agile Coaching / SAFe SPC unterweg.
Eigentlich war ich mir sicher, dass ich technisch sowas von abgehängt wäre und dass ich wieder richtig viel Zeit in die Auffrischung stecken müsste. Dies ist dank LLM Automation gar nicht der Fall gewesen.
Ich habe bei verschiedenen Programmen mitentwickelt, AI Harness Engieering betrieben und viel dazu (und die neue Form der Coding Unterstützung zu schätzen) gelernt.
Was kann KI im Moment?
Am besten selbst testen oder IT Developer:innen fragen. Da das meiste an Programmcode und Dokumentation bereits frei als Text verfügbar ist und war, wurden die Large Language Modelle natürlich intensiv damit gefüttert und selbst die aktuellen lokal auf meinem Computer lauffähigen Open Source Modelle können zuverlässig Funktionen und ganzen Klassen schreiben.
Viele Code-Schnipsel sind modular immer wieder einsetzbar wie Legosteine und schon lange auf Plattformen wie Stackoverflow intensiv diskutiert worden. Die Kunst besteht daher vor allem in der sinnvollen Auswahl und Kombination vorhandener Code-Fragmente.
Daher konnte man auch schon lange vor dem Aufkommen der aktuellen GenAI LLMs viele kleine Alltags- und Businessprobleme sehr einfach mit Copy & Paste von Code-Fragementen oder Hobby-Programmierfähigkeiten lösen.
Sehe ich deshalb den Berufszweig der IT Professionals in Gefahr? Eindeutig nein!
KI Einsatz als Akkuschrauber oder KI als Fertigungsstraße
KI als Shadow IT
In den meisten Bereichen wird aktuell KI so eingesetzt wie die letzten 30 Jahre Visual Basic und Makros in Excell. Selbst einige kritische Businessprozesse wurden früher in Fachabteilungen wie Controlling und Buchhaltung mittels vom Werkstudenten verfassten Shadow-IT Applikationen über Jahre hinweg betrieben.
Irgendwann ist der Werkstudent oder die Person mit dem Faible für Excel weg und das „Programm“, dass eigentlich nur eine Tabellenkalkulations-Arbeitsmappe ist, muss dringend erweitert werden oder eine neue Office Version führt die Makros nicht mehr so aus wie zuvor. Leider konnte keiner diese Excel Monster mehr anpassen oder wirklich durchdringen.
In diesen Fällen war aufgrund des Zeitdrucks üblicherweise die IT Abteilung zur Stelle und konnte, natürlich nicht ohne Kosten, die Shadow IT Bastelei gegen eine echte, stabile, sichere, skalierbare und wartbare Software austauschen, so dass sich der Fachbereich wieder voll und ganz auf sein Kerngeschäft konzentrieren konnte.
Rechnet man die Kosten für eine Software Lösung ist man schnell bei 20-30k€ oder mehr gewesen. Die Excel-Mappe gab es dagegen gefühlt gratis.
Ein direkter Kostenvergleich zwischen 20.000 und 0 Euro klingt erst mal eindeutig pro Shadow IT.
Allerdings hat oft diese Person dann bis zu 50% ihrer Zeit darin investiert, so dass man in der Realität schnell bei einer vergleichbaren Summe landet. Zusätzlich gab es viele hardcodierte Zwischenschritte, Pfade und sehr wenig Fehlertoleranz. Alle User:innen mussten sich daher sehr gut mit dem Tool auskennen und bei Fehlern lange überlegen, woran es liegt (=zusätzlicher, wiederkehrender Zeitaufwand).
Dazu kamen all die versteckten Kosten für kleine Rundungsfehler, Summenfehler bei der Bedienung, Kosten durch Delay bei Problemen in der Abwesenheit des eigenen Abteilungs-Excel-Guru und und und.
Was hat sich seit damals geändert?
- Die Anforderungen an Datenschutz sind seit Mai 2018 stark gestiegen (DSGVO/GDPR) und damit ist auch die Unveränderlichkeit sowie die Sicherung von Daten gemeint
- Früher waren die Applikation gut durch das abgeschottete Firmennetzwerk geschützt und brauchten nicht mal ein eigenes Sicherheitskonzept. Heute ist dagegen alles online, jede Applikation braucht ein robustes Schutz- und Sicherheitskonzept.
- Die IT ist schnelllebiger geworden. Konnte ich früher eine Java Desktop Applikation über 10 Jahre unverändert nutzen, ändern sich die Code-Basis aller Programmsprachen und Frameworks so schnell, dass man nicht länger als ein paar Monate ausruhen kann und eigentlich ständig den eigenen Code aktualisieren muss
- Software Entwicklung ist professioneller und komplexer geworden: Test Driven Design, MACH-Architekturen, Clean Code, Pair Programming, KI Unterstützung
- Die Laptops der Angestellten werden zentral konfiguriert und erlauben kaum noch eigene Installationen
Und hier kommen die neuen LLM Ansätze zum Tragen
Man kann sich wieder kleine Helferlein zusammenflicken, auch ohne Adminrechte, ohne eigene Datenbanken, ohne eigene DEV Skills. Und auch hier beginnt es wieder mit guten Ansätzen wie dem Mergen und Abgleichen von Tabellen und geht dann nahtlos über in Shadow IT für kritische Business Prozesse.
Ganz einfach, weil es möglich ist und dazu noch so leicht!
Der Haken ist der Gleiche wie schon vor 30 Jahren: Wenn es über ein kleines Hilfstool hinaus geht, ist es nicht mehr kontrollierbar.
KI als Bestandteil eines Systems (Systemgerüst, Harness, Softwareprodukt)
Um KI zu mehr als kleinen Helferchen nutzen zu können, braucht es professionelle Developer:innen mit viel Erfahrung: Sie können klassischen statischen Programmcode, Datenbanken, Microservices und LLM-Loops miteinander zu einer echten Fertigungsstraße für komplexe Businessprozesse kombinieren.
Der Unterschied: Das Programm tut nicht nur immer genau das, was es soll und darf, es funktioniert auch mit einer Verfügbarkeit von 99.x%. Es hat folgende Eigenschaften (wie auch schon jede gute Software ohne KI Anteile):
- es ist deterministisch (zwei identische Läufe ergeben das identische Ergebnis)
- es ist wartbar
- es ist skalierbar
- es ist erweiterbar
- es ist (qualitäts-)geprüft
- es läuft mit zeitgemäßer, gut verfügbarer Technologie
- es ist kontrollierbar (Logfiles, Monitoring, DB Scans…)
- es ist ausfallsicher konzeptiert (dezentrale Instanzen, Load Balancing, verteilte Datenbanken)
- es gibt ein abgenommenes Datenschutz Konzept
- es gibt festgelegte Time To React und Time To Solve SLAs (Service License Agreement)
- es gibt ein ganzes Team von Devs, die bei Problemen bereit stehen
- es ist sicher
- Im Fall von Software als Service: Es gibt klare Verträge für die Leistungen und Verfügbarkeiten
- die Liste kann noch länger fortgeführt werden
Wie man sieht, ist der Feenstaub der KI nur ein Bestandteil von sehr vielen. Das bekommt man nur gut gemanaged, wenn man über Jahre diese Kunst erlernt hat und ständig weiter pflegt.
Und wieso sollte das alles nicht von KI ersetzt werden können?
LLM kann beschleunigen oder Lücken füllen, also ein klassisches Werkzeug. Aber ein LLM kann keine Verantwortung übernehmen, wie es auch kein selbstfahrendes Auto kann. Um Garantien geben zu können, braucht es Verantwortliche und das sind weiterhin Menschen.
Egal wie gut der Code auch sein mag, ohne eine Koordination und Überwachung durch verantwortliche Menschen kann es nicht für relevante Business-Einsätze zum Einsatz kommen. Zumindest dann nicht, wenn man seinen Kunden eine bestimmte Leistung zusagt.
Bei einer einfachen Anwendung, die optional ist, z.B. den Speiseplan ins Intranet stellt, kann man sicher komplett auf LLM Automatisierung setzen, denn der Worst Case ist harmlos: Man sieht erst in der Kantine, was es heute zu Essen gibt. Keiner muss hungern. Bei der Bestellung der Lebensmittel für die nächsten Tage dagegen sieht es schon anders aus. Das hat Konsequenzen, wenn es nichts zu essen gibt, weil das System versagt hat.
Okay, aber wird es nicht viel weniger ITler:innen geben?
Meine Prognose: Es wird in Zukunft weniger große Software-Produkte wie heute geben und wieder mehr Custom Software für Firmen. Durch den günstigeren Entwicklungspreis lohnt es sich wieder, zu mal die großen Platzhirsche in den letzten 10 Jahren weg von attraktiven OnPremise Hosting Ansätzen und hin zu für sie lukrativeren Cloud-Abo-Modellen übergegangen sind.
Da kommen auch für kleine Firmen schnell > 100.000 € an Lizenzkosten jährlich zusammen.
Um also hier den wachsenden Bedarf vieler spezifischer Kunden-Software zu decken, braucht es viele Expert:innen. Und diese müssen nicht nur in der Lage sein, mit LLM Prompts zu arbeiten, sondern weiterhin echten, statischen Programmcode, Datenbanken und andere KI-less Bestandteile zu produzieren (dies sicher auch mit KI Unterstützung) und sinnvoll zu kombinieren.
Take Away
- KI als Helferlein einzusetzen ist nicht das gleiche wie KI als Teil einer komplexen Softwarelösung einzusetzen. Beide Ansätze sind legitim, aber grundverschieden und werden dennoch häufig als das Gleiche mißverstanden.
- Echte professionelle Software gibt Garantien und die Anbieter übernehmen Verantwortung
- Viele IT Leute werden auch in Zukunft wertvoll und gebraucht werden
- Setze keine Shadow-IT Bastelei für geschäftskritische Prozesse ein
- Da ich aktuell also KI nicht als Ersatzrisiko für Menschen in der IT Branche sehe, setze ich den Fokus bei KI eher auf den Ressourcenverbrauch, CO2-Footprint und dem bevorzugten Einsatz von Open-Source und lokalen LLM Modellen mit Augenmaß
=========================================
Dies ist Post 9 meiner #100DaysToOffload Challenge
