AI doesn't care. We do.

In einer Runde von vier Leuten sagen alle „KI" und meinen vier verschiedene Dinge. Ein Coding-Agent, ein Chatbot, ein Klassifikationsmodell und ein sicherheitsrelevantes, unabhängig geprüftes Machine-Learning-System zur Kollisionsvermeidung in der Containerlogistik, das sind grundverschiedene Anwendungen. Sie haben wenig mehr gemeinsam als das Buzzword. Solange das unausgesprochen bleibt, redet man aneinander vorbei.

Für unsere Arbeit unterscheiden wir deshalb mindestens vier Bereiche:

• Generative Assistenz:Chat, Textentwürfe, Recherche, Erklärungen. Nützlich, mit begrenztem Risiko, solange ein Mensch das Ergebnis prüft.
• Coding-Agents: Werkzeuge, die Code lesen, schreiben, testen und in unsere Entwicklungsprozesse eingreifen. Hier passieren für uns derzeit die interessantesten und folgenreichsten Entwicklungen.
• Klassische ML-Verfahren: Vorhersage, Klassifikation, Anomalieerkennung. Erprobt, gut messbar, oft die passendere Antwort als ein Sprachmodell.
• Automatisierte Entscheidungen über Menschen: Bewerbungen, Kredite, Leistungsansprüche. Der Bereich, in dem Fehler am meisten wehtun und in dem wir am kritischsten sind.

Daher wollen wir mit Menschen sprechen und keine generierten Requirements entgegennehmen, denn wir müssen einordenen können, um was es sich handelt damit wir gemeinsam nachhaltige Entscheidungen treffen können.

Wir planen Software langfristig. Wir bauen sie nachhaltig und halten sie wartbar. Ein großer Teil unserer Arbeit besteht darin, gewachsene Systeme zu verstehen, zu modernisieren und am Laufen zu halten, egal ob Monolithen, verteilte Landschaften, manchmal auch den sprichwörtlichen „Big Ball of Mud".

Genau deshalb sehen wir das Tempo kritisch, in dem heute neue Software entsteht. Nicht das Werkzeug ist das Problem, sondern die unvollständige Rechnung:

• Qualität ist mehr als „es läuft". Tests, die den Code nur bestätigen, statt ihn zu prüfen, sind teurer als fachlich korrekte Tests von Hand zu schreiben, denn sie erzeugen Sicherheit, die nicht existiert.
• Fachlichkeit kann verloren gehen. Wenn niemand mehr genau sagen kann, warum eine Regel im Code so ist, wie sie ist. An diesem Punkt verliert eine Organisation ihr wertvollstes Wissen.
• Komplexität wandert in den Betrieb. Was in der Entwicklung Tage spart, kann im Betrieb Jahre kosten: mehr Abhängigkeiten, Unwartbarkeit, schwerer diagnostizierbare Fehler.
• Kosten und Aufwände verschieben sich, sie verschwinden nicht. Wir betrachten den gesamten Lebenszyklus: Entwicklung, Betrieb, Weiterentwicklung, Ablösung und zu einer ehrlichen Wirtschaftlichkeitsrechnung gehören darüber hinaus auch Tokenkosten, Infrastruktur und Wartungsaufwand.

Wir sind überzeugt: Coding-Agents haben in ihrem heutigen Zustand echtes Potenzial, Entwicklung zu beschleunigen, und wir wollen dieses Potenzial nutzen, aber nicht ohne Sinn und Verstand. Wir müssen uns und unserem Gegenüber dabei die Frage stellen, was am Ende Wert schafft.

Nicht jede Software ist gleich kritisch. Eine Ressourcenplanung, eine Logistikplattform und ein System im Gesundheitswesen, stellen völlig unterschiedliche Anforderungen. Wir bewerten den Einsatz von KI deshalb nach dem möglichen Risiko und nicht nach der Begeisterung für die Technologie.

Je höher das Risiko, desto höher unsere Anforderungen an Reviews, Tests, Nachvollziehbarkeit und Rückfallebenen. Man könnte argumentieren, dass ein Agent - sofern zuvor strenge Spezifikationen definiert, geeignete TDD-Praktiken angewendet und Sicherheitsvorkehrungen getroffen wurden – das Schreiben von Code so weit übernimmt, dass eine „manuelle" Codeüberprüfung nicht mehr erforderlich ist. Für einen Prototypen mag das stimmen. Für ein sicherheits- oder geschäftskritisches System gibt es bei uns keine „Dark Factory". Das Grundprinzip bleibt in beiden Fällen dasselbe: Ein Mensch muss die Verantwortung übernehmen.

Wir setzen uns kritisch mit den Risiken jenseits des Codes auseinander: mit Datenschutz, mit der Möglichkeit von Fehlinformationen und mit der Frage, wie Menschen vor willkürlichen, automatisierten Entscheidungen geschützt bleiben. Ein sensibler, kritischer Umgang mit KI-generierten Ergebnissen ist für uns selbstverständlich - genauso wie ein wacher Blick auf aktuelle regulatorische Entwicklungen wie den EU AI Act.

Wir sind in erster Linie Software Craftspersons. Wir sind stolz auf unser Handwerk. Wir entwerfen, entwickeln, betreiben, warten und modernisieren große, verteilte, komplexe Systeme, und wir glauben, dass man dafür die sprichwörtlichen 10.000 Stunden Übung braucht. Als leidenschaftliche, lebenslang lernende Menschen wollen wir mit den neuesten Entwicklungen nicht nur Schritt halten, sondern ihnen einen Schritt voraus sein.

KI verändert Rollenbilder in der Softwareentwicklung. Wie genau, lässt sich heute noch nicht abschließend sagen, denn niemand kann die langfristigen Folgen dieser Entwicklung seriös abschätzen, auch wenn manche das gern von sich behaupten.

Wir setzen weiterhin auf exzellente Wissensträger*innen. Niemand bei synyx muss KI-Werkzeuge nutzen – aber alle dürfen experimentieren, lernen und ihre Erfahrungen teilen, unter anderem in unserer Community of Practice.