KI-Integrationen

Was die Leistung KI-Integration umfasst

Wir entwerfen und schreiben die Softwareschicht, die Sprachmodelle mit den realen Geschäftsprozessen des Kunden verbindet: die Bearbeitung von Anfragen, das Auswerten von Dokumenten, die Suche in der Wissensbasis, die Klassifizierung von Anfragen. Zuerst analysieren wir, wo im Prozess Zeit verloren geht oder Fehler entstehen, und beschreiben, welche Aufgaben genau an das Modell übergeben und welche beim Menschen bleiben sollten. Danach bauen wir die Integration: Wir binden das LLM über eine API an, richten den Speicher für Embeddings ein, schreiben die Logik für Routing und Antwortverarbeitung. Wenn beim Kunden eine gesteuerte Anlage steht, etwa eine Schneidlinie, ein Schweißplatz oder Lagertechnik, schneidet, schweißt und transportiert genau seine Anlage, und wir bereiten das Steuerprogramm, die Auftragsübergabe und die Ergebnisprüfung vor. Am Ende erhält der Kunde einen funktionierenden Kreislauf und nicht ein einmaliges Experiment mit einem Chatbot.

Wie die Integration im Kern aufgebaut ist

Ein Sprachmodell selbst kennt den Kontext des Unternehmens nicht, deshalb liegt der Schlüsselteil der Arbeit um es herum und nicht in ihm. Die Dokumente und Datensätze des Kunden werden in Fragmente zerlegt und in Embeddings übersetzt, also in numerische Vektoren, anhand derer das System sinngemäße Übereinstimmungen findet und nicht nur Wortübereinstimmungen. Bei einer Nutzeranfrage werden die benötigten Fragmente aus dem Vektorspeicher herangezogen und dem Modell zusammen mit einer Anweisung übergeben, damit die Antwort auf den Daten des Unternehmens aufbaut und nicht auf dem allgemeinen Wissen des Modells. Darüber arbeitet die Logik: die Prüfung des Antwortformats, Beschränkungen, die Übergabe des Ergebnisses an das CRM, an eine Datenbank oder an die Steuerung der Anlage. Ein solches Schema verringert das Erfinden durch das Modell und macht das Verhalten vorhersehbar.

Woraus neuronale Netze und KI erwachsen sind

Der Ausgangspunkt der angewandten neuronalen Netze ist das Jahr 1958, als Frank Rosenblatt das Perzeptron beschrieb, das einfachste Modell, das lernte, Daten in Klassen zu trennen. Jahrzehntelang verlief die Entwicklung in Wellen mit Phasen des Abschwungs, bis 2017 ein Forscherteam von Google die Arbeit "Attention Is All You Need" und die Architektur des Transformers veröffentlichte, die die sequenzielle Verarbeitung zugunsten eines Aufmerksamkeitsmechanismus aufgab. Auf dieser Architektur erschien 2018 BERT von Google, und die GPT-Reihe von OpenAI führte den Ansatz zu großen generativen Modellen. Wichtig ist zu sehen, dass den Durchbruch nicht die Tatsache der KI selbst brachte, sondern eine konkrete technische Idee der Verarbeitung ganzer Sequenzen. Auf diese Linie stützen wir uns, wenn wir wählen, welches Modell und wie wir es in den Prozess einbauen.

Warum die Genauigkeit der Einrichtung entscheidet

Zwischen der Vorführung eines Modells und einem produktiven System steht genau der Softwareteil, und in ihm ist der Preis eines Fehlers höher, als es scheint. Ein falsch zusammengestellter Kontext, ein schwacher Prompt oder eine schlecht eingestellte Suche nach Embeddings ergeben eine glaubwürdige, aber falsche Antwort, die im Strom der Anfragen leicht übersehen wird. Bei Integrationen mit der Anlage des Kunden ist das doppelt kritisch: Ein Steuerbefehl muss strikt im Toleranzbereich liegen, sonst fährt die Maschine die falsche Bahn ab, deshalb lassen wir die Logik auf einer Testumgebung durchlaufen, bevor sie an die reale Hardware übergeben wird. Präzision bedeutet hier Reproduzierbarkeit, die Kontrolle des Datenformats und die Behandlung von Randfällen und kein abstraktes Versprechen. Deshalb geht in der KI-Integration die Hauptarbeit nicht in das Anbinden des Modells, sondern in dessen Anbindung und Prüfung.

Stack und Werkzeuge der KI-Integration

Die Basisschicht ist der Zugriff auf Sprachmodelle über eine API: Anfragen an das LLM mit Steuerung von Temperatur, Längenbeschränkung und Systemanweisungen, das ergibt Text am Eingang und Text am Ausgang für eine konkrete Aufgabe. Zum Verstehen des Sinns nutzen wir Embeddings und Vektorspeicher, damit das System nach Bedeutung sucht und nicht nach exakter Übereinstimmung von Formulierungen. Den verbindenden Code schreiben wir in den für das Backend üblichen Sprachen, meist Python und JavaScript, und betten die Aufrufe über REST-Schnittstellen und den Datenaustausch im Format JSON in bestehende Prozesse ein. Die Integration mit den Prozessen bedeutet die Anbindung an CRM, Datenbanken, Aufgaben-Warteschlangen und bei Bedarf an die Controller der Anlage des Kunden, die physisch die Arbeit ausführt. Den Stack wählen wir passend zur Infrastruktur des Kunden und nicht umgekehrt.

Wann die tragenden Standards entstanden sind

Die Werkzeuge, auf denen die moderne Integration beruht, haben konkrete Daten und keine verschwommene Geschichte. Den Architekturstil REST, die Grundlage der meisten Web-Schnittstellen für den Datenaustausch, beschrieb Roy Fielding in seiner Dissertation 2000 an der University of California in Irvine. Den Ansatz der Embeddings in seiner heutigen Form prägte word2vec, 2013 vom Team von Tomáš Mikolov bei Google veröffentlicht, das zeigte, dass sich Wörter als dichte Vektoren mit erhaltenen Sinnbeziehungen darstellen lassen. Der Zugang zu großen Modellen über eine Cloud-Schnittstelle wurde am 11. Juni 2020 zum Massenphänomen, als OpenAI die API zu GPT-3 nach dem Prinzip "Text am Eingang - Text am Ausgang" öffnete. Diese drei Stützen, der Austauschstandard, die Vektordarstellungen und die API der Modelle, bilden das Fundament der Leistung.

Warum Sie das uns anvertrauen können

Die gesammelte Erfahrung unseres Entwicklungsteams beträgt über 45 Jahre in der IT, und das bedeutet die Gewohnheit, ein System bis zu dem Zustand zu bringen, in dem es unter Last funktioniert und nicht nur in der Vorführung. Wir gehen technisch vor: Wir halten die Anforderungen fest, bauen den Kreislauf, lassen ihn an Testdaten und Randfällen durchlaufen und schalten ihn erst danach in den Produktivbetrieb. Dort, wo KI-Integrationen die Anlage berühren, prüfen wir die Steuerbefehle gesondert am Prüfstand, denn anders kann man für das Ergebnis an der realen Hardware des Kunden nicht einstehen. Wir stellen keine Maschinen her und drucken keine Teile selbst, wir schreiben das Programm und richten die Anlage ein, die bereits beim Kunden steht, und verantworten die Korrektheit dieses Teils. Eine solche Reihenfolge nimmt das Risiko stiller Fehler und macht den Start kontrollierbar.