Jetzt kontaktieren
Jetzt kontaktieren
Zwei Frauen stehen in einer Werkstatt. Eine Frau hält ein Tablet in den Händen.

TÜV NORD GPT: Entwicklung der KI-Assistenz

Projektdauer: seit September 2023

Praxis Wissen für den sicheren KI-Einsatz im Unternehmen

Whitepaper-Serie (5 Teile)

Jetzt kostenlos lesen
HomeReferenzenTÜV NORD GPT: Entwicklung der KI-Assistenz
Technologien

Microsoft Azure, OpenAI, Postgres in Azure, Terraform, Python, FastAPI, Langchain, React, Azure, WebApp 

Team

Data Scientisten und Software Engineers

Neue Technologien prüfen und selbst nutzen

Der Prüfkonzern TÜV NORD GROUP agiert weltweit, seine mehr als 14.000 Mitarbeitenden verfügen über ein umfangreiches Wissen.   „Unser Ansatz als TÜV-Unternehmen besteht darin, neue Technologien für den Masseneinsatz zugänglich zu machen, indem wir sie prüfen und damit die Sicherheit unterstützen. Neue Technologien wie die generative KI GPT, die uns überzeugen und die sicher einsetzbar sind, nutzen wir auch selbst,“ beschreibt Leroy Racette, Bereichsleiter EDV der TÜV NORD Service, die Zielsetzung des Projekts. 

  • Eine Person in einer Werkstatt uniformiert bedient eine Maschine zur Fahrzeugprüfung neben einem Auto mit geöffnetem Motorhaube.
  • Eine TÜV NORD GROUP-Fahne weht neben einer Europaflagge vor einem modernen Bürogebäude.
  • Eine Person in blauer Arbeitskleidung und Schutzhelm montiert mit einem Werkzeugaufzugselemente in einem Schacht.
  • Eine Gruppe von Menschen sitzt in einem modernen Konferenzraum bei einer TÜV NORD GROUP-Veranstaltung.
Fotos: Henning Scheffen/TÜV NORD AG, Udo Geisler/TÜV NORD AG, Eric Shambroom/TÜV NORD , Armin Huber/TÜV NORD AG, DMT, Daniela Kleiber/TÜV NORD , TÜV NORD AG, Antoine Heusse/ALTER, Enrique Gomes Nuñez/ALTER

Unser Vorgehen: User können mit ihren Dokumenten chatten

Wir haben ein Frontend und ein Backend über Microsoft Azure App Service bereitgestellt. Im nächsten Schritt, „Chat with your PDF“, geben wir dem Nutzer die Möglichkeit, Dokumente hochzuladen. Diese werden dann in Echtzeit indiziert und als semantische Vektoren in einer Azure-managed PostGres Vektordatenbank abgespeichert. Somit kann der Chatbot auf sprachlicher Ebene Informationen aus den Dokumenten ziehen.

Eine Person trägt ein weißes, kurzärmeliges Hemd.
TÜV NORD GPT ermöglicht es, unser Wissen zu vernetzen und hocheffizient zu arbeiten.
Leroy Racette, Bereichsleiter EDV der TÜV NORD Service

Unsere Herausforderung: Sicherer Betrieb in der Microsoft Azure Cloud

Die KI-Assistenz der TÜV NORD GROUP basiert auf der gleichen Technologie wie ChatGPT Modell 4 von Open AI, wird aber sicher in der europäischen Microsoft Azure Cloud-Umgebung der TÜV NORD GROUP betrieben. Der Datenschutz ist gewährleistet. 

Wir verwenden Infrastructure as Code, um alle Services per Knopfdruck in der Cloud zu erstellen und anzupassen. Ihre Continuous Integration/Continuous Deployment (CI/CD) Pipeline ermöglicht es ihnen, Änderungen am Code direkt in der laufenden Anwendung umzusetzen. 

Durch das agile Framework Scrum, das iterative 2-wöchige Arbeitszyklen vorsieht, können sie mit den Entwicklern der TÜV NORD GROUP schnell auf aktuelle Entwicklungen reagieren. Die kontinuierliche Neuausrichtung ist ein Schlüssel zum Erfolg eines Projekts in diesem hochdynamischen Umfeld.   

Eine Person trägt ein graues Hemd mit langen Ärmeln.
Dank der Cloud-Services können wir Technologien wie AI innerhalb weniger Monate implementieren. Deren technologische Entwicklung ist so rasant, dass sich unsere Anwendung selbst in der kurzen Zeit bereits deutlich weiterentwickelt hat.
Dr. Thomas Suren, Senior Data Scientist, MaibornWolff

Unser Ergebnis: KI-Assistenz fördert Wissens-Management im Konzern

„Die Mitarbeitenden können TÜV NORD GPT vielseitig als persönliche Assistenz einsetzen, etwa um sich durch umfangreiche Dokumente zu arbeiten, die eigene Recherche zu unterstützen oder für zum Beispiel die Produktentwicklung neuen Input zu generieren“, betont Leroy Racette, Bereichsleiter EDV der TÜV NORD Service, und fügt hinzu, dass „die Weiterentwicklung eines eigenen Firmen-GPTs der richtige Weg in eine zukunftsorientierte Richtung ist“.

Zwei Personen sitzen an einem Tisch in einem klimatisierten technischen Raum mit Schalttafeln.

Inzwischen erfreut sich die KI-Hilfe immer größerer Beliebtheit, was dies unterstreicht: Im ersten Monat der Einführung (Februar 2023) verzeichnete TÜV NORD über 33.000 Anfragen an das System im produktiven Einsatz, zunehmend auch in den 40 Auslandsgesellschaften.

Die TÜV NORD Akademie begleitete den Start von TÜV NORD mit Schulungen und Sensibilisierungskampagnen.

Eine Person trägt ein weißes, langärmliges Hemd.
Die letzten vier Monate zeigen eine zunehmend intensivere Nutzung des Systems und vor allem ein Auseinandersetzen mit den Möglichkeiten. Nachdem wir die letzte Zeit genutzt haben, um TÜV NORD GPT auf ein gutes Fundament zu setzen, freuen sich die Mitarbeitenden aus den Business Units über bald folgende Custom GPTs – so können wir unsere Fachbereiche mit gemeinsam befragbaren Dokumenten befähigen effizienter in einer Vielzahl von Unterlagen zu suchen und damit zu arbeiten.
Philipp Tetzlaff, Abteilungsleiter TÜV NORD Service

Unsere Referenzen & Projekte

Eine Referenz sagt mehr als 1.000 Worte. Zum Glück haben wir davon Dutzende. Klicken Sie sich durch eine Auswahl unserer spannendsten Projekte und überzeugen Sie sich selbst!

Zu allen Referenzen

Warum MaibornWolff?

Als einer der innovativsten IT-Dienstleister mit großer Leidenschaft für KI konzentrieren wir uns vollständig auf das Projektgeschäft und individuelle Software-Entwicklung – ohne eigene Produkte. Um an der Spitze zu bleiben, investieren wir kontinuierlich in unser Team aus Digital Technology Engineers und entwickeln digitale Lösungen, die durchdacht, effizient und auf das Wesentliche reduziert sind.

Unser Grundsatz: Simplizität statt Komplexität. Wir entwickeln nur, was wirklich gebraucht wird – maßgeschneidert, nutzbringend und zuverlässig. Unsere Ergebnisse sprechen für sich. Mit über 800 Großsystemen und mehr als 10.000 Personenjahren Erfahrung im High-End-Software-Engineering zählen wir zu den wenigen, die selbst größte und komplexeste IT-Landschaften zuverlässig realisieren. Dank enger Partnerschaften mit führenden Hyperscalern betreiben unsere Kunden ihre Lösungen in den modernsten und leistungsfähigsten Umgebungen der Gegenwart.

Less Technology. Better Business.

Zu allen Leistungen
Finden Sie, was zu Ihnen passt
Verfeinern Sie Ihre Suche
Filter zurücksetzen