Mit OpenAI Assistants in wenigen Stunden zum unter­nehmens­internen KI-⁠Bot

Was ist ein OpenAI Assistant und was kann er?

Ein Assistant ist eine angepasste KI auf Basis eines OpenAI-Sprachmodells wie z.B. GPT-4. Neben den reinen Funktionen des Sprachmodells ist der Assistant auch in der Lage, Wissen aus zur Verfügung gestellten Dokumenten zu ziehen.

Das Konzept ist Teil der »OpenAI Platform«, richtet sich also an Softwareentwickler:innen und ITler:innen, nicht an Endanwender:innen. In dieser Hinsicht ist auch die Unterscheidung zu anderen verfügbaren Produkten wichtig:

OpenAI Assistant vs. Microsoft Azure AI: Azure AI ist ein Dienst in Microsofts Azure Cloud. Er ist sehr mächtig, aber auch schwierig zu konfigurieren, anzupassen und teuer im Betrieb. Zumindest ist es uns nicht gelungen, innerhalb weniger Stunden einen funktionierenden Prototypen zu realisieren. Für einen einfachen KI-Chatbot ist die Plattform aus unserer Sicht ein Overkill.

OpenAI Assistant vs. Custom GPT: Wer eine kostenpflichtige Variante von ChatGPT abonniert hat, kann eigene Chatbots (Custom GPTs) konfigurieren. Damit erhält man im Wesentlichen die gleiche Funktionalität wie bei einem OpenAI Assistant, allerdings ohne Programmierschnittstelle zur automatischen Aktualisierung der Dokumente. Zudem ist das recht teuer, da alle Nutzer:innen eine eigene Lizenz à 25 $ p.M. brauchen.

Ein Assistant kann also grundsätzlich alles, was auf Basis der aktuell verfügbaren Sprachmodelle möglich ist. Nur eben bezogen auf das firmeneigene Wissen, das zur Verfügung gestellt wird.

Wie kommuniziere ich mit dem Assistant?

Ein OpenAI Assistant kann zunächst alles und nichts, da er als rein virtuelles Konzept keine Oberfläche für Endanwender:innen hat. Es gibt jedoch verschiedene Wege, Assistants für Testzwecke oder den Produktivbetrieb zugänglich zu machen:

PlugBear

Mit diesem Cloud-Dienst kann ein OpenAI Assistant mit Slack oder Microsoft Teams verknüpft werden. Endanwender:innen haben dann in diesen Chattools die Möglichkeit, mit dem Assistant zu interagieren. Diese KI-Chatbot-Variante ist für erste Gehversuche oder eine technisch versierte Zielgruppe sehr zu empfehlen.

Kosten: 79 $ p.M.

GPT Assistants API UI

Ein sehr kleines Open-Source-Projekt, das eine einfache Oberfläche für OpenAI Assistants zur Verfügung stellt. Die Lösung ist recht rudimentär und bietet z.B. keinen Chatverlauf, Authentifizierung etc. Die Software kann entweder als Docker-Container oder in der Streamlit Cloud betrieben werden.

Kosten: Kostenlos

Individuelle Oberfläche

Eine eigene Oberfläche, ggf. mit Integration in bestehende Anwendungen, ist vor allem für den Produktivbetrieb zu empfehlen, da so optimal auf die Bedürfnisse und Kenntnisse der Endanwender:innen eingegangen werden kann.

Kosten: > 5.000 €

Wie stelle ich dem Assistant Wissen zur Verfügung?

Bestehende Dokumente in gängigen Formaten wie PDF, DOCX etc. können manuell in die Oberfläche der OpenAI Platform geladen und einem Assistant zugewiesen werden. Hierfür sind keine weiteren Kenntnisse erforderlich. Für die Anbindung von Wiki-Systemen etc. ist jedoch eigener Code gefragt, auch für eine periodische Aktualisierung des Wissens ohne manuellen Eingriff.

OpenAI stellt inzwischen hervorragende Schnittstellen zur Verfügung, die das automatisierte Aktualisieren von Dokumenten im Hintergrund ermöglichen. Wir beraten dich dazu gerne im Detail.

Was passiert mit meinen Daten?

Sowohl die Daten, die einem Assistant als Wissen zur Verfügung gestellt werden, als auch die Chatverläufe, sind privat und werden nicht für das Training der GPT-Modelle verwendet. Es besteht keine Gefahr, dass firmeninternes Wissen irrtümlicherweise zugänglich gemacht wird.

Es ist jedoch zu beachten, dass alle OpenAI Platform Services auf Servern in den USA laufen. Insbesondere im Umgang mit personenbezogenen Daten ist hier Vorsicht geboten.

Do it yourself: So gehst du vor!

Wenn du selbst durchstarten möchtest, gehe wie folgt vor, um deinen eigenen KI-Chatbot zu starten:

Schritt 1: Konfiguration des OpenAI Assistants

1. Account bei OpenAI Platform: Registriere dich unter platform.openai.com mit deiner E-Mail-Adresse oder deinem Google- bzw. Microsoft-Konto. Anschließend vervollständigst du deine Unternehmens- und Abrechnungsdaten.
2. Zugriff auf GPT-4: Dafür lädst du Guthaben via Kreditkarte auf. Wir empfehlen mindestens 50 $, um gleich in Stufe 2 des Reputationsmodells aufzusteigen.
3. Assistant erstellen: Nach dem Login wählst du den Menüpunkt »Assistants«, wo du einen neuen Assistant erstellst. Beachte dabei folgenden Punkte:
   a) Model: Du solltest gpt-4-turbo-preview wählen.
   b) Tools: Aktiviere die Funktion »File search«
   c) Instructions: Gib den »System prompt«, d.h. die Aufforderung ein, die jeder Anfrage vorangestellt wird. Du kannst hier z.B. angeben, in welcher Sprache der Bot antworten soll oder andere allgemeingültige Instruktionen erteilen. 

Hier unser Beispiel:
»Du bist ein hilfreicher Assistent, der den Mitarbeitenden von Fusonic bei der Suche nach Firmenwissen hilft. Antworte nur auf Fragen, die auf dem explizit bereitgestellten Wissen basieren. Sei ehrlich und rate nicht, wenn du die Antwort nicht kennst. Antworte immer auf Deutsch. Verwende einen informellen Ton und die deutsche „Du“-Form. Füge immer eine Liste von Quellen hinzu.«

Schritt 2: Wissen hochladen

1. Wissen aufbereiten: Du kannst natürlich bestehende Office-Dokumente oder PDFs bei OpenAI hochladen. Das funktioniert problemlos und ist für Testzwecke völlig ausreichend.. Wenn du Inhalte aus Wissensdatenbanken bzw. Wikis hochladen möchtest, kannst du diese z.B. mittels »Print to PDF« abrufen.
2. Wissen hochladen: Auf der Bearbeitungsseite eines Assistants kannst du über die Schaltfläche »+ Files« diese Dateien hochladen, wieder entfernen oder aktualisieren.

Schritt 3: Anbindung von Slack oder Microsoft Teams via PlugBear

1. PlugBear Account: Unter plugbear.io kannst du dich ganz einfach registrieren und ein Abonnement abschließen. Innerhalb weniger Minuten bist du startklar.
2. Verknüpfung mit Slack oder Teams: Die Verknüpfung mit Slack (Anleitung) funktioniert erfahrungsgemäß schnell und einfach. Auch die Einrichtung mit Microsoft Teams (Anleitung) wird von der Plattform geführt, es kann jedoch 2–3 Versuche brauchen, bis sie funktioniert.
3. Nutze alternativ den Playground: Wenn du den Assistant einfach nur testen möchtest und andere Nutzer:innen keinen Zugriff brauchen bzw. auch über die OpenAI Platform einsteigen können, kannst du auch den Assistant Playground nutzen.

Leistungsstarker KI-Chatbot mit OpenAI Assistant

Auf diese Weise lässt sich recht schnell ein individueller KI-Chatbot für das eigene Team realisieren. Der Vorteil liegt auf der Hand: Alle Teammitglieder erhalten niederschwellig Zugang zum Wissen der Organisation.

• Durchsuchen des Firmenwissens in natürlicher Sprache
• Schnelle Suche nach »dem richtigen Dokument« 
• Keine nutzerbasierten Lizenzkosten
• Automatisierte Aktualisierung des Wissens möglich
• Individuelle Integration in bestehende Tools möglich

Wir empfehlen allen, diese neue Funktion einmal auszuprobieren und beispielhafte Fragen zum Unternehmenswissen zu stellen.  So zeigt sich schnell, ob eine Zeitersparnis im Alltag zu erwarten ist und wie groß diese sein kann.

Tipp: Über die OpenAI-Plattform lassen sich ohne Mehrkosten mehrere Assistants konfigurieren, sodass z.B. pro Abteilung KI-Chatbots mit speziellem Wissen realisiert werden können.

Do it together: Unterstützung von Fusonic

Wenn du beim Konfigurieren deines KI-Chatbots Unterstützung wünschst oder nach einem erfolgreichen OpenAI-Assistant-Test den nächsten Schritt gehen möchtest, unterstützen wir dich gerne. Wir helfen dir bei der Einrichtung, Optimierung und der Anbindung bestehender Wissensdatenbanken.

Neugierig geworden? Melde dich für einen persönlichen Gedankenaustausch zum Thema KI-Chatbots in deinem Unternehmen.