Kann ich den Textausgaben von ChatGPT vertrauen?

TL;DR: Nein!!, nur wenn OpenAI richtig ✅ genutzt wird.

Was ist ChatGPT? ChatGPT ist ein faszinierendes Sprachmodell, das Texte in vielen Sprachen analysieren und erzeugen kann. Die Sprachen können in alle Richtungen übersetzt werden.

OpenAI besitzt einen riesigen Bestand an Trainingsdokumenten, auf deren Basis ChatGPT wahrscheinliche Antworten generiert.

Vorsicht

ChatGPT versucht immer, eine Antwort zu geben – selbst wenn das bedeutet, dass es Fantasieantworten erfindet. Das sogenannte Halluzinieren. Das können wir erst einmal nicht erkennen, sodass wir im Allgemeinen den Texten von ChatGPT nicht vertrauen können.

Um aus ChatGPT eine vertrauensvolle Lösung zu entwickeln, müssen wir uns mit der OpenAI API beschäftigen. OpenAI bietet neben ChatGPT noch viele weitere Verfahren über ihre Programmierschnittstelle an.

Erwähnenswert sind hier insbesondere Embeddings und Completions, über die ich in einem der nächsten Posts noch mehr erzählen werde. Jetzt nur ganz kurz.

Completions ist das Verfahren, dass hinter ChatGPT liegt. Auf Basis einer Eingabe (Prompt) wird ein Text generiert (vervollständigt, daher Completions). Über die Art des Prompts kann die Ausgabe sehr flexibel gesteuert werden.

Embeddings erzeugen aus Text eine mathematische Repräsentation (ein Vektor). Mit dieser Repräsentation können Texte untereinander verglichen, klassifiziert, gruppiert und gefunden werden.

Diese Embeddings werden in Vektordatenbanken gespeichert. Damit können wir der KI ein 2tes Gehirn geben.

Mit der Kombination vom Embeddings, Completions und Vektordatenbanken können eine große Menge eigener Daten analysiert und als Faktenbasis für ChatGPT genutzt werden. Dadurch bekommen wir fundierte und auf unseren spezifischen Dokumenten basierende Antworten und wir können damit auch auf unsere Originalquelle verweisen.