Chatte kostenlos mit Dokumenten mit ChatGPT 4o

Der Chat mit Dokumenten ist ein beliebter Anwendungsfall von KI. Bisher war das immer nur etwas umständlicher möglich, z.B. in dem man Daten in eine Vektordatenbank lädt, um sie von dort per KI Embedding über z.B. einen Chatbot darzustellen.

Klingt kompliziert? Ist es auch!

In diesem Video zeige ich dir, wie du künftig mit dem neuen (und kostenlosen) ChatGPT-4o mit Dokumenten chatten kannst.

Mit ChatGPT 4o mit Dokumenten chatten

Um das neue Modell für den Chat mit Dokumenten nutzen zu können, gehe auf chatgpt.com, logge dich ein und wähle das Modell ChatGPT 4o.

Wählen dann weiter unten das Dokument aus, mit dem du chatten möchtest. Praktischerweise kannst du hier auch direkt dein Google Drive oder OneDrive verbinden.

Chat mit Dokument

Für dieses Beispiel habe ich die AGB für den Online Handel der Deutschen Post als PDF Dokument gespeichert und hochgeladen.

Um zu testen, ob es funktioniert, beginne ich mit einer einfachen Frage.

Das ChatGPT 4o dazu neigt, eher ausgiebig zu antworten, gebe ich die Anweisung, dass die Antworten auf max. 3 Sätze begrenzt werden sollen.

Die neu erstellte Antwort kommt sofort:

Antworten auf das Dokument begrenzen

Ist das Setup erledigt, kann es mit den richtigen Fragen losgehen. Für das Beispiel frage mich, was passiert, wenn ich eine Online gekaufte Versandmarke nicht abschicke.

ChatGPT 4o weiß die Antwort und verweist auf das Dokument als Quelle. Das ist super, weil es mir noch einmal bestätigt, dass die Information aus dem Dokument stammt, und nicht „irgendwo her“ oder gar halluziniert wurde.

Um zu vermeiden, dass sich ChatGPT Antworten ausdenkt, die nicht im Dokument zu finden sind, begrenze die KI zusätzlich mit einem kurzen Prompt:

Beschränke dich bei Antworten ausschliesslich auf Informationen aus dem hochgelandenen PDF Dokument.

Danach solltest du bei jeder Antwort den Verweis auf das Dokument sehen.