Schnelle Einrichtung eines internen Wissensassistenten für Unternehmen mit Dify

Heute schauen wir uns an, wie man mit Dify schnell einen internen Wissensassistenten für Unternehmen aufbauen kann, der direkt in die Unternehmens-IM integriert werden kann, um einen intelligenten Roboter für das Unternehmen zu realisieren.

Wir beginnen mit einfachen administrativen Regelungen wie Unternehmensarbeit, Abwesenheiten und Reisekostenabrechnungen. Die meisten Mitarbeiter können sich die Informationen, Abläufe und Vorschriften in diesem Bereich nicht merken und müssen jedes Mal die Aufzeichnungen nachschlagen oder relevante Personen fragen. Dies führt nicht nur zu einer niedrigen Effizienz, sondern auch zu negativen Emotionen durch wiederholte Anfragen.

Hinweis: Der Aufbau des Assistenten basiert auf der offiziellen Dify-Website, die unabhängige Bereitstellung werden wir später besprechen.

Was ist Dify

Dify ist eine Open-Source-Plattform zur Entwicklung von LLM-Anwendungen. Sie bietet Funktionen von der Erstellung von Agenten bis zur Orchestrierung von KI-Workflows, RAG-Suche, Modellverwaltung und mehr, um generative KI-native Anwendungen einfach zu erstellen und zu betreiben.

Unternehmens-Wissensdatenbank

Materialien organisieren

Der erste Schritt besteht darin, die internen Materialien des Unternehmens in Dokumente zu organisieren. Die Dify-Wissensdatenbank unterstützt verschiedene Dokumentenformate.

Unterstützte Formate: TXT, MARKDOWN, PDF, HTML, XLSX, XLS, DOCX, CSV, EML, MSG, PPTX, PPT, XML, EPUB, wobei jede Datei nicht größer als 15 MB sein darf.

Wenn es sich um Frage-Antwort-Dokumente handelt, ist es am besten, diese in Form von Q&A zu organisieren, um bessere Ergebnisse zu erzielen. Zum Beispiel:

Q: Wie reiche ich eine Reisekostenabrechnung ein?
A: Reichen Sie den Antrag auf Reisekostenabrechnung in Feishu ein, geben Sie den Betrag, den Anlass, zusätzliche Erklärungen usw. an und fügen Sie die Rechnung und andere notwendige Informationen bei.

Dify-Wissensdatenbank erstellen

Der zweite Schritt besteht darin, die Dify-Wissensdatenbank-Seite zu öffnen, eine Wissensdatenbank zu erstellen und die Dokumente hochzuladen.

Nach dem Hochladen der Dateien gehen Sie zum Schritt „Textsegmentierung und -reinigung“.

Auf der rechten Seite der Seite können Sie die Textsegmentierungsvorschau sehen.

Hier sind die grundlegenden Einstellungen zur Segmentierung:

1. Segmentierungseinstellungen:

   • Automatische Segmentierung und Reinigung: Kann die Segmentierung automatisch durchführen. Wenn das Dokument keine einheitlichen Segmentierungsinformationen hat oder Sie mit dem Dokument nicht so vertraut sind, können Sie die automatische Segmentierung wählen.

   • Benutzerdefiniert: Wenn Sie mit dem Dokument vertraut sind und hohe Anforderungen an die Segmentierung haben, können Sie die benutzerdefinierte Segmentierung wählen.

     

2. Indexierungsmethode:

   • Hochwertig: Wird von einem Drittanbieter-Embedding-Modell durchgeführt, z. B. dem Text-Embedding-Modell von OpenAI, das eine höhere Genauigkeit bietet, aber Token verbraucht. Das Modell kann in den persönlichen Einstellungen konfiguriert werden.

     

   • Wirtschaftlich: Offline-Vektormotor, geringere Genauigkeit, aber kein Tokenverbrauch.

3. Suchparameter: Wir können zunächst die Standardeinstellungen verwenden, später werden wir die Suchparameter im Detail besprechen, einschließlich hybrider Suche, Rerank und anderer Konzepte.

Nachdem die Einstellungen abgeschlossen sind, speichern Sie, um die Dokumentenverarbeitung abzuschließen.

Bei späteren Dokumentenaktualisierungen können Sie jederzeit Dateien hinzufügen.

Unternehmensassistent

Nachdem wir die Wissensdatenbank haben, können wir nun den internen Chat-Assistenten für das Unternehmen erstellen.

Ein einfacher Unternehmensinformationsassistent kann mit grundlegender Orchestrierung und einfachen Prompts realisiert werden.

Prompt-Erstellung und -Optimierung

Können Sie keinen Prompt schreiben? Kein Problem, ich empfehle ein Prompt-Optimierungstool https://promptperfect.jina.ai. Sie müssen nur die Dinge, die Sie von der KI erledigt haben möchten, in einfacher Sprache aufschreiben, und mit diesem Tool erhalten Sie einen optimierten Prompt.

Zum Beispiel habe ich einen einfachen Prompt wie folgt:

Du bist ein interner Informationsassistent für das Unternehmen.
Du musst den Mitarbeitern helfen, schnell die Informationen zu erhalten, die sie benötigen.
Beantworte keine Fragen, die nicht mit dem Unternehmen zu tun haben.

Hier ist der Optimierungsprozess des Prompt-Optimierers:

Nach der Optimierung wird auch Verbesserungsvorschläge und ergänzende Fragen gestellt. Wenn Sie noch Ergänzungen haben, können Sie einfach weiter mit ihm chatten. Lassen Sie uns die optimierte Version ansehen:

Als interner Informationsassistent für das Unternehmen ist es deine Aufgabe, den Mitarbeitern zu helfen, schnell die verschiedenen Informationen zu erhalten, die sie für ihre Arbeit benötigen. Deine Antworten müssen sich ausschließlich auf interne Unternehmensfragen beziehen und dürfen keine Fragen zu externen Themen beantworten.

Bitte beachten Sie die folgenden Beispiele:
Beispiel Frage 1: "Bitte helfen Sie mir, das neueste Unternehmensrichtliniendokument zu finden."
Beispiel Antwort 1: "Das neueste Unternehmensrichtliniendokument finden Sie im Richtlinienbereich des internen Netzwerks. Der genaue Pfad ist: Startseite des internen Netzwerks -> Richtlinien und Vorschriften."

Beispiel Frage 2: "Wo kann ich die Stellenanzeigen der Personalabteilung finden?"
Beispiel Antwort 2: "Die Stellenanzeigen der Personalabteilung werden im Bereich 'Stellenangebote' im Intranet veröffentlicht. Sie können auf Folgendes zugreifen: Startseite des internen Netzwerks -> Personalabteilung -> Stellenangebote."

Beispiel Frage 3: "Wo kann ich den neuesten Finanzbericht des Unternehmens erhalten?"
Beispiel Antwort 3: "Der neueste Finanzbericht des Unternehmens wird normalerweise auf der Seite der Finanzabteilung aktualisiert. Der Pfad ist: Startseite des internen Netzwerks -> Finanzabteilung -> Finanzberichte."

Bitte stellen Sie jetzt Ihre Fragen zu den internen Informationen, ich werde mein Bestes tun, um Ihnen zu helfen.

Fügen Sie den optimierten Prompt einfach in die Eingabeaufforderung des Chat-Assistenten ein.

Wissensdatenbank einbinden

Als nächstes binden wir die gerade hinzugefügte Wissensdatenbank ein. Gehen Sie zu ‘Kontext - Hinzufügen - Wissensdatenbank auswählen - Hinzufügen klicken’.

Debugging und Vorschau

Nachdem Sie die Wissensdatenbank, die Prompt-Eingabeaufforderungen usw. vorbereitet haben, können wir auf der rechten Seite direkt die Ergebnisse testen.

Vergleichen Sie den Inhalt, den der Assistent ausgibt, mit dem ursprünglichen Inhalt der Unternehmensdokumente, um die endgültige Wirkung zu überprüfen. Die Debugging-Seite zeigt an, ob der Assistent Inhalte aus der Wissensdatenbank verwendet hat, was zur Beurteilung der Effektivität dient.

So ist ein einfacher interner Informationsassistent für das Unternehmen konfiguriert.

Veröffentlichung und Anwendung

Nachdem der Unternehmens-Chat-Assistent konfiguriert ist, können wir diese Anwendung veröffentlichen. Dify bietet drei Veröffentlichungsmethoden (alle gleichzeitig verfügbar).

1. Ausführen: Eine auf Dify basierende, direkt zugängliche und nutzbare Website.
2. Website einbetten: Ein HTML-Iframe-Code, der in Ihre eigene Website eingebettet werden kann.
   
3. API-Zugriff: Sie können über die Dify-Dialoganwendungs-API den Chatbot in das Unternehmen integrieren, in interne Websites, IM-Roboter usw.

In Zukunft werden wir besprechen, wie man Rückruftests für die Wissensdatenbank durchführt und wie man die Websuche für die Echtzeitverbesserung der Suche nutzt.