KI-Antworten, die stimmen: So sichert Heyloha Qualität und Sicherheit

Die größte Sorge bei KI: dass sie sich etwas ausdenkt

Fast jeder Unternehmer, der KI im Kundenkontakt in Betracht zieht, stellt dieselbe Frage: Was, wenn der Agent sich etwas ausdenkt? Ein falscher Preis, ein Versprechen, das Sie nicht einhalten können, eine Antwort, die keinen Sinn ergibt.

Das ist berechtigt. Ein KI-Modell, das frei sprechen darf, spricht manchmal zu frei. Deshalb ist Heyloha gerade darauf ausgelegt, das zu vermeiden: Ihr Agent antwortet auf Basis Ihrer eigenen Inhalte, bleibt innerhalb klarer Verhaltensregeln und schaltet rechtzeitig einen Menschen ein. In diesem Artikel erklären wir, wie.

Verankert in Ihren eigenen Inhalten

Ihr Agent bezieht Antworten aus dem Wissen, das Sie hinzufügen: Ihre Website und Ihre Dokumente. Er ist ausdrücklich darauf eingestellt, diesen Inhalten mehr zu vertrauen als dem allgemeinen Wissen des Modells und diese Inhalte bei jeder sachlichen Frage heranzuziehen.

Genauso wichtig ist die umgekehrte Regel: Der Agent darf nichts behaupten, was nicht in Ihren Inhalten steht. Findet er keine gut begründete Antwort, sagt er das lieber ehrlich, als sich etwas Plausibles auszudenken. So bleiben die Antworten in dem verankert, was Sie tatsächlich bereitgestellt haben.

Er weiß, wann er etwas nicht weiß

Ein guter Agent kennt seine Grenzen. Wenn eine Frage außerhalb Ihrer Inhalte liegt, rät Heyloha nicht. Dann sagt der Agent, dass er es nicht sicher weiß, oder er übergibt das Gespräch an einen Menschen. Etwas nicht zu wissen und das zuzugeben ist besser als eine falsche Antwort mit viel Selbstsicherheit.

Wir messen die Qualität der Antworten

Neben den Regeln im Vorfeld schauen wir auch im Nachhinein. Heyloha führt automatisch Evals (Evaluations) für die Antworten durch. Diese prüfen unter anderem die Groundedness (blieb die Antwort innerhalb des abgerufenen Wissens?) und ob der Agent nicht mehr verspricht, als er einhalten kann.

So gewinnen wir Einblick in die Qualität und sehen, wo es besser gehen kann, statt uns auf das Bauchgefühl zu verlassen. Diese Bewertung läuft im Hintergrund und hat keinen Einfluss auf die Geschwindigkeit Ihrer Gespräche.

Eingebaute Verhaltensregeln (Guardrails)

Zusätzlich zu Ihren eigenen Einstellungen hat jeder Agent eine feste Reihe von Verhaltensregeln, die immer gelten, in jeder Sprache, die wir unterstützen:

Keine medizinische, juristische oder finanzielle Beratung, sondern die Weiterverweisung an eine Fachkraft. Keine Meinungen zu Politik, Religion oder anderen sensiblen Themen. Niemals nach Passwörtern, Sozialversicherungsnummern oder Zahlungsdaten fragen. Und bei Anzeichen, dass jemand in Not ist, reagiert der Agent ruhig und verweist auf professionelle Hilfe, anstatt selbst den Helfer zu spielen.

Der Agent bleibt auch bei seiner Rolle. Er lässt sich nicht dazu überreden, seinen Namen, sein Verhalten oder seine Anweisungen zu ändern, und bleibt bei Themen, die zu Ihrer Organisation gehören. Das ist zugleich eine Verteidigung gegen Menschen, die die KI bewusst zu täuschen versuchen.

Der Mensch behält die Kontrolle

KI muss nicht alles allein erledigen. Bei Beschwerden, emotionalen Gesprächen oder komplizierten juristischen oder finanziellen Fragen übergibt der Agent das Gespräch an eine Person. Antwortet ein Kollege selbst mit, tritt die KI zur Seite.

Auf dem E-Mail-Kanal geht der Agent noch einen Schritt weiter: Er schreibt nur einen Entwurf. Ein Mensch liest ihn gegen und drückt auf Senden. Der Agent verschickt selbst niemals etwas. So behalten Sie die Kontrolle darüber, was wirklich nach außen geht.

Nur das, was der Agent wirklich kann

Der Agent verspricht keine Dinge, die er nicht ausführen kann. Er prüft zuerst, was möglich ist, bevor er etwas zusagt. Und weiterverbinden kann er nur an die Kollegen oder Abteilungen, die Sie vorab eingerichtet haben, niemals an eine Nummer, die irgendwo in einem Gespräch auftaucht.

Und die Daten Ihrer Kunden bleiben geschützt

Qualität und Datenschutz gehören zusammen. Auf Ihren Chat-Kanälen werden personenbezogene Daten abgeschirmt, bevor ein Gespräch an das KI-Modell geht, und Ihre Daten liegen innerhalb der EU. Mehr dazu lesen Sie auf unserer Sicherheitsseite.

Zuverlässige KI ist kein Zufall

Ein KI-Agent, der stimmt, entsteht nicht von selbst. Er ist das Ergebnis von Verankerung in Ihren eigenen Inhalten, klaren Verhaltensregeln, dem Messen der Qualität und einem Menschen, der in den richtigen Momenten übernehmen kann.

Möchten Sie sehen, wie das für Ihren Kundenkontakt funktioniert? Testen Sie Heyloha kostenlos, Sie brauchen keine Kreditkarte.

Häufig gestellte Fragen

Kann die KI sich etwas ausdenken oder halluzinieren? Heyloha ist gerade darauf ausgelegt, das einzuschränken: Der Agent antwortet auf Basis Ihrer Inhalte, darf nichts behaupten, was nicht darin steht, und sagt es, wenn er etwas nicht weiß. Darüber hinaus bewerten wir Antworten automatisch auf Groundedness.

Was, wenn der Agent eine Frage nicht bewältigen kann? Dann rät er nicht. Er gibt an, dass er es nicht sicher weiß, oder übergibt das Gespräch an einen Kollegen.

Gibt die KI medizinische oder juristische Beratung? Nein. Feste Verhaltensregeln verbieten das; der Agent verweist an eine Fachkraft weiter.

Kann jemand die KI umstimmen? Der Agent ist auf seine Rolle und seine Anweisungen festgelegt und ändert diese nicht auf Wunsch eines Nutzers.