Workspace-Guardrails: Steuern, worüber Genie AI spricht

Genie AI prüft jede Nachricht, die im Workspace-Chat gesendet wird, gegen die Guardrails deines Workspaces, bevor sie beantwortet wird. Workspace-Eigentümer:innen und Admins konfigurieren Guardrails in natürlicher Sprache — ohne technisches Setup — und legen fest, mit welchen Inhalten sich Genie AI nicht befassen soll.

​

Guardrails-Einstellungen öffnen

Klicke auf die Kontozeile unten in der Workspace-Seitenleiste, wähle Workspace-Einstellungen und öffne dann Governance und darin Guardrails.

​

Guardrails aktivieren

Schalte Guardrail-Schutz ein. Wenn noch nichts konfiguriert wurde, startet Genie mit einer Reihe schützender Standardeinstellungen, die du von dort aus anpassen kannst. Mindestens ein Schutz muss jederzeit aktiv bleiben — eine leere Guardrail-Konfiguration kann nicht gespeichert werden.

​

Anbieter wählen

Guardrails werden von Amazon Bedrock Guardrails (Standard) oder Google Model Armor geprüft. Wähle einen oben auf der Seite; beide prüfen jede Nachricht, bevor Genie AI antwortet, und zeigen eine blockierte Nachricht gleich an. Model Armor deckt nur die Stärken für schädliche Inhalte und Manipulationsversuche ab. Tabuisierte Themen, gesperrte Wörter, der Profanitätsfilter und Bilder prüfen bleiben in deinen Einstellungen erhalten, werden aber bei gewähltem Model Armor als nicht unterstützt markiert und zählen nicht als Schutz. Du kannst jederzeit zurückwechseln, dann gelten deine früheren Einstellungen wieder.

​

Was du konfigurieren kannst

​

Schädliche Inhalte

Lege für jede Kategorie eine Stärke fest — Aus, Locker, Ausgewogen oder Streng:

​

Tabuisierte Themen

Füge benannte Themen hinzu, über die Genie AI in deinem Workspace nicht sprechen soll — zum Beispiel „Anlageberatung”. Jedes Thema erhält eine Beschreibung in natürlicher Sprache, was dazuzählt, sowie optionale Beispielnachrichten, die Genie beim Erkennen helfen.

​

Gesperrte Wörter

Aktiviere einen integrierten Schimpfwortfilter und füge deine eigene Liste organisationsspezifischer gesperrter Wörter oder Phrasen hinzu — eine pro Zeile.

​

Nachricht bei Blockierung

Schreibe optional deine eigene Nachricht, die einem Mitglied anstelle von Genies Antwort angezeigt wird, wenn eine Guardrail seine Nachricht blockiert. Leer lassen, um Genies Standarderklärung zu verwenden.

​

Anhänge scannen

Guardrails prüfen standardmäßig nur den Text einer Nachricht. Zwei weitere Schalter, beide zunächst ausgeschaltet, erweitern das auf Anhänge:

• Bilder prüfen — angehängte PNG/JPEG-Bilder werden zusammen mit dem Nachrichtentext auf schädliche Inhalte geprüft (Hassrede, Gewalt, sexuelle Inhalte und so weiter). Tabuisierte Themen und gesperrte Wörter gelten immer nur für Text.
• Nicht prüfbare Anhänge ablehnen — blockiert eine Nachricht komplett, wenn sie etwas enthält, das Guardrails überhaupt nicht beurteilen können: ein PDF, ein GIF- oder WebP-Bild, oder jedes Bild, solange Bilder prüfen aus ist.

Ein Dokument wie eine .txt-, .docx- oder Tabellendatei ist bereits als Text abgedeckt — sein Inhalt wird extrahiert, bevor Genie AI ihn überhaupt sieht.

​

Protokoll blockierter Nachrichten

Die Guardrails-Seite führt ein Protokoll der letzten Eingriffe: welche Kategorie oder welches Thema die Blockierung ausgelöst hat, wo es passiert ist (Workspace-Chat oder ein Projekt), wer es gesendet hat und wann. Der Inhalt der Nachricht selbst wird nie gespeichert — nur der Grund für die Blockierung. Wer dieses Protokoll ohnehin schon einsehen kann, kann außerdem E-Mail-Benachrichtigungen für neue Blockierungen einschalten — siehe Aktivitätsprotokoll.

​

Guardrails über den Workspace-Chat verwalten

Frag die Genie-Workspace-KI in natürlicher Sprache:

• „Aktiviere Guardrails und blockiere sexuelle Inhalte und Gewalt auf der strengsten Stufe”
• „Füge ein tabuisiertes Thema für Rechtsberatung hinzu”
• „Zeig mir kürzlich blockierte Nachrichten”
• „Schalte den Filter für Manipulationsversuche aus”

Genie AI bittet dich um Bestätigung, bevor sie einen Schutz abschwächt oder deaktiviert.

​

Verwandte Seiten