Das Hauptrisiko entsteht, wenn gut formulierte Texte genutzt werden, ohne Fakten, Quellen oder Zitate zu prüfen.
Im Recht genügt eine flüssige Antwort nicht. Jede wichtige Aussage muss sich auf eine echte Quelle zurückführen und von einer juristischen Fachperson prüfen lassen.
Was ist «AI slop»?
Der Begriff «AI slop» bezeichnet Inhalte, die rasch durch künstliche Intelligenz erzeugt werden, oft gut aufbereitet, aber inhaltlich dünn oder unzureichend geprüft.
Im juristischen Bereich wird das Problem ernst, wenn diese Texte erfundene Nachweise, nicht existierende Entscheide oder falsch ausgelegte Regeln enthalten.
Die beim Verfassen gewonnene Zeit kann dann bei der Prüfung verloren gehen, weil jedes Zitat kontrolliert werden muss, bevor es verwendet wird.
Für Private, die diese Werkzeuge selbst nutzen, stellt unser Leitfaden über juristische KI für Private die wichtigsten Vorsichtsmassnahmen dar.
Warum eine KI Zitate erfinden kann
Sprachmodelle erzeugen Text, indem sie die wahrscheinlichsten Wörter in einem gegebenen Kontext vorhersagen.
Wenn sie nicht von zuverlässigen Rechtsquellen ausgehen, können sie einen Nachweis erzeugen, der glaubwürdig wirkt, ohne wirklich zu existieren.
Ein erfundener Entscheid kann so den Namen eines Gerichts, eine plausible Geschäftsnummer oder einen echten Rechtsgrundsatz übernehmen und dennoch vollständig erfunden sein.
Das Risiko steigt, wenn jemand die Antwort übernimmt, ohne die Quellen zu prüfen.
Von geprüften Quellen ausgehen
Um Fehler zu begrenzen, muss eine KI-gestützte Rechtsrecherche an zugängliche und überprüfbare Quellen gebunden bleiben.
Das Werkzeug kann sich auf amtliche Rechtsdatenbanken, Rechtsprechung, Lehre oder die internen Dokumente der Kanzlei stützen.
Die Fachperson muss anschliessend die verwendete Quelle öffnen und prüfen können, dass sie die erzeugte Aussage tatsächlich trägt.
Diese Methode erlaubt es, die KI als Recherchehilfe zu nutzen und nicht als Autoritätsquelle.
Auch die Daten der Akte schützen
Die Zuverlässigkeit der Quellen ist nicht der einzige Punkt. An eine KI übermittelte Dokumente können vertrauliche Informationen enthalten.
Bevor ein Werkzeug auf eine echte Akte angewendet wird, muss geprüft werden, wo die Daten gespeichert werden, wer darauf zugreifen kann und ob sie zum Trainieren der Modelle dienen.
Das Datenschutzgesetz (DSG) verlangt nicht, dass alle Daten in der Schweiz gehostet werden, regelt aber ihre Bekanntgabe ins Ausland.
Die Regeln sind in unserem Artikel über KI und Datenschutz im Einzelnen dargestellt. Die von Silex angekündigten Massnahmen stehen auf der Seite Sicherheit und Berufsgeheimnis.
Die Gerichte achten stärker auf KI-generierte Zitate
Mehrere ausländische Gerichte haben bereits Eingaben mit nicht existierenden oder nicht überprüfbaren Rechtsnachweisen beanstandet.
In Deutschland haben Entscheide aus dem Jahr 2025 Zitate in gerichtlichen Eingaben beanstandet, die offenbar von einer KI erzeugt worden waren.
Diese Situationen zeigen, dass der Einsatz eines KI-Werkzeugs die Fachperson nicht von der Pflicht entbindet, die Quellen vor der Einreichung eines Dokuments zu prüfen.
Im Familienrecht, wo Akten oft besonders heikel sind, stellt unser Artikel über KI und Familienrecht die Anwendungen und Grenzen dieser Werkzeuge dar.
Wer unterzeichnet, bleibt für das Dokument verantwortlich
Wenn eine Anwältin oder ein Anwalt eine Eingabe einreicht, bleibt sie oder er für deren Inhalt verantwortlich, auch wenn ein Teil des Textes mit einer KI vorbereitet wurde.
Ein erfundenes Zitat, eine falsch angewendete Regel oder ein sachlicher Fehler kann die Akte schwächen und der Glaubwürdigkeit der Fachperson schaden.
Die KI kann nicht als Rechtfertigung für eine fehlende Prüfung dienen.
Die Risiken des alltäglichen Einsatzes dieser Werkzeuge werden auch in unserem Artikel über alltägliche Rechts-KI und das Gesetz behandelt.
Die tatsächlichen Kosten eines schlecht geprüften Inhalts
Eine rasch erzeugte Antwort bringt keinen Gewinn, wenn sie anschliessend lange Korrekturen verlangt.
Ein schlechtes Zitat kann das Team zwingen, einen Teil der Rechtsschrift neu zu fassen, neue Quellen zu prüfen oder eine bereits übermittelte Analyse zu korrigieren.
Hinzu kommt das Reputationsrisiko. Eine Kanzlei, die regelmässig unrichtige Nachweise übermittelt, kann das Vertrauen ihrer Klientschaft und ihrer Partner verlieren.
Der eigentliche Zeitgewinn kommt deshalb von einem Werkzeug, das auch die Prüfung erleichtert.
Die Glaubwürdigkeit des Berufsstandes wahren
Die Häufung ungeprüfter juristischer Inhalte kann es schwieriger machen, eine zuverlässige Quelle von einem bloss überzeugenden Text zu unterscheiden.
Fachpersonen haben Interesse daran, klare interne Regeln festzulegen: überprüfbare Quellen nutzen, wichtige Nachweise kontrollieren und die Teams in den Grenzen generativer Modelle schulen.
Unser Leitfaden dazu, wie Sie einen juristischen KI-Assistenten wählen, stellt die wichtigsten Prüfkriterien dar.
Auch die Form des Textes zählt. Eine zu standardisierte oder künstliche Formulierung kann der Glaubwürdigkeit des Dokuments schaden, wie wir im Artikel künstlicher Fussabdruck der Texte darlegen.
Wie Sie eine Quelle prüfen, bevor Sie sie zitieren
Ein juristisches Zitat muss sich in einer amtlichen oder anerkannten Quelle wiederfinden lassen.
Wenn eine KI ein Gesetz, einen Entscheid oder ein Werk nennt, muss die juristische Fachperson die Referenz öffnen, prüfen, dass sie existiert, und die Stelle im Zusammenhang lesen.
Es ist auch zu kontrollieren, dass die Begründung der zitierten Quelle wirklich entspricht. Eine Referenz kann echt und dennoch falsch ausgelegt sein.
Diese Prüfung bleibt unverzichtbar, bevor etwas in einem Gutachten, einem Vertrag oder einer gerichtlichen Eingabe verwendet wird.
Die menschliche Analyse bleibt unverzichtbar
Die KI kann grosse Mengen an Informationen suchen, zusammenfassen und ordnen.
Sie kennt jedoch nicht alles, was in der Akte auf dem Spiel steht, die Ziele der Klientschaft und die strategischen Entscheide, die getroffen werden müssen.
Die juristische Fachperson muss die Ergebnisse wieder in ihren Zusammenhang stellen, unnötige Vorschläge ausscheiden und die Analyse ergänzen, wenn das nötig ist.
Die KI beschleunigt die Vorarbeit. Entscheid und Verantwortung bleiben menschlich.
Was Silex anbietet
Silex ist darauf ausgelegt, von schweizerischen Rechtsquellen und den internen Dokumenten der Kanzlei auszugehen.
Mit Silo können Fachpersonen ihre eigenen Dokumente analysieren und sie mit den in der Recherche verwendeten Quellen verbinden.
Nach Angaben von Silex verweisen die Antworten auf überprüfbare Quellen, die Daten werden in der Schweiz bei Infomaniak gehostet und die Kundendateien dienen nicht dazu, die Modelle zu trainieren.
Das Werkzeug lässt sich auch in bestimmte bestehende Arbeitsumgebungen einbinden. Die Partnerschaft Silex und MCR Solutions und die Integration von Silex in WinLex und SkyLex stellen diesen Ansatz dar.
Die Privatbank Bordier & Cie nutzt Silex ebenfalls für ihre juristische Recherche.
Die Angebote sind auf der Seite Silex Preise dargestellt, die Funktionen auf der Seite Silex Produkt und die verschiedenen Anwendungen auf der Seite Lösungen nach Praxis.
Das Wichtigste in Kürze
Ein von einer KI erzeugter Inhalt darf nie allein deshalb verwendet werden, weil er glaubwürdig wirkt.
Bevor Sie ein Dokument einreichen oder übermitteln, prüfen Sie die zitierten Gesetze, Entscheide und übrigen Nachweise. Vergewissern Sie sich auch, dass die Daten der Akte in einer geeigneten Umgebung bearbeitet wurden.
Eine nützliche juristische KI muss diese Prüfung erleichtern, nicht erschweren.
Um Silex an Ihren eigenen Akten zu testen, können Sie eine Demo buchen.
FAQ
Kann eine allgemeine KI für eine juristische Akte genutzt werden?
Ja für bestimmte vorbereitende Aufgaben, aber die Quellen und die Bedingungen der Datenbearbeitung müssen geprüft werden, bevor das Ergebnis in einer echten Akte verwendet wird.
Wer ist verantwortlich, wenn eine KI ein falsches Zitat erzeugt?
Die Fachperson, die das Dokument nutzt und übermittelt, bleibt für die Prüfung des endgültigen Inhalts verantwortlich.
