ChatGPT, Gemini, Claude oder Copilot – immer mehr Menschen nutzen künstliche Intelligenz, um Antworten auf rechtliche, steuerliche oder finanzielle Fragen zu erhalten.
Auch in unserer Kanzlei erleben wir inzwischen regelmäßig, dass Mandanten Ausdrucke von KI-Antworten mit in die Besprechung bringen.
Die entscheidende Frage lautet daher: Kann man diesen Antworten vertrauen? Die kurze Antwort lautet: Jein.
Nicht deshalb, weil künstliche Intelligenz grundsätzlich unzuverlässig wäre. Sondern weil die Qualität jeder Antwort entscheidend davon abhängt, welche Frage gestellt wird und welche Informationen der Nutzer eingibt.
Die wichtigste Regel lautet: Garbage in – Garbage out
In der Informatik gibt es seit Jahrzehnten einen bekannten Grundsatz: Garbage in – Garbage out. Übersetzt bedeutet dies: Wer falsche oder unvollständige Informationen eingibt, erhält zwangsläufig auch ein fehlerhaftes oder unvollständiges Ergebnis. Dieser Grundsatz gilt heute mehr denn je für künstliche Intelligenz.
Warum die Antwort „42″ niemandem geholfen hat
Ein schönes Beispiel liefert Douglas Adams in seinem Kultroman Per Anhalter durch die Galaxis.
Dort baut eine hochentwickelte Zivilisation den leistungsfähigsten Computer aller Zeiten. Seine Aufgabe: Die Antwort auf die „ultimative Frage nach dem Leben, dem Universum und dem ganzen Rest“ zu berechnen. Nach Millionen Jahren Rechenzeit liefert der Computer schließlich die berühmte Antwort: 42.
Das Problem: Mit dieser Antwort konnte niemand etwas anfangen. Nicht deshalb, weil sie falsch gewesen wäre. Sondern weil niemand mehr wusste, wie die eigentliche Frage lautete. Im Laufe der Zeit wurde daraus häufig die verkürzte Frage: „Was ist der Sinn des Lebens?“
Ob dies tatsächlich die ursprüngliche Fragestellung war, weiß jedoch niemand. Genau dieses Problem begegnet uns heute bei der Nutzung künstlicher Intelligenz. Die KI beantwortet nicht die Frage, die Sie eigentlich stellen wollten. Sie beantwortet ausschließlich die Frage, die Sie tatsächlich eingegeben haben.
Falsche Begriffe führen zu falschen Antworten
Viele Nutzer glauben, ChatGPT kenne den gesamten Sachverhalt. Das ist jedoch nicht der Fall.
Die KI arbeitet vereinfacht gesagt ähnlich wie ein Mensch, der innerhalb weniger Sekunden tausende Bücher durchsucht und daraus eine Antwort formuliert. Verwendet der Nutzer jedoch bereits den falschen Begriff, kann die Antwort trotz perfekter Formulierung in die falsche Richtung gehen.
Ein Beispiel aus dem Erbrecht: Wer nach dem „Pflichtteil am Haus“ fragt, obwohl rechtlich eigentlich der Pflichtteilsanspruch gegen den Erben gemeint ist, erhält möglicherweise eine logisch klingende Antwort – allerdings auf eine andere Frage.
Das Problem beginnt also häufig nicht bei der künstlichen Intelligenz. Es beginnt bereits bei der Fragestellung.
Praxisbeispiel aus unserer Kanzlei
Wie gravierend bereits kleine Eingabefehler sein können, zeigt ein tatsächlicher Fall aus unserer anwaltlichen Praxis.
Im Rahmen einer ersten überschlägigen Beratung hatten wir gemeinsam mit einer Mandantin ihren möglichen Zugewinnausgleich berechnet. Das Ergebnis war eindeutig. Nach unserer überschlägigen Berechnung würde sie ihrem Ehemann voraussichtlich einen Zugewinnausgleich schulden.
Einige Wochen später erschien die Mandantin erneut in unserer Kanzlei und erklärte: „ChatGPT hat ausgerechnet, dass ich einen Zugewinnausgleichsanspruch gegen meinen Mann habe.“ Dieses Ergebnis überraschte zunächst. Die Ursache war jedoch schnell gefunden.
Aus D-Mark wurden versehentlich Euro
Die Mandantin hatte ihre Immobilie bereits Anfang der 1990er Jahre durch Schenkung beziehungsweise Erbschaft erhalten. Dieser damalige Wert gehört beim Zugewinnausgleich zum Anfangsvermögen.
Bei der Eingabe in ChatGPT hatte sie den damaligen Wert lediglich als Zahl eingegeben. Beispielsweise: 100.000. Was sie dabei unbewusst vergessen hatte: Anfang der 1990er Jahre gab es den Euro noch gar nicht. Es handelte sich um 100.000 Deutsche Mark.
ChatGPT konnte dies selbstverständlich nicht erkennen. Die KI behandelte den Betrag daher als 100.000 Euro. Tatsächlich entsprechen 100.000 DM jedoch lediglich rund 51.129 Euro. Allein dieser kleine Eingabefehler veränderte das Anfangsvermögen um fast 50.000 Euro.
Die KI hatte also keineswegs falsch gerechnet. Sie hatte lediglich mit falschen Tatsachen gerechnet.
Der zweite Fehler entstand im Kopf des Menschen
Noch interessanter wurde der Fall anschließend.
Die Mandantin argumentierte sinngemäß: „Aber mein Mann hat doch sein ganzes Leben deutlich mehr verdient als ich. Dann müsste ChatGPT doch eigentlich recht haben.“
Genau hier zeigt sich ein psychologischer Effekt, der beim Umgang mit künstlicher Intelligenz häufig auftritt. Viele Menschen überprüfen nach einem überraschenden Ergebnis nicht ihre Eingaben. Stattdessen suchen sie nach Gründen, warum das Ergebnis trotzdem richtig sein müsse.
Dabei wurde übersehen: Ein höheres Einkommen bedeutet noch lange keinen höheren Zugewinn. Beim Zugewinnausgleich spielen unter anderem eine Rolle: Anfangsvermögen, Endvermögen, Erbschaften, Schenkungen, Schulden, Wertsteigerungen und gesetzliche Besonderheiten. Das Einkommen ist lediglich einer von vielen Faktoren.
Das Gesetz verstärkte den ursprünglichen Fehler sogar noch
Hinzu kam ein weiterer Effekt. Nach § 1376 Abs. 2 BGB wird das Anfangsvermögen inflationsbereinigt indexiert.
Der Gesetzgeber möchte dadurch verhindern, dass bloße Geldentwertung den Zugewinn verfälscht. Genau dadurch wurde der ursprüngliche Eingabefehler jedoch noch größer.
War das Anfangsvermögen bereits wegen der Verwechslung von D-Mark und Euro um nahezu 50.000 Euro zu niedrig angesetzt, wurde auch dieser falsche Ausgangswert indexiert. Der Fehler wurde dadurch nicht kleiner. Er wurde durch die gesetzlich vorgeschriebene Inflationsbereinigung sogar nochmals erheblich vergrößert.
Aus einem einzigen kleinen Eingabefehler entwickelte sich dadurch eine erhebliche Abweichung bei der Berechnung des Zugewinnausgleichs.
Die KI hat keinen Fehler gemacht
Dieses Beispiel zeigt etwas Entscheidendes. ChatGPT hatte nicht falsch gerechnet. Die KI hatte auch keine juristische Vorschrift übersehen. Sie hatte lediglich genau das berechnet, was ihr eingegeben worden war. Der Fehler lag ausschließlich in den Ausgangsdaten.
Ein Mensch hätte bei einem Beratungsgespräch wahrscheinlich sofort nachgefragt: Wann wurde die Immobilie erworben? War das vor Einführung des Euro? Handelt es sich um DM oder Euro? Handelt es sich um eine Schenkung oder um eine Erbschaft?
Genau diese Rückfragen fehlten. Nicht, weil die KI schlecht ist. Sondern weil sie den Sachverhalt nicht eigenständig hinterfragen kann wie ein erfahrener Berater.
ChatGPT ersetzt keine vollständige Sachverhaltsermittlung
Gerade juristische Fälle leben von Details. Oft entscheidet nicht das Gesetz. Oft entscheidet eine einzige Tatsache. Ein Datum. Eine Formulierung im Vertrag. Eine frühere Schenkung. Oder eben die Frage, ob eine Zahl in D-Mark oder in Euro angegeben wurde.
Eine künstliche Intelligenz erkennt solche Lücken regelmäßig nicht. Sie arbeitet ausschließlich mit den Informationen, die ihr zur Verfügung gestellt werden.
Kann man ChatGPT also vertrauen?
Unsere Antwort lautet: Ja. Aber nur unter einer entscheidenden Voraussetzung. Die eingegebenen Tatsachen müssen vollständig und richtig sein.
Künstliche Intelligenz kann heute hervorragend komplizierte Zusammenhänge erklären, Gesetze verständlich darstellen, Berechnungen durchführen, Urteile zusammenfassen und umfangreiche Informationen strukturieren.
Sie kann jedoch nicht erkennen, welche Information vergessen wurde, welche rechtliche Annahme falsch ist, welche Zahl versehentlich in der falschen Währung eingegeben wurde oder welche Tatsache im konkreten Einzelfall entscheidend gewesen wäre.
Unser Fazit
Künstliche Intelligenz ist kein Orakel. Sie ist ein außerordentlich leistungsfähiges Werkzeug. Wie jedes Werkzeug liefert sie hervorragende Ergebnisse – wenn sie mit den richtigen Informationen arbeitet.
Die Qualität der Antwort hängt deshalb häufig weniger von der künstlichen Intelligenz als von der Qualität der Frage und der Vollständigkeit des Sachverhalts ab. ChatGPT macht erstaunlich selten Rechenfehler. Menschen machen erstaunlich häufig Eingabefehler.
Gerade im Familienrecht, Erbrecht oder Steuerrecht können bereits kleine Ungenauigkeiten zu völlig anderen Ergebnissen führen.
Deshalb gilt: Nutzen Sie KI als hervorragenden Assistenten – aber nicht als Ersatz für eine sorgfältige rechtliche Prüfung Ihres individuellen Einzelfalls.
Häufig gestellte Fragen (FAQ)
Kann ChatGPT Rechtsberatung ersetzen?
Nein. ChatGPT kann rechtliche Informationen verständlich erklären, ersetzt aber keine anwaltliche Prüfung des konkreten Einzelfalls.
Warum liefert ChatGPT manchmal falsche Antworten?
Häufig liegt die Ursache nicht in der KI selbst, sondern in unvollständigen oder fehlerhaften Eingaben. Die KI verarbeitet die Informationen, die ihr gegeben werden – fehlende oder falsche Tatsachen kann sie oft nicht erkennen.
Kann ich Berechnungen von ChatGPT vertrauen?
Grundsätzlich ja – sofern alle Ausgangsdaten vollständig und korrekt eingegeben wurden. Schon kleine Fehler, etwa bei Datumsangaben, historischen Währungen oder Vermögenswerten, können das Ergebnis erheblich verändern.
Sollte ich vor einer wichtigen Entscheidung einen Anwalt fragen?
Bei rechtlichen Fragestellungen mit wirtschaftlicher Bedeutung lautet die Antwort eindeutig: Ja. KI kann eine wertvolle Vorbereitung sein, ersetzt aber nicht die rechtliche Prüfung des konkreten Sachverhalts.
Autor
Michael Krug, Rechtsanwalt
Schwerpunkt Familienrecht und Erbrecht
Hinweis: Dieser Beitrag dient ausschließlich der allgemeinen Information und ersetzt keine individuelle Rechtsberatung.