Vertragsabschlüsse durch Künstliche Intelligenz: Rechtliche Herausforderungen und Chancen

Die Künstliche Intelligenz (KI) übernimmt immer mehr Aufgaben in der Vertragsgestaltung. Ein aktuelles Experiment beleuchtet die rechtlichen Herausforderungen und Chancen, die sich aus automatisierten Vertragsabschlüssen ergeben.  Besonders die Haftung und Beweiskraft von Smart Contracts, die mithilfe der Blockchain-Technologie dokumentiert wurden, standen dabei im Fokus. 

Im Juli 2024 wurde erstmals ein Experiment durchgeführt, um zu prüfen, ob Künstliche Intelligenz Verträge schließen kann. Hierfür wurde das fiktive Landgericht Südlingen gegründet. Was genau der Inhalt des Experiments war und wie sich der Ablauf gestaltet hat, erfahren Sie hier. Außerdem bieten wir Ihnen einen Überblick über Smart Contracts, Blockchain-Technologie und die rechtlichen Risiken beim Einsatz von KI in der Rechtswelt.  

Das Experiment 

Das sogenannte Landgericht Südlingen, das speziell für diesen Versuch eingerichtet wurde, urteilte am 28. Juni 2024 darüber, ob Verträge, die ohne menschliche Beteiligung durch Künstliche Intelligenz abgeschlossen wurden, rechtlich wirksam sind. Reale Richter:innen, Anwält:innen und Sachverständige kamen im Saal 123 des Amtsgerichts Frankfurt zusammen und entschieden im Rahmen dieses fiktiven Gerichtsverfahrens über diese zukunftsweisende Frage.  

Was ist Künstliche Intelligenz? 

Was bedeutet denn überhaupt Künstliche Intelligenz? KI soll menschliche kognitive Fähigkeiten imitieren. Dabei soll die Umwelt mit Hilfe der KI im technischen System wahrgenommen werden und mit dem Wahrgenommenen umgegangen werden und schlussendlich Probleme gelöst werden. Mittlerweile ist es den KI-Systemen möglich, ihr Handeln anzupassen durch Analysierung früherer Aktionen und deren Auswirkungen.  

Auch im Alltag verwenden die meisten Meschen KI, ohne es vielleicht direkt wahrzunehmen. Beispielsweise beim Online-Shopping, beim Fahren autonomer Autos oder durch das Nutzen persönlicher digitaler Assistenten am Smartphone. Erkennbar ist daher, dass KI immer mehr Relevanz im alltäglichen Leben bekommt. 

Ob dies jedoch auch in die Rechtswelt übergeschlagen ist, ist fraglich. Das Landgericht Südlingen hat in jedem Fall nun entschieden, dass Verträgen, die durch Softwareagenten automatisch geschlossen werden, rechtliche Wirksamkeit zukommt. Auch die Frage, ob der automatische Vertragsabschluss und die automatisierte Ausführung des Vertrags durch Smart Contracts durch eine Blockchain dokumentiert werden können, hat das fiktive Landgericht bejaht.  

Fraglich ist nun was genau Smart Contracts sind und wie diese auf einer Blockchain dokumentiert werden können. Smart Contracts sind selbstausführende Verträge auf der Basis von Blockchain-Technologie. Die Vertragsbedingungen des Smart Contracts sind dabei direkt im Code enthalten. Dieser Code läuft dann auf der Blockchain und führt autonom Aktionen aus, die eintreten sobald vorher definierte Bedingungen erfüllt werden.  Die Blockchain stellt eine Technologie dar, welche Informationen in einer öffentlich zugänglichen und einsehbaren Datenbank verarbeitet, speichert und verwaltet.  

Der fiktive Fall und das Urteil 

Der Rechtsinformatiker Professor Georg Borges von der Universität des Saarlandes hat einen Fall erfunden, der sodann als realer Fall behandelt wurde. In diesem Fall ging es darum, dass die Klägerin „Product Engineering GmbH“ ein Produkt herstellt, welches die Bewegungen einer Maschine erleichtern und den Kaufpreis von der Gegenseite nicht erhielt. Die Beklagte, die „Bertel Maschinen GmbH“ benötigte das von der Klägerin hergestellte Produkt und schloss vollautomatisch erzeugte Bestellungen ab. Die Vertragsverhandlungen mit der Klägerin wurden durch ein Computerprogramm als Agenten abgehandelt. Hierbei wurde sodann auch die Erzeugung eines Smart Contracts, welcher auf einer Blockchain basiert, veranlasst.  

Im Fall geht es um zwei Bestellungen, welche von der Beklagten getätigt worden sein sollen. Bei der ersten Bestellung bestreitet die „Bertel Maschinen GmbH“ gänzlich, jemals eine solche Willenserklärung abgegeben zu haben. Bei der zweiten Bestellung sollen mangelbehaftete Produkte geliefert worden seien. Die Beklagte ist der Meinung, sie habe die Mangelhaftigkeit unverzüglich gerügt. Aufgrund einer Systemstörung soll es jedoch zu einer verspäteten Übermittlung gekommen seien.  

Das Landgericht Südlingen entschied zugunsten des fiktiven Klägers und bejahte die Wirksamkeit von durch KI geschlossenen Verträge. Weiterhin urteilte das Gericht darüber, ob dieser Vertragsschluss durch den oben beschriebenen Smart Contract auf einer Blockchain dokumentiert werden darf und stimmte auch dieser Ansicht zu.  

Inwiefern kann daher die Dokumentation per Blockchain-Technologie als Beweismittel eingestuft werden kann und wie kann der durch Maschinen entstandene Vertragsschluss rechtlich beurteilt werden?  

Nun standen die Richter des LG Südlingen vor der Frage, wie dieser Fall zu behandeln ist. Dadurch, dass die konkreten Parameter für den automatisierten Vertragsschluss durch die Parteien zuvor bestimmt wurden und der Urheber der elektronischen Willenserklärung erkennbar sein muss, steht doch ein Mensch hinter dem automatisierten Vertragsschluss. Somit ist das fiktive Gericht zu dem Fazit gekommen, dass grundsätzlich die allgemeinen zivilrechtlichen Regelungen anwendbar sind.  

Künstliche Intelligenz in der Rechtswelt? 

Im April 2021 hat die Kommission einen europäischen Rechtsrahmen für künstliche Intelligenz vorgeschlagen. Es wurde eine Empfehlung ausgesprochen, dass KI-Systeme nach ihrem Risiko in Bezug auf die Nutzer eingestuft werden sollen. Weiterhin soll eine einheitliche Definition des Begriffes Künstliche Intelligenz geschaffen werden, die zusätzlich auch technologieneutral sein soll.  

Am 22. Mai 2024 wurde sodann die KI-Verordnung der EU verabschiedet. Nun liegt es an den Mitgliedsstaaten eine Balance zwischen technischer Innovation und Risikoschutz der Nutzer zu finden und dies in nationales Recht umzusetzen. Der sogenannte KI-Act schreibt vor, dass kein Missbrauch von KI-Anwendungen stattfinden darf. Hierbei wird auf einen risikobasierten Ansatz abgestellt: je höher das Risiko der Anwendung eingestuft wird, desto strenger und ausführlicher ist der Regelungsrahmen. Auch Transparenzpflichten sind Inhalt des KI-Acts. Hierbei müssen künstlich erzeugte oder bearbeitete Bilder eindeutig als solche markiert werden. 

Unsere Einschätzung

Künstliche Intelligenz stellt definitiv einen wesentlichen Bestandteil der technischen Transformation der Gesellschaft dar. Die Bundesregierung betont, dass mit dem Einsatz von KI Chancen eröffnet werden. Gleichzeitig stellt die Nutzung Künstlicher Intelligenz ein hohes Risiko dar. Vor allem solche KI-Systeme werden als risikoreich eingestuft, die bei der Personalauswahl eingesetzt werden. Das heißt, dass beispielsweise bei der Beurteilung, ob jemand einen Anspruch auf einen Kredit hat, hohe rechtliche Hürden das Risiko des Missbrauchs und der Falschbewertung verringern sollen. Weiterhin werden solche Systeme verboten, die eine definitive Bedrohung für die Grundrechte von Menschen darstellen.  

Wenn Sie und Ihr Unternehmen Künstliche Intelligenz rechtssicher einsetzen möchten und dabei Risiken vermeiden wollen, stehen wir Ihnen zur Seite. Wir unterstützen Sie gerne und beraten Sie umfassend auf Ihrem Weg zur technischen Innovation. Bei Fragen, wenden Sie sich auch gerne direkt an unsere Rechtsanwältin Paola Koudela. 

Vermerk: Bitte beachten Sie, dass in diesem Dokument bei den durch Gesetze festgeschriebenen Begriffen auf das Gendern verzichtet wird, um die juristische Präzision und Klarheit zu wahren. In allen anderen Textteilen wird eine gendergerechte Sprache verwendet, um die Gleichstellung aller Geschlechter zu fördern.