Press "Enter" to skip to content

TalkingLegalTech: Verantwortung und Digitalisierung

Frau Prof. Rostalski (rechts im Bild) im Gespräch mit TalkingLegalTech

Autonome Systeme können eigenständig Informationen verarbeiten und Entscheidungen fällen.
Aber was bedeutet der Einsatz künstlicher Intelligenz für den strafrechtlichen Verantwortungsbegriff? Besteht beim Einsatz künstlicher Intelligenz gar eine Verantwortungslücke?

Auf diese spannenden Fragen erwiderte Frau Prof. Rostalski, Inhaberin des Lehrstuhls für Strafrecht, Strafprozessrecht, Rechtsphilosophie und Rechtsvergleichung an der Universität zu Köln, unser Gast in der zweiten Folge TalkingLegalTech, mit äußerst lehrreichen Antworten.

Da fragst Du Dich prompt: Strafrecht und Legal Tech? Besteht da überhaupt ein Zusammenhang? Keine unberechtigte Frage. Wir hakten auch diesbezüglich bei Frau Prof. Rostalski nach. Eines kann bereits verraten werden: Auch die Liebhaber des Strafrechts kommen im Bereich Legal Tech nicht zu kurz.


Du möchtest erst noch verstehen, was Legal Tech überhaupt ist, bevor Du Dich mit den Einflüssen von Technologie auf das Strafrecht und den Verantwortungsbegriff beschäftigst? 
Hör dir dazu unsere erste Folge TalkingLegalTech mit Nico Kuhlmann an. Sie bildet eine gelungene Grundlage, um sich im Anschluss gemeinsam mit Frau Prof Rostalski und TalkingLegalTech in der zweiten Folge der strafrechtlichen Dimension der digitalen Transformation des Rechts zu widmen.


Es folgt hier, als Kostprobe für die Leser von ReadingLegalTech, ein Auszug der zweiten Folge TalkingLegalTech mit Frau Prof. Rostalski.

Das Interview führten Jin Jenny Ye und Philipp Henkes.

Herzlich Willkommen zu TalkingLegalTech, Frau Prof. Rostalski. Bei der Suche nach Beiträgen oder Veranstaltungen an der Schnittstelle zwischen Digitalisierung und Recht hat man das Gefühl, dass das Zivilrecht diesen Themenbereich doch eher dominiert. Teilen Sie diesen Eindruck?

Ich teile Ihren Eindruck, dass die Entwicklung von Legal Tech im Augenblick vor allem aus dem wirtschaftsrechtlichen Bereich vorangetrieben wird. Der Grund dafür liegt meiner Ansicht nach darin, dass sich primär die rechtsberatende Praxis mit dem Thema Legal Tech beschäftigt. Die vielen wirtschaftsrechtlich beratenden Kanzleien, die sich bereits intensiv mit Legal Tech auseinandersetzen, verfolgen dabei vor allem ihre praktischen Bedürfnisse: Der Einsatz von Legal Tech Anwendungen ist nicht nur an und für sich interessant, sondern kann auch Einsparungen mit sich bringen und somit für Kanzleien wirtschaftlich vorteilhaft sein. Und doch würde ich sagen, dass das Thema Legal Tech zunehmend auch in anderen Rechtsgebieten eine Rolle spielt: Also auch im öffentlich-rechtlichen Bereich, wozu ich eben auch das Strafrecht zähle. Bevor wir uns der Frage widmen, was Legal Tech mit Strafrecht zu tun hat, sollten wir uns vorher überlegen – so wie das der Jurist immer tut – welche Definition von Legal Tech wir unserer Diskussion zugrunde legen. Eine enge Begriffsdefinition wäre: Legal Tech bedeutet Automatisierung der Rechtsanwendung. Das wäre, gerade für das Strafrecht, eine doch sehr restriktive Erfassung von Legal Tech.

Ich würde den Begriff Legal Tech, ähnlich wie andere Wissenschaftler, mit denen ich mich darüber ausgetauscht habe, weiter verstehen: Zu Legal Tech zählen letztlich die gesamten Einflüsse von Technologie auf das Recht. Dieses weite Begriffsverständnis bezieht dann auch eine Vielzahl rechtsphilosophischer und ethischer Fragestellungen mit ein. Daraus ergeben sich dann Fragen, inwiefern die digitale Transformation und die ihr zu Grunde liegenden Technologien eigentlich unseren Verantwortungsbegriff betreffen. Verantwortung spielt im Recht insgesamt, aber gerade im Strafrecht, eine besondere Rolle.  Als Stichwort wäre im Zusammenhang mit ethischen Fragestellungen auch Pre-Policing zu nennen. Vielleicht können wir darauf auch später noch genauer zu sprechen kommen.


Du wüsstest gerne, was hinter dem Stichwort „Pre-Policing“ steckt? In der Tat kamen wir in unserem Interview noch auf dieses Thema zu sprechen. Dieser Teil des Interviews ist nicht von unserer geräuschlosen Kostprobe erfasst. Höre Dir dafür die Folge als Podcast an und erfahre, welche Gedanken Frau Prof. Rostalski sich zu diesem Themenkomplex gemacht hat.


Hinter Ihrem zweiten Doktortitel verbirgt sich Ihre Promotion im Fach Philosophie. Daran anknüpfend: Was hat Sie persönlich dazu bewogen, sich mit Legal Tech und der Digitalisierung zu beschäftigen? Hat das Interesse an diesem Themenfeld seinen Ursprung mehr im philosophischen Teil Ihrer Ausbildung oder sind es vorrangig die mit der digitalen Transformation verbundenen Rechtsfragen, die Sie interessieren?

Ich glaube, dass man sich der Digitalisierung heutzutage nicht mehr wirklich entziehen kann. Wir leben meiner Ansicht nach aktuell in der Zeit der digitalen Transformation. Damit meine ich den erheblichen gesellschaftlichen Umbruch, den wir bereits erleben und von dem wir uns vielleicht noch gar nicht vorstellen können, wie weit er in der Zukunft gehen wird. Dieser Umbruch spielt sich aber nicht auf einer abstrakten Ebene ab, sondern es wird in unserem Leben – ganz konkret – immer mehr von der Digitalisierung bestimmt. Da spielt es natürlich eine Rolle, dass wir uns in irgendeiner Form dazu verhalten. Ich verstehe meine Wissenschaft sowohl in rechtlicher als auch in philosophischer Hinsicht immer so, dass ich gerne mit dabei wäre, wenn es um die Umgestaltung grundlegender gesellschaftlicher Fragen geht. Ich würde, gerade als Geisteswissenschaftlerin, bei der Beantwortung der Fragen rund um die digitale Transformation gerne mitsprechen. Mit Blick auf die Zweispurigkeit meiner Ausbildung, die Sie angesprochen hatten: Ich habe das Strafrecht immer schon aus einer philosophischen Perspektive betrachtet. Meine Auseinandersetzung mit dem Recht begreife ich also nicht nur als eine Erfassung der individuellen Rechtsdogmatik mit ihren strengen Grenzen, sondern vor allem immer als Frage: Ist der Zustand, wie wir ihn jetzt gerade im Recht haben, gut so wie er ist oder sollten wir ihn uns vielleicht nicht doch ganz anders vorstellen. Die Digitalisierung ist dann letztlich ein Anwendungsfeld für mich. Und natürlich ein besonders Wichtiges. Vor allem der Bereich der künstlichen Intelligenz hat mich in der letzten Zeit intensiv beschäftigt.

Sie hatten künstliche Intelligenz und den Verantwortungsbegriff bereits angesprochen. Mit Blick auf den Einsatz von künstlicher Intelligenz, insbesondere im Bereich des autonomen Fahrens, findet zur Zeit eine intensive Debatte über Verantwortung und eine möglicherweise bestehende Verantwortungslücke statt. Was steckt hinter dieser Diskussion und dieser sogenannten Verantwortungslücke?

Es wird ganz häufig darüber gesprochen, dass wir im Rahmen des Einsatzes künstlicher Intelligenz eine Verantwortungslücke haben. Nun, was stellen wir uns darunter vor? Das Problem, und doch das große Potential des Einsatzes künstlicher Intelligenz ist, dass es sich um eine Technologie handelt, die selbständig weiterlernt. Das hat ein großes positives Potential für uns, weil es Vereinfachungen mit sich bringt. Es muss nicht mehr jede einzelne Anweisung neu an die Technologie gegeben werden, sondern ab einem bestimmten Zeitpunkt lernt sie selbständig, ohne dass wir etwas tun müssen. Aus dieser „Fähigkeit zum Selbstlernen“ kann sich gelegentlich ein Folgeproblem ergeben: Die künstliche Intelligenz lernt in einer Form weiter, die wir gar nicht vorhergesehen haben. Wir haben bestimmte Regeln am Anfang vorgegeben und auf dieser Basis wird das autonome System eingesetzt. Im Laufe der Zeit werden auf Grundlage der ursprünglich gesetzten Regeln mehr Daten gesammelt und die künstliche Intelligenz erlernt neue Funktionen. Und dann erlernt das autonome System vielleicht etwas, womit der Mensch vorher überhaupt nicht gerechnet hat. Was passiert nun, wenn etwa das selbstfahrende Auto einen Unfall verursacht? Die Frage, die dann im Raum steht, lautet: Wer ist für diesen Unfall strafrechtlich verantwortlich? 
Nun gibt es Einige, die davon ausgehen, dass dieses Unfallgeschehen gar nicht mehr zugerechnet werden kann. Schließlich konnte der Mensch doch gar nicht mit einem Unfall rechnen. Meiner Ansicht nach ist das doch zu kurz gedacht. Ich bin der Auffassung, dass wir den Anknüpfungspunkt für die Verantwortung richtig wählen müssen. Wenn ich das konkrete Ereignis nicht vorhersehen konnte, ist es sicherlich so, dass ich jedenfalls unter dem Gesichtspunkt der Vorhersehbarkeit dieses konkreten Ereignisses nicht dafür verantwortlich gemacht werden kann. Wofür ich aber durchaus eine Verantwortung trage, ist, dass ich mich überhaupt einer Technologie bedient habe, die das Potential hat, etwas zu tun, womit ich nicht rechne. Dann ist hier schon ein Anknüpfungspunkt für die Verantwortung gefunden, so dass ich persönlich die behauptete Verantwortungslücke bisher nicht gefunden habe.

Aber es ist doch problematisch, wenn wir diesbezüglich ständig Programmierer, Entwickler oder Nutzer strafrechtlich verantwortlich machen würden. Ist das wirklich das richtige Mittel, um auf diese Entwicklung zu reagieren oder müsste man nicht sagen: Wir nehmen das aus dem Bereich strafrechtlicher Verantwortung heraus und regeln das anders?

Ja, die Frage ist ganz berechtigt. Ich hatte das große Potential, dass der Einsatz einer neuen Technologie, wie etwa der Künstlichen Intelligenz, mit sich bringt, bereits angesprochen.

Es ist immer so, dass neue Technologien uns zunächst neue Freiheiten ermöglichen. Als die Dampflokomotive erfunden wurde, konnte der Mensch zum Beispiel schneller reisen als vorher.  Das war ein großer Freiheitsgewinn. Genauso ist es auch in Zeiten der Digitalisierung. Sie ermöglicht eine Vielzahl neuer Freiheiten, die wir vorher nicht hatten. Auch da habe ich ganz neue Möglichkeiten. Dennoch ist es wichtig, sich zu fragen, wie wir verantwortungsvoll mit Fortschritt umgehen. Zur Beantwortung dieser Frage bedarf es eines gesellschaftlichen Diskurses, den sie auch ganz zu Recht ansprechen. In welchem Umfang wollen wir es zulassen, dass solche Entwicklungen voranschreiten und in welchem Umfang wollen wir bestimmte Weiterentwicklungen von Technologie zulassen, ohne dass wir dann Individuen dafür verantwortlich machen. Sie hatten die Gruppe der Programmierer bereits angesprochen. Für einen Programmierer kann sich tatsächlich die Situation ergeben, dass er sagt: “Okay, ich arbeite urplötzlich in einem unglaublich gefahrträchtigen Bereich. Da stecke ich doch eigentlich schon fast immer mit einem Bein im Gefängnis.” Dabei kann ja die Technologie, die der eine oder andere Programmierer entwickelt, unglaublich wichtig für unsere ganze Gesellschaft sein. Diesbezüglich ist in jedem Fall ein gesellschaftlicher Diskurs gefragt, in dem wir uns darüber unterhalten müssen, ob wir vielleicht bestimmte Formen der Fahrlässigkeit im Hinblick auf bestimmte Tätigkeiten aus der Verantwortlichkeit herausnehmen. Da kann man keine pauschale Antwort geben. Das muss man von Bereich zu Bereich besprechen. Wichtig ist, dass das dazu bestehende Diskurspotential erkannt und unbedingt ausgeschöpft wird.

Du bist bereits am Ende der geräuschlosen Kostprobe der zweiten Folge TalkingLegalTech angekommen. Du willst wissen, wie es weitergeht? Hör doch mal rein! TalkingLegalTech gibt es bei Spotify, iTunes, Soundcloud oder hier auf unserer Website. Am Ende der Folge teilte uns Frau Prof. Rostalski auch noch Ihre persönlichen Literaturempfehlungen mit.


 

LegalTechLabCologne
LegalTechLabCologne

View all posts