Paul Kirchhof
Paul Kirchhof Künstliche Intelligenz Ordnung der Wissenschaft 2020, ISSN 2197–9197 I. Der Ausgangsbefund: Der intelligent programmierte Automat Die Technik befähigt den Menschen immer wieder, etwas zu tun, was er aus eigener Kraft nicht tun könnte. Als das Rad erfunden wurde, konnten Wagen sich schneller bewegen, als der Mensch je hätte laufen können. Heute scheint ein selbstfahrendes Auto zum Chauffeur für jedermann zu werden. Doch der Mensch bleibt Herr des Geschehens, so lange er diese selbstfahrenden Fahrzeuge nur zulässt, wenn er zumindest die gleiche Steuerungskraft und Sicherheitsherrschaft über das Geschehen behält wie beim selbst gelenkten Auto. Als die Buchdruckertechnik entwickelt war, hat die gedruckte Botschaft sich weiter verbreitet, als der Autor selbst sie hätte tragen können. Heute erschließt die Digitalisierung Kommunikationsmöglichkeiten, die weltweit verfügbares Wissen zugänglich machen, den Austausch in Sprache und Bild rund um die Welt eröffnen, die Nutzung dieser Möglichkeiten aber in der Herrschaft des PC-Nutzers bleibt. Als die Elektrizität entdeckt war, konnte die Technik besser als der Mensch Wärme, Licht und Bewegung erzeugen, Sprache und Bilder vermitteln. Heute setzt ein Algorithmus eine Abfolge von Prozessschritten ins Werk, die einem vorgegebenen Programm folgen, dann aber eine gestellte Aufgabe durch Beobachten und Nachahmen auf eigenständig neu entdeckten Wegen erfüllen. Der Arzt schickt mit der Nano-Technik ein kleines, für das menschliche Auge nicht sichtbares Reparaturteam in den menschlichen Körper, das dort Adern und Atemwege reinigt, Brüche zusammenfügt. Diese sich verselbständigenden Algorithmen organisieren sich in hochdimensionaler, nicht-linearer Dynamik selbst, entdecken immer neue Wege zum Erreichen des vorgegebenen Ziels, dürfen aber nur eingesetzt werden, wenn der Arzt stets Ablauf und Wirkungen dieser Automaten beobachtet und im Dienst des Patienten beherrscht. Sprachassistenten bieten ein Übersetzungsprogramm, das Fähigkeiten eines Dolmetschers übersteigt. Der Rechner kann Daten des Straßenverkehrs so zu einem Erfahrungsschatz kombinieren, dass er bessere Empfehlungen für die Verkehrssicherheit und den Umweltschutz gibt, als es menschliche Planung vermag. Ein Unternehmen kann seine Betriebsabläufe automatisieren, Rechnungswesen, Bilanzierung und Steuererklärung computergestützt vereinfachen und erneuern. Fondsmanager entdecken die Algorithmen als ein Werkzeug der Vermögensverwaltung, das Stimmungen und Trends, Bedarfslagen und Wertschöpfungspotentiale, ökonomische, ökologische und politische Rahmenbedingungen des Marktes analysiert und zu Kauf- oder Verkaufsempfehlungen verdichtet. Der Hochfrequenzhandel treibt Handel technisch, ohne Vertragsvereinbarung. Der Algorithmus spielt Schach und schlägt dabei den Weltmeister. Algorithmen beginnen zu komponieren und zu malen. Prognosen sprechen bereits von einem sich selbst programmierenden Computer, dessen der Mensch kaum noch Herr werden könne. Der Mensch bestimmt dann nicht mehr seine Helfer, sondern die Helfer erwarten, dass der Mensch sich den Regeln der Apparate anpasse. Ein Datenregime stürzte den Menschen in Ohnmacht, die Menschlichkeit in technische Gefühlsleere und Hoffnungslosigkeit. Diese Wissenschaft und Technik wirbelt unser Denken und unsere Begriffe durcheinander. Wir sprechen der Maschine eine „künstliche Intelligenz“ zu, verstehen sie als ein „lernendes“ Subjekt, wollen ihr beibringen, Gefühle zu entwickeln und ethisch zu handeln. Wenn wir so von Maschinen menschliche Eigenschaften erwarten, belegt das ein ungenügendes Verstehen dessen, was in diesen Maschinen vorgeht. Wir müssen uns in Gelassenheit bewusst machen, was ein Algorithmus derzeit kann. Er kann sich in hochdimensionaler Dynamik selbst organisieren, ein vorgegebenes Ziel mit eingegebenen Daten verfolgen, findet dann in der Spur dieser Zielvorgaben und Wirkungsmittel verbesserte Möglichkeiten, das Ziel zu erreichen. Er entscheidet aber nicht selbstständig, sondern produziert nach den im Programm gegebenen Kriterien Geschehensabläufe. Er kann die bisherigen Erfahrungen nicht verlassen und ein neues Morgen entwerfen. Er entwickelt keine Gefühle, erinnert sich nicht, kann nicht lieben, keine Freundschaften schließen, nicht hoffen, kein Gewissen bilden, hat weder Ethos noch Moral noch Feingefühl. Er ist nicht verantwortlich. Das Recht kann nicht ihn, sondern nur den die Maschine beherrschenden Menschen ansprechen. Der moderne Automat ist eine selbsttätige Maschine. Sie ist gut programmiert, nicht intelligent. 2 O RDNUNG DER WISSENSCHAFT 1 (2020), 1–8 II. Der Auftrag, die Herrschaft über die Maschine zu behalten Diese begriffliche Klarstellung beendet die Verbalsuggestion, der Mensch könne von der Maschine Menschlichkeit erwarten. Er muss sich um seiner Freiheit, seiner Gefühle und Hoffnungen willen die Herrschaft über die Maschine vorbehalten, sich gegenüber den maschinellen Herausforderungen zur Freiheit neu qualifizieren. Wissen mehrt Handlungsmöglichkeiten. Wissenschaft ist deshalb stets auch Freiheitspolitik. Wir verstehen den Menschen als begabt, abstrakt zu denken, rational und moralisch zu entscheiden, zu lieben und zu hoffen. Deswegen gewährleistet die Verfassung jedem Menschen ein Recht auf Würde, auf ein Gewissen, auf Autonomie. Die Maschine hingegen kann Kausalabläufe wiederholen, Erfahrungen aufnehmen, Daten speichern und kombinieren. Sie folgt den vom Menschen vermittelten Erkenntnissen und Irrtümern, Urteilen und Vorurteilen, Regeln für gutes Leben oder bloßen aktuellen Trends und Schwarmverhalten. Allerdings gewinnt der Automat Einfluss auf den Menschen, weil er dessen Lebensbedingungen verändert. Wenn der Mensch erfährt, dass körperliche Anstrengung von der Maschine übernommen wird, er statt seines Gedächtnisses den Computer nutzt, der Computer besser rechnet und aus der Zahlenkombination neue Handlungsalternativen ableitet, so kann dieses Wissen ihn auch lähmen, körperlich erschlaffen und geistig träge werden lassen. Er gerät in Abhängigkeit, in Unfreiheit. Wissen über sich selbst stärkt die Kraft zur Selbststeuerung, schärft Selbstkritik und Gewissen, kann den Menschen aber auch Lebensmut und Hoffnung nehmen. Wer viel über sich selbst weiß – ein Algorithmus macht den nahen Tod oder eine schwer ausweichliche Drogenverstrickung bewusst –, kann dieses Wissen zur Selbsthilfe nutzen, aber auch als Anstoß zu Resignation und Selbstvernichtung verstehen. Deshalb setzt diese Information ein Einverständnis voraus. Vor allem muss die Wissenschaft gewährleisten, dass die technischen Helfer die menschliche Vernunft nicht zu Teilrationalitäten verkümmern lassen. Wenn ein Algorithmus ein Ziel verfolgt – eine bessere Operationstechnik, eine identitätsbestimmende Genforschung, eine Gewinnmaximierung –, muss eine Gesamtvernunft des Menschen diese Teilrationalitäten zusammenführen, um Humanität zu wahren, Hoffnungen zu verwirklichen, die Fähigkeit und Bereitschaft des Menschen zu stärken, eine bessere Zukunft zu definieren. Wissen ist Chance und Waffe zugleich. Das griechische Freiheitsideal wollte den Bürgern die Freiheit von Handwerk und Handel vermitteln. Der Automat bringt uns diesem Ideal heute näher. Wir stellen mit 3D-Druckern Schicht für Schicht computergesteuert Werkzeuge her, überlassen im Berufsalltag technischen Helfern die körperliche Arbeit, das Rechnen und Bilanzieren, das Produzieren und Transportieren, wickeln auch privat den Handel digital ab. Wir planen Reisen in Vergleichsportalen. Der Nutzer steht staunend vor dieser Entwicklung. Doch es stellt sich die Frage, ob der Mensch mit zunehmender Herrschaft über die Natur und ihre Gesetze seine freiheitliche Selbstbestimmung an die Maschine verliert. Neuere Studien des „Maschinenverhaltens“ beobachten die Maschinen als selbstgesteuerte Wesen. Diese „Verhaltensforschung“ will feststellen, wie die Maschinen auf veränderte Umgebungen und Situationen reagieren, wie sie miteinander umgehen, wie sie auf den Menschen zurückwirken. Gefragt wird nicht, welche Programme der Mensch ins Werk setzt, welche er veranlassen darf, welche er verändern und stoppen muss. Rechtspolitische Erwägungen neigen sogar dazu, eine sich verselbständigende Technik als rechtserheblich handelndes Subjekt zu verstehen, also mit eigenen Rechten und Pflichten auszustatten. Der Mensch scheint den Algorithmus aus der Hand gegeben zu haben, muss sich jetzt mit ihm als einem eigenständigen Gegenüber auseinandersetzen. III. Die Herrschaft des Menschen über die Technik Doch der Mensch stellt den Automaten her, nutzt ihn für seine Zwecke, beendet seine Funktionen. Die vermeintliche Herrschaft der Maschine ist die Herrschaft eines Menschen. Deshalb hat die Forschung den Algorithmus wieder als ein vom Menschen programmiertes und von ihm beherrschtes Mittel im Dienst des Menschen zu gestalten. Gesicherter Ausgangsbefund ist dabei, dass der Mensch herrschen will, auch über die von ihm entwickelte Technik Bestimmungsmacht beansprucht. Deshalb erscheint die Frage, wie der Mensch die Herrschaft über eine eigenständige Maschine zurückgewinnt, ein Problem sachgerechter wissenschaftlicher Themenstellung. Er kann die Maschine so programmieren, dass der Mensch sie jederzeit beobachtet, lenkt, verändert oder stoppt. Problematischer erscheint die Frage, wer diese Herrschaft über die Maschine mit welchen Mitteln ausübt. Herrscher ist nicht die Maschine. Es herrscht entweder der Programmierer und seine Auftraggeber oder das Recht, das die Maschine dem Menschen unterordnet. Wenn der Arzt einen programmierbaren medizinischen Eingriff einem Roboter übergibt, weil dieser den Kirchhof · Künstliche Intelligenz 3 Heilversuch verlässlicher vornehmen kann, wird er und nicht der Techniker in seiner ärztlichen Gesamtbeobachtung des Patienten, auch in seiner aus Erfahrung und Ethos erwachsenden ärztlichen Intuition die Herrschaft über den Heilvorgang in eigener Hand behalten. Er entscheidet, ob der Roboter sein Handeln fortsetzt, verändert oder beendet. Die Maschine dient dem Arzt als Helfer, ersetzt ihn nicht. Zwar wird der Arzt die Maschine nicht vollständig verstehen. Doch es genügt, dass das medizinische Hilfsmittel so der Herrschaft eines Menschen unterworfen wird wie das Auto: Der Fahrer versteht nicht dessen Technik, beherrscht sein Fahrzeug aber mit Hilfe des Lenkers, des Gaspedals und der Bremse. Fehlten diese Instrumente menschlicher Bestimmungsmacht, würde das Fahrzeug nicht zum Straßenverkehr zugelassen. Die Naturwissenschaften haben allerdings jahrzehntelang behauptet, der Mensch tue, was er könne. Doch wenn die Atomtechnik in Kettenreaktionen die Welt zerstören kann, die Gentechnik die Identität des Menschen verändern könnte, die Psychopharmaka wesentlichen Einfluss auf die Willensbildung des Menschen gewinnen und eine Kriegsdrohne einen Kriegseinsatz ohne das unmittelbare Erlebnis des Kriegsführenden von Not und Elend des Krieges ermöglicht, wird die Frage nach dem, was der Mensch darf, unausweichlich. Wir müssen uns auf den Weg zurück zur Universitas begeben, in der das Zusammenwirken von Naturwissenschaften und Geisteswissenschaften eine Selbstverständlichkeit ist. Der Mensch kann nur erkennen, wenn er die Welt beobachtet, zugleich aber eine Vorstellung von der Welt entwickelt, wie sie sein soll. Ein Richter kann Unrecht nur beanstanden, wenn er weiß, was Gerechtigkeit ist. Ein Arzt wird Krankheiten nur heilen, wenn er eine Vorstellung von der Gesundheit besitzt. Ein Umweltschützer wird Umweltschäden nur vermeiden, wenn er eine Idee von der reinen Natur, der unverletzten Welt vor Augen hat. Diesen Zusammenklang von Können und Dürfen vermag ein technisches Programm nicht herzustellen. Der Algorithmus kann keine Humanität, kein Maß, keine Verantwortlichkeit und kein Gewissen entfalten. Eine Maschine hat keine Überzeugung, erlebt nicht Gemeinschaft, empfindet nicht Verantwortung. Sie ist nicht ehrbar. Ein Kausalanstoß ist nicht anständig. Ein Algorithmus empfindet nicht die persönliche Betroffenheit des Menschen. Der Mensch muss deshalb für alle von ihm ins Werk gesetzten technischen Abläufe die Herrschaft zurückgewinnen, jederzeit den Prozess verlangsamen, beschleunigen, neu ausrichten, auch beenden können. Der Mensch übt Herrschaft in ersichtlicher Verantwortlichkeit für das automatische Technikgeschehen aus. Technischer Fortschritt und menschliche Herrschaft müssen gleichrangig und gleichzeitig voranschreiten. IV. Maßstäbe für die Verantwortung des Menschen Die EU-Kommission hat mit Nachdruck die dauerhaft dienende Funktion der Algorithmen betont und Mechanismen gefordert, welche die Verantwortlichkeit und Rechenschaftspflicht des Menschen für diese Algorithmen und deren Ergebnisse gewährleisten. Mit dieser Diskussion um die Maßstäbe, nach denen diese neue Technik ins Werk gesetzt werden darf, ist Europa auf dem Weg, Kriterien für die Verantwortlichkeit und Rechenschaftspflicht des Menschen für diese Algorithmen und deren Ergebnisse zu entwickeln, diese Techniken gegen den Zugriff unberechtigter Dritter, insbesondere der Kriminalität, des Wirtschaftskrieges und der Politik, abzuschirmen, alle technischen Systeme als solche erkennbar und transparent zu machen, so dass jeder zurückverfolgen kann, welches Ziel dieses System mit welchen Mittel in wessen Auftrag verfolgt. Diese Transparenz wird systematisch verhindert, wenn die sogenannten „sozialen Medien“ dem Nutzer in der Anonymität gestatten, Fehlnachrichten zu verbreiten, andere Menschen – den Lehrer, den Richter, den Konkurrenten – einer Untat zu bezichtigen, die er nicht begangen hat, ohne dafür zur Rechenschaft gezogen werden zu können. Diese Anonymität, die organisierte Unverantwortlichkeit, ist Geschäftsmodell dieser Unternehmen. Sie widerspricht der Idee der Freiheit, die jedermann die freie Meinungsäußerung gewährleistet, dabei aber erwartet, dass der Sprecher mit seinem Namen und seinem Gesicht für das einsteht, was er sagt. Menschliche Verantwortlichkeit für die Maschine wirkt vorbeugend, muss also vermeiden, dass die Maschine dem Menschen Schaden zufügt. Ausgangspunkt dieser vorbeugenden Verantwortlichkeit und ihr für Wissenschaft und Technik geeignetes Maß bietet das Recht der Gefahrenvorsorge, der Auftrag zu einer universalen, die Spezialisierung überwindenden Wissenschaft, ein – maßvoller – Datenschutz und die Erfahrungen internationaler Kooperationsverbünde. Treten trotz der Vorsorge Schäden ein, wird das Recht eine Gefährdungshaftung organisieren. Wer einen gefährdenden Kausalablauf ins Werk gesetzt hat – einen Atomreaktor betreibt, ein Auto fährt –, muss schon wegen dieser ihm zuzurechnenden Gefährdungslage auch für einen eingetretenen Schadensfall einstehen. Das setzt wiederum voraus, dass der verantwortliche Programmierer individualisierbar, der Schaden zurechenbar und die Haftungsfolge für einen beherzten technischen Fortschritt nicht hinderlich ist. 4 O RDNUNG DER WISSENSCHAFT 1 (2020), 1–8 Die Kooperationsvereinbarungen der Forschung, die rechtlichen Rahmenbedingungen der Technik und die öffentliche Forschungsförderung sollten darauf hinwirken, dass die Hauptakteure regelmäßig ihre Themen und Vorhaben veröffentlichen, in Fallbeispielen und Erkenntnisfortschritten publizieren, um eine allgemeine, ideal: weltweite, Technik- und Maßstabsforschung voranzutreiben. Die Technik wird sich weiterentwickeln, die rechtlichen und ethischen Verantwortungsmaßstäbe werden Schritt halten. Will eine deutsche Wissenschaftsorganisation ihren Maßstäben des Persönlichkeitsschutzes, der Aufklärung oder des Rückrufs von Daten genügen, arbeitet sie aber weltweit mit anderen, einem fremden Recht unterliegenden Organisationen zusammen, so kann sie nur eine in gegenseitiger Annäherung erreichbare Rechtstreue versprechen. Dabei sind die roten Linien des unaufgebbaren Rechts – die juristischen Axiome, Tabus, Unverletzlichkeiten – zu beachten. Die Internationalität der Wissenschaftskommunikation ist aber auch im Recht auf Annäherung und wechselseitige Inspiration angelegt. V. Die Verantwortlichen Die Verantwortung für eine vom Menschen geschaffene Technik liegt beim Menschen. Der Hersteller der Technik wird den Automaten so anlegen, dass die Automatismen – ihre Ziele und die dafür eingesetzten Mittel – für einen außenstehenden Beobachter erkennbar, nachvollziehbar und kontrollierbar sind, ihre Wirkungen der Mensch stets lenken und korrigieren kann. Der Programmierer wird sein Programm in legitimen Zielen, vertretbaren Instrumenten der Zielerreichung, bedachten und gemäßigten Nebenwirkungen verantworten. Der Nutzer dieser Technik wird für jeden technisch bewirkten Erfolg, den dafür erbrachten Aufwand, die Betroffenheit der Menschen und ihrer Lebensbedingungen einstehen. Dabei ist in einem System mit tausenden von Entscheidungen und einem kaum mehr beherrschbaren exponentiellen Wachstum nicht der gedankliche Nachvollzug jedes Kausalablaufs und jedes Wirkungszusammenhangs gemeint, sondern die stetige Wirkungskontrolle. Eine Klinik wird gewährleisten, dass jeder Arzt, der computerbasiert diagnostiziert, operiert, Medikamente verschreibt und Verhaltensweisen empfiehlt, zur Überwachung und Intervention in der Lage und bereit ist, seine wahrgenommene Verantwortlichkeit auch protokolliert und unterzeichnet. Die Industrie wird ihre technisierten Produktions- und Handlungsabläufe so organisieren, dass der Firmenleitung das Unternehmen nicht außer Kontrolle gerät. Bei den Kommunikationsmedien steht der Betreiber vor der Aufgabe, die verbreiteten Inhalte – Texte, Fotos, Videos – so zu gestalten, dass Hass und Häme vermieden werden, persönliche und wertvernichtende Entwürdigungen unterbunden, die Nutzer weder manipuliert noch schikaniert werden. Falschinformationen sollen nicht verbreitet, andernfalls jedenfalls berichtigt werden. Auch die Meinungsäußerungsfreiheit ist ein Recht, das definiert, also begrenzt ist, auf die gleichen Rechte anderer Menschen und die Anliegen der Rechtsgemeinschaft abgestimmt wird. Heute versuchen Betreiber, den maschinellen Programmen Maßstäbe einzugeben, die moralische Werte und ethische Normen zu Funktionsbedingungen der Maschine machen. Dadurch entstehen aber nicht „ethische Maschinen“, sondern Techniken, in deren Kausalund Effizienzabläufe auch der Erfahrungsschatz eines „guten Lebens“ eingearbeitet worden ist. Diese Bemühungen allerdings setzen eine elementare philosophische und rechtliche Vergewisserung über unsere gemeinsamen Werte und Verhaltensprinzipien voraus. Bewusst gemacht werden müssen die im Wirtschaftssystem, im Wissen, in der Technikbeherrschung angelegten Machtstrukturen, die in unserer Geschichte und sozialen Realität vorhandenen Ungleichheiten, die Definition des jeder Freiheit vorgegebenen „Gemeinwohls“ und die dafür Verantwortlichen. Auch die Einfluss- und Wohlstandsverteilung in einer Demokratie, die Leistungskraft des Rechts in den interessen- und gewaltenteilenden Strukturen der Gegenwart, das Verhältnis von Macht, Wirtschaft und Wohlstandsverteilung sollten ersichtlich sein. Die Fähigkeit und Bereitschaft des Menschen, eine bessere Zukunft zu definieren, kann als gesicherter Allgemeinbefund aufgenommen werden. Sind diese Maßstäbe definiert – ist der „Philosophenkönig“ neu entdeckt –, darf man von der Maschine dennoch nicht eine größere Unvoreingenommenheit, nicht eine bessere Verteilung von Entscheidungskompetenzen erwarten, weil das Maschinenprogramm so abläuft, wie es der Programmierer ins Werk gesetzt hat. Zum vernünftigen Entscheiden und moralischen Handeln begabt ist der Mensch. Die Maschine ist das Instrument, das der Mensch vernünftig oder unvernünftig, moralisch oder unmoralisch einsetzt. VI. Freiheit der Betroffenen Der Nutzer muss sich stets bewusst machen, dass sein technischer Helfer seinem Leben und seiner Freiheit neuen Sinn geben kann, ihn ermutigt, sein Leben zu überdenken und zu einer neuen Lebensidee aufzubre- Kirchhof · Künstliche Intelligenz 5 chen. Die leichte Verfügbarkeit der technischen Leistungen kann ihn aber auch in Passivität drängen, ihn lustloser und antriebsloser, zerstreuter und argwöhnischer, nervöser und fauler machen. Wenn der Nutzer seinen Beruf und seine private Lebensgestaltung alltäglich auf die Leistungen seines PC stützt, muss ihm immer gegenwärtig sein, dass der PC ihm eine „formatierte Freiheit“ erschließt. Er zeigt ihm die Welt in dem Format, in dem die Programmierer die Wirklichkeit sehen und verstehen, beurteilen und kommentieren. Wer Literatur in seinem PC sucht, wird sie schneller als er selbst und seine Mitarbeiter finden, allerdings auch eine Rangfolge erleben, in der die Großverlage ihre Produkte nach vorne stellen, die gehaltvolle Dissertation mit der kleinen Auflage aber nicht in Erscheinung tritt. Der Nutzer beansprucht, dass die durch seine Zusammenarbeit mit dem Betreiber entstehenden wirtschaftlichen Werte nicht allein dem Betreiber vorbehalten sind, sondern auch ihm zugute kommen. Wissen ist ein Wert, den der Betreiber durch Veräußerung des von ihm – weitgehend ohne Kennnis des Nutzers – gesammelten Wissens nutzt. Doch wenn der Nutzer den Wissensspeicher füllt, sollte diese Leistung auch angemessen entgolten werden. Eine durch die Grundrechte, damit die Verantwortlichkeit für den individuell Betroffenen geprägte Rechtsordnung wird Vorsorge treffen, dass die Betreiber einer automatisierten Technik die Menschen nicht in ihren Individualrechten verletzen. Der Mensch handelt autonom, die Maschine wirkt automatisch. Eine Kollision zwischen Mensch und Maschine darf es nach diesen Gesetzmäßigkeiten nicht geben. Deswegen darf bei der elektronischen Steuererklärung ein technisches „Risikokomanagementsystem“ nicht einen besonders erfindungsreichen und organisationsfreudigen Unternehmer aus der gleichmäßigen Besteuerung ausschließen, weil er nicht der Üblichkeit, der Normalität, dem Regeltypus entspricht, auf den der Algorithmus ausgerichtet ist. Vielmehr muss die Konfliktlösung auf die Ebene der menschlichen Begegnung zurückgeführt werden. Die technische Risikoentdeckung ist deshalb nur ein Hinweis auf den nunmehr handlungspflichtigen Beamten, die entdeckte Besonderheit rechtlich wägend und gewichtend zu beurteilen. Die Konflikte werden so – dem Rechtsstaat gemäß – allein in sprachlicher Auseinandersetzung, letztlich durch die Rechtsprechung gelöst. Eine menschlich nicht gemäßigte – unmenschliche – Kollision zwischen Mensch und Maschine wird ausgeschlossen. Diese Kultur des Maßes gilt auch für den bloß informierenden Automaten. Wenn eine Technik einem Patienten eine belastende Prognose offenbaren kann, darf dieser auch über eigene Daten grundsätzlich nur informiert werden, wenn er einwilligt. Kann z. B. ein in der Untersuchung festgestellter genetischer Defekt mitgeteilt werden, ist dem Betroffenen vielleicht daran gelegen, unwissend ein zwar kurzes, aber sorgloses Leben genießen zu wollen. Das Einwilligungsverfahren beginnt mit der Aufklärung, die nur ein Mensch, individualisierend und gesprächsoffen, leisten kann. Dem Aufklärenden stellt sich zunächst die Frage, wie weit die Aufklärung, die eine sachgerechte Einwilligung erst ermöglicht, das zu erwartende Krisenszenario schon andeuten darf oder muss. Sodann ist zu bedenken, ob die persönliche Einwilligung auch die Weitergabe dieses Wissens an die mitbetroffenen Familienangehörigen rechtfertigt. Der Wissende muss sich auch vergewissern, ob er Drittbetroffene unterrichten muss oder darf – die zukünftige Braut, den Arbeitgeber, die Versicherung. Ist eine große Allgemeinheit von Menschen von einem umweltwirksamen selbsttätigen Computer betroffen, der Schadstoffe von dem Innenbereich in den Außenbereich der Städte umverteilt, kann die individuelle Betroffenheit in der eigenen Gesundheit, der individuellen Wohnsituation, dem gewerblichen Erfolg sichtbar werden, sich dennoch in der Allgemeinheit der Benachteiligten verlieren. Diese Entindividualisierung macht das Problem moderner Globalsteuerung bewusst. Der Betroffene wird nicht mehr durch einen individuell adressierten Verwaltungsakt angesprochen, sondern er findet veränderte „Daten“ vor, die faktisch in seine Grundrechte einwirken, ohne in sprachlicher Auseinandersetzung auf diese abgestimmt zu sein. Soll hier der Grundrechtschutz durch einklagbare Individualrechte nicht leerlaufen, muss das Recht eine Betroffenenbeteiligung an diesem Steuerungsverfahren organisieren. Dieses kann unbürokratisch, zeitdiszipliniert, auch in exemplarischen Sammelverfahren gelingen. Manche Informatiker prognostizieren, das menschliche Gehirn werde sich dem Computer anpassen. Doch eine Anpassung des Gehirns an den Automaten veränderte die Ordnung von Humanität und Freiheit grundstürzend. Eine Datendiktatur macht den Menschen abhängig, beendet das Ideal einer freien Selbstbestimmung. Ein Datenregime nimmt dem Menschen die Freiheit, löst die Demokratie in ihren Voraussetzungen auf, entzieht dem Recht seine Kerngedanken von Verantwortlichkeit, Schuld, Sühne und Haftung. Der Mensch 6 O RDNUNG DER WISSENSCHAFT 1 (2020), 1–8 würde nicht mehr zu Wissen und Gewissen, zu Anstand und Ehrbarkeit erzogen, sondern dem Programmablauf eines Computers unterworfen. Er wäre Gesetzmäßigkeiten unterstellt, die Menschen geschaffen haben, sich dann aber hinter einer Technik und deren Selbsttätigkeit verbergen. Die Menschen haben bisher auch bei grundstürzenden Selbstgefährdungen durch die Wissenschaft – die Atomspaltung oder eine identitätsverändernde Gentechnik – stets eine Mächtigkeit in der Hand des Menschen vermehrt. Nunmehr macht sich eine formale Rationalität des Menschen auf den Weg, durch die Ergebnisse der Wissenschaft die Herrschaft des Menschen zu vermindern und letztlich aufzuheben. Allerdings entschwindet damit die Macht nicht in den Clouds. Es entsteht keine herrschaftslose Gesellschaft. Ebenso beginnt nicht eine Herrschaft der Technik. Vielmehr wächst die Macht den Menschen zu, die diese sich selbst programmierenden Computer schaffen und deren Kontrolle durch die Menschen bestimmen. Selbst ein sich selbst programmierender Computer könnte durch Menschen neu programmiert, angehalten oder gänzlich außer Funktion gesetzt werden. Die Erfahrung der Menschheit mit unterschiedlichen Machtsystemen – mit den Hoffnungen von „Philosophenkönigen“, mit „begnadeten“ Herrschern, mit Demokratien und Staatsverträgen – macht glücklicherweise hinreichend sensibel für die Bedrohung durch neue Diktaturen. Diese Wachsamkeit werden wir gegenwärtig sensibel entfalten müssen. VII. Anfälligkeit und Wehrhaftigkeit des Rechts In dieser technischen Entwicklung ist der Mensch einerseits autonom, zum freiheitlichen Setzen eigener Verhaltensmaßstäbe begabt und berechtigt, andererseits auf die menschliche Gemeinschaft und ihr Recht angewiesen. Das Recht muss den Menschen deshalb vor dem Charakterfehler bewahren, „keinen Gefallen an sich selbst zu haben“ (Seneca). Selbstbewusstsein auch gegenüber der Technik ist Bedingung moderner Freiheit. Zugleich ist der Mensch, wie Rousseau schreibt, dazu verurteilt, „in der Meinung der anderen zu leben“. Er ist den Lenkungen, Bevormundungen, auch der unmerklichen Fremdbestimmung durch die moderne Digitaltechnik ausgeliefert. Recht und Digitaltechnik haben gemeinsam, dass sie das Regelhafte vermitteln, Sachverhalte im Typus erfassen, ihre Struktur auf das Wiederkehrende ausrichten. Dadurch wird das Recht für automatisierte Computerabläufe zugänglich und anfällig. Das aus Textbausteinen zusammengesetzte Urteil erleichtert den Richteralltag elementar, verführt aber auch zu Sachverhaltsdeutungen, die eine Wirklichkeit realitätswidrig auf den Baustein ausrichten. Gesetze sind für standardisierte Verträge und Entscheidungstypen zugänglich, teilweise auch auf „industrialisierte“ Standardverträge angelegt, nutzen die Einfachheit von Quantifizierungen, um wertende Sachverhalte in Zahlen und Zahlenformeln auszudrücken. Wenn dabei allerdings das Steuerrecht Quantifizierungen wählt, die für den Leser des Gesetzestextes nicht mehr zu verstehen sind, verweigert das Gesetz das Gespräch mit dem Bürger. Das widerspricht allen Errungenschaften der Sprachlichkeit eines allgemeinen – allgemeinverständlichen – Rechts, das durch Sprechen über das Recht letztlich von der Rechtsprechung verwirklicht wird. Algorithmen und Gesetze unterscheiden sich grundlegend in der Fähigkeit, in die Zukunft vorzugreifen. Der Algorithmus ist aus dem gegenwärtigen Wissen und Wollen programmiert, kann das Heute nicht verlassen und ein neugestaltetes Morgen veranlassen. Das Gesetz hingegen greift in seinen generell-abstrakten Tatbeständen so in die Zukunft vor, dass auch der heute noch unbekannte Fall bereits gelöst wird. Die Rechner können Massenvorgänge bewältigen, Komplexität vereinfachen, Regel und Ausnahme definieren, rechtlich Erwartetes vom Unvorhergesehenen abschichten. Sie bleiben aber Diener des Rechtsgewährenden, Vorbereitungshilfe des Rechtsuchenden. Die strafrechtliche Zumessung einer Schuld, die grundrechtliche Abwägung eines staatlichen Eingriffs, die familienrechtliche Entscheidung über das Verhältnis von Eltern und Kind sind für Programmierung und Quantifizierung schlechthin unzugänglich. Gegenüber der Moderne der Digitalisierung wird sich das Recht aber vor allem in seiner Funktion, Maßstäbe zu geben und Verantwortlichkeiten zuzuweisen, bewähren müssen. Dabei stellt das Recht vor allem Grundsatzfragen, die der Staat mit seinen Organen zu beantworten hat: – Verfolgt eine sich verselbständigende Technik ein erkennbares, legitimes Ziel? – Setzt sie dafür angemessene – geeignete, erforderliche und zumutbare – Mittel ein? – Bleiben die technisch neu entwickelten Wege zur Zielerreichung im rechtlichen Korridor der bisher gerechtfertigten Mittel oder bedürfen sie entwicklungsbegleitend jeweils einer erneuten Legitimation? – Welche Instrumente zur Herrschaft über Menschen stellt die Technik bereit? – Wer übt diese Herrschaft durch Technik aus und verantwortet sie? – Wer ist der Herrschaftsbetroffene und wie kann er die Herrschaft mäßigen, abwehren? Kirchhof · Künstliche Intelligenz 7 – Wem gegenüber sind die Herrschenden für ihre Herrschaft und deren Wahrnehmung verantwortlich? – Was sind die Folgen einer Rechtsverletzung mit Hilfe der Technik? – Wer trägt die Folgen? – Wie wird die Technik in ihren Chancen und Risiken sichtbar gemacht, auf Nutzer und Betroffene nach verallgemeinerungsfähigen Maßstäben abgestimmt, von staatlichen Institutionen überwacht und korrigiert? Wissenschaft und Technik schaffen neues, bisher unerkanntes Wissen, praktizieren Unvorhersehbares und Rätselhaftes, begründen damit auch Furcht und Unsicherheit. Doch ist die Wissenschaft stets auch in der Lage, das Unvertraute zu erklären und so Vertrauen zu gewinnen, das noch nicht Abschätzbare als unbekannt zu definieren und damit der kritischen Beobachtung auszuliefern, die Möglichkeiten der neuen Erkenntnisse auf das „gute Leben“ auszurichten. Das Recht formt diese Entwicklung durch das Prinzip der Freiheit, dem individuellen Schritt zum Besseren, und die parlamentarische Gesetzgebung, die das Gesetz stets gegenwartsgerecht weiterentwickelt. Paul Kirchhof, ehemaliger Richter des Bundesverfassungsgerichts, ist Seniorprofessor distinctus für Staatsund Steuerrecht der Universität Heidelberg. Autor des 2018 bei Herder erschienenen Buchs „Beherzte Freiheit“. 8 O RDNUNG DER WISSENSCHAFT 1 (2020), 1–8