Menü Schließen
Klicke hier zur PDF-Version des Beitrags!

Paul Kirchhof 

Paul Kirch­hof Künst­li­che Intel­li­genz Ord­nung der Wis­sen­schaft 2020, ISSN 2197–9197 I. Der Aus­gangs­be­fund: Der intel­li­gent pro­gram­mier­te Auto­mat Die Tech­nik befä­higt den Men­schen immer wie­der, etwas zu tun, was er aus eige­ner Kraft nicht tun könn­te. Als das Rad erfun­den wur­de, konn­ten Wagen sich schnel­ler bewe­gen, als der Mensch je hät­te lau­fen kön­nen. Heu­te scheint ein selbst­fah­ren­des Auto zum Chauf­feur für jeder­mann zu wer­den. Doch der Mensch bleibt Herr des Gesche­hens, so lan­ge er die­se selbst­fah­ren­den Fahr­zeu­ge nur zulässt, wenn er zumin­dest die glei­che Steue­rungs­kraft und Sicher­heits­herr­schaft über das Gesche­hen behält wie beim selbst gelenk­ten Auto. Als die Buch­dru­cker­tech­nik ent­wi­ckelt war, hat die gedruck­te Bot­schaft sich wei­ter ver­brei­tet, als der Autor selbst sie hät­te tra­gen kön­nen. Heu­te erschließt die Digi­ta­li­sie­rung Kom­mu­ni­ka­ti­ons­mög­lich­kei­ten, die welt­weit ver­füg­ba­res Wis­sen zugäng­lich machen, den Aus­tausch in Spra­che und Bild rund um die Welt eröff­nen, die Nut­zung die­ser Mög­lich­kei­ten aber in der Herr­schaft des PC-Nut­zers bleibt. Als die Elek­tri­zi­tät ent­deckt war, konn­te die Tech­nik bes­ser als der Mensch Wär­me, Licht und Bewe­gung erzeu­gen, Spra­che und Bil­der ver­mit­teln. Heu­te setzt ein Algo­rith­mus eine Abfol­ge von Pro­zess­schrit­ten ins Werk, die einem vor­ge­ge­be­nen Pro­gramm fol­gen, dann aber eine gestell­te Auf­ga­be durch Beob­ach­ten und Nach­ah­men auf eigen­stän­dig neu ent­deck­ten Wegen erfül­len. Der Arzt schickt mit der Nano-Tech­nik ein klei­nes, für das mensch­li­che Auge nicht sicht­ba­res Repa­ra­tur­team in den mensch­li­chen Kör­per, das dort Adern und Atem­we­ge rei­nigt, Brü­che zusam­men­fügt. Die­se sich ver­selb­stän­di­gen­den Algo­rith­men orga­ni­sie­ren sich in hoch­di­men­sio­na­ler, nicht-linea­rer Dyna­mik selbst, ent­de­cken immer neue Wege zum Errei­chen des vor­ge­ge­be­nen Ziels, dür­fen aber nur ein­ge­setzt wer­den, wenn der Arzt stets Ablauf und Wir­kun­gen die­ser Auto­ma­ten beob­ach­tet und im Dienst des Pati­en­ten beherrscht. Sprach­as­sis­ten­ten bie­ten ein Über­set­zungs­pro­gramm, das Fähig­kei­ten eines Dol­met­schers über­steigt. Der Rech­ner kann Daten des Stra­ßen­ver­kehrs so zu einem Erfah­rungs­schatz kom­bi­nie­ren, dass er bes­se­re Emp­feh­lun­gen für die Ver­kehrs­si­cher­heit und den Umwelt­schutz gibt, als es mensch­li­che Pla­nung ver­mag. Ein Unter­neh­men kann sei­ne Betriebs­ab­läu­fe auto­ma­ti­sie­ren, Rech­nungs­we­sen, Bilan­zie­rung und Steu­er­erklä­rung com­pu­ter­ge­stützt ver­ein­fa­chen und erneu­ern. Fonds­ma­na­ger ent­de­cken die Algo­rith­men als ein Werk­zeug der Ver­mö­gens­ver­wal­tung, das Stim­mun­gen und Trends, Bedarfs­la­gen und Wert­schöp­fungs­po­ten­tia­le, öko­no­mi­sche, öko­lo­gi­sche und poli­ti­sche Rah­men­be­din­gun­gen des Mark­tes ana­ly­siert und zu Kauf- oder Ver­kaufs­emp­feh­lun­gen ver­dich­tet. Der Hoch­fre­quenz­han­del treibt Han­del tech­nisch, ohne Ver­trags­ver­ein­ba­rung. Der Algo­rith­mus spielt Schach und schlägt dabei den Welt­meis­ter. Algo­rith­men begin­nen zu kom­po­nie­ren und zu malen. Pro­gno­sen spre­chen bereits von einem sich selbst pro­gram­mie­ren­den Com­pu­ter, des­sen der Mensch kaum noch Herr wer­den kön­ne. Der Mensch bestimmt dann nicht mehr sei­ne Hel­fer, son­dern die Hel­fer erwar­ten, dass der Mensch sich den Regeln der Appa­ra­te anpas­se. Ein Daten­re­gime stürz­te den Men­schen in Ohn­macht, die Mensch­lich­keit in tech­ni­sche Gefühls­lee­re und Hoff­nungs­lo­sig­keit. Die­se Wis­sen­schaft und Tech­nik wir­belt unser Den­ken und unse­re Begrif­fe durch­ein­an­der. Wir spre­chen der Maschi­ne eine „künst­li­che Intel­li­genz“ zu, ver­ste­hen sie als ein „ler­nen­des“ Sub­jekt, wol­len ihr bei­brin­gen, Gefüh­le zu ent­wi­ckeln und ethisch zu han­deln. Wenn wir so von Maschi­nen mensch­li­che Eigen­schaf­ten erwar­ten, belegt das ein unge­nü­gen­des Ver­ste­hen des­sen, was in die­sen Maschi­nen vor­geht. Wir müs­sen uns in Gelas­sen­heit bewusst machen, was ein Algo­rith­mus der­zeit kann. Er kann sich in hoch­di­men­sio­na­ler Dyna­mik selbst orga­ni­sie­ren, ein vor­ge­ge­be­nes Ziel mit ein­ge­ge­be­nen Daten ver­fol­gen, fin­det dann in der Spur die­ser Ziel­vor­ga­ben und Wir­kungs­mit­tel ver­bes­ser­te Mög­lich­kei­ten, das Ziel zu errei­chen. Er ent­schei­det aber nicht selbst­stän­dig, son­dern pro­du­ziert nach den im Pro­gramm gege­be­nen Kri­te­ri­en Gesche­hens­ab­läu­fe. Er kann die bis­he­ri­gen Erfah­run­gen nicht ver­las­sen und ein neu­es Mor­gen ent­wer­fen. Er ent­wi­ckelt kei­ne Gefüh­le, erin­nert sich nicht, kann nicht lie­ben, kei­ne Freund­schaf­ten schlie­ßen, nicht hof­fen, kein Gewis­sen bil­den, hat weder Ethos noch Moral noch Fein­ge­fühl. Er ist nicht ver­ant­wort­lich. Das Recht kann nicht ihn, son­dern nur den die Maschi­ne beherr­schen­den Men­schen anspre­chen. Der moder­ne Auto­mat ist eine selbst­tä­ti­ge Maschi­ne. Sie ist gut pro­gram­miert, nicht intel­li­gent. 2 O RDNUNG DER WISSENSCHAFT 1 (2020), 1–8 II. Der Auf­trag, die Herr­schaft über die Maschi­ne zu behal­ten Die­se begriff­li­che Klar­stel­lung been­det die Ver­bal­sug­ges­ti­on, der Mensch kön­ne von der Maschi­ne Mensch­lich­keit erwar­ten. Er muss sich um sei­ner Frei­heit, sei­ner Gefüh­le und Hoff­nun­gen wil­len die Herr­schaft über die Maschi­ne vor­be­hal­ten, sich gegen­über den maschi­nel­len Her­aus­for­de­run­gen zur Frei­heit neu qua­li­fi­zie­ren. Wis­sen mehrt Hand­lungs­mög­lich­kei­ten. Wis­sen­schaft ist des­halb stets auch Frei­heits­po­li­tik. Wir ver­ste­hen den Men­schen als begabt, abs­trakt zu den­ken, ratio­nal und mora­lisch zu ent­schei­den, zu lie­ben und zu hof­fen. Des­we­gen gewähr­leis­tet die Ver­fas­sung jedem Men­schen ein Recht auf Wür­de, auf ein Gewis­sen, auf Auto­no­mie. Die Maschi­ne hin­ge­gen kann Kau­salab­läu­fe wie­der­ho­len, Erfah­run­gen auf­neh­men, Daten spei­chern und kom­bi­nie­ren. Sie folgt den vom Men­schen ver­mit­tel­ten Erkennt­nis­sen und Irr­tü­mern, Urtei­len und Vor­ur­tei­len, Regeln für gutes Leben oder blo­ßen aktu­el­len Trends und Schwarm­ver­hal­ten. Aller­dings gewinnt der Auto­mat Ein­fluss auf den Men­schen, weil er des­sen Lebens­be­din­gun­gen ver­än­dert. Wenn der Mensch erfährt, dass kör­per­li­che Anstren­gung von der Maschi­ne über­nom­men wird, er statt sei­nes Gedächt­nis­ses den Com­pu­ter nutzt, der Com­pu­ter bes­ser rech­net und aus der Zah­len­kom­bi­na­ti­on neue Hand­lungs­al­ter­na­ti­ven ablei­tet, so kann die­ses Wis­sen ihn auch läh­men, kör­per­lich erschlaf­fen und geis­tig trä­ge wer­den las­sen. Er gerät in Abhän­gig­keit, in Unfrei­heit. Wis­sen über sich selbst stärkt die Kraft zur Selbst­steue­rung, schärft Selbst­kri­tik und Gewis­sen, kann den Men­schen aber auch Lebens­mut und Hoff­nung neh­men. Wer viel über sich selbst weiß – ein Algo­rith­mus macht den nahen Tod oder eine schwer aus­weich­li­che Dro­gen­ver­stri­ckung bewusst –, kann die­ses Wis­sen zur Selbst­hil­fe nut­zen, aber auch als Anstoß zu Resi­gna­ti­on und Selbst­ver­nich­tung ver­ste­hen. Des­halb setzt die­se Infor­ma­ti­on ein Ein­ver­ständ­nis vor­aus. Vor allem muss die Wis­sen­schaft gewähr­leis­ten, dass die tech­ni­schen Hel­fer die mensch­li­che Ver­nunft nicht zu Teil­ra­tio­na­li­tä­ten ver­küm­mern las­sen. Wenn ein Algo­rith­mus ein Ziel ver­folgt – eine bes­se­re Ope­ra­ti­ons­tech­nik, eine iden­ti­täts­be­stim­men­de Gen­for­schung, eine Gewinn­ma­xi­mie­rung –, muss eine Gesamt­ver­nunft des Men­schen die­se Teil­ra­tio­na­li­tä­ten zusam­men­füh­ren, um Huma­ni­tät zu wah­ren, Hoff­nun­gen zu ver­wirk­li­chen, die Fähig­keit und Bereit­schaft des Men­schen zu stär­ken, eine bes­se­re Zukunft zu defi­nie­ren. Wis­sen ist Chan­ce und Waf­fe zugleich. Das grie­chi­sche Frei­heits­ide­al woll­te den Bür­gern die Frei­heit von Hand­werk und Han­del ver­mit­teln. Der Auto­mat bringt uns die­sem Ide­al heu­te näher. Wir stel­len mit 3D-Dru­ckern Schicht für Schicht com­pu­ter­ge­steu­ert Werk­zeu­ge her, über­las­sen im Berufs­all­tag tech­ni­schen Hel­fern die kör­per­li­che Arbeit, das Rech­nen und Bilan­zie­ren, das Pro­du­zie­ren und Trans­por­tie­ren, wickeln auch pri­vat den Han­del digi­tal ab. Wir pla­nen Rei­sen in Ver­gleichs­por­ta­len. Der Nut­zer steht stau­nend vor die­ser Ent­wick­lung. Doch es stellt sich die Fra­ge, ob der Mensch mit zuneh­men­der Herr­schaft über die Natur und ihre Geset­ze sei­ne frei­heit­li­che Selbst­be­stim­mung an die Maschi­ne ver­liert. Neue­re Stu­di­en des „Maschi­nen­ver­hal­tens“ beob­ach­ten die Maschi­nen als selbst­ge­steu­er­te Wesen. Die­se „Ver­hal­tens­for­schung“ will fest­stel­len, wie die Maschi­nen auf ver­än­der­te Umge­bun­gen und Situa­tio­nen reagie­ren, wie sie mit­ein­an­der umge­hen, wie sie auf den Men­schen zurück­wir­ken. Gefragt wird nicht, wel­che Pro­gram­me der Mensch ins Werk setzt, wel­che er ver­an­las­sen darf, wel­che er ver­än­dern und stop­pen muss. Rechts­po­li­ti­sche Erwä­gun­gen nei­gen sogar dazu, eine sich ver­selb­stän­di­gen­de Tech­nik als rechts­er­heb­lich han­deln­des Sub­jekt zu ver­ste­hen, also mit eige­nen Rech­ten und Pflich­ten aus­zu­stat­ten. Der Mensch scheint den Algo­rith­mus aus der Hand gege­ben zu haben, muss sich jetzt mit ihm als einem eigen­stän­di­gen Gegen­über aus­ein­an­der­set­zen. III. Die Herr­schaft des Men­schen über die Tech­nik Doch der Mensch stellt den Auto­ma­ten her, nutzt ihn für sei­ne Zwe­cke, been­det sei­ne Funk­tio­nen. Die ver­meint­li­che Herr­schaft der Maschi­ne ist die Herr­schaft eines Men­schen. Des­halb hat die For­schung den Algo­rith­mus wie­der als ein vom Men­schen pro­gram­mier­tes und von ihm beherrsch­tes Mit­tel im Dienst des Men­schen zu gestal­ten. Gesi­cher­ter Aus­gangs­be­fund ist dabei, dass der Mensch herr­schen will, auch über die von ihm ent­wi­ckel­te Tech­nik Bestim­mungs­macht bean­sprucht. Des­halb erscheint die Fra­ge, wie der Mensch die Herr­schaft über eine eigen­stän­di­ge Maschi­ne zurück­ge­winnt, ein Pro­blem sach­ge­rech­ter wis­sen­schaft­li­cher The­men­stel­lung. Er kann die Maschi­ne so pro­gram­mie­ren, dass der Mensch sie jeder­zeit beob­ach­tet, lenkt, ver­än­dert oder stoppt. Pro­ble­ma­ti­scher erscheint die Fra­ge, wer die­se Herr­schaft über die Maschi­ne mit wel­chen Mit­teln aus­übt. Herr­scher ist nicht die Maschi­ne. Es herrscht ent­we­der der Pro­gram­mie­rer und sei­ne Auf­trag­ge­ber oder das Recht, das die Maschi­ne dem Men­schen unter­ord­net. Wenn der Arzt einen pro­gram­mier­ba­ren medi­zi­ni­schen Ein­griff einem Robo­ter über­gibt, weil die­ser den Kirch­hof · Künst­li­che Intel­li­genz 3 Heil­ver­such ver­läss­li­cher vor­neh­men kann, wird er und nicht der Tech­ni­ker in sei­ner ärzt­li­chen Gesamt­be­ob­ach­tung des Pati­en­ten, auch in sei­ner aus Erfah­rung und Ethos erwach­sen­den ärzt­li­chen Intui­ti­on die Herr­schaft über den Heil­vor­gang in eige­ner Hand behal­ten. Er ent­schei­det, ob der Robo­ter sein Han­deln fort­setzt, ver­än­dert oder been­det. Die Maschi­ne dient dem Arzt als Hel­fer, ersetzt ihn nicht. Zwar wird der Arzt die Maschi­ne nicht voll­stän­dig ver­ste­hen. Doch es genügt, dass das medi­zi­ni­sche Hilfs­mit­tel so der Herr­schaft eines Men­schen unter­wor­fen wird wie das Auto: Der Fah­rer ver­steht nicht des­sen Tech­nik, beherrscht sein Fahr­zeug aber mit Hil­fe des Len­kers, des Gas­pe­dals und der Brem­se. Fehl­ten die­se Instru­men­te mensch­li­cher Bestim­mungs­macht, wür­de das Fahr­zeug nicht zum Stra­ßen­ver­kehr zuge­las­sen. Die Natur­wis­sen­schaf­ten haben aller­dings jahr­zehn­te­lang behaup­tet, der Mensch tue, was er kön­ne. Doch wenn die Atom­tech­nik in Ket­ten­re­ak­tio­nen die Welt zer­stö­ren kann, die Gen­tech­nik die Iden­ti­tät des Men­schen ver­än­dern könn­te, die Psy­cho­phar­ma­ka wesent­li­chen Ein­fluss auf die Wil­lens­bil­dung des Men­schen gewin­nen und eine Kriegs­droh­ne einen Kriegs­ein­satz ohne das unmit­tel­ba­re Erleb­nis des Kriegs­füh­ren­den von Not und Elend des Krie­ges ermög­licht, wird die Fra­ge nach dem, was der Mensch darf, unaus­weich­lich. Wir müs­sen uns auf den Weg zurück zur Uni­ver­si­tas bege­ben, in der das Zusam­men­wir­ken von Natur­wis­sen­schaf­ten und Geis­tes­wis­sen­schaf­ten eine Selbst­ver­ständ­lich­keit ist. Der Mensch kann nur erken­nen, wenn er die Welt beob­ach­tet, zugleich aber eine Vor­stel­lung von der Welt ent­wi­ckelt, wie sie sein soll. Ein Rich­ter kann Unrecht nur bean­stan­den, wenn er weiß, was Gerech­tig­keit ist. Ein Arzt wird Krank­hei­ten nur hei­len, wenn er eine Vor­stel­lung von der Gesund­heit besitzt. Ein Umwelt­schüt­zer wird Umwelt­schä­den nur ver­mei­den, wenn er eine Idee von der rei­nen Natur, der unver­letz­ten Welt vor Augen hat. Die­sen Zusam­men­klang von Kön­nen und Dür­fen ver­mag ein tech­ni­sches Pro­gramm nicht her­zu­stel­len. Der Algo­rith­mus kann kei­ne Huma­ni­tät, kein Maß, kei­ne Ver­ant­wort­lich­keit und kein Gewis­sen ent­fal­ten. Eine Maschi­ne hat kei­ne Über­zeu­gung, erlebt nicht Gemein­schaft, emp­fin­det nicht Ver­ant­wor­tung. Sie ist nicht ehr­bar. Ein Kau­sal­an­stoß ist nicht anstän­dig. Ein Algo­rith­mus emp­fin­det nicht die per­sön­li­che Betrof­fen­heit des Men­schen. Der Mensch muss des­halb für alle von ihm ins Werk gesetz­ten tech­ni­schen Abläu­fe die Herr­schaft zurück­ge­win­nen, jeder­zeit den Pro­zess ver­lang­sa­men, beschleu­ni­gen, neu aus­rich­ten, auch been­den kön­nen. Der Mensch übt Herr­schaft in ersicht­li­cher Ver­ant­wort­lich­keit für das auto­ma­ti­sche Tech­nik­ge­sche­hen aus. Tech­ni­scher Fort­schritt und mensch­li­che Herr­schaft müs­sen gleich­ran­gig und gleich­zei­tig vor­an­schrei­ten. IV. Maß­stä­be für die Ver­ant­wor­tung des Men­schen Die EU-Kom­mis­si­on hat mit Nach­druck die dau­er­haft die­nen­de Funk­ti­on der Algo­rith­men betont und Mecha­nis­men gefor­dert, wel­che die Ver­ant­wort­lich­keit und Rechen­schafts­pflicht des Men­schen für die­se Algo­rith­men und deren Ergeb­nis­se gewähr­leis­ten. Mit die­ser Dis­kus­si­on um die Maß­stä­be, nach denen die­se neue Tech­nik ins Werk gesetzt wer­den darf, ist Euro­pa auf dem Weg, Kri­te­ri­en für die Ver­ant­wort­lich­keit und Rechen­schafts­pflicht des Men­schen für die­se Algo­rith­men und deren Ergeb­nis­se zu ent­wi­ckeln, die­se Tech­ni­ken gegen den Zugriff unbe­rech­tig­ter Drit­ter, ins­be­son­de­re der Kri­mi­na­li­tät, des Wirt­schafts­krie­ges und der Poli­tik, abzu­schir­men, alle tech­ni­schen Sys­te­me als sol­che erkenn­bar und trans­pa­rent zu machen, so dass jeder zurück­ver­fol­gen kann, wel­ches Ziel die­ses Sys­tem mit wel­chen Mit­tel in wes­sen Auf­trag ver­folgt. Die­se Trans­pa­renz wird sys­te­ma­tisch ver­hin­dert, wenn die soge­nann­ten „sozia­len Medi­en“ dem Nut­zer in der Anony­mi­tät gestat­ten, Fehl­nach­rich­ten zu ver­brei­ten, ande­re Men­schen – den Leh­rer, den Rich­ter, den Kon­kur­ren­ten – einer Untat zu bezich­ti­gen, die er nicht began­gen hat, ohne dafür zur Rechen­schaft gezo­gen wer­den zu kön­nen. Die­se Anony­mi­tät, die orga­ni­sier­te Unver­ant­wort­lich­keit, ist Geschäfts­mo­dell die­ser Unter­neh­men. Sie wider­spricht der Idee der Frei­heit, die jeder­mann die freie Mei­nungs­äu­ße­rung gewähr­leis­tet, dabei aber erwar­tet, dass der Spre­cher mit sei­nem Namen und sei­nem Gesicht für das ein­steht, was er sagt. Mensch­li­che Ver­ant­wort­lich­keit für die Maschi­ne wirkt vor­beu­gend, muss also ver­mei­den, dass die Maschi­ne dem Men­schen Scha­den zufügt. Aus­gangs­punkt die­ser vor­beu­gen­den Ver­ant­wort­lich­keit und ihr für Wis­sen­schaft und Tech­nik geeig­ne­tes Maß bie­tet das Recht der Gefah­ren­vor­sor­ge, der Auf­trag zu einer uni­ver­sa­len, die Spe­zia­li­sie­rung über­win­den­den Wis­sen­schaft, ein – maß­vol­ler – Daten­schutz und die Erfah­run­gen inter­na­tio­na­ler Koope­ra­ti­ons­ver­bün­de. Tre­ten trotz der Vor­sor­ge Schä­den ein, wird das Recht eine Gefähr­dungs­haf­tung orga­ni­sie­ren. Wer einen gefähr­den­den Kau­salab­lauf ins Werk gesetzt hat – einen Atom­re­ak­tor betreibt, ein Auto fährt –, muss schon wegen die­ser ihm zuzu­rech­nen­den Gefähr­dungs­la­ge auch für einen ein­ge­tre­te­nen Scha­dens­fall ein­ste­hen. Das setzt wie­der­um vor­aus, dass der ver­ant­wort­li­che Pro­gram­mie­rer indi­vi­dua­li­sier­bar, der Scha­den zure­chen­bar und die Haf­tungs­fol­ge für einen beherz­ten tech­ni­schen Fort­schritt nicht hin­der­lich ist. 4 O RDNUNG DER WISSENSCHAFT 1 (2020), 1–8 Die Koope­ra­ti­ons­ver­ein­ba­run­gen der For­schung, die recht­li­chen Rah­men­be­din­gun­gen der Tech­nik und die öffent­li­che For­schungs­för­de­rung soll­ten dar­auf hin­wir­ken, dass die Haupt­ak­teu­re regel­mä­ßig ihre The­men und Vor­ha­ben ver­öf­fent­li­chen, in Fall­bei­spie­len und Erkennt­nis­fort­schrit­ten publi­zie­ren, um eine all­ge­mei­ne, ide­al: welt­wei­te, Tech­nik- und Maß­stabs­for­schung vor­an­zu­trei­ben. Die Tech­nik wird sich wei­ter­ent­wi­ckeln, die recht­li­chen und ethi­schen Ver­ant­wor­tungs­maß­stä­be wer­den Schritt hal­ten. Will eine deut­sche Wis­sen­schafts­or­ga­ni­sa­ti­on ihren Maß­stä­ben des Per­sön­lich­keits­schut­zes, der Auf­klä­rung oder des Rück­rufs von Daten genü­gen, arbei­tet sie aber welt­weit mit ande­ren, einem frem­den Recht unter­lie­gen­den Orga­ni­sa­tio­nen zusam­men, so kann sie nur eine in gegen­sei­ti­ger Annä­he­rung erreich­ba­re Recht­s­treue ver­spre­chen. Dabei sind die roten Lini­en des unauf­gebba­ren Rechts – die juris­ti­schen Axio­me, Tabus, Unver­letz­lich­kei­ten – zu beach­ten. Die Inter­na­tio­na­li­tät der Wis­sen­schafts­kom­mu­ni­ka­ti­on ist aber auch im Recht auf Annä­he­rung und wech­sel­sei­ti­ge Inspi­ra­ti­on ange­legt. V. Die Ver­ant­wort­li­chen Die Ver­ant­wor­tung für eine vom Men­schen geschaf­fe­ne Tech­nik liegt beim Men­schen. Der Her­stel­ler der Tech­nik wird den Auto­ma­ten so anle­gen, dass die Auto­ma­tis­men – ihre Zie­le und die dafür ein­ge­setz­ten Mit­tel – für einen außen­ste­hen­den Beob­ach­ter erkenn­bar, nach­voll­zieh­bar und kon­trol­lier­bar sind, ihre Wir­kun­gen der Mensch stets len­ken und kor­ri­gie­ren kann. Der Pro­gram­mie­rer wird sein Pro­gramm in legi­ti­men Zie­len, ver­tret­ba­ren Instru­men­ten der Ziel­er­rei­chung, bedach­ten und gemä­ßig­ten Neben­wir­kun­gen ver­ant­wor­ten. Der Nut­zer die­ser Tech­nik wird für jeden tech­nisch bewirk­ten Erfolg, den dafür erbrach­ten Auf­wand, die Betrof­fen­heit der Men­schen und ihrer Lebens­be­din­gun­gen ein­ste­hen. Dabei ist in einem Sys­tem mit tau­sen­den von Ent­schei­dun­gen und einem kaum mehr beherrsch­ba­ren expo­nen­ti­el­len Wachs­tum nicht der gedank­li­che Nach­voll­zug jedes Kau­salab­laufs und jedes Wir­kungs­zu­sam­men­hangs gemeint, son­dern die ste­ti­ge Wir­kungs­kon­trol­le. Eine Kli­nik wird gewähr­leis­ten, dass jeder Arzt, der com­pu­ter­ba­siert dia­gnos­ti­ziert, ope­riert, Medi­ka­men­te ver­schreibt und Ver­hal­tens­wei­sen emp­fiehlt, zur Über­wa­chung und Inter­ven­ti­on in der Lage und bereit ist, sei­ne wahr­ge­nom­me­ne Ver­ant­wort­lich­keit auch pro­to­kol­liert und unter­zeich­net. Die Indus­trie wird ihre tech­ni­sier­ten Pro­duk­ti­ons- und Hand­lungs­ab­läu­fe so orga­ni­sie­ren, dass der Fir­men­lei­tung das Unter­neh­men nicht außer Kon­trol­le gerät. Bei den Kom­mu­ni­ka­ti­ons­me­di­en steht der Betrei­ber vor der Auf­ga­be, die ver­brei­te­ten Inhal­te – Tex­te, Fotos, Vide­os – so zu gestal­ten, dass Hass und Häme ver­mie­den wer­den, per­sön­li­che und wert­ver­nich­ten­de Ent­wür­di­gun­gen unter­bun­den, die Nut­zer weder mani­pu­liert noch schi­ka­niert wer­den. Falsch­in­for­ma­tio­nen sol­len nicht ver­brei­tet, andern­falls jeden­falls berich­tigt wer­den. Auch die Mei­nungs­äu­ße­rungs­frei­heit ist ein Recht, das defi­niert, also begrenzt ist, auf die glei­chen Rech­te ande­rer Men­schen und die Anlie­gen der Rechts­ge­mein­schaft abge­stimmt wird. Heu­te ver­su­chen Betrei­ber, den maschi­nel­len Pro­gram­men Maß­stä­be ein­zu­ge­ben, die mora­li­sche Wer­te und ethi­sche Nor­men zu Funk­ti­ons­be­din­gun­gen der Maschi­ne machen. Dadurch ent­ste­hen aber nicht „ethi­sche Maschi­nen“, son­dern Tech­ni­ken, in deren Kau­sa­lund Effi­zi­enz­ab­läu­fe auch der Erfah­rungs­schatz eines „guten Lebens“ ein­ge­ar­bei­tet wor­den ist. Die­se Bemü­hun­gen aller­dings set­zen eine ele­men­ta­re phi­lo­so­phi­sche und recht­li­che Ver­ge­wis­se­rung über unse­re gemein­sa­men Wer­te und Ver­hal­tens­prin­zi­pi­en vor­aus. Bewusst gemacht wer­den müs­sen die im Wirt­schafts­sys­tem, im Wis­sen, in der Tech­nik­be­herr­schung ange­leg­ten Macht­struk­tu­ren, die in unse­rer Geschich­te und sozia­len Rea­li­tät vor­han­de­nen Ungleich­hei­ten, die Defi­ni­ti­on des jeder Frei­heit vor­ge­ge­be­nen „Gemein­wohls“ und die dafür Ver­ant­wort­li­chen. Auch die Ein­fluss- und Wohl­stands­ver­tei­lung in einer Demo­kra­tie, die Leis­tungs­kraft des Rechts in den inter­es­sen- und gewal­ten­tei­len­den Struk­tu­ren der Gegen­wart, das Ver­hält­nis von Macht, Wirt­schaft und Wohl­stands­ver­tei­lung soll­ten ersicht­lich sein. Die Fähig­keit und Bereit­schaft des Men­schen, eine bes­se­re Zukunft zu defi­nie­ren, kann als gesi­cher­ter All­ge­mein­be­fund auf­ge­nom­men wer­den. Sind die­se Maß­stä­be defi­niert – ist der „Phi­lo­so­phen­kö­nig“ neu ent­deckt –, darf man von der Maschi­ne den­noch nicht eine grö­ße­re Unvor­ein­ge­nom­men­heit, nicht eine bes­se­re Ver­tei­lung von Ent­schei­dungs­kom­pe­ten­zen erwar­ten, weil das Maschi­nen­pro­gramm so abläuft, wie es der Pro­gram­mie­rer ins Werk gesetzt hat. Zum ver­nünf­ti­gen Ent­schei­den und mora­li­schen Han­deln begabt ist der Mensch. Die Maschi­ne ist das Instru­ment, das der Mensch ver­nünf­tig oder unver­nünf­tig, mora­lisch oder unmo­ra­lisch ein­setzt. VI. Frei­heit der Betrof­fe­nen Der Nut­zer muss sich stets bewusst machen, dass sein tech­ni­scher Hel­fer sei­nem Leben und sei­ner Frei­heit neu­en Sinn geben kann, ihn ermu­tigt, sein Leben zu über­den­ken und zu einer neu­en Lebens­idee auf­zub­re- Kirch­hof · Künst­li­che Intel­li­genz 5 chen. Die leich­te Ver­füg­bar­keit der tech­ni­schen Leis­tun­gen kann ihn aber auch in Pas­si­vi­tät drän­gen, ihn lust­lo­ser und antriebs­lo­ser, zer­streu­ter und arg­wöh­ni­scher, ner­vö­ser und fau­ler machen. Wenn der Nut­zer sei­nen Beruf und sei­ne pri­va­te Lebens­ge­stal­tung all­täg­lich auf die Leis­tun­gen sei­nes PC stützt, muss ihm immer gegen­wär­tig sein, dass der PC ihm eine „for­ma­tier­te Frei­heit“ erschließt. Er zeigt ihm die Welt in dem For­mat, in dem die Pro­gram­mie­rer die Wirk­lich­keit sehen und ver­ste­hen, beur­tei­len und kom­men­tie­ren. Wer Lite­ra­tur in sei­nem PC sucht, wird sie schnel­ler als er selbst und sei­ne Mit­ar­bei­ter fin­den, aller­dings auch eine Rang­fol­ge erle­ben, in der die Groß­ver­la­ge ihre Pro­duk­te nach vor­ne stel­len, die gehalt­vol­le Dis­ser­ta­ti­on mit der klei­nen Auf­la­ge aber nicht in Erschei­nung tritt. Der Nut­zer bean­sprucht, dass die durch sei­ne Zusam­men­ar­beit mit dem Betrei­ber ent­ste­hen­den wirt­schaft­li­chen Wer­te nicht allein dem Betrei­ber vor­be­hal­ten sind, son­dern auch ihm zugu­te kom­men. Wis­sen ist ein Wert, den der Betrei­ber durch Ver­äu­ße­rung des von ihm – weit­ge­hend ohne Kenn­nis des Nut­zers – gesam­mel­ten Wis­sens nutzt. Doch wenn der Nut­zer den Wis­sens­spei­cher füllt, soll­te die­se Leis­tung auch ange­mes­sen ent­gol­ten wer­den. Eine durch die Grund­rech­te, damit die Ver­ant­wort­lich­keit für den indi­vi­du­ell Betrof­fe­nen gepräg­te Rechts­ord­nung wird Vor­sor­ge tref­fen, dass die Betrei­ber einer auto­ma­ti­sier­ten Tech­nik die Men­schen nicht in ihren Indi­vi­du­al­rech­ten ver­let­zen. Der Mensch han­delt auto­nom, die Maschi­ne wirkt auto­ma­tisch. Eine Kol­li­si­on zwi­schen Mensch und Maschi­ne darf es nach die­sen Gesetz­mä­ßig­kei­ten nicht geben. Des­we­gen darf bei der elek­tro­ni­schen Steu­er­erklä­rung ein tech­ni­sches „Risi­ko­ko­ma­nage­ment­sys­tem“ nicht einen beson­ders erfin­dungs­rei­chen und orga­ni­sa­ti­ons­freu­di­gen Unter­neh­mer aus der gleich­mä­ßi­gen Besteue­rung aus­schlie­ßen, weil er nicht der Üblich­keit, der Nor­ma­li­tät, dem Regel­ty­pus ent­spricht, auf den der Algo­rith­mus aus­ge­rich­tet ist. Viel­mehr muss die Kon­flikt­lö­sung auf die Ebe­ne der mensch­li­chen Begeg­nung zurück­ge­führt wer­den. Die tech­ni­sche Risi­ko­ent­de­ckung ist des­halb nur ein Hin­weis auf den nun­mehr hand­lungs­pflich­ti­gen Beam­ten, die ent­deck­te Beson­der­heit recht­lich wägend und gewich­tend zu beur­tei­len. Die Kon­flik­te wer­den so – dem Rechts­staat gemäß – allein in sprach­li­cher Aus­ein­an­der­set­zung, letzt­lich durch die Recht­spre­chung gelöst. Eine mensch­lich nicht gemä­ßig­te – unmensch­li­che – Kol­li­si­on zwi­schen Mensch und Maschi­ne wird aus­ge­schlos­sen. Die­se Kul­tur des Maßes gilt auch für den bloß infor­mie­ren­den Auto­ma­ten. Wenn eine Tech­nik einem Pati­en­ten eine belas­ten­de Pro­gno­se offen­ba­ren kann, darf die­ser auch über eige­ne Daten grund­sätz­lich nur infor­miert wer­den, wenn er ein­wil­ligt. Kann z. B. ein in der Unter­su­chung fest­ge­stell­ter gene­ti­scher Defekt mit­ge­teilt wer­den, ist dem Betrof­fe­nen viel­leicht dar­an gele­gen, unwis­send ein zwar kur­zes, aber sorg­lo­ses Leben genie­ßen zu wol­len. Das Ein­wil­li­gungs­ver­fah­ren beginnt mit der Auf­klä­rung, die nur ein Mensch, indi­vi­dua­li­sie­rend und gesprächs­of­fen, leis­ten kann. Dem Auf­klä­ren­den stellt sich zunächst die Fra­ge, wie weit die Auf­klä­rung, die eine sach­ge­rech­te Ein­wil­li­gung erst ermög­licht, das zu erwar­ten­de Kri­sen­sze­na­rio schon andeu­ten darf oder muss. Sodann ist zu beden­ken, ob die per­sön­li­che Ein­wil­li­gung auch die Wei­ter­ga­be die­ses Wis­sens an die mit­be­trof­fe­nen Fami­li­en­an­ge­hö­ri­gen recht­fer­tigt. Der Wis­sen­de muss sich auch ver­ge­wis­sern, ob er Dritt­be­trof­fe­ne unter­rich­ten muss oder darf – die zukünf­ti­ge Braut, den Arbeit­ge­ber, die Ver­si­che­rung. Ist eine gro­ße All­ge­mein­heit von Men­schen von einem umwelt­wirk­sa­men selbst­tä­ti­gen Com­pu­ter betrof­fen, der Schad­stof­fe von dem Innen­be­reich in den Außen­be­reich der Städ­te umver­teilt, kann die indi­vi­du­el­le Betrof­fen­heit in der eige­nen Gesund­heit, der indi­vi­du­el­len Wohn­si­tua­ti­on, dem gewerb­li­chen Erfolg sicht­bar wer­den, sich den­noch in der All­ge­mein­heit der Benach­tei­lig­ten ver­lie­ren. Die­se Ent­in­di­vi­dua­li­sie­rung macht das Pro­blem moder­ner Glo­bal­steue­rung bewusst. Der Betrof­fe­ne wird nicht mehr durch einen indi­vi­du­ell adres­sier­ten Ver­wal­tungs­akt ange­spro­chen, son­dern er fin­det ver­än­der­te „Daten“ vor, die fak­tisch in sei­ne Grund­rech­te ein­wir­ken, ohne in sprach­li­cher Aus­ein­an­der­set­zung auf die­se abge­stimmt zu sein. Soll hier der Grund­recht­schutz durch ein­klag­ba­re Indi­vi­du­al­rech­te nicht leer­lau­fen, muss das Recht eine Betrof­fe­nen­be­tei­li­gung an die­sem Steue­rungs­ver­fah­ren orga­ni­sie­ren. Die­ses kann unbü­ro­kra­tisch, zeit­dis­zi­pli­niert, auch in exem­pla­ri­schen Sam­mel­ver­fah­ren gelin­gen. Man­che Infor­ma­ti­ker pro­gnos­ti­zie­ren, das mensch­li­che Gehirn wer­de sich dem Com­pu­ter anpas­sen. Doch eine Anpas­sung des Gehirns an den Auto­ma­ten ver­än­der­te die Ord­nung von Huma­ni­tät und Frei­heit grund­stür­zend. Eine Daten­dik­ta­tur macht den Men­schen abhän­gig, been­det das Ide­al einer frei­en Selbst­be­stim­mung. Ein Daten­re­gime nimmt dem Men­schen die Frei­heit, löst die Demo­kra­tie in ihren Vor­aus­set­zun­gen auf, ent­zieht dem Recht sei­ne Kern­ge­dan­ken von Ver­ant­wort­lich­keit, Schuld, Süh­ne und Haf­tung. Der Mensch 6 O RDNUNG DER WISSENSCHAFT 1 (2020), 1–8 wür­de nicht mehr zu Wis­sen und Gewis­sen, zu Anstand und Ehr­bar­keit erzo­gen, son­dern dem Pro­gramm­ab­lauf eines Com­pu­ters unter­wor­fen. Er wäre Gesetz­mä­ßig­kei­ten unter­stellt, die Men­schen geschaf­fen haben, sich dann aber hin­ter einer Tech­nik und deren Selbst­tä­tig­keit ver­ber­gen. Die Men­schen haben bis­her auch bei grund­stür­zen­den Selbst­ge­fähr­dun­gen durch die Wis­sen­schaft – die Atom­spal­tung oder eine iden­ti­täts­ver­än­dern­de Gen­tech­nik – stets eine Mäch­tig­keit in der Hand des Men­schen ver­mehrt. Nun­mehr macht sich eine for­ma­le Ratio­na­li­tät des Men­schen auf den Weg, durch die Ergeb­nis­se der Wis­sen­schaft die Herr­schaft des Men­schen zu ver­min­dern und letzt­lich auf­zu­he­ben. Aller­dings ent­schwin­det damit die Macht nicht in den Clouds. Es ent­steht kei­ne herr­schafts­lo­se Gesell­schaft. Eben­so beginnt nicht eine Herr­schaft der Tech­nik. Viel­mehr wächst die Macht den Men­schen zu, die die­se sich selbst pro­gram­mie­ren­den Com­pu­ter schaf­fen und deren Kon­trol­le durch die Men­schen bestim­men. Selbst ein sich selbst pro­gram­mie­ren­der Com­pu­ter könn­te durch Men­schen neu pro­gram­miert, ange­hal­ten oder gänz­lich außer Funk­ti­on gesetzt wer­den. Die Erfah­rung der Mensch­heit mit unter­schied­li­chen Macht­sys­te­men – mit den Hoff­nun­gen von „Phi­lo­so­phen­kö­ni­gen“, mit „begna­de­ten“ Herr­schern, mit Demo­kra­tien und Staats­ver­trä­gen – macht glück­li­cher­wei­se hin­rei­chend sen­si­bel für die Bedro­hung durch neue Dik­ta­tu­ren. Die­se Wach­sam­keit wer­den wir gegen­wär­tig sen­si­bel ent­fal­ten müs­sen. VII. Anfäl­lig­keit und Wehr­haf­tig­keit des Rechts In die­ser tech­ni­schen Ent­wick­lung ist der Mensch einer­seits auto­nom, zum frei­heit­li­chen Set­zen eige­ner Ver­hal­tens­maß­stä­be begabt und berech­tigt, ande­rer­seits auf die mensch­li­che Gemein­schaft und ihr Recht ange­wie­sen. Das Recht muss den Men­schen des­halb vor dem Cha­rak­ter­feh­ler bewah­ren, „kei­nen Gefal­len an sich selbst zu haben“ (Sene­ca). Selbst­be­wusst­sein auch gegen­über der Tech­nik ist Bedin­gung moder­ner Frei­heit. Zugleich ist der Mensch, wie Rous­se­au schreibt, dazu ver­ur­teilt, „in der Mei­nung der ande­ren zu leben“. Er ist den Len­kun­gen, Bevor­mun­dun­gen, auch der unmerk­li­chen Fremd­be­stim­mung durch die moder­ne Digi­tal­tech­nik aus­ge­lie­fert. Recht und Digi­tal­tech­nik haben gemein­sam, dass sie das Regel­haf­te ver­mit­teln, Sach­ver­hal­te im Typus erfas­sen, ihre Struk­tur auf das Wie­der­keh­ren­de aus­rich­ten. Dadurch wird das Recht für auto­ma­ti­sier­te Com­pu­ter­ab­läu­fe zugäng­lich und anfäl­lig. Das aus Text­bau­stei­nen zusam­men­ge­setz­te Urteil erleich­tert den Rich­ter­all­tag ele­men­tar, ver­führt aber auch zu Sach­ver­halts­deu­tun­gen, die eine Wirk­lich­keit rea­li­täts­wid­rig auf den Bau­stein aus­rich­ten. Geset­ze sind für stan­dar­di­sier­te Ver­trä­ge und Ent­schei­dungs­ty­pen zugäng­lich, teil­wei­se auch auf „indus­tria­li­sier­te“ Stan­dard­ver­trä­ge ange­legt, nut­zen die Ein­fach­heit von Quan­ti­fi­zie­run­gen, um wer­ten­de Sach­ver­hal­te in Zah­len und Zah­len­for­meln aus­zu­drü­cken. Wenn dabei aller­dings das Steu­er­recht Quan­ti­fi­zie­run­gen wählt, die für den Leser des Geset­zes­tex­tes nicht mehr zu ver­ste­hen sind, ver­wei­gert das Gesetz das Gespräch mit dem Bür­ger. Das wider­spricht allen Errun­gen­schaf­ten der Sprach­lich­keit eines all­ge­mei­nen – all­ge­mein­ver­ständ­li­chen – Rechts, das durch Spre­chen über das Recht letzt­lich von der Recht­spre­chung ver­wirk­licht wird. Algo­rith­men und Geset­ze unter­schei­den sich grund­le­gend in der Fähig­keit, in die Zukunft vor­zu­grei­fen. Der Algo­rith­mus ist aus dem gegen­wär­ti­gen Wis­sen und Wol­len pro­gram­miert, kann das Heu­te nicht ver­las­sen und ein neu­ge­stal­te­tes Mor­gen ver­an­las­sen. Das Gesetz hin­ge­gen greift in sei­nen gene­rell-abs­trak­ten Tat­be­stän­den so in die Zukunft vor, dass auch der heu­te noch unbe­kann­te Fall bereits gelöst wird. Die Rech­ner kön­nen Mas­sen­vor­gän­ge bewäl­ti­gen, Kom­ple­xi­tät ver­ein­fa­chen, Regel und Aus­nah­me defi­nie­ren, recht­lich Erwar­te­tes vom Unvor­her­ge­se­he­nen abschich­ten. Sie blei­ben aber Die­ner des Rechts­ge­wäh­ren­den, Vor­be­rei­tungs­hil­fe des Recht­su­chen­den. Die straf­recht­li­che Zumes­sung einer Schuld, die grund­recht­li­che Abwä­gung eines staat­li­chen Ein­griffs, die fami­li­en­recht­li­che Ent­schei­dung über das Ver­hält­nis von Eltern und Kind sind für Pro­gram­mie­rung und Quan­ti­fi­zie­rung schlecht­hin unzu­gäng­lich. Gegen­über der Moder­ne der Digi­ta­li­sie­rung wird sich das Recht aber vor allem in sei­ner Funk­ti­on, Maß­stä­be zu geben und Ver­ant­wort­lich­kei­ten zuzu­wei­sen, bewäh­ren müs­sen. Dabei stellt das Recht vor allem Grund­satz­fra­gen, die der Staat mit sei­nen Orga­nen zu beant­wor­ten hat: – Ver­folgt eine sich ver­selb­stän­di­gen­de Tech­nik ein erkenn­ba­res, legi­ti­mes Ziel? – Setzt sie dafür ange­mes­se­ne – geeig­ne­te, erfor­der­li­che und zumut­ba­re – Mit­tel ein? – Blei­ben die tech­nisch neu ent­wi­ckel­ten Wege zur Ziel­er­rei­chung im recht­li­chen Kor­ri­dor der bis­her gerecht­fer­tig­ten Mit­tel oder bedür­fen sie ent­wick­lungs­be­glei­tend jeweils einer erneu­ten Legi­ti­ma­ti­on? – Wel­che Instru­men­te zur Herr­schaft über Men­schen stellt die Tech­nik bereit? – Wer übt die­se Herr­schaft durch Tech­nik aus und ver­ant­wor­tet sie? – Wer ist der Herr­schafts­be­trof­fe­ne und wie kann er die Herr­schaft mäßi­gen, abweh­ren? Kirch­hof · Künst­li­che Intel­li­genz 7 – Wem gegen­über sind die Herr­schen­den für ihre Herr­schaft und deren Wahr­neh­mung ver­ant­wort­lich? – Was sind die Fol­gen einer Rechts­ver­let­zung mit Hil­fe der Tech­nik? – Wer trägt die Fol­gen? – Wie wird die Tech­nik in ihren Chan­cen und Risi­ken sicht­bar gemacht, auf Nut­zer und Betrof­fe­ne nach ver­all­ge­mei­ne­rungs­fä­hi­gen Maß­stä­ben abge­stimmt, von staat­li­chen Insti­tu­tio­nen über­wacht und kor­ri­giert? Wis­sen­schaft und Tech­nik schaf­fen neu­es, bis­her uner­kann­tes Wis­sen, prak­ti­zie­ren Unvor­her­seh­ba­res und Rät­sel­haf­tes, begrün­den damit auch Furcht und Unsi­cher­heit. Doch ist die Wis­sen­schaft stets auch in der Lage, das Unver­trau­te zu erklä­ren und so Ver­trau­en zu gewin­nen, das noch nicht Abschätz­ba­re als unbe­kannt zu defi­nie­ren und damit der kri­ti­schen Beob­ach­tung aus­zu­lie­fern, die Mög­lich­kei­ten der neu­en Erkennt­nis­se auf das „gute Leben“ aus­zu­rich­ten. Das Recht formt die­se Ent­wick­lung durch das Prin­zip der Frei­heit, dem indi­vi­du­el­len Schritt zum Bes­se­ren, und die par­la­men­ta­ri­sche Gesetz­ge­bung, die das Gesetz stets gegen­warts­ge­recht wei­ter­ent­wi­ckelt. Paul Kirch­hof, ehe­ma­li­ger Rich­ter des Bun­des­ver­fas­sungs­ge­richts, ist Seni­or­pro­fes­sor dis­tinc­tus für Staatsund Steu­er­recht der Uni­ver­si­tät Hei­del­berg. Autor des 2018 bei Her­der erschie­ne­nen Buchs „Beherz­te Frei­heit“. 8 O RDNUNG DER WISSENSCHAFT 1 (2020), 1–8