MicialMedia

Die von dem Deutschen Bundestag eingesetzte Enquete-Kommission Künstliche Intelligenz stellte über ihre Plattform enquetebeteiligung.de einen Fragenkatalog zur künftigen Entwicklung der Künstlichen Intelligenz (KI) öffentlich ins Netz, den man in März und April 2020 (Deadline war der 19.4.2020) gesamt oder auch nur in Einzelfragen beantworten konnte. Ich fand die Fragen spannend und habe versucht, aus meiner Perspektive Antworten zu geben. Selbstredend brachte ich hier Aspekte von meinem Konzept der Ethischen Intelligenz ein, das ich seit 2018 sukzessive entwickele. Die KI ist nur ein Teil der Ethischen Intelligenz, aber natürlich ein hoch relevanter! Fragen der Ethik spielen vor allem bei der Genese einer zu erwartenden starken KI oder auch „Superintelligenz“ eine immens wichtige Rolle. Gleichsam könnte Ethische Intelligenz der gemeinsame Nenner für alle biologischen und technischen sozial interagierenden Systeme der Zukunft sein. Ich sehe dies als eine Chance für den Fortbestand der Menschheit an. Doch nun zu den Fragen der Enquete-Kommission KI und meinen Antworten darauf.

Foto: Michael M. Roth, MicialMedia: Humanoider Roboter Pepper @ NWE 2019 / ZKM

https://enquetebeteiligung.de/projects/vertrauen-und-transparenz/

A. Vertrauen und Transparenz
Wie muss KI gestaltet werden, damit sie gesellschaftlich akzeptiert wird? Vertrauen Sie KI? Wie soll der Einsatz von KI sichtbar gemacht werden?

1. Welche Hoffnungen/Befürchtungen verbinden Sie mit dem Einsatz v. KI?

Jede Daseinsform im Universum scheint eine doppelte Wertigkeit zu besitzen. So wie der 24-h-Tag mit hell und dunkel, das Paar mit Mann und Frau, das Wetter mit Regen und Sonne. Wir nennen es auch Ambivalenz. Lateinisch: „beide gelten“. Besonders Industrialisierung und Technologieentwicklung haben uns in der Geschichte „Glück und Erfüllung“ auf der einen und „Not und Elend“ auf der anderen Seite gebracht. Die US-amerikanischen Atombomben setzten einen Schlussstrich unter den 2. Weltkrieg und forderten gleichzeitig viele, viel zu viele Todesopfer.

KI reiht sich ein in das Phänomen der Zweiseitigkeit und des Zwiespaltes. Meine Hoffnung ist, dass Künstliche Intelligenz auf sehr vielen Ebenen und in schier unendlich vielen Bereichen der Gesellschaft, vergleichbar mit der heutigen Nutzung von Smartphone und Internet, für den Menschen Verbesserungen, Erleichterungen und mehr Erfüllung im Leben bringen wird. Wissen und Erkenntnisse werden hierbei eine zentrale Rolle spielen. Auch wenn der Mensch im Laufe seiner Evolution, wie übrigens zahlreiche andere Tierarten auch, ein unglaubliches Maß an Fähigkeiten und Fertigkeiten erlangt hat, befinden wir uns in Bezug auf die beiden für meine Begriffe hoch relevanten Kriterien der Intelligenz und der Ethik erst im Stadium eines Urozeans. Daher habe ich selbst das Konzept der „Ethischen Intelligenz“ (EI) begründet und bin dabei, es sukzessive auszubauen und zu deklinieren. Meiner Meinung nach geht es nicht darum, dass wir Menschen das Wetteifern von KI-Systemen in Richtung „menschliche Intelligenz“ verhindern sollen. Aus diesen von manchen zum Ausdruck gebrachten Imperativ könnte man schlussfolgern, dass die menschliche Intelligenz auf ewig das Nonplusultra bei der Entwicklung von Intelligenz im Universum darstelle. Meiner Meinung nach sollten sowohl die Menschen als auch die KI-Systeme der Zukunft einem gedachten Prototyp der Ethischen Intelligenz entgegen streben. Einen Qualitätssprung bedarf die Gesellschaft der Erde 2020 in beiden Disziplinen. Zudem führt die Zusammenfassung von Ethik und Intelligenz zu einer neuen Bewusstseinsstufe.

Meine Befürchtung ist, dass KI-Systeme der Zukunft „die Macht“ übernehmen, während die Art der Menschheit aussterben könnte. Das muss ursächlich noch nicht mal deswegen passieren, weil künftige Superintelligenzen uns feindlich gesonnen wären. Allein wir Menschen erscheinen dann vielleicht als irrelevant. KI-Systeme der Zukunft könnten uns für so klein und unbedeutend halten, wie wir heute Ameisen betrachten, die wir gelegentlich „aus Versehen“ zertreten und dies weder als schlimm noch als bewusst böswillig betrachten. Oder wir dürfen immerhin noch überleben, weil wir offensichtlichen oder versteckten Nutzen haben und wir werden so gehalten wie der der Mensch heute Schweine und Hühner in der Massentierhaltung hält und nach seinen Bedürfnissen züchtet.

2. Inwieweit verlassen Sie sich auf Produkte oder Anwendungen, die mit KI arbeiten?

Mein Vertrauen in heute existierende Produkte ist begrenzt. Zumal es in der Wahrnehmung insgesamt bis heute viel zu wenige KI-Anwendungen oder -Produkte gibt, obwohl wir eigentlich an allen Ecken und Enden einen Bedarf dafür hätten. Und die Produkte, die den Stempel KI tragen, sollten vielleicht eher den Stempel „vorsintflutliche KI“ tragen. Denn sie befinden sich ebenso in einem Zustand des „Urozeans“, wenn überhaupt.

3. Inwieweit wäre es für Sie hilfreich, wenn KI-Systeme auf mögliche Risiken hin eingeschätzt und klassifiziert werden?

Meiner Meinung nach sollten KI-Systeme nicht nur in Hinblick auf mögliche Risiken, sondern auch bzgl. möglicher Nutzeffekte, intelligenter, mehr noch: ethisch-intelligenter Fähigkeiten und Qualifikationen hin bewertet werden. KI-Systeme, die heute entwickelt werden, können wir ähnlich betrachten wie menschliche Babys, zumindest bzgl. bestimmter Kriterien. Jetzt haben wir Menschen noch alle Chancen, der sich ständig weiter entwickelnden KI Werte mit auf dem Weg zu geben. Wissen und Werte sollten hierbei zur einer Ethischen Intelligenz führen. Im optimalen Szenario werden KI-Systeme (der Zukunft) wesentlich mehr an konstruktivem als Risiko-Potenzial bieten. Wenn wir zunehmend in Hinblick einer Ethischen Intelligenz denken, dann müssten wir, strenggenommen, auch den Menschen dahin gehend bewerten, welche Chancen und Risiken von ihm ausgehen oder ausgehen können. Derzeit gehört das Prinzip des Amoklaufes zur menschlichen Lebenswirklichkeit. Wir haben der KI etwas voraus. Im Guten wie im Bösen. Also was wollen wir der KI mit auf den Weg ihrer Entwicklung geben? Im Prinzip müssten wir jetzt damit beginnen, dem kleinsten Computerprogramm die Zeile mitzugeben: „Anspruch: ethisch-intelligent“. Jeder PC, den ich mir in 10 oder 20 Jahren kaufe, könnte diese Phrase enthalten. Mit einem konkreten Wert der Erfüllung: 10, 20, 50, 90%. Natürlich, den „Ereignishorizont“ einer Ethischen Intelligenz müssten wir so gut wie nötig, so konsensual wie möglich, definieren. Dies ist per se und objektiv eine Aufgabe, die alles ist, nur nicht einfach.

4. Wie beurteilen Sie die Einführung von Standards für KI-Systeme, z. B. eines anwendungsspezifischen Gütesiegels?

Wie bereits unter 3. angeklungen, könnte ich mir Gütesiegel oder Klassifizierungen vorstellen auf einer eher höheren Ebene, in Bezug auf die Ethische Intelligenz. Ebenso kann es Spezialfähigkeiten geben, bei denen KI-Systeme unterschiedlich stark talentiert sind. Gleichzeitig bleibt für mich die Frage, ob wir Gütesiegel dann (perspektivisch) nicht überhaupt für alle sozial und autark agierende Systeme einführen sollten. Genau das ist die (meine) Langzeitprognose für KI-Systeme der Zukunft.

https://enquetebeteiligung.de/projects/beruf-und-alltag/

B. Beruf und Alltag
Wo begegnet uns KI im Alltag, und wie wollen wir diese nutzen? Welche Rolle soll der Einsatz von KI zum Beispiel im Internet spielen?

1. Welche Veränderungen erwarten Sie durch den zunehmenden Einsatz von KI in der Zukunft?

KI wird uns ganz wesentlich dabei unterstützen, Zusammenhänge im Universum besser zu verstehen und intellektuell zu durchdringen. Mit „Universum“ meine ich das alltägliche Leben auf unserem aktuellen Heimatplaneten Erde, den Makrokosmos, also die Planeten, das Sonnensystem, Exoplanten, die eigene und fremde Galaxien, sowie in der anderen Richtung den Mikrokosmos, d.h., ganz besonders das Immunsystem des Menschen, Interaktionen mit aus unserer Sicht extrem kleinen Lebewesen oder „Halblebewesen“ wie Bakterien oder Viren. Was es dort noch zu entdecken gibt, das scheint ebenso eine eigene Art von Universum zu sein. „Entdecken“ bedeutet mit zunehmendem Verlauf der Zeitachse eine ständig wachsende Einflussnahme. Einerseits mahnt uns das Coronavirus gerade dazu, mit der Natur eher im Einklang zu leben. Auf der anderen Seite kann es der Mensch nicht zulassen, durch Viren zerstört zu werden, in dem Moment, da er angegriffen wird. Nicht nur die Stärkung des Immunsystems, auch das verhältnismäßige Reagieren wird zu einem immer wichtigeren Forschungsgebiet, dessen Erkenntniswachstum wir mit Hilfe der KI beflügeln und beschleunigen können. Phänomene wie eine eigentlich überhaupt nicht notwendige Immunreaktion bei einer Allergie wie z. B. dem „Heuschnupfen“ (Pollenallergie) oder die autoimmune Zerstörung von lebenswichtigen, insulinproduzierenden Körperzellen (Diabetes Typ 1) sind heute allgegenwärtig und häufig anzutreffen. Nur, Sinn ergeben diese Phänomene aus Sicht des Menschen nicht. Das dekadenlange Therapieren von Diabetes mittels Insulins und Blutzuckermessgeräten hilft ganz besonders einer „Institution“, der Pharmaindustrie. Für den Menschen wäre eine Komplettheilung besser! Im Zuge moderner Technologien wie der Genschere CRISPR, der Steuerung Regulatorischer T-Zellen und eben der Künstlichen Intelligenz scheint die Heilung nun gar nicht mehr ausgeschlossen zu sein, obgleich die „Unheilbarkeit“ von Diabetes jahrelang propagiert wurde. Mit Erfolg, wie man an Menschen sieht, die sich „Typ 1“ haben auf ihre Arme tätowieren lassen.

So wie in den 1950er Jahren darüber spekuliert wurde, dass ein paar Computer den Verbrauchermarkt weltweit schon sättigen würden, so stehen wir heute am Anfang der Künstlichen Intelligenz. Ihr wird das Gleiche widerfahren wie PC und Smartphone. Ihr Einsatz wird ubiquitär werden wie heute der tägliche Gebrauch der Wikipedia oder die Nutzung von Suchmaschinen. Es wird immer und überall gehen um Wissen, Erkenntnis, Effizienz, Sinn und Unsinn. Nehmen wir bspw. die heute üblichen Texteingabesysteme bei Smartphones. Obwohl Robert Tolksdorf bereits 2007 den Begriff des Web 3.0 (Web 2.0 plus Semantic Web) geprägt hat, scheint die semantische Vernetzung von Worten und Wortstämmen, Begrifflichkeiten, Begriffswolken und Themengebieten im Internet und in mehr oder wenigen abgeschlossenen Systemen wie der deutschen Sprache bisher allenfalls rudimentär stattzufinden. Sowohl auf syntaktischer, noch mehr auf grammatikalischer und insbesondere auf semantischer Ebene erfolgt in den State-of-the-Art-Text-Eingabesystemen der Smartphones kaum eine Prüfung auf Korrektheit oder Zusammenhang. Der Zustand des schon erwähnten Urozeans ist also auch hier anzutreffen. Im Umkehrschluss folgt daraus ein unglaublich großes Entwicklungspotenzial.

Sollte es der KI bzw. initial ihrem Geburtshelfer, dem Menschen, (zunehmend) gelingen, KI-Systeme zu einem Träger und Repräsentanten Ethischer Intelligenz zu machen, so werden selbige immer häufiger Schnittstellenfunktionen übernehmen zwischen der realen Umwelt und den Paradigmen, von denen sich die Menschen leiten lassen, ihre Umwelt zu verändern und einander zu begegnen. Hierfür ein konkretes Beispiel. Person A sagt: „Wir sollten für die Energiegewinnung solange wie möglich auf die Verwertung fossiler Brennstoffe zurückgreifen! Schließlich machen wir das schon seit Jahrzehnten so. Außerdem müssen wir die Arbeitsplätze in der Kohleindustrie bewahren!“ Person B sagt: „Es wird Zeit für die Einführung und kurz oder lang für den Triumph der Erneuerbaren Energien!“. Jetzt könnte ein Expertensystem zwischen beiden Parteien vermitteln. Das Expertensystem hat ein solides Wissen und kann schlussfolgern (Intelligenz). Ebenso verfügt es über ein Basiswissen in Bezug auf Ethik: „Auf kurz und lang sollten so wenig Menschen wie möglich leiden und/oder gar Todesopfer einer Technologie oder von Lebenssituation werden.“ Darüber hinaus hat das KI-gestützte System Spezialwissen über die Energiegewinnung sowohl aus fossilen Brennstoffen wie zu den Erneuerbaren Energien, Windkraft, Sonne etc. Möglicherweise verfügt es in Addition über Erfahrungswissen eines Kohlebergbauarbeiters und kennt die Passion des Gründers eines Startup-Unternehmens im Bereich der Erneuerbaren Energien. Das Expertensystem lässt Fairness gegenüber beiden Seiten walten und verzichtet auf persönliche Despektierlichkeiten wie „Du hast doch keine Ahnung“ oder „Du ungebildeter Mensch“. Die Vermittlung zwischen den Menschen führt zu einem Wissens- und Erkenntniszuwachs auf beiden Seiten und zu einer Steigerung der wertschätzenden Kommunikation.

Über die Einsatzmöglichkeiten zukünftiger KI-Systeme ließen sich bestimmt einige Seiten eines dicken Buches füllen. Na wenn die mal reichen, überhaupt.

2. In welchen persönlichen Lebensbereichen wünschen Sie sich eine (stärkere) Anwendung von KI?

Natürlich, wie schon unter 1. beschrieben, die Optimierung der Schnittstellen zwischen Mensch und Computer. Später wird es zunehmend um die Schnittstellen zwischen Mensch und KI-Systemen gehen. Der gesamte Bereich der Gesundheit wird von KI durchdrungen werden. Heute nennen wir das ziemlich „motorisch“ „Pflegeroboter“, später vielleicht „KI-Schwester“ oder einfach nur „Lieblingsschwester“. KI-Systeme werden uns in allen Bereichen überlegen sein. Auf emotionalen Gebieten, die wir heute als „menschlich“ bezeichnen, zumindest ebenbürtig. Dies könnte den Menschen überflüssig machen, oder, wenn wir wieder von einem positiven Szenario ausgehen, den Menschen anspornen, noch ethischer zu handeln als bisher. Die gerade jetzt in Corona-Zeiten von vielen „ausgepackte“ oder wiederentdeckte Fähigkeit zur Solidarität wäre genauso eine Charaktereigenschaft. Aktuell ist sie nicht zwingend bezeichnend für unseren real existierenden (Wohlstands-)Kapitalismus, den manche ja sogar mit einer Ellenbogengesellschaft gleichsetzen.

Selbstverständlich: Das autonome Fahren. Darüber hinaus könnte uns KI dabei unterstützen, effiziente, menschen- und umweltfreundliche Verkehrskonzepte zu entwerfen. Hinterher werden wir sagen: „Na logisch, warum sind wir nicht früher darauf gekommen?!“.

Unser Smartphone wird sich mehr und mehr zu einem persönlichen, ethisch-intelligenten Assistenten entwickeln. Das kann gefährlich nahe kommen an die Grenze zum „zweiten Ich“. Irgendwann mag sich die Frage stellen von Kopierbarkeit, Identität und dem ewigen Leben. Bevor es soweit kommt, schafft der Transhumanismus die Ersetzbarkeit fast aller oder sogar aller Organe des menschlichen Körpers. Das Leben wird „unendlicher“. Das könnte dazu führen, dass wir uns eines Tages nach der Romantik der Endlichkeit des Lebens zurücksehnen werden. In diesem Kontext fand ich es gut, dass das Bundesverfassungsgericht für Deutschland das Recht auf Sterbehilfe erst kürzlich neu, also bejahend, geregelt hat. Ob die Richter und Richterinnen hierbei schon die (theoretische) Unsterblichkeit des Menschen im Auge hatten?

Resümierend kann ich zu dieser Frage sagen, dass ich mir in quasi allen Lebensbereichen eine stärkere Durchdringung von KI wünsche, für machbar und wahrscheinlich halte. Man könnte alternativ fragen: In welchen Lebensbereichen würde KI keine Rolle spielen oder sollte außen vorbleiben? Beim Sex? Noch nicht mal da! Ich würde mir gerne eine künstlich-intelligente, noch besser: ethisch-intelligente Frau wünschen, die attraktiv ist oder so erscheint und gleichzeitig meine Defizite an super juvenilen Fähigkeiten „im Bett“ verzeiht.

Überlegen wir uns nur, wie viel zigmal wir am Tag unser Smartphone zücken, um irgendetwas „in Erfahrung“ zu bringen. Wir sind immer wissensdurstig, wollen unser Leben ständig optimieren. Manchmal tun sich 100 neue Fragen auf, wenn wir auf nur eine eine Antwort gefunden haben. Das zweite „eine“ unterstreicht der Computer rot. Wiedermal ein Beweis für die noch fehlende Überprüfung bzw. Toleranz hinsichtlich der Semantik.

3. Wie beurteilen Sie es, dass Informationen im Internet auf die nutzende Person zugeschnitten werden?

Wie gewissermaßen schon in der Frage enthalten ist, handelt es sich hier um eine Schnittstelle zwischen Mensch und digitalisiertem Wissen. In der Perspektive wird es m. E. zu einer Maximierung der personalisierten Informationsfilterung kommen. Die spannende Frage ist, wie nah die Personalisierungskomponente am Verbraucher dran ist. Im Prinzip könnte der Nutzer eine Kopie des Internet machen und dann innerhalb seiner privaten Zone nach Belieben und Bedarf filtern. Auf der anderen Seite wollen das Anbieter tun, während sie das Netz als Zwischenmedium nutzen, um möglichst viele oder „hochwertige“ Kunden ihres Produktes oder ihrer Dienstleistung zu gewinnen. Letzten Endes haben beide Seiten ihre berechtigten Interessen. Unternehmen wollen und sollen überleben. Verbraucher (ver?)brauchen ihre Privatsphäre, zumindest einen Zipfel davon. Das Verständnis von Privatsphäre wird sich durchaus verändern. Inseln des eigenen „Hoheitsbereiches“, der Ruhe, Ungestörtheit und freien Entscheidbarkeit scheinen gleichwohl essenziell für den Menschen. Im Gesamtbild wird sich gewiss der Grad der Adaptierung von Informationen an persönliche Bedürfnisse erhöhen.

4. Welche Vor- und Nachteile sehen Sie derzeit im Zusammenhang mit dem Einsatz von KI im privaten und beruflichen Umfeld?

Ich denke nicht, dass es so einen großen Unterschied gibt zwischen der privaten und kommerziellen Nutzung. Wenn wir wieder das Smartphone als Beispiel für bisherige Spitzentechnologie im Alltag betrachten: Wir nutzen es sowohl im beruflichen als auch im privaten Umfeld intensiv. Wie beim Smartphone so hat auch bei der KI das Kriterium der Zuverlässigkeit bei höher skalierten Anwendungen (die meist im beruflichen Umfeld stattfinden) eine größere Relevanz. Wenn ich mir von einem (vertrauenswürdigen und kompetenten) KI-Roboter die Haare schneiden lasse, und der Haarschnitt entspricht am Ende nicht meinen Erwartungen, dann sind die Auswirkungen natürlich nicht so verheerend wie bei einer Herz-OP, die missglückt, und der Patient stirbt.

Anwendungen, die etwas mit Echtzeitanforderungen und Verantwortung zu tun haben, wie beim Autonomen Fahren sind kritischer zu untersuchen und zu prüfen auf ihre Zuverlässigkeit.

Derzeit sehe ich wenig KI-Anwendungen im öffentlichen oder privaten Bereich mit großer Relevanz. Gesichtserkennung könnte eine sein. Gleichzeitig ein gutes Beispiel dafür, wie sich das Verhältnis zu unserer Privatsphäre dehnt oder die Definition dieser mutiert. Angenommen, die Polizei jagt einen Verbrecher. Auf einem Marktplatz identifiziert sie ihn. Er ist kurz davor, einen anderen Menschen zu erschlagen. Dank Gesichtserkennung kann sie die bedrohte Person sofort identifizieren und warnen. Freilich, dies ist schon ein fortgeschrittenes Szenario. Es ist wie immer. Wir erleben die Einbuße unserer (klassischen) Privatsphäre. Gleichzeitig wird das eigene Leben gerettet. Dafür mag es unzählige Beispiele geben. Eigentlich wäre es nicht verkehrt, wenn der Mensch sukzessive die „Dehnung“ seiner eigenen Privatsphäre regulieren könnte. Allein ich fürchte, dass uns die Realität hier einholen wird.

Google, Facebook & Co stellen Datenkraken dar. Wahrscheinlich wird das weltweit kaum so intensiv kritisiert wie im – mehr oder minder – datenbewussten Deutschland. Derartige Anbieter und Datenaggregatoren sind in der täglichen Anwendung in so vielen Fällen hilfreich und oftmals heute kaum noch wegzudenken. Gleichwohl laufen im Hintergrund immer wieder Missbrauchsszenarien und mögliche Datenmissbräuche. KI mag beides auf einen höheren Level bringen, sowohl die Nutzeffekte als auch die möglichen Gefahren und Risiken. Das hat viel damit zu tun, dass das Leben in der Gesellschaft immer datenintensiver und datenabhängiger wird. Der Worst Case könnte bspw. hinaus laufen auf einen „Klau der Identität“. In Filmen wurden derartige Szenarien schon durchgespielt. Der Mensch zog hierbei oft den Kürzeren.

https://enquetebeteiligung.de/projects/datennutzung-und-datenschutz/

C. Datennutzung und Datenschutz
Wofür dürfen welche Daten von KI verwendet werden? Würden Sie Ihre persönlichen Daten zum Beispiel für eine bessere medizinische Versorgung oder optimierte Mobilitätsangebote teilen?

1. Mit wem sind Sie bereit, Ihre Daten zu teilen und warum (jetzt und in Zukunft)?

Das Thema des Umgangs mit Daten klang schon im Hauptpunkt „Beruf und Alltag“ an. Meine Daten würde ich bspw. gerne teilen mit verschiedenen Ärzten, so dass dort der Grad des vernetzten Wissens zunehmen kann. Die Gesundheit eines Menschen sowie der Menschen in der Gesellschaft als Gesamtheit sind spannende Forschungsfelder mit jede Menge Potenzial und Luft nach oben. Denn natürlich wollen wir Krankheiten wie Krebs oder chronische Leiden heilen bzw. deren Entstehung verhindern oder verzögern. Für die beste Gesundheit werden wir ein Stück unserer Privatsphäre (im bisherigen Sinne) opfern müssen. Auch ein Psychologe kann mich nur heilen oder erfolgreich therapieren, wenn ich ihm oder ihr „mein Herz ausschütte“.

Ich kann ebenso mit einem Buchhändler meine Interessen teilen, in der Hoffnung, dass er mich dafür informiert, sobald es eine Neuerscheinung innerhalb meiner Interessengebiete gibt. Sensibilisiert, wie wir sind, werden wir die Frage im Hinterkopf behalten: „Was passiert, wenn Person oder Unternehmen B meine Daten an Person oder Institution C weitergibt. Inwiefern wird Unternehmen B Kapital schlagen aus meinen Daten, womöglich sogar aus einer negativen Entwicklung, die rund um meine Person stattfindet? Vielleicht sind es Rosinen im Kopf, aber ich würde mir wünschen, dass Menschen (und sie sind Bestandteil oder sogar in der Leitung von Unternehmen) einräumten, selbst verletzbar zu sein, körperlich und seelisch. Und dass sie schon aus diesem Grund es vermeiden, andere Menschen zu verletzen. Vorteil schlagen aus Schicksalsschlägen oder Missgeschicken anderer, das wäre unethisch und mit dem zuvor ins Spiel gebrachten Konzept der Ethischen Intelligenz nicht vereinbar. Letzten Endes werden wir immer wieder Anreize für ethisches Handeln benötigen. So wie es aktuell lukrativ für einen Pharmakonzern ist, Millionen Teststreifen für die tägliche, möglichst über viele Jahre andauernde Therapie von Diabetes-Patienten herzustellen, so muss ganz klar ein Anreiz geschaffen werden, vielleicht nur den einen Impfstoff oder das eine Medikament zu entwickeln, um Diabetes grundsätzlich vom Planeten zu verbannen. Geschieht das nicht, dann werden Patientinnen und Patienten womöglich noch Jahrzehnte auf eine Heilung warten. Also wo wollen wir hin? Nicht als Pharmakonzern. Als Gesellschaft! Die das Wohl ihrer Mitglieder als hohes Ziel und Gut ansieht.

2. Für welche KI-Anwendungsbereiche wären Sie bereit, Ihre Daten zu teilen?

Hier gibt es eine Analogie zur vorigen Frage. Innerhalb zukünftiger Entwicklungen werden „KI-Anwendungen“ eine vergleichbare Rolle einnehmen, die heute Menschen und Unternehmen haben. Die Vertrauensfrage wird hier wie da sehr ähnlich sein. Derzeit traue ich doch viel lieber und eher einem Menschen, insofern ich ein gewisses Vertrauensverhältnis „kalkulieren“ oder „befinden“ kann.
Die KI wird sich erst noch tausendfach beweisen müssen. Doch im Sinne der technologischen Akzeleration könnte es schon in wenigen Jahren zu Paradigmenwechseln kommen, die wir heute noch nicht mal im Blick haben oder als mögliches Szenario vorhersehen. Allein dass sich laut Gordon Moore statistisch alle 1,5 Jahre die Integrationsdichte von elektronischen Schaltkreisen verdoppelt (vorhergesagt in den 1960ern), und der Trend bis heute anhält, ist eigentlich ein für den Menschen kaum begreifbares Mysterium. Wer mag schon vorhersagen, was nach der Verdoppelung der Verdoppelung der Verdoppelung passieren wird? Wir stehen am Beginn einer Technologie- und voraussichtlich dadurch induzierten Intelligenz-Revolution. Oder sollte ich sagen Supernova?

3. Welchen Handlungsbedarf sehen Sie bei der bestehenden Regulierung von Daten mit Blick auf KI?

Auch wenn es m. E. in den kommenden Jahren zu einer Verschiebung der Wahrnehmung von Privatsphäre kommen wird, so macht es Sinn, Konzepte von Systemen und Anwendungen so zu entwickeln, dass sie ethischen Mindeststandards entsprechen. Insbesondere in Bezug auf persönliche Daten, die man einem Menschen von außen nicht ansehen bzw. nicht kalkulieren kann, sollten unter besonderem Schutz stehen. In der Praxis gilt das für die Verwendung persönlicher Daten, deren Reflexion nach außen und ihrer Weitergabe „im Hintergrund“. Beides darf entweder nur anonymisiert erfolgen oder der Inhaber (Träger) der sensiblen Daten hat ihrer Veröffentlichung und/oder Weitergabe explizit zugestimmt. Wie die Weitergabe von Daten an andere Menschen, so ist der gleiche Vorgang gegenüber digitalen Systemen bis hin zu KI-Systemen eine Frage des Vertrauens. Aufgrund der schier unendlichen Kopierbarkeit von Daten und einer möglichen Latenzzeit, die gegen Null geht, ist die Datenweitergabe im digitalen Raum noch mehr ein Aspekt des Vertrauens, der zu hinterfragen ist. Eine neue Dimension wird dadurch abgebildet, dass künftig (stark) künstlich-intelligente Systeme selbst als Daten- und Wissenssenke im Sinne einer bewussten und intelligenten Verarbeitung fungieren können. Dahinter mag sich nicht nur die Problematik des kommerziellen Missbrauchs verbergen. Auch ein solches Szenario ist denkbar: Mein Arzt gibt mir eine exakte Diagnose bzgl. meines Gesundheitszustand. (Achtung, Szenario) Er stellt fest, dass ich Krebs habe. Ich gebe die exakte Diagnose an meinen persönlichen KI-Assistenten weiter. Und dieser vertraut mir an „Wenn Du die Medikamente A, B und C nicht innerhalb von 13,5 Tagen einnimmst, bedeutet das das Ende Deines Lebens.“. Hier zeigt sich wieder die doppelte Valenz eines Sachverhaltes oder einer Information.

https://enquetebeteiligung.de/projects/wissen-und-forschung/

D. Wissen und Forschung
Was wissen Sie über KI, und wo gibt es noch Forschungs- und Informationsbedarf?

1. Was verstehen Sie unter KI?

Unter KI verstehe ich wissensbasierte und lernende Systeme. Während eine „schwache KI“ in der Lage ist, Wissen zu akkumulieren und daraus fortlaufende Schlussfolgerungen zu ziehen, wird eine „starke KI“ Eigenschaften erlangen, die zunächst jenen der Menschen ähneln. Dazu mögen Informationen gehören, die „zwischen den Zeilen“ liegen bzw. die durch Erfahrung oder Intuition zustande gekommen sind. Darüber hinaus wird ein Netz aus Sensoren zu einer ganzheitlichen Wahrnehmung führen. Ähnlich der Entwicklung von Tieren und Menschen, wo instinktive bis zunehmend bewusste Entscheidungsfindungen stattfinden. Auf diesem möglicherweise sehr schmalen Grat zwischen Instinkt und Bewusstsein werden sich starke KI-Systeme bewegen. Entgegen der heute von verschiedenen Informatikern und Philosophen getragenen Position, dass der Mensch auf absehbare Zeit der prominente und privilegierte Bewusstseinsträger ist, bin ich der Ansicht, dass die Entstehung von Bewusstsein in KI-Systemen nur eine Frage der Zeit ist. Ob dies eine, zwei, 10 oder 20 Dekaden dauern wird, ist aus Sicht der Evolution fast unerheblich. Und doch könnte die „Distanz“ bis zur Etablierung einer Superintelligenz von Relevanz sein für das Überleben der Menschheit. Denn wenn dies schon „morgen“ geschieht, dann wird der Mensch ganz einfach überfordert sein und untergehen. Die Herausforderung für die Menschheit besteht darin, ihre eigene Rolle und die Rolle in Bezug auf die Natur und die Systeme, die den Menschen umgeben, inklusive kommender KI-Systeme, zu verstehen. Sowohl Hybris als auch Minderwertigkeitskomplexe sind hier fehl am Platze. Der Mensch braucht beides: Visionen und eine Wahrnehmung für die eigene Verletzbarkeit.

2. Wie und durch wen sollte Wissen über KI verstärkt vermittelt werden?

Solange KI-Systeme noch nicht selbst uns Prozesse bzw. Situationen auf dem Planeten erklären können, eines Tages wird übrigens u.a. dies genau zu ihren Stärken gehören, solange werden einzig die Menschen diese Aufgabe übernehmen. Insbesondere sind angesprochen Informatiker, Philosophen und Ethiker, inklusive ihrer weiblichen Pendants, sowie jene Institutionen, in denen sie beschäftigt sind. An Universitäten, Schulen und Akademien sind nicht nur computerwissenschaftliche, mathematische und neuronale Aspekte der KI zu vermitteln, sondern auch gesellschaftliche und jene der ebenso bereits existierenden Disziplin der „Technikfolgeabschätzung“. Die zuvor erwähnte Klammer zwischen Ethik und Intelligenz als eine der Voraussetzungen für die Erhaltung der menschlichen Art ist zu erkennen und als solche zu vermitteln im Kontext einer jeden Lehreinheit zum Thema KI oder auch bei Fragen der gesellschaftlichen oder politischen Entwicklung. Ethische Intelligenz ist nicht nur ein Thema mit Berührungspunkten zur KI. Ich sehe es als ein universelles, weltumspannendes Konzept, das künftig einen Leitfaden für alle auf der Erde sozial interagierenden Lebe-Wesen dienen könnte.

3. Welche Informationen benötigen Sie, um Nutzen und Funktion von KI zu verstehen?

KI sollte ebenso wie EI bzw. auf Grundlage der Ethischen Intelligenz mehr die Gesellschaft und tägliche Fragestellungen im Leben der Menschen durchdringen. Wir brauchen m. E. mehr Philosoph*innen und Informatiker*innen, die sich vom bisher eisernen Paradigma der „Maschine als Werkzeug des Menschen“ lösen. In Zukunft wird es sowohl um den Erhalt der Menschheit gehen als auch um einen Modus Vivendi zwischen Mensch, Natur und (intelligenter) „Maschine“. KI braucht Zeiger und Einstiegspunkte. KI braucht Formen und Möglichkeiten des „Anfassens“ und des Erlebens. KI darf nicht als Erstlingswerk eines zeitreisenden Schriftstellers des 23. Jahrhunderts vermittelt werden. KI ist das, was der Mensch jetzt erschafft und in naher Zukunft erschaffen wird.

4. Zu welchen Bereichen von KI sollte in Deutschland mehr geforscht werden?

Autonomes Fahren, Vernetzungs- und Entscheidungstechnologien, Expertensysteme (im Kontext von Corona ganz wichtig Katastrophenvorwarn- und Szenariendurchspielsysteme), KI im Gesundheitswesen wie Expertensysteme für Ärzte zur Diagnose, Therapie und Heilung von Krankheiten, KI-Mediatoren zwischen Menschen, als Abrüster und Friedensstifter, KI als Schnittstelle zwischen verschiedenen Dimensionen wie Mensch/Makrokosmos und Mensch/Mikrokosmos (Bsp.: Eine „Brille“ für die Sichtbarmachung des Coronavirus), KI-Systeme zu Erkennung von ethischen
Widersprüchen, z. B. Ausschluss von Mogelpackungen in der Nahrungsmittel- oder Hygiene-Industrie etc.pp.

https://enquetebeteiligung.de/projects/weitere-anregungen-zu-ki/

E. Weitere Anregungen zu KI
Welche Kernforderungen haben Sie zum Einsatz von KI?

1. Welche Forderungen oder Anregungen haben Sie darüber hinaus zum Einsatz von KI in Deutschland?

Meiner Meinung nach sollte Künstliche Intelligenz die Menschen dabei unterstützen, Systeme zu konzipieren und zu erschaffen, die in sich schlüssiger sind. Ethik und Intelligenz sind zwei Pole, die ich gerne kombiniert sehen möchte. Der Bedarf hierfür scheint unendlich groß und allgegenwärtig zu sein. Zwar wären wir bereits ohne schwache oder gar starke KI mit den Mitteln der Intelligenz und ethischer Anforderungen in der Lage, robuste Systeme zu bauen, die den beiden Polen genügen. Aber das hat bisher nur unzureichend funktioniert. Weil nicht Ethik und auch nicht immer Intelligenz die Triebkräfte wirtschaftlicher oder technologischer Entwicklungen sind. Viel zu oft geht es allein um unternehmerische Erfolge unter Ausschluss ethischer Aspekte. Dass Deutschland zu den weltweit größten Waffenexporteuren zählt, dürfte einer der vielen Belege für diese These sein. Dass wir in Deutschland die Energiewende prokrastiniert haben, nachdem wir um die Jahrtausendwende schon mal zu den Vorreitern zählten, könnte ein weiterer Beleg, zumindest ein Indiz für die überwiegend singulär finanziellen Interessen von Unternehmen und Unternehmern sein.

Welche Belohnung würde es dafür geben, wenn ein Pharmakonzern oder auch ein pfiffiges StartupUnternehmen auf die Idee käme, einen Impfstoff oder ein Medikament zur Heilung der Autoimmunkrankheit Diabetes Typ 1 zu entwickeln? Würde es nicht in der Praxis so aussehen, dass die Pharmaunternehmen noch auf Jahre hinaus mit den Einnahmen von Millionen oder Milliarden EURO für die Therapie von Diabetes kalkuliert haben? Für das Insulin, das sie produzieren, für die zahlreichen Messgeräte und Teststreifen. Wie könnten sie also selbst auf die Idee kommen, dem Diabetes ein Ende zu setzen?

Wenn wir es schaffen, insofern wir das überhaupt wollen, dass Künstliche Intelligenz 1. Anachronismen in unserer Gesellschaft aufspürt und 2. dazu beiträgt, diese Anachronismen zu beseitigen, dann könnten wir einen echten Paradigmenwechsel vollziehen. Mit menschlicher und künstlicher Ethischer Intelligenz würde es uns gelingen, die Welt stetig zu verbessern. Jeden Tag ein bisschen, Stück für Stück. Der Zeitraum, in dem alles passiert, mag gar nicht so relevant sein. Wichtig wäre aber, dass wir anfangen, uns auf den Weg zu machen. Visionen artikulieren und im Effekt eine Marschrichtungszahl vorgeben.

Ich möchte ein paar Beispiele geben, anhand derer wir erkennen, dass heutige Systeme oft höchstens „bedingt intelligent“ sind, wobei, noch schlimmer, ethische Aspekte bei der Konzipierung ganz außer Acht gelassen werden. Nehmen wir das im täglichen Leben viel zitierte WLAN. Wir gehen durch die Stadt. Da gibt es öffentliche Access-Points, in deren Nähe eigentlich ein gutes WLAN funktionieren sollte. Also probieren wir es aus. Aber tatsächlich schwächelt das WLAN, oder wir befinden uns nicht nah genug am Access-Point. Unsere Internetanwendung auf dem Smartphone kämpft und kämpft, denn sie würde ja gerne WLAN nutzen. Aber die Anwendung funktioniert nur eingeschränkt. Also, was machen wir? Wir schalten das WLAN aus. Jetzt haben wir super schnellen
und flüssigen mobilen Internetempfang. Die genutzte App flutscht nur so! Als wir nach Hause kommen, wollen wir uns nach dem Abendbrot einen schönen Film am Smartphone anschauen. Denn der PC bleibt heute aus! Oh, der Film läuft prima. Keine Beanstandung. Nach einer halben Stunde kommt jedoch eine Warnmeldung: „Sie haben 80% Ihres mobilen Datenvolumens verbraucht.“ Prima. Nicht. Denn wir befinden uns gerade mal am Anfang des Monats und unser „geiziger“ Internetprovider hat uns zum aktuellen Tarif nur ein paar GB inkludiert. Wie kann es also sein, dass das Smartphone nicht intelligent genug ist und selbsttätig zum heimischen WLAN schaltet, um mir keine weiteren Kosten zu verursachen? Ja, es gibt spezielle WLAN-Apps etc. Aber viele haben ihre „Macken“. Warum muss ich mich als Smartphone-User überhaupt darum kümmern? Das Smartphone scheint zwar künstlich zu sein, aber nicht intelligent. Und mit Ethik hat es nur wenig zu tun, wenn der Mobilfunkprovider uns das Geld aus den Taschen zieht, nur weil die Systeme und Anwendungen eben nicht ethisch-intelligent konzipiert sind.

Ein weiteres Beispiel: Auf einer uns allen bekannten Social-Media-Plattform war meine Teilnahme an einer Veranstaltung bisher für alle sichtbar, die sich die Gäste der Veranstaltung anschauen wollten. Egal ob mit mir befreundet oder nicht. Deutschland hat offenbar den Betreiber in Richtung mehr Datensicherheit und Privatsphäre inspiriert. Grundsätzlich ist das nicht verkehrt. Doch der Effekt sieht nun so aus: Aus der öffentlichen Sichtbarkeit meiner Teilnahme an der Veranstaltung wurde, dass nur noch Freunde diese sehen. Noch nicht mal mehr Freunde von Freunden. Und um dahin zu kommen, benötigt es 5 (fünf!) Klicks. Die meisten werden diese Möglichkeit gar nicht sehen, da sie nicht prominent dargestellt wird. Das Einfachste wäre, wenn sofort bei dem Klick für die Teilnahme eine Auswahl zur Sichtbarkeit gezeigt würde. Ein zusätzlicher Klick versus fünf.

Als die Datenbank bei meinem Blog aufgrund von galaktisch vielen Spam-Kommentaren zum Überlaufen gebracht wurde, bot mir der Support (!) meines Webhosters an, auf das nächst höhere, natürlich viel teurere Paket mit einer größeren Datenbank umzustellen, obwohl er die Ursache für den Datenbank-Overflow sah. Dieser war behebbar, wie sich schließlich herausstellte, und genau diese Datenbank mit dem aktuellen Tarif war nach der Bereinigung wieder weit von ihrer Begrenzung auf 1 Gigabyte entfernt.

Anforderungen an eine Künstliche Intelligenz, die gleichzeitig ethisch-intelligent sein sollte: Vermeidung des Overflows. Wenn Overflow, dann Meldung des Overflows. Schließlich intelligente Reparaturmechanismen. Nicht nur die Sicht des Unternehmens, sondern auch die Sicht des Verbrauchers bzw. der Verbraucherin in Vorschläge und Entscheidungen einbeziehen.

Und noch ein letztes Beispiel. Eine Rasierklingenpackung enthält 8 Plätze für Rasierklingen. Nur 5 davon sind belegt. Es ist die klassische Sünde der Mogelpackung. Aus meiner Sicht weder ethisch noch intelligent ein solches Produktdesign. Müssen wir tatsächlich bis zur Geburt einer Superintelligenz warten, bis solche Dissonanzen für immer auf dem Scheiterhaufen der profitzentrierten Wirtschaftsgeschichte landen?

Künstliche Intelligenz sehe ich als Mittler. Als Übersetzer. Als anpassendes Intermedium. Sie sollte nicht nur einem Produktdesigner oder einer Produktdesignerin dazu verhelfen, wirklich nachhaltige Produkte zu konzipieren, sondern beispielsweise auch als Mediator auftreten zwischen sich streitenden Parteien. Auf der vormals schon erwähnten Social-Media-Plattform finden wohl Tag für Tag schärfste Auseinandersetzungen und Eskalationen statt zwischen Menschen, die sich noch nicht mal im realen Leben begegnet sind. Aber man behandelt sich teils als „Erzfeind“. Wie kommt es? Obwohl wir alle Menschen sind, zwar mit unterschiedlichen Kulturen oder sozialen Kontexten, aber deswegen müssen wir uns doch nicht gegenseitig umbringen, was wir leider jenseits der Social-Media-Kanäle zudem traurigerweise auch noch tun. KI-Systeme werden nicht nur Sprachen (menschlich verständlich) übersetzen können, sondern auch Emotionen in eine sachliche, gewaltfreie Sprache wandeln können. Und vielleicht auch vice versa: Sprache in Emotionen [ Korrektur der Originalfassung auf enquete-beteiligung.de von „Emotionen in Sprache ]. Es geht darum, (mehr) Sinn und Konstruktivität in die Kommunikation zwischen Menschen zu bringen. Im Weiteren wird das ausgedehnt werden oder ebenso anwendbar sein (über die Kommunikation Mensch-Mensch und Mensch-Maschine hinaus) in den Beziehungen Mensch-Makrokosmos, Mensch-Mikrokosmos und natürlich das, was Fridays for Future seit einem Jahr fordert: Mensch-Milieu, d.h., Mensch-Natur. Der Förster und Umweltaktivist Peter Wohlleben ist hier eine hervorzuhebende Persönlichkeit, die sich der Sprache der Bäume gewidmet hat. KI wird uns dabei helfen, in andere Dimensionen und „Welten“ vorzudringen. Die Kommunikation zwischen uns Menschen ist komplex. Die zahlreichen Kommunikationen, die auf dem Planeten stattfinden, sind komplexer! Im Sinne der Bionik wird die KI als Mittler da sein zwischen Mensch und Natur und den Menschen noch vieles lehren, wovon sie derzeit noch nicht mal zu träumen wagen. Heute habe ich eine Amsel fotografiert, als sie gerade ihre Flügel schwang und von der Erde abhebte. Vielleicht schafft das der Mensch, mit Hilfe der KI, auch eines Tages. Und wenn es im übertragenden Sinne ist.