Digitales Manifest

Fachverband Ethik Baden Württemberg

Ein gemeinsamer Appell zur Sicherung von Freiheit und Demokratie. (Auszüge)

Veröffentlichung:1.1.2016

Das Medium „Digitales Manifest“ ist ein gemeinsamer Appell von Dirk Helbing, Bruno S. Frey, Gerd Gigerenzer, Ernst Hafen, Michael Hagner, Yvonne Hofstetter, Jeroen van den Hoven, Roberto V. Zicari und Andrej Zwitter zur Sicherung von Freiheit und Demokratie angesichts der fortschreitenden Digitalisierung. Ausgangspunkt ist die enorme Zunahme digital erzeugter Daten und deren Verarbeitung durch Big Data und künstliche Intelligenz. Der Text beschreibt eine Entwicklung hin zu einer umfassend vernetzten Lebenswelt mit Smartphones, intelligenten Häusern, Fabriken und Städten sowie lernfähigen Algorithmen, die immer mehr gesellschaftliche und wirtschaftliche Aufgaben übernehmen. Besondere Aufmerksamkeit gilt der Personalisierung digitaler Angebote. Aus Suchanfragen, Konsumverhalten, Bewegungsdaten und sozialen Beziehungen entstehen detaillierte Kenntnisse über einzelne Menschen. Das Manifest problematisiert, dass daraus nicht nur Vorhersagen menschlichen Verhaltens, sondern auch Möglichkeiten gezielter Beeinflussung entstehen. Die Verfassenden formulieren die Sorge, dass Entscheidungen zunehmend durch algorithmisch erzeugte Empfehlungen gelenkt werden und dennoch als eigene Entscheidungen wahrgenommen werden. Im Zentrum steht damit die grundlegende ethische Frage, ob digitale Technologien lediglich menschliche Entscheidungen unterstützen oder zunehmend menschliches Verhalten steuern. Besonders zugespitzt wird diese Problematik in der Vorstellung einer Entwicklung von der Programmierung von Computern hin zur „Programmierung von Menschen“. Das Medium verbindet somit Fragen nach künstlicher Intelligenz, Big Data und Digitalisierung mit anthropologischen Grundfragen nach Freiheit, Selbstbestimmung, Verantwortung und dem Verständnis des Menschen.

Das Medium eignet sich besonders für den Religionsunterricht in der Sekundarstufe II und kann in ausgewählten Ausschnitten auch in höheren Jahrgangsstufen der Sekundarstufe I eingesetzt werden. Sein besonderer religionspädagogischer Wert liegt darin, dass technische Entwicklungen unmittelbar mit grundlegenden Fragen nach dem Menschen verbunden werden. Die Lernenden begegnen nicht nur der Frage, was künstliche Intelligenz leisten kann, sondern vor allem der Frage, was menschliche Freiheit unter den Bedingungen algorithmischer Vorhersage und Beeinflussung bedeutet. Damit lässt sich das Medium hervorragend in Unterrichtseinheiten zu Menschenbild, Freiheit, Verantwortung, Gewissen, Menschenwürde, Selbstbestimmung und ethischer Urteilsbildung integrieren. Zugleich bietet es einen geeigneten Ausgangspunkt, um klassische Fragen der theologischen Anthropologie auf die digitale Lebenswelt zu übertragen.

Als problemorientierter Einstieg eignet sich die Frage: „Treffe ich meine Entscheidungen im Internet wirklich selbst?“ Die Lernenden können zunächst Situationen sammeln, in denen ihnen digitale Systeme Empfehlungen geben, beispielsweise bei Filmen, Musik, Nachrichten, Produkten oder Inhalten in sozialen Medien. Anschließend kann untersucht werden, welche Informationen ein digitales System benötigt, um möglichst passende Empfehlungen zu erzeugen. Dadurch wird die im Text dargestellte Verbindung zwischen Datensammlung, Personalisierung und Verhaltensbeeinflussung nachvollziehbar. Eine weitere Möglichkeit besteht darin, den Lernenden zunächst nur die zugespitzte Formulierung von der „Programmierung von Menschen“ vorzulegen. Sie können Vermutungen darüber formulieren, was damit gemeint sein könnte, und diese nach der Textlektüre überprüfen. Die Provokation dieser Formulierung eignet sich besonders gut, um eine philosophische und theologische Problemfrage zu entwickeln.

Für die Texterschließung empfiehlt sich eine Gliederung der Argumentation in mehrere Schritte. Die Lernenden können zunächst herausarbeiten, welche technischen Entwicklungen beschrieben werden. In einem zweiten Schritt untersuchen sie, welche gesellschaftlichen Veränderungen daraus nach Auffassung der Verfassenden entstehen. Anschließend identifizieren sie die genannten Risiken für Freiheit und Selbstbestimmung. Schließlich können sie rekonstruieren, wie der Text von der Sammlung persönlicher Daten über die Vorhersage menschlichen Verhaltens zur Möglichkeit gezielter Verhaltenssteuerung gelangt. Diese Struktur kann als Schaubild, Begriffsnetz oder Argumentationskette dargestellt werden. Dabei sollte deutlich zwischen Beschreibung, Prognose, Wertung und ethischer Schlussfolgerung unterschieden werden. Gerade weil das Manifest mit weitreichenden Zukunftsaussagen arbeitet, ist diese Unterscheidung für die Förderung kritischer Textkompetenz von besonderer Bedeutung.

Einen zentralen Schwerpunkt kann die Auseinandersetzung mit dem freien Willen bilden. Das Manifest stellt die Frage, wie frei eine Entscheidung noch ist, wenn digitale Systeme sehr viel über die betreffende Person wissen und ihr gezielt bestimmte Handlungsmöglichkeiten präsentieren. Die Lernenden können verschiedene Stufen unterscheiden: Information, Empfehlung, Beeinflussung, Manipulation und Steuerung. Anschließend können sie anhand konkreter Beispiele diskutieren, an welchem Punkt die menschliche Selbstbestimmung gefährdet erscheint. Dabei bietet sich eine Verbindung mit klassischen Vorstellungen von Willensfreiheit an. Die Lernenden können überlegen, ob Freiheit bedeutet, vollkommen unbeeinflusst zu entscheiden, oder ob Freiheit vielmehr darin besteht, Einflüsse wahrzunehmen, kritisch zu prüfen und verantwortlich mit ihnen umzugehen.

Für den Religionsunterricht ist besonders die Verbindung zur christlichen Anthropologie ergiebig. Dem im Manifest beschriebenen Menschen, dessen Verhalten durch Daten analysiert und vorhergesagt werden kann, kann die christliche Vorstellung des Menschen als freier, verantwortlicher und mit unverfügbarer Würde ausgestatteter Person gegenübergestellt werden. Die Lernenden können der Frage nachgehen, ob ein Mensch vollständig durch Daten beschrieben werden kann. Dabei können Begriffe wie Gottebenbildlichkeit, Personalität, Gewissen, Freiheit und Verantwortung einbezogen werden. Eine mögliche Leitfrage lautet: „Ist der Mensch mehr als seine Daten?“ Diese Frage eröffnet eine theologische Perspektive, ohne die technischen Möglichkeiten künstlicher Intelligenz vorschnell zu verurteilen. Vielmehr können die Lernenden untersuchen, welche Vorstellung vom Menschen hinter unterschiedlichen Bewertungen digitaler Technologien steht.

Methodisch bietet sich außerdem ein Gedankenexperiment an. Die Lernenden stellen sich ein digitales System vor, das ihre Interessen, Gewohnheiten und bisherigen Entscheidungen so genau kennt, dass es zukünftige Entscheidungen mit hoher Zuverlässigkeit vorhersagen könnte. Anschließend diskutieren sie, ob ihre Entscheidung dadurch weniger frei wäre. In einem weiteren Schritt kann angenommen werden, dass das System nicht nur vorhersagt, sondern gezielt Informationen auswählt, um eine bestimmte Entscheidung wahrscheinlicher zu machen. Der Vergleich beider Situationen verdeutlicht den Unterschied zwischen Vorhersage und Manipulation und führt zu einer differenzierten Auseinandersetzung mit Selbstbestimmung.

Auch eine Dilemmadiskussion ist möglich. Ein digitales System könnte beispielsweise durch die Analyse umfangreicher persönlicher Daten Empfehlungen geben, die das Leben eines Menschen sicherer, gesünder oder einfacher machen. Gleichzeitig würde dafür eine weitreichende Erfassung und Auswertung persönlicher Daten notwendig. Die Lernenden bestimmen die miteinander konkurrierenden Werte und entwickeln Kriterien für eine ethisch verantwortbare Entscheidung. Dabei können Freiheit, Sicherheit, Privatheit, Selbstbestimmung, Gemeinwohl, Verantwortung, Transparenz und Menschenwürde berücksichtigt werden. Entscheidend ist, dass nicht lediglich Vorteile und Nachteile gesammelt werden, sondern eine begründete Gewichtung der Werte erfolgt.

Das Medium ermöglicht darüber hinaus eine kritische Auseinandersetzung mit dem Verhältnis von Mensch und künstlicher Intelligenz. Die Lernenden können untersuchen, welche Tätigkeiten nach dem Text zunehmend von Algorithmen übernommen werden und welche Bedeutung dies für menschliche Arbeit, Verantwortung und Entscheidungskompetenz haben könnte. Daraus lässt sich die weiterführende Frage entwickeln, welche Entscheidungen Menschen an technische Systeme delegieren dürfen und bei welchen Entscheidungen menschliche Verantwortung unverzichtbar bleiben sollte. Hier bietet sich auch die Entwicklung eigener ethischer Kriterien für den Einsatz künstlicher Intelligenz an.

Da das Manifest Aussagen über zukünftige technische und gesellschaftliche Entwicklungen enthält, ist eine kritische Quellenarbeit besonders wichtig. Prognosen und quantitative Angaben des Textes sollten als Aussagen des Mediums behandelt und von gesicherten Tatsachen unterschieden werden. Die Lernenden können markieren, an welchen Stellen der Text beschreibt, prognostiziert, warnt oder bewertet. Dadurch erwerben sie eine wichtige Kompetenz für den Umgang mit Texten über Digitalisierung und künstliche Intelligenz. In einer weiterführenden Unterrichtsphase können ausgewählte damalige Prognosen mit der heutigen Entwicklung verglichen werden.

Als produktionsorientierter Abschluss können die Lernenden ein eigenes Manifest für eine menschenwürdige digitale Zukunft verfassen. Sie können Grundsätze formulieren, nach denen künstliche Intelligenz, Algorithmen und persönliche Daten eingesetzt werden sollten, und diese mit Menschenwürde, Freiheit und Verantwortung begründen. Ebenso eignen sich ein Streitgespräch zwischen einem Entwickler künstlicher Intelligenz und einer theologischen Ethikerin, ein fiktiver Ethikrat, ein Kommentar zur Frage nach der „Programmierung von Menschen“ oder ein Regelkatalog für den verantwortlichen Umgang mit künstlicher Intelligenz. Als Klausurmaterial eignet sich das Medium besonders für die Rekonstruktion einer Argumentation, die Analyse des zugrunde liegenden Menschenbildes, die Erörterung von Freiheit und Manipulation sowie für einen Vergleich mit christlicher Anthropologie und christlicher Ethik.