Aleksandra SOWA: "Mein Chef, der Roboter"

TSF Jazz Radio

Mein Chef, der Roboter

Aleksandra SOWA

Leitete zusammen mit dem deutschen Kryptologen Hans Dobbertin das Horst-​​Görtz-​​Institut für Sicherheit in der Informationstechnik. Sowa ist Autorin diverser Bücher und Fachpublikationen und begleitete u.a. als Mitglied der Internet Redaktion die Wahlkampftour des Bundeskanzlers a.D. Gerhard Schröder.

Ryc.: Fabien Clairefond

Andere Texte

„Der Vorstand hat unter eigener Verantwortung die Gesellschaft so zu leiten, ee es Wohl des Betriebes und seiner Gefolgschaft und der gemeine Nutzen von Volk und Reich es erfordern.“n
(§ 70 Abs. 1
Aktiengesetz vom 1937)

„Der Vorstand hat unter eigener Verantwortung die Gesellschaft zu leiten.“
(§ 76 Abs. 1
Aktiengesetz vom 1966, letzte Änderung vom 2015)

„The corporation in a democratic society: in whose interest ought it and will it be run“
(Friedrich von Hayek, 1969)


.Künstliche Intelligenz ist der neue Megatrend in Silicon Valley. Die deutsche Bestsellerautorin und Künstliche-Intelligenz-Unternehmerin, Yvonne Hofstetter, beschäftigt sich in ihrem Roman Sie wissen alles mit Big Data (s. Hörtipp „Big Data passt die Menschen den Maschinen an“), und der Krimiautor Martin Walker schreibt in seinem aktuellen Zukunftsthriller Germany 2064 darüber, wie es ist, einen Roboter als Kollegen zu haben.

Der Aufstieg künstlicher Intelligenz zum Megatrend weckt nicht nur Begeisterung. Die Digitalisierung und Robotisierung sollen in den kommenden Jahren viele Berufe überflüssig machen. Und auch die Menschen, die diese Berufe ausüben. Die Auswirkungen der Digitalisierung sollten stärker als in den USA ausfallen: 59 % aller Stellen in Deutschland seien gefährdet (in den USA „nur“ 47 %), berechneten die Autoren der IngDiba-Studie. In dem Stern kann man in einer interaktiven Graphik sogar direkt überprüfen, wie wahrscheinlich es sei, dass man im eigenen Job durch Roboter ersetzt wird.

Doch anders als bei der Industrierevolution sind es nicht mehr die Fließbandarbeiter, die um ihre Jobs fürchten müssen. Wie Konstanze Kurz und Frank Rieger in Arbeitsfrei verdeutlichen, sind von der Automatisierung Berufe betroffen, die bisher als unantastbar galten: die des Arztes (der durch Diagnosesoftware ersetzt werden kann), Juristen (die durch Mahnschreibensoftware ersetzt werden können), Journalisten (die durch intelligente Erzählprogramme ersetzt werden können), Berater oder Manager.

.Die Vision der Robotisierung von Chefetagen scheint dabei besonders verheißungsvoll. Heute schon schreiben intelligente Textprogramme Geschäftsberichte in einer Qualität, die einem Menschen nur selten gelingt. Dies ist der Tatsache zu verdanken, dass ein Quartals- oder Jahresbericht teilweise besteht aus gesetzlich vorgeschriebenen Inhalten, Geschäftszahlen, die aus Unternehmenssoftware extrahiert werden, Daten zu relevanten Absatzmärkten und weiteren standardisierten Textblöcken, die eine automatische Herstellung auf Grundlage von fertigen Mustervorlagen ermöglichen.

Was eine Maschine offenbar auch viel besser als menschliche Manager kann, ist, die „Kasse“ im Auge zu behalten, eine der Hauptaufgaben, die in modernen, Shareholder-gesteuerten Unternehmen dem Management obliegt. Dabei kann so ein „kybernetischer Automat“ nicht nur zusehen, dass das Portemonaie am Ende des Jahres nicht leer bleibt, sondern anhand einer Reihe von komplexen externen und internen, lang- und kurzfristigen Faktoren für das Unternehmen – und die Volkswirtschaft – optimale Entscheidungen treffen.

.Stafford Beer, einer der Pioniere der Kybernatisierung in Amerika, hat vorgeschlagen, zu diesem Zweck ein „homöostatisches Unternehmen“ zu errichten, und seine Funktion anhand einer Theorie zur Regelung der Aktivitäten eines großen Stahlwerks erläutert: „Dessen ‚Gehirn‘ soll alle an der Stahlerzeugung beteiligten Prozesse im Sinne eines äußerst rentablen und effizienten Verfahrens optimalisieren, das außerdem von Schwankungen des Angebots (an Arbeitskräften, Erz, Kohle usw.) und der Nachfrage wie auch von inneren Systemmängeln (Produktionsschwankungen, unerwünschte Steigerung der Selbstkosten, maximale Produktivität je Mitarbeiter) unabhängig sein soll.“[1]

So fasst Beers Vorhaben Stanislaw Lem in Summa Technologiae zusammen. Nach Beers Überzeugung soll eine solche Produktionseinheit ein „ultrastabiler Homöostat“ sein, der auf jede Abweichung vom Gleichgewicht mit einer inneren Reorganisation reagieren und den Zustand wieder zum Optimum zurückführen kann.

.Die Künstliche Intelligenz (KI), die den Homöostat steuert, agiert ähnlich wie ein in wilder Bahn lebender Organismus. Seine Handlungen sind weder moralisch gut noch moralisch schlecht – die Natur – ein hungriges Raubtier – kennt keine Systeme moralischer Beurteilung. Wenn es also um moralische Fragen geht, wie um die Entscheidungen, ob ein Konkurrent übernommen werden soll, Arbeitnehmer entlassen oder Arbeitslöhne gesenkt werden müssen, verweist Stafford Beer auf einen „menschlichen“ Aufsichtsrat, der „die obersten Entscheidungen allgemeiner Natur treffe. Das Gehirn führe sie lediglich in optimaler Weise aus“[2].

Im Extremfall könnte ein solcher Aufsichtsrat stets Einfluss auf die Entscheidungen des kybernetischen Hirns nehmen und damit das selbst regulierende Prinzip des homöostatischen Unternehmens verletzen. Oder die Künstliche Intelligenz erkennt das Hindernis und lernt weiter, indem sie Lösungen und Wege sucht, mit dem menschlichen Kontrolleur umzugehen. In ihrer Autonomie „beginnen die Homöostaten, auf das menschliche Schicksaal in einer Weise Einfluss zu nehmen, die oftmals von ihren Schöpfern nicht vorgesehen war, und das kann so weit gehen, dass die gesamte Wirtschaft des Landes zusammenbricht, weil einer der Homöostaten die ihm zugewiesene Aufgabe allzu gut erledigt und sämtliche Konkurrenten ruiniert …“[3]

Solche unerwünschten Konsequenzen konnten laut Vater der Kybernetik, Norbert Wiener, mithilfe einer weiteren, übergeordneten künstlichen Intelligenz gelöst werden: der „Regierungsmaschine“ eines höheren Typus. Nicht um Menschen zu regieren, sondern die ihr untergeordneten kybernetischen Hirne der einzelnen Unternehmen. Als „Gebieterin der Wirtschaft“ fungierend, würde eine solche KI beispielsweise den untergeordneten KIs über entsprechende Software „vorschreiben“, arbeitsrechtliche Gesetzgebung oder Loyalitätsgrundsätze gegenüber der Konkurrenz zu beachten, die Beseitigung der Arbeitslosigkeit zu beseitigen und so einer Wirtschaftskrise oder Konjunkturschwankungen – zum Wohle der Allgemeinheit – vorzubeugen. Im aktuellen Beispiel der VW-Abgasmanipulation würde die „Regierungsmaschine“ das Vorhaben des homöostatischen „Hirns“ entdecken und – in Sorge um das Gemeinwohl, saubere Luft und Risiken der Aufdeckung für langfristige ökonomische Ziele der Volkswirtschaft – vermutlich untersagen. Oder eben nicht, abhängig davon welche Prioritäten bzw. Axiome der Maschine vom „menschlichen Rat“ vorgegeben oder einprogrammiert wurden (langfristige oder kurzfristige PIB-Optimierung, beispielsweise). Der Unterschied zum Status Quo läge darin, dass es a posteriori klar gewesen wäre, wer (oder was), wann und warum die Entscheidung getroffen hat und verantwortlich ist.

Eine kybernetische Regierungsmaschine, auch mit allem Wissen sämtlicher kapitalistischer Ökonomien ausgestattet, muss bei jeder durch neue Ursachen hervorgerufenen Konjunkturschwankung nach neuen Lösungen suchen und aus ihren Fehlern lernen. Oder nach neuen, kreativen Wegen suchen, um aus der Krise rauszukommen.

„Vielleicht wird er den Staat zunächst in eine Reihe entsetzlicher Krisen hineinführen. Vielleicht wird er verkünden, dass zwischen den in das Handlungsprogramm eingegebenen Axiomen ein Widerspruch besteht (z.B.: man kann nicht gleichzeitig eine wirtschaftlich lohnende Automatisierung der Produktionsprozesse durchführen und die Beseitigung der Arbeitslosigkeit anstreben, wenn man nicht zugleich eine Reihe anderer Dinge tut – indem man etwa mit Subventionen seines Staates oder des Kapitals eine Umschulung derjenigen durchführt, die infolge der Automatisierung ihre Arbeit verlieren usw.).“[4].

Im Laufe der Zeit soll die KI dem Idealzustand nahe kommen und eventuell neue, kreative Strategien entwickeln, um das homöostatische Gleichgewicht herzustellen.

„Da sie als Regler die wirtschaftlichen Verhältnisse optimieren soll, bedeutet ein hoher Lebensstandard der Allgemeinheit für sie den Gleichgewichtszustand. Der Bevölkerungszuwachs bedroht dieses Gleichgewicht“, führt Lem als Beispiel an. In diesem Fall würde die KI nach Wegen suchen, die den Bevölkerungszuwachs eindämmen könnten. Sie könnte beispielsweise der Wasserversorgung ein Mittel hinzufügen, dass die Geburtenraten zu regulieren hilft. Oder den gebräuchlichen Kosmetikmitteln, was leichter vor dem menschlichen ethischen „Rat“ zu verschleiern wäre. Sie könnte ebenso gut feststellen, dass für die Aufrechterhaltung der Homöostatie die Vergesellschaftung der Produktionsmittel oder die Halbierung der Profite der einzelnen Unternehmen unerlässlich wäre.

„Nun möchten die Menschen gern selbst entscheiden, in welchem System sie leben, welches Wirtschaftsmodell sie verwirklichen und welche Ziele die Gesellschaft verfolgen soll – denn ein und dieselbe Gesellschaft kann ja bevorzugt die Raumforschung entwickeln oder sich bevorzugt mit der biologischen Autoevolution befassen –; berücksichtigt man das, dann ist die Regelung gesellschaftlicher Systeme mit Hilfe von Maschinen, obwohl möglich, nicht ratsam.“[5]

Man sollte dabei bedenken, dass Stanislaw Lem diese Worte vor circa fünfzig Jahren schrieb (die Summa Technologiae erschien erstmals 1964 auf Polnisch). Der Zusammenbruch des Kommunismus, eine Reihe von Wirtschaftskrisen, Unternehmensskandalen und Unternehmenspleiten sind seitdem passiert, bei denen die Unternehmensleitungen wenig bis gar nicht auf ethische und moralische Aspekte geachtet haben, wenn es um Entlassungen, Arbeitslosigkeit, Lohnkürzungen oder Inanspruchnahme öffentlicher Gelder ging. Mit freiwilligen Verpflichtungen zur Corporate Reponsibility oder gar Corporate Citizenship versuchte man (vorrangig in den angelsächsischen Ländern), das ethische Unternehmen wiederherzustellen. Im Jahr 2004 diskutierte Andre Comte-Sponville in seinem gleichnamigen Buch schließlich offen die Frage: Kann Kapitalismus moralisch sein?

.Der Irrtum des Robotisierungstrends liegt in der Erwartung begründet, dass sich die Maschinen ethischer verhalten werden, als die Menschen. Doch gerade das dürfte heute für die Maschinen, die Manager in der Wirtschaft und Verwaltung oder Politiker ersetzen, kein Hindernis mehr sein. Entscheidungen einer objektiven und unbestechlichen Maschine würden gegebenenfalls eine höhere Akzeptanz genießen als die ihres menschlichen Doubles. So könnte man den Widerstand der öffentlichen Meinung gegen die Digitalisierung Schritt für Schritt abbauen. Und die Gesellschaft auf den breiten Einsatz Künstlicher Intelligenz vorbereiten, die nicht nur lästigen Routinearbeiten übernimmt oder Sklavenarbeit verrichtet. Ganz im Sinne von Issac Asimov könnten kybernetische Manager Vorurteile gegen die Robotisierung in der Öffentlichkeit abbauen helfen. Die Automatisierung dieser Arbeitsplätze würde, neben dem faktischen Ersparnis von Apanagen und Bonuszahlungen, so auch einem höheren Zweck dienen. „Das Wohl vieler ist wichtiger als das Wohl weniger oder eines Einzelnen”, würde Spock[6] dazu sagen.

Aleksandra Sowa

[1] Lem, S. 1981. Summa Technologiae. Suhrkamp Taschenbuch, S. 171. [2] Ebd., S. 173. [3] Ebd., S. 173. [4] Ebd., S. 176. [5] Ebd., S. 184. [6] Er sagt dies in „Star Trek II“ („Der Zorn des Khan“).

Dodaj komentarz

Twój adres email nie zostanie opublikowany. Pola, których wypełnienie jest wymagane, są oznaczone symbolem *

Magazyn idei "Wszystko Co Najważniejsze" oczekuje na Państwa w EMPIKach w całym kraju, w Księgarni Polskiej w Paryżu na Saint-Germain, naprawdę dobrych księgarniach w Polsce i ośrodkach polonijnych, a także w miejscach najważniejszych debat, dyskusji, kongresów i miejscach wykuwania idei.

Aktualne oraz wcześniejsze wydania dostępne są także wysyłkowo.

zamawiam