Künstliche Ethik / Artificial Ethics

(For the English version see below.)

Könnte uns eine künstliche ethische Intelligenz auch auf ganz neue moralische Gedanken bringen?

Die wirtschaftlichen Eliten aller großen Länder der Welt wenden zur Zeit ungeheure Mittel und Mühen auf, um logische Automaten zu konstruieren, die nicht nur künstlich intelligent sind, sondern die menschliche Intelligenz letztlich überholen sollen. Hier tut sich die Frage nach den Motiven einer solchen Ekstase auf. In welchem Umfange nützen solche Anstrengungen überhaupt den heutigen menschlichen Lebensverhältnissen? Zunächst geht es hierbei sicherlich um wirtschaftliche und politische Konkurrenzen, denn die ganze Unternehmung verspricht enorme Gewinne an Kapital und sogar internationaler politischer Macht. Das ist aber nicht alles. Wenn man sich die Geschichte der abendländischen Bemühungen um den für ihn so wichtigen Fortschritt anschaut, ist dies nicht der einzige Grund für den nun schon seit Jahrzehnten immer noch zunehmenden KI-Taumel. Hinzu kommt ein sehr altes metaphysisches Bedürfnis, die Besserung und schließlich die Optimierung des Menschen als ursprünglich göttliche Sonderschöpfung zwischen Gott und der weiteren Welt selbst in die Hand zu nehmen.

Der alte, abendländische Traum des hyperintelligenten Menschen

Es ist kein Zufall, sondern vielmehr entwicklungslogische Notwendigkeit, dass mit dem Verblassen der christlichen Metaphysik zu Beginn der europäischen Neuzeit auch ein neuer Weg gefunden werden musste, den alten christlichen Auftrag der moralischen Besserung des Menschen zu erfüllen. Denn mit der schließlich resultierenden Abschaffung des christlichen Gottes als unhinterfragbare Autorität und Orientierung, wie ein solcher moralisch perfekter Mensch auszusehen habe, ging lediglich jener Gottesglaube verloren, nicht hingegen der 'posthypnotische' christliche Auftrag, die moralische Vollendung des Menschen zu realisieren - und zwar mit allen zur Verfügung stehenden Kräften. Im alten christlichen Weltbild war dies nämlich die erste Pflicht eines jeden Christenmenschen. Den erkannte man genau daran, dass er diese Pflicht gegenüber Gott intensiv spürte.

Leider kam im Zuge der historisch-metaphysischen Transformation jedoch ein Umstand hinzu, der am Ende das ganze moralische Unternehmen aus der Bahn warf. An seiner Stelle setzte sich nämlich die schon früh im christlichen Kulturraum kultivierte Vorstellung durch, dass man zunächst die kognitiven Qualitäten des Menschen besser verstehen müsse und letztlich durch fehlerfreie denkende Automaten ersetzen könne. Die Idee des homunculus als künstliches, von realen Personen geschaffenes Menschlein wurde mit dem Ausgang des Mittelalters und dem Aufstieg der Naturwissenschaften, neben den alten alchemistischen Versuchen der Erzeugung von Gold aus minderwertigem Material, zu einem festen Bestandteil neuzeitlicher technischen Erfindungsgeistes. Diesem Gedanken wohnte von Anfang an die Faszination inne, die entscheidende Fähigkeit selbst zu produzieren, die den Menschen im christlichen Glauben zum Mittler zwischen Gott und der weiteren Schöpfung machte, nämlich seine Intelligenz. Denn erst mit dem Gelingen dieser aus christlicher Sicht größten aller Künste ist Gott wirklich entthront. Wir spüren die ungeheure Erregung hinter diesem Versuch der absoluten Selbstermächtigung noch heute, wenn wir Leute wie Elon Musk oder Nick Bostrom, einen fanatischen Verfechter des so genannten Transhumanismus, über ihre Visionen zur Zukunft des Menschen reden hören.

Technischer Fortschritt als Bedingung des moralischen Fortschritts

Der Gedanke, den Menschen zunächst kognitiv zu entschlüsseln, dann mit Hilfe von Automaten zu perfektionieren, und erst anschließend seine moralische Besserung zu realisieren, ist in gewisser Weise logisch, zumindest im westlichen Denken. Denn schon seit der griechischen Antike geht das abendländische Menschenbild davon aus, dass der moralisch gute Mensch ein einsichtiger Mensch ist, d.h. jemand, der versteht, dass das Gute dem Bösen vorzuziehen sei. In diesem Menschenbild, das Platon bereits von Sokrates in den Mund legt, ist der böse Mensch vor allem ein Dummkopf, der nicht begreift, was gut ist. Aus diesem Verständnis des moralisch Guten folgt, dass man den moralisch guten Menschen ohne Gottes Hilfe nur dadurch zustande bringen kann, dass man seine Einsichtsfähigkeit - in heutiger Sprechweise: seine Intelligenz - steigert. Da aber die Möglichkeiten, biologische Menschen hinsichtlich ihrer Intelligenz zu optimieren, sehr begrenzt sind, ist die Idee, ihn darin mit hyperintelligenten Automaten zu unterstützen, in der Logik einer solchen Denkweise geradezu zwingend. Und damit sind wir bereits in unserer diesbezüglich hoch erregten Gegenwart mit ihrer mittlerweile weltumspannenden Suche nach der ultimativen künstlichen Intelligenz angelangt.

Der Nachteil dieser Entwicklung ist freilich, dass das ursprüngliche Ziel, nämlich die moralische Perfektionierung des Menschen, dabei vollkommen aus dem Blick geriet. Aber vielleicht hilft dieser kleine Essay ja, jene fundamentale Bemühung wieder zu reaktivieren, indem wir die enormen bei der künstlichen Intelligenz dazu nutzen, auch wieder ihr eigentliches Ziel zu verfolgen. Eine solche Ankoppelung an die bereits erreichten technischen Erfolge könnte man als Künstliche Ethik (KE) oder englisch Artificial Ethics (AE) bezeichnen.

Nicht automatisierte Fremdbestimmung, sondern intelligenter ethischer Diskurs

Diesen Gedanken mögen man bitte nicht verwechseln mit jenem von Transhumanisten und anderen technikseligen Personen, die in ihrem Wahn meinen, man könnte die gesamte Politik und Gesetzgebung irgendwelchen Algorithmen und entsprechenden Maschinen überlassen. Solche Vorschläge laufen auf das Gegenteil ethischer Intelligenz hinaus, nämlich auf die komplette Entmündigung der davon betroffenen Menschen, und damit auf blanken Totalitarismus. Vielmehr geht es darum, die Argumente des ethischen Diskurses mit Hilfe künstlicher Intelligenz zu verbessern und insbesondere von dem versteckten Eigennutz derer zu befreien, die sie bisher vortragen. Da logische Automaten entsprechend uneigennützig trainiert werden könnten, sehe ich kein grundsätzliches Hindernis, so etwas auf den Weg zu bringen. Es wäre bereits von großem Wert (und wird vermutlich einige Überraschungen mit sich bringen), neue ethische Argumente zu hören, die von einer solchen Künstlichen Ethik hervorgebracht werden.

Dabei sollten auch fundamentale Fragen nicht ausgespart, sondern im Gegenteil neu beleuchtet werden. Dies betrifft beispielsweise die Definition des Guten und damit auch des guten Menschen: Ist das Gute - im westlich-individualistischen Menschenbild dominant - letztlich nur das, was die Summe des Lebenserfolgs aller lebenden Menschen maximiert? Ist das Gute also im utilitaristischen Sinne das Ergebnis einer arithmetischen Zusammenrechnung der Einzelvorteile von Individuen? Oder ist das Gute eher im Sinne von Kant und den kontinentaleuropäischen Aufklärern die Verwirklichung einer dem Individuum übergeordneten Vernunft? Beides sind Ideen, die einer schwierigen Begründung bedürfen. Denn was ist angesichts der Diversität der Lebensauffassungen heutiger Menschen ein 'allgemeiner Vorteil', den man aus der utilitaristischen Perspektive berechnen könnte? Nicht minder schwierig ist auch die Frage, was die Kriterien überindividueller, also in gewisser Weise absoluter Vernunft sind.

All das ist mit den herkömmlichen Methoden der Künstlichen Intelligenz freilich nicht zu beantworten, auch nicht mit den so genannten Large Language Models (LLM's), die den neuen Textgeneratoren à la ChatGPT zugrundeliegen. Denn auch die arbeiten immer noch lediglich mit der statistischen Prognose des jeweils nächsten Wortes in einem Satz, ohne selbst den geringsten Plan zu haben, was sie das eigentlich von sich geben. Im Projekt der Künstlichen Ethik geht es dagegen um echtes Argumentieren. Das ist eine große Herausforderung. Ich meine allerdings, dass erst diese Fähigkeit den Namen 'Intelligenz' verdient, ob sie sich nun mit Ethik oder etwas anderem beschäftigt. Vermutlich wird der erste Schritt zur Realisierung einer solchen Maschine jener sein , ihr überhaupt erst einmal das Argumentieren beizubringen und nicht nur die Zusammenstellung von Informationen. Erst danach käme die Qualifizierung zum moralischen Diskurs.

Ein große Aufgabe kann aber auch eine große Motivation erzeugen. Lassen wir also die noch zu findenden Algorithmen einer Künstlichen Ethik sprechen! Vielleicht werden sie uns Argumente präsentieren, die letztlich uns, den lebenden Menschen aus Fleisch und Blut, auf ganz neue Gedanken bringen. Für eine wirkliche Verbesserung der Welt. (ws)

English version:

The economic elites of all the world's major countries are currently expending tremendous resources and effort to construct logical automata that are not only artificially intelligent but are ultimately intended to overtake human intelligence. Here the question arises about the motives of such a frenzy. To what extent do such efforts benefit today's human living conditions? First, it is undoubtedly a matter of economic and political competition, for the whole enterprise promises enormous gains in capital and even international political power. But that is not all. If you look at the history of the occidental effort to make progress, which is so important to it, this is not the only reason for the AI frenzy, which has been growing for decades. In addition, there is an ancient metaphysical need to take the improvement and finally optimization of man as an originally divine special creation between God and the wider world into one's own hands.

The old, occidental dream of the hyperintelligent human being

It is no coincidence, but rather a logical necessity of development, that with the fading of Christian metaphysics at the beginning of the European modern era, a new way had to be found to fulfill the old Christian mission of the moral improvement of man. For with the finally resulting abolition of the Christian God as the unquestionable authority and orientation of how such a morally perfect human being should look like, only that faith in God was lost, but not the 'posthypnotic' Christian mission to realize the moral perfection of man - and that with all available forces. In the old Christian worldview, this was the first duty of every Christian man. He was recognized precisely by the fact that he intensively felt this duty towards God.

Unfortunately, in the course of the historical-metaphysical transformation, however, a circumstance was added which in the end threw the whole moral enterprise off track. In its place, namely, the idea, cultivated early on in the Christian cultural sphere, prevailed that one must first better understand the cognitive qualities of man and could ultimately replace them with error-free thinking automata. With the end of the Middle Ages and the rise of the natural sciences, the idea of the homunculus as an artificial human being created by real persons became an integral part of modern technical inventiveness, alongside the old alchemical attempts to produce gold from inferior material. From the very beginning, this idea had the fascination of producing the decisive ability itself, which in the Christian faith made man the mediator between God and the wider creation, namely his intelligence. For it is only with the success of this, from the Christian point of view, the greatest of all arts that God is truly dethroned. We still feel the tremendous excitement behind this attempt at absolute self-empowerment today when we hear people like Elon Musk or Nick Bostrom, a fanatical proponent of so-called transhumanism, talk about their visions for the future of man.

Technical progress as a condition of moral progress

The idea of first decoding man cognitively, then perfecting him with the help of automata, and only then realizing his moral betterment is in a sense logical, at least in Western thought. For since ancient Greece, the Western conception of man has assumed that the morally good person is insightful, i.e., someone who understands that good is preferable to evil. In this conception of man, which Plato already puts into the mouth of Socrates, the evil man is above all a fool who does not understand what is good. From this understanding of the morally good, it follows that one can bring about a morally good human being without God's help only by increasing his ability of insight - in today's parlance: his intelligence. But since the possibilities to optimize biological humans regarding their intelligence are very limited, the idea to support him in this with hyperintelligent automata is almost compelling in the logic of such a way of thinking. And this already brings us to our highly excited present with its global search for the ultimate artificial intelligence.

The disadvantage of this development is, of course, that the original goal, i.e. the moral perfection of man, has been completely lost from view. But perhaps this little essay will help to reactivate this fundamental effort by using the enormous potential of artificial intelligence to pursue its original goal again. Such a coupling to the already achieved technical successes could be called Artificial Ethics (AE).

Good-bye automated heteronomy, hello intelligent ethical discourse

This idea should not be confused with that of transhumanists and other technophobes, who in their delusion think that the whole politics and legislation can be left to some algorithms and corresponding machines. Such proposals amount to the opposite of ethical intelligence, namely to the complete incapacitation of the people affected by them, and thus to sheer totalitarianism. Rather, it is a matter of improving the arguments of ethical discourse with the help of artificial intelligence and, in particular, of freeing them from the hidden self-interest of those who have been presenting them up to now. Since logical automata could be trained to be suitably disinterested, I see no fundamental obstacle to getting something like this off the ground. It would already be of great value (and will probably bring some surprises) to hear new ethical arguments brought forth by such Artificial Ethics.

In the process, fundamental questions should not be left out, but, on the contrary, should be re-examined. This concerns, for example, the definition of the good and thus also of the good human being: Is the good - dominant in the Western individualistic view of man - ultimately only that which maximizes the sum of the success in life of all living human beings? Is the good, then, in the utilitarian sense, the result of an arithmetical summation of the individual benefits of individuals? Or is the good, rather in the sense of Kant and the continental European Enlightenment thinkers, the realization of a reason superior to the individual? Both are ideas that require difficult justification. After all, given the diversity of contemporary people's views of life, what is a 'general advantage' that could be calculated from the utilitarian perspective? No less difficult is the question of what are the criteria of supra-individual, i.e. in a certain sense absolute, reason.

All this cannot be answered with conventional methods of artificial intelligence, not even with the so-called Large Language Models (LLMs) that form the basis of the new text generators à la ChatGPT. Because even these still only work with the statistical prediction of the next word in a sentence, without even having the slightest idea what they actually say. The Artificial Ethics project, on the other hand, is about real reasoning. That is a great challenge. However, I think that only this ability deserves the name 'intelligence', whether it deals with ethics or something else. Presumably, the first step towards the realization of such a machine will be to teach it to argue in the first place and not just to compile information. Only then would it be qualified for moral discourse.

But a great task can also generate great motivation. So let the yet-to-be-found algorithms of Artificial Ethics speak! Perhaps they will present us with arguments that will ultimately give us, the living human beings of flesh and blood, completely new ideas. For a real improvement of the world. (ws)