Rezension: Rainer Mühlhoff, Künstliche Intelligenz und der neue Faschismus
Il est tout à fait inévitable que le fait d’interroger sans cesse ChatGPT sur toutes les situations de la vie, ainsi que la confiance aveugle accordée aux résultats et aux opinions de l’IA, souvent sans aucune vérification, aient des conséquences sur la vie en société et, surtout, sur la vie politique. Mühlhoff ne surprend personne lorsqu’il établit un lien entre les tendances des mouvements d’extrême droite et les promesses de salut véhiculées par l’IA, et qu’il en déduit la tendance et le danger de dérives fascisantes. L’IA est censée être intelligente, et ses hallucinations sont balayées comme des « maladies de jeunesse » ; la prochaine version sera bien meilleure, entendent dire les critiques. Les partisans de l’IA s’y habituent ou ignorent délibérément que l’IA détermine ses résultats de manière statistique et ne peut en aucun cas les justifier scientifiquement, sans parler de sa capacité à appréhender la notion de « vérité ». On dit alors qu’elle « apprend » et on entend par là qu’elle élargit l’étendue de ses données d’entraînement.
Rainer Mühlhoff a examiné cette confiance sans limite que beaucoup accordent aux résultats de ce qu’on appelle l’intelligence artificielle dans un ouvrage de la collection Reclam « Was bedeutet das alles ? » (Que signifie tout cela ?), intitulé L’intelligence artificielle et le nouveau fascisme. Sa thèse : « … que le potentiel fascisante de la politique de l’Alt-Right découle de sa synergie avec les idéologies technologiques élitistes. » (p. 11) L’« Alt-Right » (Alternative Right) désigne un mouvement politique apparu aux États-Unis vers 2010. Le nationalisme, la xénophobie et la critique du multiculturalisme en sont les traits caractéristiques.
Mühlhoff évoque Elon Musk et son « Department of Government Efficiency » (DODGE), ainsi que l’utilisation de l’IA pour évaluer les activités des agences fédérales. Toute référence à la diversité, à l’égalité et à l’inclusion devait être supprimée. Le Pentagone a supprimé des dizaines de milliers de photos montrant des femmes ou des personnes de couleur dans l’armée. Ce nouveau fascisme ne correspond pas exactement à celui de Benito Mussolini, mais les forces qui le sous-tendent doivent être identifiées dès le plus tôt possible. (Cf. p. 9 et suivantes.) Mühlhoff résume avec précision les caractéristiques de ces dangers : « 1. Action antidémocratique », en particulier dans la « variante cynique et nihiliste défendue par Trump », « 2. Propension à la violence », y compris verbale, et « tromper de larges masses à l’aide de récits cyniques, attiser les ressentiments », « 3. La technologie comme instrument de pouvoir », associée à un « solutionnisme » qui se manifeste par la croyance en la supériorité de la technologie pour résoudre les problèmes sociaux ». (p. 14, voir aussi p. 114 et suivantes, et en particulier p. 118 et suivantes)
Le premier chapitre propose ensuite une introduction très intéressante et précise à l’histoire de l’intelligence artificielle, qu’il convient de connaître pour pouvoir évaluer l’état actuel et les perspectives de l’IA d’aujourd’hui. Dans ce contexte, Mühlhoff distingue l’IA symbolique, fondée sur des règles fixes, de l’IA sous-symbolique, ou connexionnisme, qui fonctionne avec des réseaux neuronaux artificiels capables de repérer des modèles et ainsi de résoudre des tâches. Cette IA ne peut pas non plus produire quelque chose de véritablement nouveau ; dans un certain sens, elle fonctionne elle aussi avec des « probabilités de mots voisins ». « La puissance de l’IA, selon Mühlhoff, repose sur les impressionnantes quantités de données dont elle dispose… et que recèlent les bibliothèques et les archives ? > Sartre et Dürer.
Non seulement les réseaux sociaux, mais aussi l’IA sous toutes ses formes, qui s’alimente bien sûr des données issues des réseaux sociaux, peut devenir un outil de surveillance parfait, comme l’avaient déjà démontré les nazis avec cartes perforées IBM. Si des groupes politiques s’opposent à une réglementation étatique de l’IA, il convient d’y prêter attention et d’être à l’affût de signes autoritaires, voire fascistes.
Mühlhoff consacre le deuxième chapitre à la « préemption », c’est-à-dire l’anticipation, et décrit comment, dans une agence pour l’emploi, les décisions au cas par cas sont prises selon des méthodes éprouvées, tandis que les décisions globales sont prises à l’aide de l’IA, ce qui implique d’accepter le risque de décisions erronées. En d’autres termes, il s’agit de la « culture du savoir populiste (…) » (p. 48 et suivantes).
Le « battage médiatique autour de l’IA dans le discours public » (p. 50 et suivantes) présente quelques arguments censés étayer la confiance inébranlable dans l’avenir de l’IA : « Intelligence artificielle générale » (AGI), telle est la promesse destinée à stimuler les investissements dans l’IA.
Le chapitre 4 passe en revue les « idéologies derrière l’engouement pour l’IA ». Le « transhumanisme », c’est-à-dire la possibilité d’améliorer l’être humain par des solutions techniques, en fait partie, tout comme l’extropianisme et le singularitarisme. Lorsqu’il est question de maladies héréditaires, on évoque l’eugénisme 2.0, qui ne peut toutefois pas dissimuler ses origines douteuses. Il existe également « l’altruisme efficace », qui « décrit l’application des principes épistémologiques des rationalistes à l’action morale » (p. 84)
H. Wittmann, compte rendu de lecture :
Antonio Scurati
> Fascisme et populisme
Stuttgart : Klett-Cotta 2024
Trois autres mouvements constituent une menace : le « cyberlibéralisme », les « trolls et les « sous-cultures Manisphère », au sein desquelles sont notamment véhiculés des ressentiments racistes, ainsi que le Dark Enlightenment, que l’auteur interprète « comme une radicalisation fascisante des idéologies technopolitiques » (p. 95 et suivantes).
Dans le dernier chapitre, Mühlhoff réitère sa thèse : « Nos démocraties fondées sur l’État de droit sont particulièrement menacées par l’interaction entre les idéologies technologiques et les forces d’extrême droite. » (p. 115) Le reproche de Mühlhoff est grave, mais néanmoins pertinent. La nouvelle droite alternative, de l’AfD à Trump, n’occupe aucune position au sein du spectre politique démocratique qui s’étend de la « gauche » à la « droite » » (p. 141) L’auteur leur reproche d’opérer à un tout autre niveau… Ne serait-ce que pour cette raison, une collaboration avec eux est pratiquement impossible, car elle serait vouée à l’échec non seulement sur le plan moral, mais aussi sur le plan politique. Il convient de prendre au sérieux la proposition de Mühlhoff de parler différemment de la technologie de l’IA et de la numérisation, c’est-à-dire sans les associer à cette promesse constante de salut. Il s’agit ici des promesses de l’IA, qui reposent sur « l’eugénisme, le racisme, la hiérarchisation des êtres humains ». Les perspectives d’avenir de l’IA, tant vantées, exigeaient « une déréglementation et un financement généreux » (p. 145). L’auteur résume ainsi les répercussions actuelles de l’IA : « inégalités sociales, manipulabilité, exploitation des personnes et des ressources naturelles, érosion de la vie privée, érosion des sphères publiques démocratiques, accumulation massive de pouvoir et de capital entre les mains d’un petit nombre d’acteurs » (p. 146) et il plaide en faveur d’un renforcement de la réglementation étatique de l’IA.
Traduit par deepl.com
Es kann doch gar nicht ausbleiben, dass das permanente Befragen von ChatTGPT zu allen Lebenslagen, das blinde Vertrauen, den Ergebnissen und Meinungen der KI meist völlig ungeprüft zu folgen, Konsequenzen für das soziale und vor allem politische Zusammenleben haben wird. Mühlhoff überrascht nicht, wenn er die Tendenzen der Alt-Right-Bewegungen mit den Heilsversprechen der KI in Verbindung bringt und daraus die Tendenz und die Gefahr von faschistoiden Entwicklungen ableitet. Die KI soll ja wohl intelligent sein und ihre Halluzinationen werden als Kinderkrankheiten abgetan, die nächste Version werde viel besser werden, bekommen die Kritiker zu hören. Die Anhänger der KI gewöhnen sich daran oder übersehen geflissentlich, dass die KI ihre Ergebnisse statistisch ermittelt und überhaupt nicht wissenschaftlich begründen kann, geschweige denn etwas mit dem Begriff „Wahrheit“ anfangen kann. Man sagt dann, sie lerne dazu und meint, sie vergrößere den Umfang ihrer Trainingsdaten.
Das von vielen so grenzenlos gewährte Vertrauen in die Resultate der sogenannten künstlichen Intelligenz hat Rainer Mühlhoff in einem Band der Reclam-Reihe „Was bedeutet das alles?“ unter dem Titel Künstliche Intelligenz und der neue Faschismus untersucht. Seine These : „…dass das faschistoide Potential von Alt-Right-Politik aus ihrer Synergie mit elitistischen Tech-Ieologien erwächst.“ (S. 11) „Alt-Right“ (Alternative Right) steht für eine politische Bewegung, die ungefähr ab 2010 in den USA entstand. Nationalismus, Fremdenfeindlichkeit die Kritik am Multikulturalismus sind ihre Kennzeichen.
Mühlhoff erinnert an Elon Musk und seine Behörde „Department of Governement Efficiency“ DODGE und den Einsatz der KI, um die Aktivitäten der Bundesbehörden zu evaluieren. Jegliche Hinweise wie Diversität, Gleichberechtigung und Inklusion mussten getilgt werden. Das Pentagon löschte Zehntausende Fotos, die Frauen oder People of Colour im Militärdienst zeigten. Dieser neue Faschismus entspreche nicht exakt dem von Benito Mussolini, aber die Kräfte, die ihn antreiben, sollten früh erkannt werden. (Vgl. S. 9 f.) Mühlhoff fasst die Kennzeichen dieser Gefahren präzise zusammen: „1. Antidemokratisches Wirken“ besonders in der „zynischen und nihilistischen Variante, die Trump vertritt“, „2. Gewaltbereitschaft“ auch mit Worten und „breite Massen mit zynische[n] Narrativen zu täuschen, Ressentiments anzustacheln“, „3. Technologie als Machtinstrument“ gepaart mit einem „Solutionismus“ der sich im Glauben an die Überlegenheit von Technologie [zeigt], um gesellschaftliche Probleme zu lösen“. (S. 14, S. auch S. 114 ff. und bes. S. 118 ff)
Es folgt im ersten Kapitel eine sehr lesenswerte und präzise Einführung in die Geschichte der Künstlichen Intelligenz, die man kennen sollte, um den Stand und die Perspektiven der heutigen KI einschätzen zu können. In diesem Zusammenhang unterscheidet Mühlhoff die auf festen Regeln beruhende symbolische und subsymbolische KI oder Konnektionismus, die mit künstlichen neuronalen Netzen arbeitet, denen es gelingt Muster aufzufinden und so Aufgaben zu lösen. Wirklich Neues kann auch diese KI nicht herstellen, in einenm gewisse Sinne,arbeitet auch diese KI mit „Wortnachbarwahrscheinlichkeiten„. Die Macht der KI, so Mühlhoff“ ruht auf den beeindruckenden Datenmengen, die sie kennt… und was ruht in den Bibliotheken und Archiven? > Sartre und Dürer.
Nicht nur soziale Netzwerke auch die KI jeder Art, die sich natürlich auch aus den Daten der sozialen Netzwerke speist, kann ein perfektes Überwachungsinstrument werden, wie die Nazis es schon mit IBM-Lochkarten aufgebaut haben. Lehnen politische Gruppierungen staatliche Regelungen für die KI ab, sollte man hellhörig werden und auf autoritäre oder gar faschistische Anzeichen achten.
Mühlhoff widmet das 2. Kapitel der „Präemption“, das ist die Vorwegnahme und beschreibt , wie in einem Arbeitsamt Einzelfallentscheidungen nach bewährter Art und globale Entscheidungen mit der KI getroffen, wo bei falsche Entscheidungen in Kauf genommen werden. Mit anderen Worten, es geht um die „pobalistische(…) Wissenskultur (S. 48 ff.).
Der „KI-Hype im öffentlichen Diskurs“ (S. 50 ff) führt einige Belege an, mit denen das unerschütterliche Vertrauen in die Zukunft der KI belegt werden soll: „Artificial General Intelligence“ AGI heißt das Versprechen, mit dem die Investitionen in die KI aufgestockt werden sollen.
Das 4. Kapitel lässt die „Ideologien hinter dem KI-Hype“ Revue passieren. der „Transhumanismus“, die Verbesserbarkeit des Menschen durch technische Lösungen ist eine von ihnen, wozu auch der Extropinarismus und der Singularitarianismus gehören. Wenn es um Erbkrankheiten geht wird die Eugenik 2.0 genannt, die aber ihre zweifelhaften Ursprünge nicht verbergen kann. Es gibt auch den „Effektiven Altruismus“. der die Einführung von „erkenntnistheoretischen Prinzipien der Rationalisten auf moralisches handeln beschreibt“ (S. 84)
H. Wittmann, Lesebericht:
Antonio Scurati
> Faschismus und Populismus
Stuttgart: Klett-Cotta 2024
Gefahren gehen von drei weiteren Bewegungen aus wie der „Cyberliberatirismus“, „Troll– und Manisphère-Subkulturen“, in denen u.a. rassistische Ressentiments vermittelt werden und auch Dark Enlightenment, das der Autor „als faschistoide Radikalisierung technopolitischer Ideologien“ (S. 95 f.) deutet.
Im letzten Kapitel wiederholt Mühlhoff seine These: „Unsere rechtsstaatlichen Demokratien sind speziell durch das Zusammenspiel vom Tech-Ideologien und ultrarechten Kräften in Gefahr.“ (S. 115) Mühlhoffs Vorwurf wiegt schwer und ist dennoch passend. Die neue und alternative Rechte von der AfD bis Trump halten keine Position innerhalb des demokratischen politischen Spektrums, das von „links“ nach „rechts“ verläuft“ (S. 141) Der Autor wirft ihnen vor, auf einer völlig anderen Ebene zu operieren… schon aus diesem Grund ist eine Zusammenarbeit mit ihnen kaum möglich, weil sie nicht nur moralisch auch politisch zum Scheitern verurteilt sei. Den Vorschlag Mühlhoffs, über KI-Technologie und die Digitalisierung anders zu sprechen, also nicht verbunden mit dem ständigen Heilsversprechen, sollte man erst nehmen. Es geht dabei um die Versprechungen der KI, die auf „Eugenik, Rassismus, Hierarchisierungen von Menschen“ beruhen. Die so gelobten Zukunftsaussichten der KI verlangten „Deregulierung und großzügige Finanzierung“ (S. 145). Die heutigen Auswirkungen der KI fasst der Autor so zusammen: „soziale Ungleichheit, Manipulierbarkeit, Ausbeutung von Menschen und natürlichen Ressourcen, Erosion der Privatsphäre, Erosion der demokratischen Öffentlichkeiten, massive Akkumulation von Macht und Kapital bei wenigen Akteuren“ (S. 146) und er setzt sich für eine Verstärkung der staatlichen Regulierung der KI ein.
Rainer Mühlhoff,
Künstliche Intelligenz und der neue Faschismus
Ditzingen: Reclam 9/2025
Siehe auch: 
Nachdem unsere Blog-Redaktion in den letzten Monaten so oft über 