Die Falle der künstlichen Intelligenz – Rezension: Eric Sadin, Le Désert de nous-mêmes: Le tournant intellectuel et créatif de l’intelligence artificielle

Selon le philosophe français Éric Sadin, spécialiste des technologies, le lancement de ChatGPT le 30 novembre 2022 marque un tournant profond aux conséquences sociales et culturelles considérables. Les systèmes d’IA prétendent être capables de prendre en charge de plus en plus de capacités humaines fondamentales telles que la production de langage, d’images et de vidéos, mais ils se limitent en réalité aux contenus existants qui ont servi à leur formation.

L’attaque frontale de Sadin vise tous les aspects des systèmes que l’on veut nous présenter comme de l’IA. Il remet tout d’abord en question leur fonctionnement et leur prétention à produire des contenus intelligents. ChatGPT et ses semblables ne peuvent rien produire de nouveau, ils créent tout au plus de nouveaux contenus sur la base de la fréquence statistique des combinaisons de mots. Ils sont dépourvus de l’imagination qui caractérise les êtres humains, mais la prétention des systèmes d’IA à vouloir l’imiter provoque la critique virulente de Sadin.

Le titre de ce livre se traduit littéralement par « Le désert de notre moi », ce qui fait référence à notre propre faute, que Sadin nous reproche, car dès que nous interrogeons l’IA, nous abandonnons notre créativité, notre imagination ou même notre sociabilité au profit d’une machine qui ne peut que calculer des contenus, mais pas les imaginer.

Il associe l’utilitarisme à une maladie. Selon lui, cela conduit à une aliénation de nous-mêmes. L’apparition de ChatGPT annonce une nouvelle ère de domination artificielle, un découplage de l’homme et de son monde, une négation de nous-mêmes. En d’autres termes, l’automatisation neutralise nos capacités et veut prendre le contrôle de nos capacités créatives. Sadin parle de notre nécrose ; l’éviter maintenant serait la seule possibilité de préserver l’humanisme.

Sadin reproche à ChatGPT & Co. de vouloir nous suggérer que la production mécanique peut prendre des traits humains, alors que son output ne repose que sur des associations et des corrélations. Et Sadin se réfère à Paul Valéry, qui a déclaré au Collège de France : « Créer, c’est choisir ». Cette imprévisibilité qui caractérise l’acte créatif est hors de portée de ChatGPT & Co. Henri Bergson s’est exprimé dans le même sens dans « L’évolution créatrice » (1912), un élan créatif qui crée du nouveau, confirme à chaque acte la liberté et que Sadin oppose au langage des machines : « On reconnaît la gigantesque machine réductionniste qui déteint sur notre imaginaire… » (p. 48) et il rappelle Charles Péguy, qui déclarait : « Il y a pire qu’une mauvaise pensée, c’est d’avoir une pensée préconçue… »

Sadin vise à montrer que les modèles linguistiques tant loués ne vivent que de plagiats constants, avec lesquels ils veulent nous prouver leur intelligence. Il rappelle Jacques Lacan : « Quand l’homme oublie qu’il porte la parole, il ne parle plus… Quand l’homme ne parle plus, il est parlé. » La linguistique capitaliste se retrouve ainsi dans le collimateur de sa critique impitoyable. L’« intelligence artificielle générative » détruirait avant tout notre capacité de jugement. Les preuves que Sadin cite, de Günther Anders à David Graeber, étayent le fondement théorique de ses réflexions.

Selon Sadin, les conséquences les plus graves se feront sentir dès que l’IA sera utilisée dans le domaine de l’éducation. L’apprentissage est lié à la curiosité, à la découverte de nouvelles choses et à la volonté de changer. Avec l’IA et l’optimisation des processus d’apprentissage qui l’accompagne, l’utilitarisme devient la seule ligne directrice, supplantant la capacité de jugement, nuisant au comportement social, entraînant l’autosuffisance et coupant les liens avec nos proches.

Sadin s’oppose avec force à la création automatique d’images et de vidéos, qui contourne la réalité et laisse aux machines le soin de l’interpréter. Il accuse la réalité d’être soumise à une abstraction mathématique.

Dans le chapitre « Un monde d’illusions », Sadin retrace l’histoire des « réseaux sociaux », qui incitent à répandre la douleur, la rancœur et la haine, voire des « fake news », ce qui a pour conséquence la destruction du socle de valeurs communes.

Le troisième chapitre, « Vers une automatisation intégrale du travail », a pour sous-titre « Un crime contre l’Homo faber » : « Comment ignorer la tempête qui balaye les professions exigeant des compétences cognitives hautement développées ? » (p. 123) Sadin vise également la distribution d’iPads et d’ordinateurs portables dans les écoles, qui ne sont guère adaptés pour stimuler la curiosité des enfants désireux de découvrir le monde, mais les soumettent impitoyablement à l’industrie de la « transformation numérique » tant attendue (p. 124 et suivantes). Sadin dresse un tableau sombre de l’avenir de l’institution scolaire, qui remplace l’enseignant, qui transmet les connaissances et encourage la participation à des projets communs, par des applications d’IA et étouffe les capacités des enfants dans l’œuf.
Sadin va encore plus loin et voit dans les prétentions de plus en plus envahissantes de l’IA un nouveau « POUVOIR TOTAL » (p. 177), décrivant ainsi un pouvoir omniscient qui s’immisce partout, influence nos actions et acquiert ainsi un pouvoir politique. Il s’agit d’un processus de déshumanisation qui nous dispense de tout effort et favorise l’abrutissement croissant de l’humanité. (p. 181

La créativité, l’autonomie, voire la liberté, sont laissées pour compte lorsque nous nous en remettons à l’IA. Notre imagination et notre ingéniosité s’atrophient lorsque nous les abandonnons aux machines. Sadin s’oppose fermement à cette évolution, qui n’est pas un projet de société décidé démocratiquement, mais simplement l’expression d’ambitions techniques de pouvoir, et qui nécessite une défense résolue des capacités humaines.

On pourrait penser que Sadin va trop loin avec sa diatribe, surtout maintenant que l’on nous donne l’impression que l’économie n’attendait que l’IA et que les élèves profitent de nouvelles dimensions d’apprentissage grâce à elle. Mais Sadin ne voit pas ces aspects positifs. Il s’en prend à l’imaginaire qui se cache derrière l’IA, à sa volonté de prendre le contrôle de notre pensée et de nos décisions, et surtout à notre disposition à suivre les sirènes de l’IA. La technologie nous appelle et nous abandonnons notre liberté et notre humanisme, voilà comment on pourrait résumer les thèses de Sadin. Est-il donc une voix dans le désert, seul face à tous ceux qui louent la nouvelle réalité de l’IA ? Pas vraiment, car avec ses réflexions et ses déductions nuancées, il présente une alternative importante aux éloges trop unilatéraux de l’IA. Son livre est une contribution importante au débat sur les conséquences sociales de l’engouement pour l’IA.

Die Einführung von ChatGPT am 30.November 2022 stehe, so der französische Technikphilosoph Éric Sadin, für eine tiefgreifende Wende mit weitreichenden sozialen und kulturellen Folgen. KI-Systeme gäben vor, zunehmend grundlegende menschliche Fähigkeiten wie die Produktion von Sprache, Bildern und Videos übernehmen zu können, und sie beschränken sich doch nur auf bereits vorhandene Inhalte, die zu ihrem Training gedient haben.

Sadins Frontalangriff richtet sich gegen alle Aspekte der Systeme, die man uns als KI vorsetzen will. Zunächst stellt er deren Funktionsweise und ihren Anspruch, intelligente Inhalte zu produzieren in Frage. ChatGPT und Co. könnten nichts Neues produzieren, sie schaffen allenfalls neue Inhalte auf der Basis der statistischen Häufigkeit von Wortverbindungen. Die Imagination, die den Menschen auszeichnet, geht ihnen ab, aber der Anspruch der KI-Systeme, sie imitieren zu wollen, provoziert die entschiedene Kritik von Sadin.

Der Titel dieses Buches lautet wörtlich übersetzt „Die Wüste unseres Selbst“, das bezieht sich auf unser Selbstverschulden, das Sadin uns vorwirft, denn sowie wir die KI befragen, geben wir unsere Kreativität, Imagination oder auch Geselligkeit auf zugunsten einer Maschine, die Inhalte nur ausrechnen, aber nicht ausdenken kann.

Den Utilitarismus verbindet er mit einer Krankheit. Er führe zu einer Entfremdung von uns selbst. Das Erscheinen von ChatGPT verkündet die neue Ära einer künstlichen Herrschaft, eine Entkoppelung des Menschen von seiner Welt, eine Verneinung von uns selbst. Mit anderen Worten, die Automatisierung neutralisiert unsere Fähigkeiten und sie will unsere schöpferischen Fähigkeiten übernehmen. Sadin spricht von unserer Nekrose; sie jetzt noch zu vermeiden, sei die einzige Möglichkeit an einem Humanismus festzuhalten.

Sadin wirft ChatGPT & Co. vor, uns suggerieren zu wollen, das die maschinelle Produktion menschliche Züge annehmen könne, wo doch ihr Output nur auf Assoziation und Korrelationen beruhe. Und Sadin beruft sich auf Paul Valéry, der im Collège de France sagte, „Schöpfen, das bedeute wählen“. Diese Unvorherbestimmt, die den schöpferischen Akt auszeichnet, ist außer Reichweite von ChatGPT & Co. Genauso äußerte sich Henri Bergson in „Die schöpferische Entwicklung,“ (1912), ein kreativer Elan, der Neues schafft, mit jedem Akt die Freiheit von neuem bestätigt und den Sadin der Maschinensprache gegenüberstellt: „Erkennt man die gigantische reduktionistische Maschine, die auf unsere Vorstellungswelt abfärbt…“ (S. 48) und er erinnert an Charles Péguy, der erklärte: „Es gibt etwas Schlimmeres als einen schlechten Gedanken, das ist eine vorgefassten Gedanken zu haben…“ Sadin zielt darauf ab, dass die so gelobten Sprachmodelle nur von ständigen Plagiaten leben, mit denen sie uns ihre Intelligenz beweisen wollen. Er erinnert an Jaques Lacan: „Wenn der Mensch vergisst, dass er die Sprache trägt, spricht er nicht mehr… Wenn der Mensch nicht mehr spricht, wird er gesprochen.“ Damit gerät die kapitalistische Linguistik in das Fadenkreuz seiner unbarmherzigen Kritik. Die sog. „generative künstliche Intelligenz“ werde in erster Linie unser Urteilsvermögen zerstören. Die Belege, die Sadin von Günther Anders bis David Graeber anführt, belegen die theoretische Grundlage seiner Reflexionen.

Am schwerwiegendsten sind, so Sadin, die Folgen, sobald die KI im Bereich der Bildung eingesetzt werde. Lernen habe etwas mit Neugier zu tun, Neues zu entdecken und der Bereitschaft, sich zu verändern. Mit der KI und der damit einhergehenden Optimierung von Lernprozessen wird der Utilitarismus zur alleinigen Richtline, die das Urteilsvermögen verdrängt, das soziale Verhalten beschädigt, Selbstgenügsamkeit bewirkt und die Verbindungen zu unseren Nächsten kappt.

Besonders nachdrücklich wendet sich Sadin gegen die automatische Bild- und Videoerstellung, mit der die Wirklichkeit umgangen werde und man den Maschinen die Interpretation der Wirklichkeit überlasse. Die Wirklichkeit werde einer mathematischen Abstraktion unterworfen, so lautet seine Anklage.

Im Kapitel „Eine Welt der Hirngespinste“ entwickelt Sadin eine Geschichte der „sozialen Netzwerke“, die dazu verführen, Schmerzen, Groll und Hass bis hin zu „fake news“ zu verbreiten, die Folge ist die Zerstörung der gemeinsamen Wertebasis. Das dritte Kapitel „Hin zu einer integralen Automatisierung der Arbeit“ hat den Untertitel „Ein Verbrechen gegen den Homo faber“: „Wie sollte man den Sturm übersehen, der über die Berufe mit kognitiv hoch entwickelten Kompetenzen hinwegfegt?“ (S. 123) Worauf Sadin zielt ist auch die Verteilung von IPads und Laptops in Schulen, die kaum geeignet sind, die Neugier von Kindern, die die Welt entdecken wollen, zu fördern, sondern sie unbarmherzig wie auch die Industrie der so ersehnten „digitalen Transformation“ (S.124 f) unterwirft. Sadin zeichnet ein düsteres Bild der Zukunft der Institution Schule, die den Lehrer, der das Wissen vermittelt und die Teilhabe an gemeinsamen Projekten fördert, durch KI-Anwendungen ersetzt und die Fähigkeiten der Kinder im Keim erstickt.

Sadin geht noch weiter und sieht in den immer mehr um sich greifenden Anmaßungen der KI eine neue „TOTALE MACHT“ (S. 177) und umschreibt damit eine allwissende Macht, die sich überall einmischt, die unsere Handlungen beeinflusst und so auch eine politische Macht erringt. Es ist ein Prozess der Deshumanisierung, der uns jedwede Anstrengung abnimmt und die wachsende Verdummung der Menschheit vorantreibt. (S. 181

Die Kreativität, die Autonomie, ja auch die Freiheit bleiben auf der Strecke, wenn wir uns der KI anvertrauen. Unsere Imagination und unser Einfallsreichtum verkümmern, wenn wir sie den Maschinen überlassen. Sadin wendet sich mit Nachdruck gegen diese Entwicklung, die kein demokratisch beschlossenes Gesellschaftsprojekt sei, sondern lediglich Ausdruck technischer Machtambitionen und erfordert eine entschlossene Verteidigung menschlicher Fähigkeiten.

Man könnte meinen, Sadin schießt mit einer Philippika über das Ziel hinaus, gerade jetzt, wo uns das Gefühl gegeben wird, die Wirtschaft habe nur auf die KI gewartet und Schüler genießen neue Lerndimensionen dank der KI. Aber derlei positive Aspekte vermag Sadin nicht zu erkennen. Er greift die Vorstellungswelt hinter der KI an, ihr Ansinnen, unser Denken und unsere Entscheidungen übernehmen zu wollen, und vor allem aber unsere Bereitschaft, den Sirenenklängen der KI zu folgen. Die Technik ruft und wir geben unsere Freiheit und unseren Humanismus auf, so könnte man die Thesen von Sadin zusammenfassen. Ist er damit ein Rufer in der Wüste, allein auf sich gestellt gegenüber allen denjenigen, die neue Wirklichkeit der KI in den höchsten Tönen loben? Kaum, denn mit seinen differenzierten Überlegungen und Herleitungen legt er einen wichtigen Gegenentwurf zu den zu einseitigen Lobeshymnen gegenüber der KI vor. Sein Buch ist ein wichtiger Beitrag zur Diskussion hinsichtlich der gesellschaftlichen Folgen des KI-Hypes.