Niklas Luhmann, sociologue ?

Niklas Luhmann, sociologue ?

par Jean-François Kervégan
, le 20 septembre 2021

Décrire la société à partir du social, sans remonter à ce qui serait son essence, mais en la concevant comme un système de différenciation : c’est l’ambition que s’est fixée N. Luhmann, dans un ouvrage qui clôt un travail majeur.

En 1997, peu avant son décès, Niklas Luhmann publie son opus magnum, Die Gesellschaft der Gesellschaft, un pavé de plus de 800 pages qui récapitule trente et quelques années de réflexion sur les systèmes sociaux et qui couronne une œuvre immense (plus de soixante-dix ouvrages ou recueils et des centaines d’articles publiés de son vivant), une œuvre que caractérise dès son départ son ambition systématique englobante. Celle-ci a pour contrepartie une indéniable difficulté d’accès ; ce qui explique pour une part le nombre relativement faible de traductions françaises (une dizaine) et la réception somme toute limitée de cette œuvre majeure en comparaison de celle dont bénéficie son adversaire de toujours, Jürgen Habermas [1].

La différenciation moderne de la société

Dès ses premiers travaux, en particulier à partir de la publication en 1984 de Soziale Systeme (Systèmes sociaux. Esquisse d’une théorie générale), trad. L. Sosoë, Presses de l’Université Laval, 2011), il s’agit pour Luhmann non pas de décrire les sociétés, selon une approche qu’il qualifie dédaigneusement de « régionaliste », mais de penser la société, c’est-à-dire de définir les chaînes d’opérations constitutives du « social », celles qui font que la société est une société. Or, penser la société ne signifie pas, à partir d’une position d’observation extérieure, en dévoiler « l’essence » (l’essentialisme des ontologies sociales classiques est une des bêtes noires de Luhmann) ; il s’agit plutôt de porter à l’expression la constitution du social par lui-même, son ‘automouvement’, pourrait-on dire en un langage hégélien qui n’est pas inapproprié pour décrire l’entreprise luhmannienne [2]. Pour ce faire, en s’écartant de la sociologie fonctionnaliste de l’action de Talcott Parsons qui fut sa première source d’inspiration (Parsons fut son directeur de thèse), Luhmann s’appuie sur des modèles théoriques conçus par la cybernétique, par la théorie de l’information et de la communication et par la théorie biologique de l’auto-organisation développée par Humberto Maturana et Francisco Varela (voir p. 65). Une fois mis en place, dans Systèmes sociaux, les concepts fondamentaux (auto-organisation ou autopoïèse, complexité, sens, communication, relation système-environnement, codage, clôture opérationnelle, différenciation, redondance, rétroaction et opération récursive, couplage…) et la méthode d’investigation de la théorie des systèmes (observation de premier et de second ordre contribuant à une « autologie réfléchie » du social), il s’est agi dans un premier temps de décrire le processus d’autodifférenciation du système social (Ausdifferenzierung) en une pluralité de sous-systèmes dotés chacun d’un mode de fonctionnement propre (d’un « codage » spécifique : par exemple, pour le droit : acte conforme au droit / contraire au droit), mais constamment à l’écoute des informations (inputs) provenant de leur environnement (par exemple, d’un autre sous-système social, mais aussi de la nature ou du psychisme), informations qu’ils ‘traduisent’ selon leur propre code et auxquelles ils réagissent en transmettant d’autres informations (outputs) que les sous-systèmes concernés vont eux-mêmes ‘assimiler’. Ces opérations provoquent elles-mêmes un constant réarrangement des sous-systèmes, selon des processus que la cybernétique et la théorie générale des systèmes (ou systémique) nomment rétroaction négative (negative feedback). Ainsi, les sous-systèmes sociaux, tels les monades leibniziennes « sans portes ni fenêtres », sont clos non pas au sens où ils n’auraient pas d’extérieur ou seraient sourds et aveugles à ce qui s’y passe, mais au sens où, pour chacun d’eux, l’environnement ne peut que solliciter le système à mettre en œuvre des procédures spécifiques de « traduction », qui sont en fait des opérations de sélection de l’information ‘externe’ selon un codage qui lui est spécifique. Par exemple, pour le système juridique, un événement n’existe que s’il constitue une information juridiquement pertinente ; et il n’est une information pertinente que s’il est susceptible d’être « internalisé » grâce à une opération de codage ou de recodage : seul le droit (et non, par exemple, une norme éthique) peut décider ce qui est du droit (d’où, par parenthèse, l’adoption résolue par Luhmann d’une conception positiviste du droit et son peu de considération pour la thématique « vieille-européenne » du droit naturel, qualifiée de « sémantique de transition »). Cette analyse des sous-systèmes sociaux, dont la différenciation toujours accrue est sans doute le trait caractéristique de la modernité (voir p. 500), a donné naissance à toute une série d’ouvrages étudiant le fonctionnement spécifique des sphères sociales différenciées de l’économie (Die Wirtschaft der Gesellschaft, 1988), de la recherche scientifique (Die Wissenschaft der Gesellschaft, 1990), de l’art (Die Kunst der Gesellschaft, 1995), de la religion (Die Religion der Gesellschaft, 2000), du système éducatif (Das Erziehungssystem der Gesellschaft, 2002), et, tout spécialement, du droit (Das Recht der Gesellschaft, 1993 Ce livre majeur a également été récemment traduit en français : Le Droit de la société, traduit par L. Sosoë, Presses de l’Université Laval, 2019, 486 p.). En raison notamment de sa formation initiale de juriste, Luhmann s’est tout particulièrement intéressé au système juridique auquel, avant celui qui vient d’être cité, il a consacré trois gros ouvrages (Grundrechte als Institution, 1965 ; Rechtssoziologie, 1972 ; Ausdifferenzierung des Rechts, 1981) et bon nombre d’articles recueillis dans les sept tomes de Soziologische Aufklärung (Elucidation sociologique ou Lumières sociologiques, les deux traductions sont possibles) ou les quatre tomes de Gesellschaftsstruktur und Semantik (Structure sociale et sémantique). Parmi ces écrits, il faut mentionner une série de contributions hétérodoxes sur le concept des droits humains, dont certaines ont été traduites en français Voir « L’unité du système juridique », Archives de philo du droit, 31 (1986) ; « La restitution du 12e chameau : du sens d’une analyse sociologique du droit », Droit et société 47 (2001), 15-73 ; « De la fonction des ‘droits subjectifs’ », Trivium 3 (2009) ; « La théorie de l’ordre et les droits naturels », Trivium 3 (2009).]] Les droits de l’homme ou, dans un langage plus technique, les droits subjectifs, ne sont pas à comprendre comme des conquêtes témoignant du progrès des Lumières, mais plutôt comme une contrepartie fonctionnellement requise par l’autonomisation du système du droit à l’égard d’autres configurations normatives, comme celles de la religion ou de la morale) : « La figure juridique du droit subjectif cherche à répondre, par son degré supérieur d’abstraction, aux exigences d’une société de plus en plus différenciée fonctionnellement » [3].

Les opérations constitutives du social

Après ces études en quelque sorte sectorielles, il convenait de revenir au point de départ (en langage systémique : d’opérer une « boucle de rétroaction ») et de thématiser le système social en tant que tel : c’est précisément l’objet de La société de la société, ouvrage expressément conçu comme l’achèvement de l’entreprise inaugurée par Systèmes sociaux (certains écrits ont été publiés ultérieurement, après le décès de Luhmann, mais leur rédaction est antérieure). Son titre, à première vue énigmatique, révèle l’ambition de l’entreprise : conformément au parti ‘internaliste’ d’une théorie systémique, il s’agit non pas de fournir, à partir de la position d’un observateur externe, une description du système social et de ses ramifications mais de porter à l’expression « la description sociologique de la société dans la société » (p. 744), autrement dit de penser la description comme une autodescription de ce qui, dans la société, fait société ou, si l’on veut, du social de la société, c’est-à-dire de son mouvement de constitution. Objection immédiate et évidente : comment cela est-il possible sans revendiquer pour le sociologue la place du Dieu leibnizien engendrant et coordonnant monadologiquement la multiplicité des points de vue des monades sociales ? La réponse pourrait être la suivante : en ‘désubstantialisant’ les dynamiques sociales, en ne cherchant pas à identifier ‘l’être’ derrière ‘l’acte’, on peut parvenir, au prix d’un grand effort d’abstraction, à penser la différence – et le social n’est que différence, ou plutôt différenciation – sans chercher à la reconduire à l’identité d’une origine, d’un sujet (Luhmann fustige avec constance la « fuite dans le sujet » des philosophes modernes : voir p. 674 sq.), voire d’un macro-sujet (la Société) : « les identités n’existent pas » (p. 52), elles ne sont que les traces précaires du mouvement de la différence. Penser la société, à l’instar de Saussure définissant la langue comme un système de différences (voir p. 53, note 50), comme une dynamique de différenciation sans présupposer l’existence et le statut ontologique des termes différenciés, telle paraît bien être l’ambition de la théorie générale des systèmes sociaux dont La société de la société est l’expression réflexive ultime. L’unité du système social « ne peut être saisie par une réduction à l’essentiel : […] elle réside donc seulement dans la démarcation par rapport à l’extérieur, dans la différence reproduite continuellement des opérations » (p. 80). Il en résulte que « la société est un système entièrement et exclusivement déterminé par lui-même » (p. 84), puisque c’est elle-même qui engendre la frontière entre son ‘intérieur’ et son ‘extérieur’ (sa « forme ») et organise les communications qui assurent son développement en augmentant son degré de complexité propre. Paradoxalement, c’est parce qu’il est opérationnellement clos que le système social est cognitivement ouvert à son environnement et se transforme ainsi continuellement en modifiant de façon récursive non seulement ses éléments (pour faire simple : les individus comme atomes sociaux et les sous-systèmes qui se différencient en son sein), mais la nature même de ses propres opérations.

Le paradoxe de la société

Observateur circonspect de la modernité et critique impitoyable des théories qui ont prétendu en rendre compte, l’auteur de La société de la société est-il un penseur « post-moderne », comme on l’entend parfois dire ? Sa critique souvent mordante des représentations normatives et des idéaux progressistes des Lumières et des philosophes qui, comme Habermas, entendent les réactiver et considèrent que la modernité est un « projet inachevé » (voir p. 754) pourrait le faire croire. De fait, tout au long de son œuvre, Luhmann n’a eu de cesse de débusquer les préjugés « éclairés » et « humanistes » du courant dominant de la pensée sociale et politique moderne, auquel il oppose « un concept de la société radicalement antihumaniste » (p. 44). De là la réputation qu’a sa pensée d’être conservatrice, si ce n’est réactionnaire ; sa critique du volontarisme progressiste et des mythologies révolutionnaires (voir par exemple p. 712), sa sympathie discrète pour certains schèmes de pensée mis en œuvre par des contre-révolutionnaires comme Bonald et de façon générale par les « Anti-Lumières » y ont amplement contribué. Pourtant, Luhmann récuse l’alternative du progressisme et du conservatisme, tout comme il se méfie du grand récit post-moderne de la fin des grands récits (voir p. 753-754) : tous ces points de vue participent à ses yeux de « sémantiques provisoires » (p. 714) dont l’illusion commune est de croire qu’on puisse définir un point de vue ultime, qui serait celui d’un observateur omniscient (le Dieu leibnizien, ici encore), et susceptible de procurer un ‘premier principe’ ou un telos ultime. Là-contre, il professe que « l’unité de la société ne peut plus être considérée comme un principe, mais seulement comme un paradoxe » (p. 754). Ce paradoxe est en fin de compte celui d’une différenciation qui ne présuppose pas l’antécédence d’une unité substantielle, ontologique ; pour parler comme Derrida, c’est le paradoxe d’une différance pure, d’une constitution de la différence à partir d’elle-même et non comme différence rapportée à une identité. La société n’est pas, elle advient constamment en se différenciant au sein d’elle-même (c’est l’Ausdifferenzierung typiquement moderne des sous-systèmes sociaux dont chacun « écoute » et retraduit selon son propre code les processus à l’œuvre dans les autres) et d’elle-même (notamment grâce aux observations de second ordre dont participe la science, et notamment la science de la société, qui fait partie de son environnement, tout comme elle-même constitue l’environnement du système scientifique).

Une métaphysique sociale

Posons pour terminer une question impertinente : le professeur de sociologie Niklas Luhmann, qui n’a jamais voulu mener aucune étude empirique [4] et a puisé tout son matériau dans les recherches menées par ailleurs, est-il un sociologue ? S’il l’est, ce n’est certainement pas au sens où les diverses traditions de pensée qui l’ont nourrie ont pu définir la sociologie. Il le proclame lui-même dans cet ultime opus  :

Ce n’est pas dans la tradition sociologique que nous puisons les ressources théoriques pour révolutionner ‘de manière sensée’ le paradigme de la théorie de la société. Elles sont au contraire introduites de l’extérieur dans la sociologie. Nous nous fondons sur les récents développements de la théorie des systèmes, mais aussi sur […] la cybernétique, les sciences cognitives, la théorie de la communication, la théorie de l’évolution. La société de la société, p. 61

La monumentale théorie de la société constamment reprise et raffinée par Niklas Luhmann n’est pas à proprement parler une ‘sociologie’, c’est-à-dire une théorie/description, éventuellement critique, des faits sociaux et des structures qui les engendrent ; c’est plutôt une théorie du processus de constitution du social à partir du social, sans qu’une définition du terme n’ait besoin d’être présupposée, en vertu du principe métathéorique (disons : philosophique) selon lequel il n’est pas requis d’hypostasier une identité afin de penser la différence (ou la différance). Là encore, on n’est pas loin de ce que Hegel avance dans la Logique de l’essence à propos des rapports entre ces catégories réflexives que sont l’identité et la différence. Si ce n’est que Luhmann pense disposer, grâce à la théorie des systèmes et contre l’idée qu’il se fait du hégélianisme, de moyens permettant d’éviter de résorber le jeu dialectique de l’identité et de la différence dans l’unité antécédente d’un fondement. Un système, tel que le conçoit Luhmann, est grundlos, dépourvu de fondement, car seule la différence de soi à soi, sans origine ni fin, tenant par exemple à ce qu’il ‘réagit’ à son environnement, le constitue comme système. L’élément social de la société n’est pas issu de quelque origine que ce soit (par exemple : des pulsions associatives d’atomes sociaux ou de communautés préexistantes) : il ne consiste en rien d’autre qu’en la dynamique d’un tout qui ne préexiste pas à sa propre différence instituante, celle, si l’on veut, qui instaure une démarcation entre ‘dedans’ et ‘dehors’. La société de la société, c’est l’acte de production de soi par différenciation d’avec soi (autopoïèse) et, par-là, de son dehors (son environnement), la frontière entre l’un et l’autre étant constamment en train d’être redessinée.

S’il fallait d’un mot qualifier cet ultime ouvrage de Luhmann, j’emploierais volontiers une expression qu’affectionne Vincent Descombes : il jette les bases d’une métaphysique sociale – une métaphysique paradoxale à laquelle l’idée même d’une instance ‘méta’ fait horreur. Comme Deleuze, autre penseur de la différence, Niklas Luhmann aura été, peut-être à contrecœur, un grand métaphysicien.

Niklas Luhmann, La société de la société, traduit de l’allemand par Flavien Le Bouter, Paris, Exils, 2021, 776 p.

[1] Voir à ce propos, parmi bien d’autres études, J.-F. Kervégan, «  Quel est le sens de ‘l’autonomie du droit’  ? À propos du débat Habermas / Luhmann  », in E. Renault et Y. Sintomer (dir.), Où en est la théorie critique  ?, La Découverte, 2003, p. 135-152

[2] Luhmann reconnaît «  une certaine similitude  » de sa théorie de la morphogénèse du social avec la doctrine hégélienne du concept, tout en récusant les «  prétentions beaucoup plus larges  » de cette doctrine «  que nous ne pouvons pas accepter et dont nous n’avons pas besoin  » (La société de la société, p. 62). Il n’est pas impossible, toutefois, que cette proximité aille plus loin que le croit Luhmann : l’autoproduction du concept décrite par Hegel dans la «  Logique subjective  » est une anticipation frappante de la thématique de l’autopoïèse.

[3] «  De la fonction des ‘droits subjectifs’  », Trivium 3 (2009), p. 7.

[4] Voici le programme de recherche formulé lors de sa prise de fonction à l’université de Bielefeld : «  Mon projet était (et il n’a pas varié depuis) celui d’une théorie de la société  ; durée estimée : 30 ans  ; coût : aucun  » (La société de la société, p. 11). Avec un tel programme, la candidature de Luhmann n’aurait pas eu la moindre chance d’être retenue par une agence de recherche nationale ou internationale…