On sait qu’une lettre ouverte, signée entre autres par Elon Musk, a appelé à une « pause » dans le développement de programmes plus puissants que ChatGPT-4 (1). Elle a également appelé à une intervention significative des autorités publiques afin d’éviter que l’intelligence artificielle générale (IAG) n’entraîne des dommages pour l’humanité, qu'elle n’aboutisse à la « perte de contrôle de notre civilisation ». L’un des arguments essentiels de cette lettre ouverte est que les dirigeants d’entreprises de haute technologie ne sont pas démocratiquement élus. Cet argument, que nous appellerons « argument démocratique », présente une certaine ambiguïté car il renvoie à deux conceptions divergentes de la RSE : l’une économique et instrumentale, l’autre politique et collaborative.
Affirmer que les dirigeants d’entreprises de haute technologie ne sont pas démocratiquement élus et, de ce fait, ne sont pas légitimes pour prendre les décisions politiques qu’exigent des technologies pouvant nuire à l’humanité (2), semble violer le principe de parcimonie qui demande d’« exprimer les faits de la manière la plus parfaite possible avec la plus petite dépense de pensée » (3). Il suffisait en effet à la lettre ouverte d’affirmer que les autorités politiques doivent légiférer et agir pour « prendre le contrôle ». Mentionner le fait que les « leaders de la tech » ne sont pas élus s’avérait (apparemment) inutile.
Il est peu probable que l’argument démocratique joue le rôle d’un procédé rhétorique visant à impressionner le public – en particulier le public américain – afin qu’il prenne conscience de l’importance du danger que représente l’intelligence artificielle générale. D’autres moyens, plus directs et plus « impressionnants », sont disponibles, et la lettre ouverte en utilise quelques-uns.
Nous pouvons en donner un exemple que conclut d’ailleurs l’argument démocratique :
« Les systèmes d’IA contemporains deviennent aujourd’hui compétitifs sur le plan humain pour des tâches générales, et nous devons nous interroger : devons-nous laisser les machines inonder nos canaux d’information de propagande et de mensonges ? Devons-nous automatiser tous les emplois, y compris ceux qui sont source d’épanouissement ? Devons-nous développer des esprits non humains qui pourraient un jour être plus nombreux, plus intelligents, qui pourraient nous rendre obsolètes et nous remplacer ? Devons-nous risquer de perdre le contrôle de notre civilisation ? Ces décisions ne doivent pas être déléguées à des leaders technologiques non élus. »
L’idée de « délégation » est proche de celle de « représentation » qui est utilisée dans le cadre de la conception traditionnelle de l’entreprise, selon laquelle ses dirigeants représentent leurs actionnaires. D’ailleurs, comme le souligne la philosophe Elizabeth Wolgast en s’inspirant de Thomas Hobbes, « les entreprises [elles-mêmes] représentent des actionnaires individuels et, en tant que personnes artificielles [qui parlent et agissent au nom d'autres personnes, peuvent les engager et leur imposer des obligations], elles agissent au nom des actionnaires et les ‘personnifient’ » (4).
Cette idée renvoie à une conception classique de la RSE, une conception économique ou « instrumentale » au sens où la RSE est au service du seul objectif visé par l’entreprise : maximiser ses profits et la richesse de ses actionnaires.
Milton Friedman est bien connu pour avoir défendu une telle conception, et il a, lui aussi, utilisé l’argument démocratique (5). Selon Friedman, le dirigeant d’une entreprise privée qui entreprendrait des actions relevant de la RSE en vue de promouvoir l’intérêt général, ce au détriment de son objectif de maximisation du profit, se conduirait comme un agent public. L’argent qu’il dépenserait ainsi – l’argent des actionnaires – aurait la nature d’un impôt. Or, seuls les agents publics démocratiquement élus peuvent décider de prélever des impôts :
« La seule justification permettant au dirigeant d’entreprise d’être sélectionné par les actionnaires est que le dirigeant est un agent qui sert les intérêts d’un mandant (principal). Cette justification disparaît lorsque le dirigeant d’entreprise établit des impôts et dépense les profits pour des buts « sociaux ». Il devient en effet un agent public, un fonctionnaire, même s’il demeure en fait l’employé d’une entreprise privée. [Si ces dirigeants] sont effectivement des agents publics, alors ils doivent être élus dans le cadre d’un processus politique. S’ils doivent établir des impôts et réaliser des dépenses pour favoriser des objectifs « sociaux », alors des mécanismes politiques doivent être instaurés pour évaluer les impôts et déterminer dans le cadre d’un processus politique les objectifs à poursuivre. » (6)
La position de Friedman est que l’entreprise est séparée de la société, ce que Wolgast exprime en notant que « gérer l'argent d'un actionnaire implique des responsabilités fiduciaires, celles d'un gestionnaire financier (financial shepherd), qui isolent les dirigeants de leurs responsabilités envers la société » (7). Wolgast y voit l’effet d’une responsabilité professionnelle limitée aux devoirs liés au rôle de dirigeant d’entreprise, tandis qu’Andreas Georg Scherer et Guido Palazzo observent qu’elle reflète « une séparation nette entre les affaires et la politique » (8).
En utilisant l’argument démocratique, la lettre ouverte sur l’IA ne fait toutefois pas référence à la position de Friedman, bien qu’on puisse y reconnaître la séparation entre le domaine des affaires (ou, plutôt, celui de la recherche privée sur l’IA) et le domaine public (dont une responsabilité évidente est d’assurer la survie de l’humanité).
La seconde partie de la lettre ouverte se réfère plus clairement à une conception politique de la RSE. On y lit en effet que
« les développeurs d’IA doivent collaborer avec les décideurs politiques pour accélérer considérablement le développement de systèmes robustes de gouvernance de l’IA. Ceux-ci devraient au minimum inclure de nouvelles autorités réglementaires compétentes dédiées à l’IA ; […] la responsabilité pour les dommages causés par l’IA ; un financement public robuste pour la recherche technique sur la sécurité de l’IA ; et des institutions dotées de ressources suffisantes pour faire face aux perturbations économiques et politiques dramatiques (en particulier pour la démocratie) que l’IA provoquera. »
L'idée d’une collaboration d’entités privées avec des autorités publiques est défendue par les tenants d’une RSE politique, dont font partie Scherer et Palazzo. Ceux-ci proposent un modèle démocratique participatif et collaboratif, qu’ils qualifient de « théorie délibérative de la démocratie », un modèle qui est selon eux adaptée à la mondialisation. Il permet notamment d’éviter le problème posé par l’argument démocratique utilisé dans la lettre ouverte et dans la théorie instrumentale de la RSE proposée par Friedman :
« [Dans le contexte de la mondialisation], les gouvernements nationaux perdent en partie leur influence en termes de régulation sur les entreprises d’envergure mondiale, tandis que certaines de ces entreprises, sous la pression de la société civile, commencent à s’autoréguler. En d’autres termes, ceux qui sont démocratiquement élus (les gouvernements) pour réglementer ont moins de pouvoir pour le faire, tandis que ceux qui commencent à s’engager dans l’autorégulation (les entreprises privées) n’ont pas de mandat démocratique au titre de cet engagement et ne peuvent pas être tenus pour responsables d’un point de vue politique. Dans les pays démocratiques, les autorités politiques sont élues périodiquement et soumises au contrôle parlementaire. En revanche, les dirigeants d’entreprise ne sont pas élus par les citoyens et leurs interventions politiques dans les politiques publiques mondiales ne sont pas suffisamment contrôlées par des institutions et des procédures démocratiques. »
La mondialisation conduit donc les grandes entreprises à remplir des fonctions qui incombaient traditionnellement à l’Etat (« traditionnellement » faisant ici référence à un ordre mondial westphalien caractérisé par des Etats souverains et des cultures nationales plutôt homogènes). Ainsi, « des questions d’intérêt public qui relevaient autrefois de la gouvernance des États-nations sont désormais laissées à la discrétion et à la responsabilité des dirigeants d’entreprise ». Scherer et Palazzo théorisent cette évolution en proposant une conception politique de la RSE « qui va au-delà du simple respect des normes juridiques et de la conformité aux règles morales ».
Cette conception repose sur la coopération entre des organisations de la société civile, les entreprises privées et les Etats. Elle permet de mettre en pratique les valeurs des citoyens et de répondre à leurs besoins. Il en résulte que « les entreprises se politisent de deux manières : elles fonctionnent avec une compréhension élargie de la responsabilité et contribuent à résoudre les problèmes politiques en coopération avec les acteurs de l’État et de la société civile ».
Même si Scherer et Palazzo situent leur propos dans le contexte de la mondialisation, leur conception de la RSE politique convient aux propositions formulées dans la lettre ouverte. Mais celle-ci ne fait aucune référence à cette forme de RSE ni, d’ailleurs, à la RSE tout court, peut-être parce que celle-ci s’applique à des entreprises, alors que les entités qui travaillent sur l’intelligence artificielle générale sont présentées comme des laboratoires de recherche – qui sont toutefois liés, et la lettre ouverte ne le précise pas, à des entreprises privées…
Références
(1) « Pause giant AI experiments: An open letter », The Future of Life Institute, 22 mars 2023. Voir la chronique philo d’euradio : « Toutes les décisions en matière d’IA peuvent-elles être confiées à des dirigeants du secteur privé ? » du 23 avril 2023.
(2) La lettre ouverte commence en effet par le constat que « les systèmes d’IA dotés d’une intelligence capable de concurrencer celle des êtres humains peuvent présenter des risques majeurs pour la société et l’humanité ». / « AI systems with human-competitive intelligence can pose profound risks to society and humanity, as shown by extensive research ».
(3) E. Mach, Die ökinomische Natur der physikalischen Forschung, cité dans le Vocabulaire Philosophique Lalande, 18ème édition, Paris, PUF, 1996. Voir aussi « Critiques du mythe du consommateur éthique », Blog de philosophie et d’éthique des affaires, 15 juillet 2017.
(4) E. Wolgast, Ethics of an artificial person, Stanford, Stanford Series in Philosophy, 1992.
(5) M. Friedman, « The social responsibility of business is to increase its profits », The New York Times Magazine, 13 septembre 1970. Voir A. Anquetil, Qu’est-ce que l’éthique des affaires ? Paris, Vrin, « Chemins Philosophiques », 2008.
(6) Ibid.
(7) E. Wolgast, op. cit.
(8) A. G. Scherer & G. Palazzo, « The new political role of business in a globalized world: A review of a new perspective on CSR and its implications for the firm, governance, and democracy », Journal of Management Studies, 48(4), 2011, p. 899-931.
