Le monde a besoin d’un meilleur moyen de réguler le pouvoir incontrôlé des Big Tech

Il n'y a pas si longtemps, certainement au cours de la majeure partie de notre vie, la technologie numérique semblait être la réponse à tous nos problèmes. Prenez pratiquement n'importe quel livre sur la promesse de la technologie publié dans les années 1990, et même au début des années 2000, et il a été présenté comme presque indiscutable que les effets démocratisant de la révolution numérique apporteraient une multitude d'avantages à la civilisation telle que nous la connaissons.

Aujourd'hui, cette prémisse semble sur un terrain beaucoup plus fragile. Bien qu'il existe de nombreuses raisons de rester enthousiaste à propos de la technologie, les raisons de s'inquiéter ne manquent pas. Dans son brillant nouveau livre The Digital Republic: On Freedom and Democracy in the 21st Century , l'avocat et auteur Jamie Susskind se demande comment la liberté et la démocratie peuvent survivre dans un monde rempli de technologies numériques toutes puissantes.

Digital Trends : Quel est l'argument central que vous avancez dans The Digital Republic ?

Jamie Susskind : L'argument central est que nous avons un problème avec l'industrie technologique. Ce problème n'est pas lié aux brebis galeuses individuelles au sommet ou à des sociétés particulières. C'est le problème du pouvoir qui n'a pas de comptes à rendre, par manque de bonne gouvernance.

Mon livre tente de diagnostiquer d'où vient ce pouvoir, pourquoi c'est un problème et comment nous pouvons le rendre plus responsable d'une manière qui préserve la liberté et la démocratie.

DT : Expliquez ce que vous entendez par le « républicanisme » dont parle le titre du livre.

JS : Il s'inspire de l'ancienne philosophie républicaine qui remonte aux Romains. Ce n'est pas le républicanisme du Parti républicain moderne, ni de ceux qui veulent se débarrasser de la monarchie, par exemple au Royaume-Uni. Le républicanisme est une philosophie qui soutient que le but du droit et de la politique est de réduire le pouvoir irresponsable dans la société. Par exemple, un républicain argumenterait contre l'idée des rois, pas seulement contre un mauvais roi en particulier. Ils n'espéreraient pas de meilleurs patrons; ils plaideraient pour les droits en matière d'emploi. Ils ne se plaindraient pas des propriétaires d'esclaves désagréables ; ils se battraient pour l'abolition de l'esclavage.

Appliqué au contexte numérique, le républicanisme numérique dit qu'il est intrinsèquement problématique qu'une énorme quantité de pouvoir soit concentrée entre les mains de ceux qui possèdent et contrôlent les technologies numériques. C'est le cas même si nous sommes d'accord avec la façon dont ils exercent ce pouvoir de temps à autre.

DT : Les entreprises technologiques sont souvent confrontées à des critiques, parfois des deux côtés de l'allée politique, pour devenir politiques dans un certain sens. Mais y a-t-il un moyen qu'ils auraient pu éviter cela? Cela semble inévitable. Même l'idée large d'une interface informatique est, en un sens, idéologique parce qu'elle structure la façon dont nous percevons le monde. Ajoutez l'énoncé de mission et l'échelle des moteurs de recherche et il semble que ce problème allait toujours se poser.

JS : Je pense que oui. L'argument central de mon livre est que les technologies numériques exercent un pouvoir – qu'il soit ou non conscient ou voulu de la part de leurs créateurs. Toutes les technologies contiennent des règles que nous devons suivre lorsque nous interagissons avec elles. Les règles de Twitter stipulent que vous ne pouvez pas publier un tweet s'il dépasse une certaine longueur. Les règles d'une voiture autonome peuvent stipuler qu'elle ne dépassera pas une limite de vitesse particulière, même en cas d'urgence.

Alors que de plus en plus de nos actions, interactions et transactions sont médiatisées par la technologie, ceux qui écrivent les règles écrivent de plus en plus les règles de la société. Vous pouvez vous considérer comme un entrepreneur, un ingénieur, un cadre technologique ou quoi que ce soit d'autre, mais vous remplissez toujours une fonction politique dans la société qui, à mon avis, devrait être tenue responsable en conséquence.

DT : Quelle est la réponse à cela ? Les ingénieurs et les cadres ne sont probablement pas des politiciens élus. Devraient-ils faire de leur mieux pour viser une position d'impartialité ou de neutralité ?

JS : Il n'y a pas de posture neutre à adopter. C'est parce que la neutralité elle-même est un choix entre des alternatives. Par exemple, si vous êtes neutre sur le contenu publié sur votre plateforme de médias sociaux, cela peut signifier être neutre sur les discours de haine, les menaces de viol ou la pédopornographie. Un autre exemple concerne les suggestions de remplissage automatique de Google. Google avait un problème avec ses réponses de remplissage automatique qui revenaient avec des suggestions désagréables – donc si vous tapiez "Pourquoi les Juifs", il reviendrait avec "avoir un gros nez" ou "posséder les médias". La défense de Google pour cela était qu'il était neutre car il reflétait les requêtes qui avaient été faites par les gens dans le passé.

Pour moi, c'est un bon exemple où la neutralité est synonyme d'injustice. Au lieu de changer ou d'aider à réduire la quantité de discrimination dans le monde, Google l'a amplifiée et agrandie. Comme le disait le survivant de l'Holocauste Elie Wiesel, la neutralité favorise l'oppresseur. Il n'y a pas de posture neutre que les propriétaires et contrôleurs de technologies numériques peuvent adopter. Je pense que nous devons simplement accepter qu'il y aura toujours des décisions qui impliquent des priorités, des compromis, des principes et, parfois, des préjugés.

La vraie question est de savoir comment les gérer et les gouverner. Nous devrions les gouverner de la même manière que nous gouvernons d'autres personnes non élues dans la société qui occupent des postes à responsabilité sociale, qu'ils soient médecins, avocats, banquiers, enseignants, radiodiffuseurs. Ce sont toutes des industries dans lesquelles les gens ont des positions uniques de responsabilité sociale, et la loi leur impose certaines obligations en conséquence.

DT : La question de la neutralité a récemment été soulevée avec une grande partie du discours entourant Twitter et la prise de contrôle apparemment maintenant avortée d' Elon Musk. Certains ont suggéré que des plateformes telles que Twitter ont un parti pris et que certains des problèmes des médias sociaux pourraient être résolus s'ils agissaient moins.

JS : L'un des thèmes de longue date de la pensée politique républicaine est que si vous adoptez une position de neutralité ou d'abstention dans la mêlée sociale et politique, vous créez en fait un espace permettant au fort de dominer le faible. Une plate-forme de médias sociaux dans laquelle il n'y a pas de règles ne donne pas à chacun le même droit de participer. Cela signifie que certaines voix vont être étouffées, certaines personnes vont être chassées de la plate-forme. Dans le monde réel, l'État intervient parfois dans la vie des gens au sein d'un régime afin de rééquilibrer les déséquilibres de pouvoir. La technologie ne devrait pas être différente.

DT : Il semble y avoir une véritable vague de scepticisme technologique à l'heure actuelle, certainement si vous le comparez, par exemple, au cyber-utopisme des années 1990, lorsqu'il y avait le sentiment d'une idéologie californienne qui pourrait résoudre tous nos problèmes. Pouvez-vous identifier quand les choses ont changé ?

JS : Je pense qu'il est tout à fait clair que cela s'est produit en 2016. Cette année-là, le côté restant a perdu le référendum sur le Brexit et la campagne d'Hillary Clinton a perdu le collège électoral aux États-Unis. Dans ces deux campagnes, la partie perdante – et au nom de la partie perdante – a affirmé que la partie gagnante avait illégalement militarisé les technologies numériques.

Que ce soit par le biais du micro-ciblage ou de la collecte de données sur les personnes, certaines de ces affirmations ont résisté à un examen minutieux au cours des années suivantes, tandis que d'autres non. Mais quel que soit leur mérite, je considère cela comme un tournant. Cette année-là, la question du pouvoir du numérique s'est hissée en tête de l'agenda politique. Il a également explosé en tant que préoccupation académique.

DT : Quelles mesures pouvons-nous, en tant qu'individus, prendre pour résoudre certains des problèmes que vous décrivez dans le livre ?

JS : Très peu, j'en ai peur. Et il est important d'être honnête à ce sujet. Nous devons sortir de l'état d'esprit selon lequel si seulement nous étions un peu plus avertis en matière de technologie, nous pourrions mieux nous protéger, nous et nos enfants. Je crois que c'est un non-sens. Je pense que les défis posés par le numérique ne peuvent être majoritairement relevés qu'au niveau collectif. Cela signifie par le mécanisme de la loi. Cela ne devrait pas être laissé aux individus.

DT : Alors, à quoi ressemblerait ce type d'action collective ou d'action réglementaire ?

JS : Cela diffère d'une industrie à l'autre ; technologie à technologie. Mais dans le livre, j'expose un certain nombre de possibilités. Premièrement, je pense que les individus puissants du secteur de la technologie devraient voir leur conduite réglementée de la même manière que les médecins, les avocats et les pharmaciens voient la leur réglementée.

Deuxièmement, je pense que nous avons besoin d'une conception plus large de l'antitrust que celle que nous avons actuellement, qui se concentre actuellement étroitement sur les préoccupations économiques. Je pense que lorsque nous évaluons si une fusion ou une acquisition particulière est bonne pour la société, nous ne devrions pas seulement tenir compte du prix ; nous devrions tenir compte de choses comme la diversité des médias et la concentration du pouvoir politique et social.

Troisièmement, j'aimerais voir des moyens par lesquels les individus et les régulateurs peuvent contester d'importants exercices de pouvoir numérique, qu'il s'agisse de contester des algorithmes qui distribuent des hypothèques, des emplois, des logements ou des prêts. C'est un régime juridique assez complet que je décris dans le livre. À la base de tout cela se trouve un nouveau mécanisme pour impliquer les gens dans les décisions concernant la technologie numérique. Il ne s'agit pas seulement de transférer le pouvoir des entreprises technologiques au parlement, mais aussi du parlement au peuple.

Cette interview a été modifiée pour plus de longueur et de clarté.