C'est si simple : supprimez 26 mots de la loi sur la décence en matière de communications. Bienvenue dans un monde sans article 230.
Cela n’a plus de sens de parler de liberté d’expression en termes traditionnels. Internet a tellement transformé la nature du locuteur que la définition même de la parole a changé.
Le nouveau discours est régi par l’attribution de la viralité. Les gens ne peuvent pas simplement parler pour eux-mêmes, car il y a toujours un mystérieux algorithme dans la pièce qui règle indépendamment le volume de la voix de l'orateur. Si l’on veut être entendu, il faut parler en partie à son public humain, en partie à l’algorithme. C’est comme si la Constitution américaine avait exigé que les citoyens s’expriment par l’intermédiaire d’acteurs ou d’avocats qui répondent à la Compagnie néerlandaise des Indes orientales ou à une autre grande entité éloignée. Quel pouvoir doivent avoir ces intermédiaires ? Alors que la logique même de la parole doit changer pour que les gens soient entendus, est-ce encore de la liberté d’expression ? Ce n'était pas un problème prévu par la loi.
Le moment est peut-être venu pour une réinitialisation juridique et politique. Les législateurs américains des deux côtés remettent en question l'article 230 , le bouclier de responsabilité qui consacre l'Internet alimenté par la publicité. Les ramifications auto-renforcées de seulement 26 mots – « aucun fournisseur ou utilisateur d’un service informatique interactif ne sera traité comme l’éditeur ou l’orateur d’une information fournie par un autre fournisseur de contenu d’information » – ont produit un écosystème de médias sociaux largement partagé. avoir eu des effets délétères sur la démocratie et la santé mentale.
On attribue à Abraham Lincoln la célèbre boutade selon laquelle on ne peut pas tromper tout le monde tout le temps. Peut-être que vous ne le pouvez pas, mais peut-être qu’Internet le peut. La parole imparfaite a toujours existé, mais les moyens et l’ampleur de son amplification n’ont pas existé. L’ancienne situation ne peut pas servir de guide pour la nouvelle.
L'ARTICLE 230 ÉTAITcréé à une époque où la politique était conçue pour libérer l'innovation sur Internet, maintenant ainsi l'avantage concurrentiel de l'Amérique dans le cyberespace. Les débuts d’Internet ont été soutenus par diverses politiques favorables, et pas seulement par l’article 230. Par exemple, les ventes organisées sur Internet n’étaient souvent pas taxées au début. En outre, Internet a été inauguré sciemment dans un état incomplet, dépourvu de comptes personnels, de mécanismes d’authentification, de normes de transactions commerciales et de nombreux autres éléments nécessaires. L’idée n’était pas seulement qu’il était plus facile de démarrer une conception minimale lorsque la puissance de calcul était encore naissante, mais aussi que les éléments manquants seraient comblés par les entrepreneurs. En fait, nous donnions des cadeaux d’une valeur de mille milliards de dollars à des partis sans savoir qui seraient les inévitables gagnants de l’effet de réseau.
L’article 230 a été promulgué dans le cadre de la Loi sur la décence en matière de communications de 1996, un effort législatif plus vaste dans le cadre de la Loi sur les télécommunications de 1996. L'article 230(c)(1) accorde l'immunité aux services en ligne concernant le contenu généré par les utilisateurs, garantissant que les sociétés hébergeant le contenu ne sont pas traitées comme des éditeurs de ces informations. L’article 230(c)(2) offre au Bon Samaritain une protection contre la responsabilité civile lorsque les entreprises – ou les plateformes, comme nous les appelons aujourd’hui – suppriment ou modèrent de bonne foi le contenu répréhensible.
Après que le président Bill Clinton a promulgué la loi sur les télécommunications de 1996, il était difficile de savoir comment les tribunaux pourraient l'interpréter. Une fois la poussière retombée, l’article 230 est apparu comme une sorte d’épée à double tranchant. Il pourrait être utilisé pour justifier la censure, tout en servant de protection contre la responsabilité des entreprises. Plus important encore, il a servi de tremplin au décollage de Google, Twitter et Facebook. (Et maintenant TikTok – qui, étant une entreprise chinoise, prouve que l’article 230 ne sert plus les intérêts américains.)
L’impact sur la sphère publique a été pour le moins considérable. En supprimant autant de responsabilités, l’article 230 a mis en avant un certain type de plan d’affaires, basé non pas sur les informations uniquement disponibles auprès d’un service donné, mais sur l’arbitrage rémunéré de l’accès et de l’influence. Ainsi, nous nous sommes retrouvés avec le modèle commercial trompeusement nommé « publicité » – et toute une société plongée dans une compétition 24 heures sur 24 et 7 jours sur 7 pour attirer l’attention. Un écosystème de médias sociaux polarisé. Des algorithmes de recommandation qui assurent la médiation du contenu et optimisent l'engagement. Nous avons appris que les humains sont plus engagés, du moins du point de vue d'un algorithme, par des émotions rapides liées aux réponses de combat ou de fuite et à d'autres interactions à enjeux élevés. En permettant la privatisation de la place publique, l'article 230 a, par inadvertance, rendu impossible la délibération entre des citoyens censés être égaux devant la loi. Les incitations perverses favorisent les discours grincheux, qui suppriment efficacement les discours réfléchis.
Et puis il y a le déséquilibre économique. Les plateformes Internet qui s'appuient sur l'article 230 ont tendance à récolter des données personnelles pour leurs objectifs commerciaux sans compensation appropriée. Même lorsque les données doivent être protégées ou interdites par le droit d'auteur ou par une autre méthode, l'article 230 impose souvent la responsabilité à la partie violée en exigeant des avis de retrait. Ce changement dans l’ordre des événements liés à la responsabilité est comparable à la différence entre l’opt-in et l’opt-out en matière de confidentialité. Cela peut sembler un détail technique, mais il s’agit en réalité d’une énorme différence qui entraîne des préjudices substantiels. Par exemple, les travailleurs des industries liées à l’information, comme les informations locales, ont connu un déclin marqué de leur réussite économique et de leur prestige. L’article 230 rend fonctionnellement impossible un monde de dignité des données.
Jusqu’à présent, la modération du contenu a trop souvent été tributaire de la recherche d’attention et d’engagement, ignorant régulièrement les conditions de service énoncées par l’entreprise. Les règles sont souvent contournées pour maximiser l’engagement par l’inflammation, ce qui peut nuire au bien-être personnel et sociétal. L’excuse est qu’il ne s’agit pas de censure, mais n’est-ce vraiment pas le cas ? Les règles arbitraires, les pratiques doxantes et la culture de l’annulation ont conduit à quelque chose de difficile à distinguer de la censure réservée aux personnes sobres et bien intentionnées. Dans le même temps, l’amplification de la liberté d’expression incendiaire pour les mauvais acteurs encourage la domination de la foule. Tout cela se déroule dans le cadre du bouclier de responsabilité de l'article 230, qui donne effectivement carte blanche aux entreprises technologiques pour une version à courte vue d'un comportement égoïste. Le mépris pour ces entreprises – qui ont trouvé le moyen d’être plus que des transporteurs, sans pour autant être des éditeurs – est la seule chose sur laquelle tout le monde semble être d’accord aujourd’hui en Amérique.
NÉGOCIER UN CONNUcar l’inconnu est toujours terrifiant, surtout pour ceux qui ont le plus à perdre. Étant donné qu'au moins certains des effets de réseau de l'article 230 étaient prévus dès sa création, il aurait dû y avoir une clause d'extinction. Il n'a pas. Plutôt que de se concentrer exclusivement sur les perturbations qu’engendrerait la suppression de 26 mots, il est utile de considérer les effets positifs potentiels. Lorsque nous imaginons un monde post-230, nous découvrons quelque chose de surprenant : un monde d’espoir et de renouveau qui mérite d’être habité.
Dans un sens, cela se produit déjà. Certaines entreprises prennent dès maintenant des mesures de leur propre chef vers un avenir post-230. YouTube, par exemple, crée avec diligence des sources de revenus alternatives à la publicité, et les meilleurs créateurs disposent de davantage d'options pour gagner de l'argent. Ensemble, ces démarches volontaires suggèrent une conception de soi différente, plus proche de celle d’un éditeur. YouTube est prêt pour l’ère post-230, semble-t-il. (D'un autre côté, une entreprise comme X, qui s'appuie fortement sur 230, a détruit sa valeur à une vitesse étonnante.) De plus, il y a toujours eu des exceptions à l'article 230. Par exemple, si quelqu'un saisit des informations privées, il existe des lois. pour le protéger dans certains cas. Cela signifie, par exemple, que les sites de rencontres ont la possibilité de facturer des frais au lieu de s’appuyer sur un modèle commercial de type 230. L’existence de ces exceptions suggère que davantage d’exemples apparaîtraient dans un monde post-230.
Revenons au discours. Une différence entre le discours avant et après Internet était que l’ampleur d’Internet a « militarisé » certains cas de discours qui n’auraient pas été aussi significatifs auparavant. Par exemple, un individu qui crie des menaces à quelqu’un qui passe est très différent d’un million de personnes qui crient des menaces. Ce type de harcèlement amplifié et stochastique est devenu une caractéristique constante de notre époque – les discours effrayants – et il est possible que dans un monde post-230, les plateformes soient obligées de l’empêcher. On imagine parfois qu’il n’y a que deux choix : un monde de harcèlement viral ou un monde d’étouffement de la parole. Mais il existe une troisième option : un monde de discours dans lequel le harcèlement viral est atténué mais pas les idées. Définir cette option médiane demandera un certain temps de tri, mais cela est faisable sans 230, tout comme il est possible de définir les limites des transactions financières virales pour rendre illégales les opérations de Ponzi .
Une fois cela accompli, la modération du contenu pour les entreprises serait une proposition beaucoup plus simple. Les entreprises n’ont qu’à respecter le premier amendement, et les tribunaux développeront enfin les précédents et les tests pour les aider à le faire, plutôt que de laisser la charge de la modération reposer entièrement sur les seules entreprises. Les États-Unis peuvent s’appuyer sur plus de 200 ans de jurisprudence du Premier Amendement qui établit des catégories de discours moins protégés – obscénité, diffamation, incitation, propos combatifs – et l’article 230 a effectivement entravé son développement pour l’expression en ligne. Le résultat pervers a été l’élévation des algorithmes au-dessus du droit constitutionnel, cédant ainsi le pouvoir judiciaire.
Une fois la poussière jurisprudentielle retombée, les États-Unis exporteraient vers d’autres pays le Premier Amendement, promoteur de la démocratie, plutôt que le bouclier de responsabilité autoritaire et favorable à l’article 230 et l’égout du contenu du plus petit dénominateur commun qui retient l’attention humaine mais ne fait pas ressortir. le meilleur en nous. Après tout, dans une démocratie fonctionnelle, la place publique virtuelle devrait appartenir à tout le monde. Il est donc important que ses conversations soient celles dans lesquelles toutes les voix peuvent être entendues. Cela ne peut se produire que dans la dignité pour tous, pas dans une bagarre.
L'article 230 perpétue l'illusion selon laquelle les sociétés de médias sociaux d'aujourd'hui sont des opérateurs publics comme les compagnies de téléphone qui les ont précédées, mais ce n'est pas le cas. Contrairement à Ma Bell, ils organisent le contenu qu'ils transmettent aux utilisateurs. Nous avons besoin d’un débat public approfondi sur ce à quoi nous, le peuple, voulons que cet espace ressemble, et sur les pratiques et les garde-fous susceptibles de renforcer les liens qui nous unissent dans un objectif commun en tant que démocratie. La viralité pourrait en venir à être considérée comme un ennemi de la raison et des valeurs humaines. Nous pouvons avoir une culture et des conversations sans une course folle à une attention totale.
ALORS QUE L'ARTICLE 230aurait pu être considérée davantage comme une cible de réforme plutôt que d’abrogation avant l’avènement de l’IA générative, il ne peut plus en être ainsi. Les médias sociaux pourraient être un succès commercial même si leur contenu était absurde. L’IA ne le peut pas.
Il a été suggéré que l'IA a besoin de l'article 230, car les grands modèles de langage s'entraînent sur des données et seront meilleurs si ces données sont librement utilisables, sans responsabilités ni charges. Cette notion est incorrecte. Les gens attendent plus de l’IA que du divertissement. Il est largement considéré comme un outil important pour la productivité et le progrès scientifique. La qualité d’un modèle d’IA dépend des données sur lesquelles il est formé ; en effet, les données générales améliorent les résultats spécialisés. La meilleure IA viendra d’une société qui donne la priorité à une communication de qualité. Par communication de qualité, nous n’entendons pas les deepfakes. Nous entendons un dialogue ouvert et honnête qui favorise la compréhension plutôt que le vitriol, la collaboration plutôt que la polarisation, et la poursuite de la connaissance et de l’excellence humaine plutôt qu’une course vers le bas du tronc cérébral.
Le modèle de sollicitation de l’attention favorisé par l’article 230 conduit à d’énormes quantités de données de mauvaise qualité. Même si un modèle d’IA peut tolérer une quantité importante de données de mauvaise qualité, il existe une limite. Il est irréaliste d’imaginer une société médiatisée par une communication essentiellement terrible, où cette même société bénéficie d’une IA de haute qualité et sans entrave. Une société doit rechercher la qualité dans son ensemble, en tant que valeur culturelle partagée, afin de maximiser les bénéfices de l’IA. C’est désormais le meilleur moment pour que le secteur technologique mûrisse et développe des modèles commerciaux basés sur la qualité.
Tout cela peut paraître intimidant, mais nous sommes déjà venus ici. Lorsque le gouvernement américain a déclaré que le public américain était propriétaire des ondes afin que la diffusion télévisuelle puisse être réglementée, il a mis en place des réglementations qui soutenaient le bien commun. Internet affecte tout le monde, c’est pourquoi nous devons concevoir des mesures pour garantir que notre discours public à l’ère numérique soit de haute qualité et inclut tout le monde. À l’ère de la télévision, la doctrine de l’équité a jeté les bases de cette démarche. Une optique similaire doit être développée à l’ère d’Internet.
Sans l’article 230, les algorithmes de recommandation et la viralité qu’ils suscitent seraient moins susceptibles de déformer le discours. Il est tristement ironique que la loi même qui a apporté un succès insondable serve aujourd’hui les intérêts de nos ennemis en compromettant la superpuissance américaine : notre démocratie constitutionnelle multinationale et alimentée par les immigrants. Le moment est venu de libérer le pouvoir du Premier Amendement pour promouvoir la liberté d’expression humaine en donnant à l’article 230 l’enterrement respectueux qu’il mérite.
Auteurs:
Jaron Lanier est informaticien, auteur et musicien. Il est actuellement le « Prime Unifying Scientist » de Microsoft mais ne parle pas au nom de l’entreprise.
Allison Stanger est professeur Leng de politique internationale et d'économie au Middlebury College et auteur du prochain ouvrage Who Elected Big Tech ?