Par akademiotoelektronik, 23/11/2022

Bleep, le filtre anti-harcèlement d'Intel qui permet de laisser passer «un peu» de racisme

L'outil se nomme Bleep et a été présenté par Intel le 8 avril 2021, dans le cadre de la Game Developers Conference. Il risque de faire quelque peu jaser ou, tout du moins, soulever quelques paires de sourcils interrogateurs.

Destiné à juguler la gangrenne que constitue notoirement le hate speech, les propos racistes ou misogynes ou la grossièreté dans les conversations en ligne des gamers, Bleep est un petit logiciel de censure en direct du langage.

À lire aussiLe «Gamergate» a montré qu'internet était une arme de destruction massive

Installé sur l'ordinateur des utilisateurs, il fait mouliner à grande vitesse son intelligence artificielle, conçue avec le spécialiste Spirit AI, afin de remplacer les propos injurieux par des bips.

Motherboard ou The Verge rapportent que la vidéo présentée par la firme américaine montre quelques-uns des réglages qu'offre cet outil: on peut lui demander de dresser un bouclier audio instantané contre les paroles validistes, racistes, sexistes, sexuelles, contre les grossiers noms d'oiseau, le N word, les propos LGBTQphobes ou le suprémacisme blanc.

Un soupçon de racisme

Intel ne présente pas son produit comme une panacée propre à éradiquer la haine en ligne, mais comme un «pas dans la bonne direction, qui donne aux gamers le contrôle de leur expérience». L'entreprise ajoute que Bleep, sur laquelle elle planche depuis quelques années, n'est pas encore entrée en phase de test et que de nombreux aspects sont encore appelés à évoluer.

Si Bleep peut être utile à un jeune public que l'on préférera tenir le plus longtemps possible à distance de cette violence langagière et morale, tout ne va pas pour autant de soi.

Qualifiant l'idée de «dystopique», Motherboard note que ce «pas dans la bonne direction» pourrait aussi constituer un blanc-seing pour les incitateurs à la haine, dont les torrents boueux pourraient se déverser sans retenue aucune, la conscience tranquilisée par ce pur produit du solutionnisme technologique.

À lire aussiSexisme, cyberharcèlement, entresoi: Twitch confronté à la masculinité toxique

Sa caractéristique la plus étrange reste la manière dont chaque internaute peut filtrer les propos tenus par ses congénères et adapter son expérience en ligne.

À la manière dont on ajouterait sans un égalisateur sonore un peu d'aigus pour accomoder ses vieux tympans usés ou de basses pour dynamiser une partie de Doom, les réglages fins de Bleep permettent de choisir entre plusieurs options: laisser passer «un peu», «une grande partie» ou «tout» les propos racistes, misogynes, suprémacistes blancs, etc. Seul le N word bénéficie d'un réglage tranché: c'est avec, ou c'est sans.

Intel indique que ces choix sont opérés sur la machine des gamers et non dans le cloud, et qu'un log des propos «bleepés», pour vérification, est tenu par le logiciel. Ce qui ne règle pas pour autant les questions fondamentales que pose l'existence même d'un outil comme Bleep.

Comment quantifie-t-on «un peu» de racisme? Un chouïa de suprémacisme blanc? Un brin-mais-pas-trop de validisme? Où et sur quels critères le logiciel placera-t-il les curseurs? Par ailleurs, les communautés ne trouveront-elles pas, en quelques heures, les moyens et usages pour contourner les barrières mises en place?