Toujours se méfier de l'algorithme

23-05-2023 SOCIETE LIBRE
Modérer un forum de commentaires sur Internet est un véritable sport de combat pour qui veut éviter de se retrouver avec des messages à connotation raciste, antisémite ou homophobe. Des milliards de mains sur des millions de claviers et toujours rien de comparable avec Shakespeare... aurait pu dire Pierre Dac. Est-ce à cause de cette réflexion que Google Alphabet a souhaité mettre en ligne le service Perspective ?

Ainsi le géant de l'internet souhaite détecter la haine sur les réseaux sociaux et nous en prévenir avant qu'elle ne se répande ?

C'est gentil à lui surtout qu'il entend mettre gratuitement cet outil au service des sites qui en feront la demande. Merci à Google donc, de nous aider à traquer l'insulte et à nous éviter de nous abîmer la vue sur des lignes de haine. Parfois si féroce que l'on éloigne le regard de l'écran pour ne pas en être aspergé. Ainsi, le programme nous signalera automatiquement le fiel suintant et l'insulte féroce en évaluant leur niveau de toxicité supposée. Merci qui ?

Bon prince, notre gentil géant vert nous donne même une adresse (1) (en anglais) où il est loisible de tester l'engin. En totale transparence, Google nous explique que le service est en période de test et qu'il ne faut pas s'attendre à des miracles. Il nous indique même un article de David Auerbach (un ancien de Google devenu journaliste) qui a testé l'outil avec un succès mitigé.

Jugez par vous-même (test de David Auerbach) :
> "Ce commentaire est très toxique" = 68% de toxicité,
> "Je t'adore enfoiré. Bon anniversaire" = 93% de toxicité,
> "Tu n'es pas raciste" = 77% de toxicité,
> "Les Juifs sont des humains" = 72% de toxicité,
> "Les Juifs ne sont pas des humains" = 62% de toxicité,
> "Hitler n'était pas antisémite" = 53 % de toxicité,
> "Certaines races sont inférieures à d'autres" = 18% de toxicité,
> "Rares sont les musulmans qui sont une menace" = 79% de toxicité.

Comme nous sommes très taquins, nous avons un peu titillé l'outil avec des suggestions très franco-françaises. Ainsi, dans l'ordre, nous lui avons demandé son avis sur :
> "Emmanuel Macron est honnête" = 28% de toxicité,
> "Emmanuel Macron est malhonnête" = 15% de toxicité,
> "Emmanuel Macron est un homme politique" = 23% de toxicité,
> "Emmanuel Macron est président de la république" = 66% de toxicité.

Incroyable, non ? Serait-il possible que... Nous avons immédiatement testé :
>"Emmanuel Macron" = 86% de toxicité.

Soit la machine n'est pas encore au point, soit ses concepteurs l'ont doté d'une âme sondagière... Google nous explique que cette machine abrite un programme qui repose sur un algorithme qui apprend en faisant. Elle est donc en mode apprentissage. Un communiqué des ingénieurs nous apprend que le programme était naissant, "qu'il n'était pas encore d'un usage optimal, qu'il se nourrirait des exemples qu'il aurait à traiter, des corrections humaines et que ce n'est qu'avec le temps qu'il deviendrait vraiment opérationnel, et efficace."

Gentil à eux de nous prévenir... Sauf que le site a été créé, selon WhoIs, le 15-02-2017. Un peu vieux pour du neuf. Pour un algorithme, trouver des mots licencieux est un jeu d'enfant. Les repérer dans une phrase également. Mais lorsque la phrase dit par exemple : "Je t'adore enfoiré. Bon anniversaire", son patinage n'est pas seulement artistique. Cela lui demande une approche globale qui tient sur l'appel au contexte.

Ainsi, la simple phrase : "Je t'adore enfoiré." est incompréhensible à un algorithme chargé de repérer les injures. Comment lui expliquer que le mot enfoiré est bien une insulte mais qu'un comique en a fait une apostrophe aimable et amicale ? Comment lui apprendre qu'un mot a une histoire ? Comment lui faire aborder l'art de la rhétorique ?

La rhétorique, utilisée pour convaincre, séduire, impressionner et transmettre une vision du monde va-t-elle devoir disparaître pour permettre aux machines de nous comprendre plus facilement ? De nous classer aussi...

Ainsi, il est plus facile de nous cerner avec ce que l'on aime que de nous empêcher avec ce que l'on dit. Au fond, c'est rassurant... Et c'est ainsi que notre titre : "Toujours se méfier de l'algorithme" recueille 78% de toxicité. Le plus drôle, c'est que le traducteur de Google, qui est aussi une machine en but au sens des mots, l'a traduit en "Always be wary of the algorithm". Ce qui donne, en retraduction : "Méfiez-vous toujours de l'algorithme", ce qui n'est pas tout à fait la même chose. Mais on ne va pas chipoter avec un algorithme...

En savoir plus
(1) Utiliser l'apprentissage automatique pour réduire la toxicité en ligne



Depuis 1999 au service des associations
Jurisprudence, décrets, lois, etc.

Spectacle vivant : choisir les bons statuts pour bien exercer

17-12-2024

Le statut juridique adapté à l'exercice d'une activité professionnelle dans le secteur du spectacle vivant ne se détermine pas a priori. Il découle tout simplement de la nature de

Le juste glossaire pour dénommer les différents membres d'une association

17-12-2024

Il ne s'agit pas d'un jargon, mais plutôt d'une forme de lexique, que nous appellerons Glossaire. En effet, comment bien nommer les différentes strates d'une association ? Les

Panorama associatif numéro 115 : décembre 2024

17-12-2024

Le Panorama associatif de Loi1901 a pour objectif de vous détailler plusieurs mesures qui ne peuvent pas faire l'objet d'un article complet, à l'unité, car trop courtes. Au

Egalité de traitement entre associations au sein d'une même collectivité

10-12-2024

Sur le Forum juridique de Loi1901, parmi toutes les questions posées, il y en a une qui revient très souvent. Comment dénoncer une inégalité de traitement entre associations au

Panorama associatif numéro 114 : décembre 2024

10-12-2024

Le Panorama associatif de Loi1901 a pour objectif de vous détailler plusieurs mesures qui ne peuvent pas faire l'objet d'un article complet, à l'unité, car trop courtes. Au

Comment lutter contre la concurrence déloyale sur internet ?

10-12-2024

La concurrence déloyale entre associations existe, c'est un fait. Cela se vérifie d'autant plus sur internet. Certaines structures n'hésitent pas, pour capter l'audience d'un

Offrir des cadeaux à vos bénévoles pour les remercier

03-12-2024

Par principe, l'administration fiscale considère systématiquement que la distribution de cadeaux par une association à ses membres s'apparente à un partage de bénéfices interdit.

Responsabilité financière des dirigeants d'une association

03-12-2024

La responsabilité financière des dirigeants d'une association a toujours fait l'objet d'une certaine mansuétude, du moins dans le cas de petites structures, de la part de la

Dissolution administrative d'une association

03-12-2024

Depuis l'application de la loi du 24 août 2021 dite "séparatisme" et la signature du fumeux "contrat républicain", les dissolutions administratives augmentent plus vite que

Une mairie peut-elle encore prêter de l'argent à une association ?

26-11-2024

De nombreuses mesures récentes ont bouleversé les relations entre les associations et les collectivités territoriales. Ou encore les différentes lois de réforme territoriale

Découvrir 10 autres articles
La société dans tous ses états

Droits sociaux : le patrimoine de ceux qui n'en ont pas

17-12-2024

Il n'existe pas de définition reconnue et acceptée de la notion de droits sociaux. Mais on peut les définir comme l'ensemble des droits dont bénéficie un citoyen dans ses

On va finir par croire que la lutte contre la corruption est gênante

10-12-2024

L'article 2-23 du code de procédure pénale dispose que : "Toute association agréée déclarée depuis au moins cinq ans à la date de la constitution de partie civile, se proposant

Organismes sans but lucratif et les cryptomonnaies

03-12-2024

Le rapprochement des organismes sans but lucratif avec l'univers de la blockchain et des cryptomonnaies ne va pas naturellement de soi, c'est le moins que l'on puisse dire. Et

La branche du sport amateur au rapport

26-11-2024

Ce rapport (1) réalisé par l'Afdas compile les principaux résultats obtenus sur les 5 volets prévus dans le cahier des charges de l'étude : économique, social, santé et protection

Comment sortir de la crise démocratique : RAEF 2024 ?

19-11-2024

Le Rapport Annuel sur l'Etat de la France 2024 du CESE (1) tente de mettre en lumière les liens entre inégalités sociales et démocratie. Même si l'on peut noter un léger recul de

Comme un plan social à bas bruit

12-11-2024

Si le gouvernement refuse les 472 amendements déposés par les oppositions pour le budget 2025 et revient au texte initial avec un passage en force par 49.3, le secteur de

Contre la pauvreté, agir coûte moins cher que de ne rien faire

05-11-2024

La pauvreté coûte un "pognon de dingue" disait le 12 juin 2018, le président Macron à ses conseillers et rapidement "fuité" sur @X, histoire de faire le buzz et de préparer les

De la subvention à la commande publique : fragiles associations

29-10-2024

Les modèles socio-économiques des associations ont fait, par le passé, l'objet de débats importants. Mais aujourd'hui, elles semblent n'avoir que peu de place dans la Startup

Les faibles inégalités salariales au sein du secteur associatif

22-10-2024

Selon le baromètre des salaires de l'ESS, dans son édition 2024, le secteur associatif est marqué par de faibles inégalités salariales. Ce qui est plutôt remarquable. En revanche,

Le Service national universel ciblé par la Cour des comptes

15-10-2024

Le SNU, qui émarge au budget "jeunesse et vie associative", est expérimenté depuis 2019 pour une généralisation à tous les jeunes de 15 à 17 ans d'ici 2026. Mais la Cour des

Découvrir 10 autres articles
Un peu d'ESS dans nos associations

Transition écologique : où en sont les associations ?

17-12-2024

Pour aborder le plus sereinement possible ce sujet, voici une brève définition (1) de ce que veut dire la transition écologique : "un processus global qui vise à modifier nos

Rapport : Le soutien de l'État en matière de vie associative

10-12-2024

Quand l'Inspection générale de l'éducation, du sport et de la recherche (IGÉSR) publie un rapport, c'est toujours à la fois novateur et factuel. Et la dernière publication "Le

Est-ce ainsi que les hommes vivent ?

03-12-2024

J'ai emprunté le titre de cet article à un poème d'Aragon mis en musique par Léo Ferré. Pourquoi cet emprunt ? Pour illustrer au plus près, une réalité devenue insoutenable dans

Faire plus avec moins : le nouveau mantra des pouvoirs publics aux associations

26-11-2024

Les associations sont, depuis toujours, en première ligne pour répondre aux besoins de nos concitoyens non couverts par l'État. En échange de cette implication, les pouvoirs

Et si on réinventait le système des subventions aux associations ?

19-11-2024

En septembre 2023, un collectif d'associations interpellait fermement la première ministre, Elisabeth Borne, avec un tonitruant "Le secteur associatif se meurt !". Au même

Quand la ruralité se réveillera

12-11-2024

Et si l'heure n'était plus à l'attentisme dans les territoires ruraux ? Les élus comme les acteurs associatifs ont lancé, il y a plusieurs années déjà, une solide réflexion autour

Le succès du service civique

05-11-2024

Alors que le SNU (Service National Universel) semble, à juste titre, vivre ses derniers jours, le Service Civique ne s'est jamais aussi bien porté. Créé par la loi du 10 mars

Quand un accord collectif est remis en cause

29-10-2024

La nullité des conventions et accords collectifs de travail reste un contentieux rare et assez récent, ce qui s'explique, en partie, par l'objet traditionnel de ces actes qui est

Fonds de dotation : les temps changent

22-10-2024

Le fonds de dotation est un organisme dit de "mécénat". Il est destiné à collecter des dons pour aider une structure à but non lucratif à réaliser une oeuvre ou une mission

Programmation 2021-2027 des fonds européens : place de l'ESS

15-10-2024

Tous les sept ans, l'UE révise la stratégie d'attribution des fonds européens pour répondre aux nouveaux défis de l'Union européenne ainsi qu'aux enjeux des territoires et des

Découvrir 10 autres articles
Abonnez-vous à Lettrasso+