Même Facebook ne comprend pas les algorithmes de Facebook

Après tous les coups de main qui sont venus du spectacle des «fausses nouvelles» grâce au fil d'actualité de Facebook - le contenu que vous voyez lorsque vous vous connectez à Facebook depuis votre téléphone ou votre ordinateur portable - une chose est devenue parfaitement claire. Même Facebook ne comprend pas Facebook.

Et c’est le problème de s’appuyer sur une intelligence artificielle (IA) algorithmique qui a été construite (ou plus précisément reconstituée) au fil des ans par des centaines de développeurs et de programmeurs différents.

Tout cela m'est devenu clair au cours des derniers jours alors que je réfléchissais aux choses que j'avais apprises lors de la dernière conférence HealtheVoices 2017, et après avoir lu un excellent article sur Facebook par Farhad Manjoo dans le Magazine du New York Times.

Lors de la conférence, un représentant de Facebook a été confronté à une foule de questions quelque peu frustrée (et parfois presque hostile) sur les raisons pour lesquelles les choses qu'ils écrivaient en tant que militants et défenseurs de la santé semblaient rarement faire surface sur les fils de nouvelles Facebook d'autres personnes. Le seul moyen de susciter l'engagement, ont déclaré les personnes présentes ce jour-là, était de l'acheter via Facebook (via un mécanisme payant connu sous le nom de «booster» une publication).

Le représentant de Facebook n'avait pas de réponse à donner à ces questions sur les raisons pour lesquelles un contenu de qualité apparemment de qualité n'est pas présenté dans son fil d'actualité. Pourtant, tous les participants à qui j'ai parlé - des défenseurs de la santé passionnés et engagés - y voyaient un problème avec Facebook. Mais même Facebook ne pouvait pas expliquer comment y remédier.

Ce n’est pas étonnant. L'article du Times Magazine a mis en lumière le «pourquoi». L'algorithme de fil d'actualité de Facebook trie cependant, en moyenne, 2000 éléments de contenu possibles chaque fois qu'une personne charge Facebook pour la première fois et à chaque actualisation.

Il y a tellement de variables qui entrent dans cet algorithme de tri complexe, sombre et propriétaire que même Facebook ne peut pas expliquer pourquoi quelque chose s'affichera ou ne s'affichera pas dans le fil d'actualité de quelqu'un. C'est à peu près le même genre de douleur que les webmasters ressentent depuis longtemps lorsqu'ils traitent avec Google et leur algorithme d'indexation de recherche.

Le fait que l’algorithme puisse facilement être contourné en achetant simplement l’accès au fil d’actualité des utilisateurs n’est pas surprenant. C’est en grande partie la raison pour laquelle Facebook gagne autant d’argent année après année. Même le contenu de la moins bonne qualité peut accéder à votre fil d'actualité supposé personnalisé.

Fil d'actualité: toujours un travail en cours

On pourrait penser qu’après tant d’années de travail acharné, d’attention, d’heures de développement et de recherche sur cet algorithme, certaines choses de base seraient correctes. Mais deux anecdotes récentes me montrent à quel point l'intelligence artificielle louée de Facebook doit encore aller plus loin.

Le premier est le mème de concert qui s'est emparé du fil d'actualité de Facebook à la fin du mois d'avril 2017. Dans ce mème en particulier, les participants énumèrent 10 concerts auxquels ils ont assisté au cours de leur vie, mais l'un d'eux est faux. C’est aux amis de la personne de repérer le faux concert auquel elle n’a pas assisté et de le commenter.

Ma première pensée lorsque j'ai vu ce pop-up pour la première fois était: "Qui s'en soucie?" parce que, franchement, je me fiche des concerts auxquels mes amis ont assisté. Si j'étais engagé dans une véritable conversation avec mes amis sur le thème des "concerts que nous avons vus", cela pourrait être cool. Mais en tant que déclencheur de conversation, je l'ai trouvé insensé car il est hors du bleu - socialement lié à rien. J'ai donc cliqué sur "Masquer ce message" dans le premier que j'ai vu sur mon fil d'actualité.

Cela a-t-il aidé à arrêter l'afflux de ce contenu sur mon fil d'actualité au cours des prochains jours? Pas un iota. J'ai vu pas moins d'une douzaine de ces questions au cours des deux prochains jours inonder mon fil d'actualité (même après avoir cliqué sur «Masquer ce post» sur au moins deux autres). Tout cela ne m'intéressait pas. Voilà pour le fonctionnement de l'IA de Facebook.

Le second est le comté de Bloom. Je suis un grand fan et je me suis réjoui lorsque Berkeley Breathed a recommencé à dessiner. J'ai hâte de voir chaque jour une nouvelle bande dessinée de son apparition dans mon fil d'actualité. Pourtant, mystérieusement, Facebook n'a aucune idée de cela. Il a cessé de me montrer ses bandes dessinées il y a quelques semaines, même si j'ai soigneusement cliqué sur la plupart d'entre elles afin de les lire plus facilement sous leur forme agrandie.

Comment autant de clics pourraient-ils entraîner une balise "Pas intéressé, arrêter de montrer ceci à cet utilisateur"? Facebook ne pourrait pas répondre à cette question s’il le voulait, car il n’a aucune idée de la manière dont son algorithme de fil d’actualité fonctionne réellement - ou ne fonctionne pas - pour les utilisateurs individuels. Ce serait drôle si ce n’était pas si grave. Selon le Pew Research Center, plus de la moitié des Américains reçoivent leurs nouvelles de Facebook.

Formulaires de commentaires qui donnent peu de commentaires aux utilisateurs

Facebook affirme qu'il peut évaluer (et travailler à résoudre) de nombreux problèmes si les utilisateurs utilisent simplement leurs formulaires de commentaires plus souvent. Mais il y a une raison pour laquelle les utilisateurs détestent donner des commentaires sur Facebook - leur système de commentaires suce.

Les formulaires de commentaires de Facebook donnent aux utilisateurs très peu de commentaires en eux-mêmes, et à la place, les valeurs conduisent les utilisateurs à un éventail de questions «Voici comment résoudre ce problème vous-même, idiot» qui semblent toujours suggérer que la plupart des problèmes que vous rencontrez sont les vôtres réparer - pas Facebook. Il n'y a pas d'humain à la fin de ces formes, et aucune réponse humaine que vous ne recevrez jamais. C'est la définition même de l'inhumain. Ironique pour une entreprise qui se voit «bâtir une communauté mondiale» reliant tout le monde plus socialement. Comment une entreprise peut-elle faire cela tout en évitant tout contact humain avec ses utilisateurs? 1

L'IA est si complexe que les humains ont besoin d'aider

De nombreux développeurs se disent que l'IA peut à peu près résoudre n'importe quel problème humain, si elle dispose de suffisamment de variables, d'ensembles de données et d'ajustements. Mais ce que Facebook a clairement montré, c'est que quoi qu'il fasse pour aider à résoudre son problème de fil d'actualité, son IA ne fonctionne pas bien pour beaucoup, beaucoup de gens.

Personne n'a l'impression que Facebook écoute même. Comme je l'ai noté plus tôt, les défenseurs de la santé et les militants avec qui j'ai parlé à la conférence ont dit qu'ils ne sont pas entendus. Les entreprises de médias sociaux comme Facebook ne semblent pas s'en soucier. Et sur un groupe Facebook fermé pour les éditeurs de nouvelles, j'entends quotidiennement la frustration concernant le nombre d'organisations de presse respectées qui font croupir leurs articles de journalisme d'investigation approfondis sur Facebook sans être rémunérés. Pendant ce temps, un article jetable "5 façons étonnantes, rapides et faciles pour un bronzage d'été" obtient plus de succès que les recherches Google de Trump pour les requêtes "Comment réparer ...".

Clichés de séparation sur l'IA d'aujourd'hui

Siri, loué par Apple, est souvent présenté comme un exemple utile d’intelligence artificielle qui fonctionne dans le monde moderne d’aujourd’hui. Mais alors que j'écrivais cet article, j'ai dit: «Hé Siri, dis à Nancy que je l'aime.»

Siri, dans son infinie sagesse, a fait corriger le destinataire du message (heureusement, puisque je ne connais qu'une seule Nancy). Mais le texte qu'elle a envoyé était: "Je l'aime." Siri n'avait manifestement aucune compréhension de la signification réelle de ma phrase et a plutôt utilisé des filtres rudimentaires pour comprendre que je voulais envoyer un texte à une personne de mes contacts avec le message littéral «Je l'aime».

C'est le niveau d'IA avec lequel nous travaillons aujourd'hui dans les grandes entreprises technologiques telles que Facebook, Google et Apple - quelque peu utile, mais extrêmement inégale dans sa qualité et sa mise en œuvre.

J'espère vraiment que Facebook le comprendra, car chaque jour je l'utilise de moins en moins car il devient de moins en moins pertinent pour mon intérêts réels et la vie quotidienne. Je suis peut-être minoritaire aujourd'hui, mais je soupçonne que cela changera si Facebook ne résout pas bientôt ces problèmes de pertinence et d'intérêt.

Notes de bas de page:

1. C'est l'une des raisons pour lesquelles les présentateurs de Facebook lors de conférences sont souvent confrontés à tant de questions - c'est le seul contact humain que la plupart d'entre nous aient jamais eu avec ce géant de la technologie. [↩]