Intervention au club de la presse Nantes Atlantique dans le cadre de la Digital Week. Septembre 2016.

1. Quelques
réflexions
ERTZSCHEID Olivier.
Université de Nantes.
www.affordance.info
@affordanceinfo
autour de
l’éditorialisation
algorithmique
1

2. EDITOEDITO
ALGOALGO
2

3. EDITOEDITO
ALGOALGO
« L’éditorialisation est
l’ensemble des dispositifs qui
permettent la structuration et la
circulation du savoir.
En ce sens l’éditorialisation est une
production de visions du monde, ou
mieux, un acte de production du
réel.* »
Marcello Vitali-Rosati.
http://blog.sens-public.org/marcellovitalirosati/quest-ce-que-leditorialisation/
* Et de fabrique de l’opinion aussi quand même hein …
3

4. Même journal, même jour, même sujet.
ÉDITORIALISATION « CLASSIQUE »
Journaux différents, même jour, même sujet.4

5. MÊME JOURNAL, même jour, même sujet.
ÉDITORIALISATION « CLASSIQUE »
5

6. Ce processus d’éditorialisation est :
(relativement) transparent
Contrôlable / auditable
Débattu
Susceptible d’être
rendu public.
Relève de logiques informationnelles
(parfois contraintes par la publicité)
Dont la plupart des postulats sont connus
de la plupart des gens
6

7. ÉDITORIALISATION ALGORITHMIQUE
7

8. De la salle de rédaction
(une « ligne éditoriale » et
un code de déontologie)
à la salle des machines
(des lignes de code et des CGU) 8

9. Ce qui génère quelques … bugs.
9

10. Des censures incompréhensibles.
10

11. Des disparitions inquiétantes
3 septembre 2015 dans la presse
4 septembre 2015 dans Facebook
11

12. Des régimes
d’euphémisation du
réel …
qui interrogent
(mais ne peuvent
pas être interrogés)
12

13. • Nipple gate
• Youtube désactive monétisation de milliers de vidéos (
http://www.lemonde.fr/pixels/article/2016/09/02/des-videastes-accusent-youtube-de-censure-qui-ne-dit-pas-son-nom_4991794_4408
)
• Donald Trump
• Trending Topics dans Facebook (on vire les humains et l’algo se barre en sucette)
• Origine du monde (Courbet)
• #BlackLivesMatter => #AllLivesMatter
#NoconservativeNews ?
« Masturbating with Hamburger »
Trending or Trash Topics ?
#Clickbait
Art ou pornographie ?
Racisme
Pruderie
Racisme
Armes de
suppressions massives
Financement
Comment donner à voir
l’horreur ?
13

14. • Algorithmique (et en partie humain)
• Totalement opaque
• Non-auditable
• Non-débattu
• Impossible à rendre public
• Macro-logiques de viralité (émotionnel / pulsionnel)
• Micro-logiques d’influence (friendship / homophilie)
• Renforcement des croyances (filter bubble)
• Le fait du prince
• Relève (presque) uniquement de logiques publicitaires
• Seule régulation (collective) possible : par l’opinion (le bad buzz)
UN PROCESSUS EDITORIAL :
14

15. • touche au moins 1,5 milliard de personnes par jour.
• stratégies d’influence scientifiquement prouvées (y compris pour / dans des scrutins
démocratiques et des processus électoraux : Search Engine Manipulation Effect)
• tend à surclasser / remplacer (en audience et en influence) les médias « traditionnels ». Effet
renforcé par « native publishing » (ou comment affûter soi-même la hache de son bourreau)
• souvent sinon « hors la loi » du moins « dans sa conception de la loi » / Code Is Law (affaire des caricatures)
• produit ses propres normes / conduites sociales / et sur-représente certains codes culturels au détriment d’autres
• utilise plein de « petits trucs » (cours de persuasion technologique Stanford), « asymétries de perception » pour
influencer et inciter à l’interaction (exemple Top News / Most Recent sur FB)
• repose le plus souvent sur « illusion de la majorité » (capacité de nous faire percevoir comme commun ou très répandu
un phénomène ou une information qui est en fait très rare ou très peu diffusé :
https://www.technologyreview.com/s/538866/the-social-network-illusion-that-tricks-your-mind/)
Éditorialisation algorithmique :
15

16. On fait quoi ?
• RENDU PUBLIC. On rend publique la partie algorithmique qui relève de logiques
d’éditorialisation classiques
• Construire un index indépendant du web
• ACCOMPAGNEMENT ET FORMATION. Professeur des algorithmes : Au « deep
learning » on associe un « Deep supervising » : la formation / supervision (des
algorithmes) tout au long de la vie
• NATIONALISATION (ou inscription dans domaine public). On « nationalise » certains
algorithmes. En priorité ceux qui ont vocation à intervenir dans secteurs régaliens
(éducation, transport, santé, emploi)
• REDEVABILITÉ. On demande tout le temps des comptes :
– « Weapons of maths destruction » (Cathy O’Neil)
– Notion de redevabilité (accountability) algorithmique
– On s’assure qu’ils soient « transparents à l’inspection, prévisibles pour ceux qu’ils
gouvernent, robustes contre toute manipulation »
• On interroge la manière dont ces processus algorithmiques réinstallent de nouvelles
aristocraties de la parole, de l’opinion.
16

17. 17

18. « Quelle est la responsabilité que Facebook peut
prendre pour empêcher Donald Trump de devenir
président des Etats-Unis en 2017 ? »
18

19. « Quelle est la
responsabilité que
Facebook peut prendre
pour empêcher Donald
Trump de devenir
président des Etats-Unis
en 2017 ? »
Ce n’est pas la question d’employé d’une régie publicitaire.
Ce n’est pas la question d’un ingénieur développant des algorithmes de recommandation.
C’est typiquement la question d’un journaliste politique dans un journal d’opinion.
Or Facebook n’est pas un journal d’opinion et n’emploie pas de journalistes.
La mauvaise nouvelle serait que Facebook devienne le 1er
journal d’opinion de la planète.
La bonne nouvelle serait que des employés de Facebook questionnent systématiquement sa légitimité dans le
champ de l’action publique / politique
Pour l’instant c’est juste l’expression d’une crainte
19

20. Quelques lectures complémentaires
• Guillaud Hubert, « Comment la techno bouleverse-t-elle notre rapport aux faits ? » InternetActu.
http://www.internetactu.net/2016/09/16/comment-la-techno-bouleverse-t-elle-notre-rapport-aux-faits/
• Ertzscheid Olivier, www.Affordance.info, rubrique « Politique des algorithmes »
http://affordance.typepad.com//mon_weblog/politique-des-algorithmes/ Voir notamment :
– « Pour une république algorithmique : nationalisons le code ! »
http://affordance.typepad.com//mon_weblog/2016/05/nationaliser-code-republique-algorithmique.html
– « Editorialisation algorithmique » http://affordance.typepad.com//mon_weblog/2016/05/editorialisation-algorithmique.html
– « La poule de la bulle de filtre et l’œuf de l’éditorialisation algorithmique »
http://affordance.typepad.com//mon_weblog/2015/06/poule-bulle-de-filtre-oeuf-editorialisation-algorithmique.html
– « Surveillance : pour une autre politique des algorithmes »
http://www.liberation.fr/ecrans/2015/05/09/surveillance-pour-une-autre-politique-des-algorithmes_1302062
– « Le poids des mots, le choc des algos » http://affordance.typepad.com//mon_weblog/2016/04/poids-mots-choc-algos.html
– « Algos racistes, IA fascistes » http://affordance.typepad.com//mon_weblog/2016/04/algos-racistes-et-ia-fascistes.html
– « Pour voir des images d’enfants morts, cliquez ici »
http://affordance.typepad.com//mon_weblog/2016/02/images-enfants-morts-cliquez-ici.html
– « A la recherche d’Aylan Kurdi » http://affordance.typepad.com//mon_weblog/2015/09/recherche-aylan-kurdi.html
– « Le code c’est la loi et les plateformes sont des états » http://affordance.typepad.com//mon_weblog/2015/02/code-loi-
plateformes-etats.html
– « NationBuilder : construire une nation comme un fichier client »
http://affordance.typepad.com//mon_weblog/2016/04/construire-une-nation-comme-un-fichier-client.html
– « Un algorithme est-il un document communicable ? » http://affordance.typepad.com//mon_weblog/2016/01/un-
algorithme-est-il-un-document-communicable-.html 20