Conférence pour élèves ingénieurs sur l'éthique des technologies numériques

1. michel.puech@paris-sorbonne.fr
1
Le numérique comme révolution culturelle
3 octobre 2014
Michel Puech
made on a PC with LibreOffice

2. 2
objectif
vous suggérer des thèmes de réflexion, des
références, des exemples, pour vos travaux
personnels pendant l'année
cette présentation (et ses liens) sont mis à votre
disposition

3. 3
techno / philo
la philosophie de la technologie et votre
formation actuelle
philosophie de la technologie
technoéthique
systèmes de valeur du monde contemporain
l'Homo Sapiens Technologicus
déjà technologicus mais
devant rester sapiens
naturalité humaine et
culturelle de la technologie
y compris numérique

4. techno / philo
4
le métier d'ingénieur aujourd'hui
 des capacités « humaines » en plus des
capacités techniques
réflexion
recul, compréhension, synthèse
expression, communication, conviction

5. 5
technologie et valeurs
technophilie vs technophobie
philia : aimer / phobia : craindre
deux styles de pensée
qu'il est facile de détecter avec un peu d'attention et
d'entraînement
mais personne ne se reconnaît « technophobe » ni
« technophile » (le démenti est à prendre comme un aveu)
principal lieu de technophobie : les sciences humaines et
les journalistes qu'elles influencent
la science-fiction est très majoritairement dystopie (…) et plus
utopie comme à l'origine
principal lieu de technophilie : la publicité et les
journalistes qu'elle influence
c'est la publicité qui produit les images et les récits utopiques
aujourd'hui

6. technologie et valeurs
6
extrême de la technophilie : le transhumanisme
l'humain a le droit et le devoir de
dépasser sa « nature » par de la
technologie d'amélioration
jusqu'à uploader son esprit dans une
machine (numérique)
extrême de la technophobie :
le luddisme
la technologie est par principe
l'ennemi des humains et de leur
société
jusqu'à l'action directe pour détruire les machines et le
refus systématique de toutes les nouvelles technologies
(numériques notamment)

7. 7
numérique et valeurs
le numérique, techniquement : des zéros et des
uns pour tout coder
objets et fonctions
une étape dans la succession des « codages »
utilisés par les cultures humaines :
langage oral,
écrit,
imprimé,
communication électrique
(TSF, téléphone, TV),
communication informatique

8. numérique et valeurs
8
→ pourquoi une telle puissance de
transformation ?
technique
sociale
existentielle
une donnée :
nous vivons dans
une technosphère et dans une infosphère
qui modifient radicalement les conditions de
l'existence humaine
et les systèmes de valeur
individuels et collectifs
pourquoi ?

9. numérique et valeurs
9
le simple passage à un support unique
un changement « ontologique »
par rapport au papier ou à tous les supports analogiques
qui introduit des propriétés fonctionnelles uniques
de reproduction
de stockage
de recherche
...
étude de cas : lunettes analogiques / numériques
(...)

10. numérique et valeurs
10

11. numérique et valeurs
11
une diffusion ouverte et potentiellement
universelle
Yochaï BENKLER
The Wealth of Networks: How social production transforms
markets and freedom, Yale U.P., 2006 -
http://www.benkler.org/Benkler_Wealth_Of_Networks.pdf
le numérique en réseaux collaboratifs rend possible une
« production sociale » qui est une révolution économique
et (donc) politique
The Penguin and the Leviathan: How cooperation triumphs over
self-interest, Random House, 2011
c'est aussi une révolution anthropologique et morale
l'humain peut être naturellement coopératif et pas en compétition
voir sur le Web les « Wikinomics »
l'entreprise en mode Wikipedia

12. numérique et valeurs
12
Jeremy RIFKIN
The empathic civilization: The race to global consciousness in a
world in crisis, Cambridge, UK, Polity Press, 2009 - Une nouvelle
conscience pour un monde en crise. Vers une civilisation de
l'empathie, Éditions Les Liens qui libèrent, 2011
une civilisation de l'empathie
la communication « globale » (mondiale) permanente, en
temps réel et dense
 un élargissement de la sphère de « sensibilité
morale », de ce qui nous concerne éthiquement
ex aujourd'hui : Hong Kong, mouvement « Occupy Central »
alors que l'humanité a vécu presque tout le temps dans
des groupes de 30 à 150 personnes
p. 554 : « Le problème c'est que la même révolution des
technologies de communication qui est en train de préparer le
terrain pour une conscience globale a aussi un côté obscur qui
pourrait tout faire dérailler et nous lancer dans l'impasse du
narcissisme effréné, du voyeurisme sans limite et d'un
insurmontable ennui. »

13. numérique et valeurs
13
une infosphère unique et créative
Manuel Castells
le sociologue de la « société de l'information », depuis les
années 1990
série de livres L'ère de l'information, 1996-1998
The Internet Galaxy, Oxford U.P., 2001 – La Galaxie Internet,
Fayard, 2002
l'identité des individus et de tous les collectifs
(entreprises, mouvements d'idées, nations, …) se
construit de plus en plus par les liens numériques
= l'infosphère est un lieu de production des identités
≠ d'« expression »
et un lieu d'innovations sociales et politiques de rupture
Networks of outrage and hope: Social movements in the Internet
age, Cambridge: Polity, 2012 – sur les « printemps » de 2011,
arabes mais aussi catalans, américains, etc.

14. numérique et valeurs
14
l'appropriation du numérique par les individus
les liens d'attachement avec son téléphone mobile
appropriation fonctionnelle :
référence sur l'appropriation de la culture numérique :
PROULX Serge, "Les formes d’appropriation d’une culture
numérique comme enjeu d’une société du savoir", 2005
http://www.ac-grenoble.fr/ien.bourgoinashnord/IMG/pdf_es_TUIC_Enjeux_et_modalites_de_mise_en_oeuvre.pdf
« L’appropriation effective d’une technologie par un agent humain suppose,
selon moi, la réunion nécessaire et suffisante de trois conditions :
a) une maîtrise cognitive et technique minimale de l’objet ou du dispositif
technique ;
b) une intégration sociale significative de l’usage de cette technologie dans la
vie quotidienne de l’agent humain ;
c) la possibilité qu’un geste de création soit rendu possible par la technologie,
c’est-à-dire que l’usage de l’objet technique fasse émerger de la nouveauté dans
la vie de l’usager. »
appropriation émotionnelle et symbolique
des valeurs et des potentiels qu'il ne faut pas laisser au
seul marketing

15. numérique et valeurs
15
la mise en réseau universelle
la notion culturelle de réseau +
la notion de liens faibles
GRANOVETTER Mark, "The strength of weak ties", American
Journal of Sociology, 78(6), May 1973 www.jstor.org/pss/2776392
on pouvait beaucoup demander aux liens « forts »
= la famille, la patrie, la religion, les serments, …
mais en pratique ils sont devenus faibles
on peut demander peu aux liens « faibles »
= juste avoir un intérêt commun ou une pratique commune, ou
même juste se trouver au même endroit
mais en pratique leur mise en réseau crée une puissance
supérieure à celle des liens forts
→ réseaux (interconnectés) de liens faibles
un forum sur le Web, Le Bon Coin, Wikipédia,...
les liens numériques sont faibles mais leur réseau est
puissant

16. numérique et valeurs
16
valeur de l'informel et du désordre
la « sagesse des foules »
SUROWIECKI James, The wisdom of crowds, New York: Anchor
Books, 2004 - trad. La sagesse des foules, Lattès
→ crowdsourcing, crowdfunding, etc.
sens maximal de cette expression :
une foule connectée (numériquement) est capable
de performances qui dépassent celle du meilleur
individu la composant
application-démonstration :
Google comme compétence linguistique ultime dans
toutes les langues
→ valeur de l'informel numérique et du désordre
numérique lorsqu'on leur applique un « moteur »
permettant d'extraire de la « sagesse » (de produire
de la performance)

17. numérique et valeurs
17
l'éthique des agents autonomes
pilotage des avions
SCARDIGLI Victor, Un anthropologue chez les automates. De
l'avion informatisé à la société numérisée, PUF, 2001
quand l'humain peut-il / doit-il reprendre la main ?
quand la machine doit-elle reprendre la main et la
conserver ?
qui est responsable de quoi ?
conduite des voitures
déploiement des automatismes
résistance psychologique des
humains
déploiement d'armements
notamment les systèmes d'armement létal autonomes

18. numérique et valeurs
18
une authenticité (spécifique) dans la
communication humaine médiatisée
numériquement (?)
le CMC (Computer Mediated Communication)
réseaux socionumériques, Skype, forums, emails
référence sceptique : Sherry TURKLE
TURKLE Sherry, Alone together: Why we expect more from
technology and less from each other, Basic Books, 2011
l'addiction communicationnelle
effet du numérique
psychologiquement et socialement nuisible
cas d'étude : le syndrome FOMO
Fear Of Missing Out = consulter sans cesse ses messageries de
peur de manquer quelque chose
→ c'est la vie réelle qu'on manque dit Turkle

19. numérique et valeurs
19
le moyen de communication nuit à l'authenticité de la
communication

20. numérique et valeurs
20
réseaux socionumériques → référence optimiste :
BOYD Danah, Taken out of context: American teen sociality in
networked publics, PhD, University of California, Berkeley, 2008
http://www.danah.org/papers/TakenOutOfContext.pdf
le numérique crée un contexte particulier, mais efficient et
légitime, de maturation psychologique et sociale
BOYD Danah, It's complicated: The social lives of networked teens,
Yale U.P. - http://www.danah.org/books/ItsComplicated.pdf
le numérique crée un espace social unique et indispensable
qui a 4 propriétés fonctionnelles : persistance, visibilité,
« partageabilité », « cherchabilité »

21. numérique et valeurs
21
hacking et piratage, des valeurs ambiguës
le numérique produit des valeurs contestataires (?)
spécifiques
HIMANEN Pekka, The hacker ethic and the spirit of the
information age, Random House, 2001 - trad. L'éthique hacker
et l'esprit de l'ère de l'information, Exils, 2001
une éthique fondée sur le travail (bien fait = du code qui
marche) et sur le plaisir (du travail bien fait)
le numérique bouleverse les règles de la propriété
intellectuelle et artistique
tout le monde télécharge des contenus illégaux, alors
que tout le monde ne vole pas de CD dans les magasins
et ce n'est pas qu'un problème de risque et de répression
car on reconnaît la différence « morale » entre les deux
ESS Charles, Digital media ethics, Polity Press, 2009

22. numérique et valeurs
22
→ un « droit » informel à l'accès universel,
immédiat et gratuit à tout ce qui est numérisé ?
économiquement supportable ?
juridiquement défendable ?
voir les travaux de Lawrence LESSIG
technologiquement inévitable ?
éthiquement valable ?
documentation et discussion :
Aaron Swartz héros des temps
modernes ou looser pathétique ?
KNAPPENBERGER Brian, The Internet's own boy: The story of
Aaron Swartz [documentary film, 105'],
https://archive.org/details/TheInternetsOwnBoyTheStoryOfAaronSwartz
http://youtu.be/vXr-2hwTk58

23. 23
la confrontation actuelle ouvert/fermé
définition et exemples de ces notions dans le
numérique
un logiciel open source, un site collaboratif, un
forum sans validation d'inscription (pour publier)
sont ouverts
un logiciel propriétaire, un intranet ou site
demandant un identifiant, sont fermés

24. la confrontation actuelle ouvert/fermé
24
origine de la dualité :
1) origine de l'informatique dans le command and
control de la cybernétique (années 1950)
2) superposition de cette culture avec celle de
« l'informatique personnelle » (années 1980) et
celle du Web (années 1990)
à l'origine, ignorées et méprisées
aux valeurs et au marketing « californiens »
film iconique de Apple contre Big Brother

25. la confrontation actuelle ouvert/fermé
25
références :
ZITTRAIN Jonathan, The future of the Internet: And how to stop
it, Yale U.P., 2009
le numérique (ouvert) crée un environnement
technologique qui a une propriété unique : la générativité
=
« capacité à produire une nouveauté non anticipée par les
contributions non filtrées de publics larges et diversifiés »
WU Tim, The Master Switch: The rise and fall of information
empires, Alfred A. Knopf, 2011
les systèmes de pouvoir s'approprient les médias
(moyens de communication) et les « (en)ferment »
économiquement et politiquement
mais Internet est différent, le numérique ouvert a sa
chance
Apple IS Big Brother (Facebook too)?

26. la confrontation actuelle ouvert/fermé
26
numérique ouvert / fermé
un enjeu économique, politique, culturel, éthique
qui transcende les références de valeur traditionnelles
qui sont les acteurs décisifs dans cette
confrontation ?
pas les institutions
les individus (conscientisés, responsabilisés, engagés)
 besoin d'une réflexion technoéthique
≠ politique, économique, technique, moraliste
c'est en cela que le numérique est porteur
d'une révolution culturelle et pas seulement
technologique

27. 27
conclusion et sujet de réflexion
Le numérique apporte une révolution des
systèmes de valeur, qui n'est pas un problème
technique.
La technique est devenue trop importante pour
être laissée aux seuls techniciens.