Faut-il craindre les machines ?

Résumé du document

Dans le roman 1984 de George Orwell, les personnages sont observés quotidiennement par des « télécrans ». Où qu'ils soient et quoi qu'ils fassent, le pouvoir politique est en mesure de les surveiller à travers des machines ; la technologie est au service du totalitarisme. Au XXIème siècle, il semble n'y avoir qu'un pas entre la dystopie et la réalité. C'est justement pour instiller de l'éthique et une gouvernance que le législateur a instauré comme s'imposant aux machines (algorithmes, réseaux, logiciels, etc.), d'une part, un devoir de loyauté envers les utilisateurs, en tant que consommateur et surtout en qualité de citoyens protégés par des droits civiques, entre autres le respect de leurs données personnelles, d'autre part, un principe de vigilance impliquant un questionnement systématique des machines. Cette dernière exigence apparaît incontournable du fait de la nature imprévisible inhérentes aux objets technologiques, de leur caractère compartimenté et de la confiance excessive que les utilisateurs leur octroient souvent.

Extraits

[...] Le principe de perfectibilité de l'homme de Rousseau, ou encore « la faculté de se perfectionner », ligne de démarcation entre l'homme et l'animal, et non son ingéniosité technique (Jean-Jacques Rousseau, Discours sur l'origine et les fondements de l'inégalité parmi les hommes, 1755) Les machines, un écran de progrès devant le nécessaire progrès moral de l'humanité L'engouement pour les innovations technologiques ne remédie pas aux inégalités sociales ni à l'indifférence pour la souffrance de ses pairs. Il ne remédie pas à la vulnérabilité intrinsèque de l'homme (vieillesse, mortalité, esclavage, guerres, etc.). La déshumanisation des relations au cœur de la machine sociale où les machines sont omniprésentes peut conduire aux dérives totalitaires (Brazil de Terry Gilliam, le crime administratif dénoncé par Hannah Arendt en 1963 dans son ouvrage Eichmann à Jérusalem : Rapport sur la banalité du mal). [...]

[...] La question est ici de s'interroger sur la nécessité voire sur l'obligation morale de craindre les machines. Cette question interpelle dans la mesure où elle ne porte pas uniquement sur la prévention des risques liés aux dérives potentielles des machines, mais également sur le devoir éthique de l'homme de ne pas céder aux sirènes de la facilité en abandonnant son libre arbitre aux machines. Les développements suivants vont tout d'abord s'interroger sur la nécessité de la crainte des machines en elles-mêmes ensuite les catégories d'usage des machines qui exigent une vigilance systématique enfin, dans quelle mesure, la crainte des machines devrait non pas susciter la peur mais le rejet absolu et sans concession (III.). [...]

[...] Au contraire, Heidegger a pu affirmer que l'être humain se retrouvait empêtré aujourd'hui dans une étrange erreur : la singulière prépondérance de la science contemporaine, laquelle nous fait croire qu'on peut extraire de cette science la connaissance, et que même la pensée devait se soumettre à son jugement. Or, un penseur ne peut exprimer rien qui soit susceptible d'une vérification d'ordre logique ou empirique. L'issue ne se trouve pas non plus dans la croyance, la pensée ne pouvant être visualisée que dans le questionnement (cf. : Wer sit Nietzsches Zarathustra Heidegger, 1984). Ainsi, il rappelle qu'il est impossible de parvenir à la « vraie » connaissance (epistêmê) par le biais des sciences de la nature, et que seule la voie du questionnement reste ouverte à la recherche. [...]

[...] La peur confuse des machines Les machines sont par essence ce qui est automatisé. Tout comme une montre, un train, un four, il s'agit d'un objet inanimé, donc sans âme, sans faculté d'arbitrage entre le bien et le mal. Dès lors, il en résulte qu'il s'agit d'un instrument qui reflète en principe la volonté de son utilisateur. Cependant, avec la complexification croissante des machines, il ressort que l'utilisateur ne maîtrise plus toute la chaîne automatisée. Loin d'être un facteur de progrès, les machines peuvent être source d'impuissance voire de recul. [...]

[...] Faut-il craindre les machines ? Dans le roman 1984 de George Orwell, les personnages sont observés quotidiennement par des « télécrans ». Où qu'ils soient et quoi qu'ils fassent, le pouvoir politique est en mesure de les surveiller à travers des machines ; la technologie est au service du totalitarisme. Au XXIème siècle, il semble n'y avoir qu'un pas entre la dystopie et la réalité. C'est justement pour instiller de l'éthique et une gouvernance que le législateur a instauré comme s'imposant aux machines (algorithmes, réseaux, logiciels, etc.), d'une part, un devoir de loyauté envers les utilisateurs, en tant que consommateur et surtout en qualité de citoyens protégés par des droits civiques, entre autres le respect de leurs données personnelles, d'autre part, un principe de vigilance impliquant un questionnement systématique des machines. [...]