Arrêtez d'enseigner l'éthique aux ingénieurs logiciels

Avec le privilège de faire partie d'une profession organisée, il y a aussi des tâches ennuyeuses. Par exemple, en tant que nouvel associé de l'Ordre des ingénieurs, j'ai été fortement invité à participer à un séminaire semi-obligatoire de 6 heures sur l'éthique dans le domaine de l'ingénierie.

La simple perspective d'endurer une séquence interminable de diapositives sur des principes moraux théoriques insipides était, franchement, déconcertante : pensons-nous sérieusement pouvoir faire la morale aux adultes ?

Cependant, comme je suis un individu assez rationnel (la plupart du temps), je me suis convaincu que ce ne serait peut- être pas si mal, que j'étais trop fermé d'esprit à ce sujet et que je pourrais apprendre une chose ou deux de l'expérience. Peut-être, ai-je osé penser, ce sera même amusant.

Comme prévu, la présentation était une séquence interminable de diapositives sur des principes moraux théoriques insipides, avec une interaction minimale des participants.

Dans l'ensemble, cela a commencé comme une expérience banale que j'oublierais totalement en quelques jours. Malheureusement, il y avait bien plus que ça.

Le problème du chariot

Le problème du chariot est une célèbre expérience mentale qui est souvent utilisée pour discuter de questions éthiques. Dans cette expérience, on nous demande de nous mettre dans la peau d'un spectateur témoin d'un tram incontrôlable qui crépite à toute vitesse.

Imaginons que, plus loin sur la voie ferrée, il y ait cinq personnes attachées aux rails et incapables de s'échapper comme dans un dessin animé des années 50 : si vous ne faites rien, vous assisterez à un incident très macabre. Ce n'est pas tout : en fait, vous êtes face à un dilemme.

À côté de vous, il y a un levier qui peut changer les voies et détourner le train, sauvant ces personnes sans défense. Cependant, ce faisant, vous tueriez une autre personne sans défense, qu'un méchant a rangé sur les rails de l'itinéraire alternatif.

Que choisissez-vous : ne rien faire et laisser cinq personnes mourir ou tuer une personne pour sauver toutes les autres ?

Ce problème n'a pas été conçu pour avoir une solution correcte, mais plutôt comme un outil pour méditer sur les ramifications des décisions qui ont de graves conséquences.

Imaginez mon choc lorsque j'ai compris que le conférencier attendait une réponse sérieuse de notre part et, en plus, il évaluerait même notre boussole morale en fonction de notre décision.

« Ah ! » commenta le conférencier avec un sourire narquois sur le visage. « Alors, c'est ton choix ? J'espère sincèrement que vous n'êtes pas impliqué dans une décision sérieuse au travail.

Je me suis senti tellement insulté et j'étais sur le point de quitter la présentation en colère. Cependant, je me suis un peu calmé lorsqu'il m'a expliqué quel était le choix moral supérieur, selon lui.

Il ne faut jamais intervenir d'une manière qui provoque des effets secondaires, même si ne rien faire nuira à plus de personnes : personne n'aura le pouvoir de prendre ce genre de responsabilité, quel qu'en soit le prix.

À ce moment, un sourire diabolique est apparu sur mon visage, car j'ai réalisé que j'avais une meilleure voie d'action plutôt que d'administrer des insultes gratuites : j'avais l'opportunité de coincer l'imposteur et de le démasquer devant tout le monde.

Droit et Justice

Le tyran conférencier a poursuivi sa diatribe en s'aventurant dans le débat sur le droit et la justice. La légalité est-elle la même chose que l'éthique et la justice ? D'après le professeur, oui. Le respect de la loi est la seule voie éthique appropriée.

Encore une fois, j'avoue avoir été un peu surpris. Certes, respecter la loi est généralement la bonne chose à faire, même si c'est gênant et douloureux. La loi est dure, mais c'est la loi. Cependant, il peut y avoir des cas où la loi n'est pas nécessairement juste et de nombreux cas où un comportement contraire à l'éthique est parfaitement légal.

"Défier la loi est toujours moralement inacceptable." a déclaré le conférencier. "A moins que cela ne fasse de mal à personne, si vous vous dénoncez immédiatement, et si vous êtes prêt à faire face à toutes les conséquences de votre désobéissance."

« Et si, l'interrompis-je, si nous vivions dans un régime liberticide et que la loi nous obligeait à nuire à notre voisin parce qu'il appartient à une minorité indésirable ? Il ne peut certainement pas être contraire à l'éthique d'enfreindre une loi comme celle-là en prenant du recul. "

"Non," répondit-il avec colère. « Vous devez toujours respecter la loi ! Voulez-vous être comme l'un de ces No-Vax turbulents qui refusent de se faire vacciner parce qu'ils prétendent être dans une dictature ? »

Maintenant, il y a tellement de choses à déballer ici, et je ne veux pas m'enfoncer trop profondément dans cette pente glissante.

De plus, je ne sais pas à quelles lois il faisait référence, et honnêtement, à ce moment-là, je m'en foutais de ses bêtises. Ce qui est intéressant, c'est qu'il était ouvertement en contradiction avec lui-même.

« Mais plus tôt », ai-je rétorqué, « vous avez affirmé qu'il est contraire à l'éthique de prendre une décision qui nuit à l'individu pour sauver plus de vies. Une campagne de vaccination n'est-elle pas un exemple classique du problème du chariot, où l'on protège la communauté au détriment des individus souffrant d'effets secondaires mortels ?

Le visage du conférencier est devenu rouge - pour la colère ou l'embarras, je ne suis pas sûr - blablatant que les deux situations étaient totalement différentes, que mon commentaire était hors sujet, et qu'il nous fallait encore couvrir de nombreuses diapositives avant la fin de la leçon . Je me sentais vainqueur.

Moralité Shmoralité

Quelque chose qui me fait vraiment grincer des dents est que, pour une raison quelconque, les ingénieurs en logiciel et autres professionnels de l'informatique sont souvent pointés du doigt lorsqu'il s'agit «d'enseigner» l'éthique.

C'est comme si quelqu'un sentait que nous avions besoin d'être "éduqués" parce que la technologie est maintenant trop puissante pour être laissée entre les mains d'un nerd au hasard.

Qu'en est-il de la boussole morale de toutes les autres professions ? Les comptables, les experts en marketing et les consultants en stratégie ont-ils besoin d'un rappel sur l'éthique ? Qu'en est-il des chauffeurs de taxi, des éboueurs ou des boulangers ? Tous ces emplois font partie intégrante de la société.

Au lieu de cela, l'éthique du troisième millénaire concerne les voitures autonomes, les IA ou - plus rarement - la manipulation des médias sociaux, comme si tous les ingénieurs conspiraient pour créer une dystopie technologique.

Au contraire, les politiciens et les dirigeants ont une influence et des connaissances d'initiés beaucoup plus importantes sur le fonctionnement de notre société. Quelle est leur réponse au problème du chariot ?

Conclusion

Mon problème fondamental avec l'enseignement de l'éthique est que vous ne pouvez pas l'enseigner comme vous le feriez avec la géographie ou les mathématiques. Il est absurde de donner des préceptes comme « ne mentez pas », « ne volez pas » et « soyez diligent » après le stade du collège et s'attendre à ce qu'ils soient d'une quelconque utilité.

Les adultes connaissent déjà l'essentiel : le problème est d'appliquer l'éthique à des scénarios réels. Je me joindrais volontiers à une discussion lorsque des arguments de bonne foi sont présentés et je peux améliorer ma perception du monde et les nuances de l'interaction humaine.

Aucune conférence ou présentation de diaporama ne fournira jamais cela.