paint-brush
소프트웨어 엔지니어에게 윤리 교육을 중단하세요~에 의해@lorisocchipinti
1,609 판독값
1,609 판독값

소프트웨어 엔지니어에게 윤리 교육을 중단하세요

~에 의해 Loris Occhipinti5m2023/02/09
Read on Terminal Reader
Read this story w/o Javascript

너무 오래; 읽다

트롤리 문제는 윤리적 문제를 논의하는 데 자주 사용되는 유명한 정신 실험입니다. 문제는 올바른 해결책을 찾기 위해 고안된 것이 아니라 오히려 심각한 결과를 초래하는 결정의 결과를 숙고하기 위한 도구로 고안되었습니다. 강사는 우리의 진지한 반응을 기대하고 있었고, 게다가 우리의 결정에 따라 우리의 도덕적 기준까지 평가할 것이었습니다.
featured image - 소프트웨어 엔지니어에게 윤리 교육을 중단하세요
Loris Occhipinti HackerNoon profile picture

조직화된 직업의 일원이라는 특권과 함께 몇 가지 성가신 의무도 있습니다. 예를 들어, Order of Engineers의 새로운 준회원으로서 저는 공학 영역의 윤리에 관한 준필수 6시간 세미나에 참석하라는 강력한 초대를 받았습니다.


어리석은 이론적 도덕 원칙에 대한 끝없는 일련의 슬라이드를 견뎌야 한다는 단순한 전망은 솔직히 말해서 당혹스러웠습니다. 우리가 성인들에게 윤리에 대해 강의할 수 있다고 진지하게 생각합니까?


그러나 나는 매우 이성적인 개인이기 때문에(대부분의 경우) 그것이 그다지 나쁘지 않을 것이라고 스스로 확신했으며, 그것에 대해 너무 가까이 생각하고 있었고, 그에게서 한두 가지를 배울 수 있다고 스스로 확신했습니다. 경험. 어쩌면 재미있을지도 모른다고 감히 생각했습니다.


예상대로 프레젠테이션은 참가자와의 상호 작용이 최소화된 무의미하고 이론적 도덕 원칙에 대한 끝없는 슬라이드 시퀀스였습니다.


전체적으로 그것은 며칠만 지나면 완전히 잊혀질 만한 특별하지 않은 경험으로 시작되었습니다. 불행히도 그보다 더 많은 일이 있었습니다.

트롤리 문제

트롤리 문제는 윤리적 문제를 논의하는 데 자주 사용되는 유명한 정신 실험입니다. 이 실험에서 우리는 통제 불능의 전차가 전속력으로 달그락거리는 것을 목격한 구경꾼의 입장이 되어 보도록 요청받습니다.


더 멀리 철로를 따라가면 50년대 만화처럼 철로에 묶여 탈출할 수 없는 다섯 사람이 있다고 상상해 보세요. 아무것도 하지 않으면 매우 끔찍한 사건을 목격하게 될 것입니다. 그게 전부는 아닙니다. 사실, 당신은 딜레마에 직면해 있습니다.


당신 옆에는 선로를 바꾸고 기차의 방향을 바꿔 무력한 사람들을 구할 수 있는 레버가 있습니다. 그러나 그렇게 하면 다른 무방비 상태의 사람을 죽일 수 있으며 일부 악당은 대체 경로에서 레일을 정리했습니다.


당신은 무엇을 선택합니까? 아무것도 하지 않고 다섯 사람을 죽게 하는 것, 아니면 다른 모든 사람을 구하기 위해 한 사람을 죽이는 것입니까?

트롤리 문제를 보여주는 그림입니다. 작성자: McGeddon / CC BY-SA 4.0


이 문제는 올바른 해결책을 찾기 위해 고안된 것이 아니라 심각한 결과를 초래하는 결정의 결과를 숙고하기 위한 도구로 고안되었습니다.


그 강사가 우리에게 진지한 반응을 기대하고 있었고, 게다가 우리의 결정에 따라 우리의 도덕적 기준까지 평가한다는 사실을 알았을 때 내가 얼마나 충격을 받았는지 상상해 보십시오.


“아!” 강사는 얼굴에 비꼬는 듯한 미소를 지으며 논평했다. “그럼 이것이 당신의 선택인가요? 직장에서 심각한 결정을 내리는 일이 없기를 진심으로 바랍니다.”


나는 너무 모욕감을 느꼈고 분노하여 발표를 그만두기 직전이었습니다. 하지만 그가 우월한 도덕적 선택이 무엇인지 설명하자 나는 조금 마음이 가라앉았다고 한다.


아무것도 하지 않으면 더 많은 사람들에게 해를 끼치더라도 부작용을 일으키는 방식으로 개입해서는 안 됩니다. 어떤 대가를 치르더라도 이런 책임을 질 권한은 누구도 가질 수 없습니다.


그 순간, 나는 무료로 모욕을 가하는 것보다 더 나은 행동 경로가 있다는 것을 깨닫고 악마 같은 미소를 지었습니다. 나는 사기꾼을 몰아붙이고 모든 사람 앞에서 그의 가면을 벗길 기회를 얻었습니다.

법과 정의

강의하는 불량배는 법과 정의에 관한 논쟁에 뛰어들면서 폭언을 계속했습니다. 합법적인 것은 윤리적이고 공정한 것과 같은 것입니까? 강사에 따르면 그렇습니다. 법을 존중하는 것이 유일하게 적절한 윤리적 경로입니다.


이번에도 조금 놀랐다는 점을 인정합니다. 물론 불편하고 고통스럽더라도 법을 존중하는 것이 대개 옳은 일입니다. Dura lex sed lex. 그러나 법이 반드시 정의롭지 않은 경우도 있을 수 있으며, 비윤리적인 행동이 완벽하게 합법적인 경우도 많습니다.


“법을 무시하는 것은 도덕적으로 용납 수 없습니다.” 강사가 말했다. “누구에게도 해를 끼치지 않는 한, 즉시 자신을 비난하고 불순종의 모든 결과에 직면할 준비가 되어 있다면 말입니다.”


“만약에,” 내가 그의 말을 가로막았습니다. “만약 우리가 자유주의 체제에서 살았고, 이웃이 환영받지 못하는 소수자에 속했기 때문에 법에 따라 이웃을 해칠 것을 요구한다면 어떨까요? 확실히 물러서서 그런 법을 어기는 것은 비윤리적일 수 없습니다.'“


“아니요.” 그는 화를 내며 대답했다. “항상 법을 따라야 해요! 독재 정권에 있다고 주장하기 때문에 백신 접종을 거부하는 난폭한 노백스(No-Vax) 중 한 명처럼 되고 싶나요?”


이제 여기서 풀어야 할 내용이 너무 많아서 이 미끄러운 경사로 너무 깊이 들어가고 싶지 않습니다.


또한, 나는 그가 어떤 법률을 언급했는지 확신할 수 없으며, 솔직히 그 시점에서 나는 그의 말도 안되는 소리에 대해 별로 기분이 좋지 않았습니다. 흥미로운 점은 그가 노골적으로 자신과 모순되고 있다는 점이다.


“하지만 앞서 당신은 더 많은 생명을 구하기 위해 개인에게 해를 끼치는 결정을 내리는 것이 비윤리적이라고 주장했지요. 백신 접종 캠페인은 치명적인 부작용으로 고통받는 개인을 희생시키면서 지역 사회를 보호하는 트롤리 문제의 교과서적인 예가 아닌가?”


강사의 얼굴이 붉어졌습니다. 분노 때문인지 당혹스러움 때문인지 잘 모르겠습니다. 두 상황은 완전히 다르다고, 내 의견이 주제에서 벗어났으며 수업이 끝나기 전에 아직 많은 슬라이드를 다루어야 한다고 중얼거렸습니다. . 나는 승리감을 느꼈다.

도덕성 Shmorality

내 장비를 정말 힘들게 하는 것은 어떤 이유로든 윤리를 "교육"할 때 소프트웨어 엔지니어와 기타 IT 전문가가 종종 제외된다는 것입니다.


누군가가 우리가 "교육"을 받아야 한다고 느끼는 것과 같습니다. 이제 기술이 너무 강력해서 임의의 괴상한 사람의 손에 맡겨질 수 없기 때문입니다.


다른 모든 직업의 도덕적 나침반은 어떻습니까? 회계사, 마케팅 전문가, 전략 컨설턴트에게 윤리에 대한 재교육이 필요합니까? 택시 운전사, 먼지 청소부, 빵 굽는 사람은 어떻습니까? 이 모든 직업은 사회와 관련된 부분입니다.


대신, 세 번째 밀레니엄의 윤리는 자율 주행 자동차, AI 또는 (더 드물게는) 소셜 미디어 조작에 관한 것입니다. 마치 모든 엔지니어가 기술적 디스토피아를 가져오기 위해 공모하는 것처럼 보입니다.


오히려 정치인과 경영진은 우리 사회의 기능에 관해 훨씬 더 큰 영향력과 내부 지식을 가지고 있습니다. 트롤리 문제에 대한 그들의 대답은 무엇입니까?

결론

윤리 교육에 대한 나의 근본적인 문제는 지리나 수학처럼 윤리를 가르칠 수 없다는 것입니다. 중학교 단계를 지나서 거짓말하지 말라, 도둑질하지 말라, 부지런하라 등의 교훈을 주고 무슨 소용이 있으리라 기대하는 것은 어리석은 일이다.


어른들은 이미 요점을 잘 알고 있습니다. 문제는 윤리를 실제 시나리오에 적용하는 것입니다. 나는 선의의 주장이 제시될 때 기꺼이 토론에 참여하고 세상에 대한 나의 인식과 인간 상호 작용의 뉘앙스를 향상시킬 수 있습니다.


어떠한 강의나 슬라이드쇼 프레젠테이션도 이를 제공하지 않습니다.