ChatGPT 및 기타 챗봇의 인간 편견이 사회 혼란을 초래할 수 있는 이유

의심할 여지없이 AI 혁명은 새로운 기술 발명을 담당해 왔습니다.

그 혼란으로 인해 현재 사람들이 21세기에 살고, 상호 작용하고, 사회화하는 방식을 형성하고 있는 챗봇 및 ChatGPT와 같은 AI 모델이 도입되었습니다.

오픈AI 챗봇인 ChatGPT는 지난해 출시된 지 불과 두 달 만에 전 세계 사용자 1억 명을 돌파했다.

이에 따라 Google은 사람들에게 검색 결과에서 쉽게 소화할 수 있는 정보를 제공하는 AI 기반 대화 모델 인 Bard의 출시도 발표했습니다 .

이는 모두 기념비적인 성과로, AI 개발이 인간의 편안한 생활 방식을 보장하는 데 얼마나 가까운지를 보여줍니다. 하지만 약간의 누락이 있을 수 있습니다.

AI 혁명의 문제

AI의 도움으로 인간사를 처리하는 더 나은 방법을 만드는 것은 몇 가지 의미를 갖습니다.

ChatGPT 및 기타 고급 챗봇과 같은 고급 AI 모델의 출현은 이미 인간의 일자리에 위협을 가하고 있습니다.

조만간 AI는 은밀하게 인간의 일자리를 빼앗 거나 해당 분야에서 많은 근로자를 쓸모없게 만들 것입니다.

AI가 혁명을 일으키면서 일자리 붕괴는 불가피하다는 관측이 나온다. 하지만 이러한 AI 모델이 번갈아 인간의 삶에 침투해 사물의 질서를 바꾸는 과정에서 주목해야 할 부분이 더 많다.

심각한 관찰이 필요한 이러한 신기술(ChatGPT 및 기타 챗봇)과 관련된 잠재적인 문제는 이러한 모델이 어떻게 사회적 혼란을 일으킬 수 있는지입니다.

OpenAI CEO인 Sam Altman에 따르면 ChatGPT와 싸우는 주요 문제 중 하나는 편견 문제입니다.

인간의 편견은 ChatGPT의 주요 문제로 확인되었으며, 물론 OpenAI의 ChatGPT에만 국한되는 것은 아닙니다.

선택적 인간 선호 문제가 있는 다른 챗봇이 있습니다.

AI 편견 통계

Tidio의 연구 에 따르면 AI에 편견이 없다고 생각하는 사람은 2%에 불과합니다. 대조적으로, 응답자의 45%는 AI의 주요 현대 문제가 사회적 편견이라고 생각합니다.

이는 ChatGPT 등 AI 챗봇의 판단과 운영에 있어서 여전히 공정성이 부족하다는 것을 의미합니다. 이러한 AI 모델을 사용하면 인간의 편견이 표면적으로 두드러지기 때문입니다.

AI(인간) 편견이란 무엇입니까?

AI 편향은 편향된 데이터를 이용해 모델 알고리즘을 훈련할 때 발생하는 인공지능 문제로, 이는 궁극적으로 기계의 판단에 영향을 미친다.

데이터 과학 및 AI 책임자인 스티브 누리(Steve Nouri)는 AI에서 편견의 역할을 설명하면서 AI에서 인간의 편견은 성 편견, 인종 편견, 연령 차별이라는 세 가지 형태로 나타난다고 밝혔습니다.

AI에 대한 인간의 편견은 손상된 데이터 또는 개발자의 책임으로 간주됩니다.

이는 챗봇이 스스로 인종차별적 비방을 하거나, 상처를 주는 발언을 하거나, 특정 집단을 차별하는 것이 거의 불가능하다는 것을 보여줍니다.

단, 모델에서 사용되는 편향된 알고리즘이나 데이터가 있는 경우는 제외됩니다.

좋은 예는 2016년 인종 차별적이라는 비난을 받은 Microsoft Twitter 챗봇 Tay의 갑작스러운 종료 입니다.

최근 출시된 OpenAI 대화 모델인 ChatGPT도 도널드 트럼프 미국 전 대통령에 대해 '반보수적 편견과 원한 '을 품고 편파적이라는 비난을 받아왔다.

챗봇의 인간적 편견이 사회 혼란을 초래할 수 있는 이유

도널드 트럼프 전 대통령에 대한 ChatGPT의 정치적 편견은 소셜 미디어에서 AI 모델과 개발 회사인 OpenAI에 대한 높은 비판을 불러일으켰습니다.

광범위한 포위 공격에 대응하여 OpenAI CEO인 Sam Altman은 2월 초에 이 문제를 언급하는 트윗을 올렸습니다 . Sam에 따르면 ChatGPT 편견을 근절하고 개선하기 위한 조정이 진행 중입니다.

Sam은 자신의 트윗에서 OpenAI 직원을 향한 "증오"가 있었다고 인정했으며, 이는 "끔찍하다"고 생각했습니다.

그는 또한 자신의 회사가 중립성을 장려하고 사용자가 개인 취향에 따라 시스템을 사용할 수 있도록 챗봇 기본 설정을 개선하기 위해 노력하고 있다고 밝혔습니다.

하지만 이런 일은 쉽게 일어나지 않을 것이다. Sam조차도 그 과정이 어렵고 구현하는 데 시간이 걸릴 것이라고 인정했습니다.

ChatGPT의 정치적 편견으로 인해 OpenAI 직원에 대한 부당한 공격이 발생했습니다. 이는 편향된 AI 모델의 사회적 결과를 평가하기에 충분한 지표입니다.

AI 편견은 개인과 커뮤니티에 심각한 결과를 초래할 수 있습니다. 이는 집단에 대한 부당한 비판이나 차별로 이어질 수 있으며, 이는 간접적으로 적대감이나 사회적 폭발을 낳을 수 있습니다.

그렇기 때문에 현재의 편견을 무시하지 말고 오히려 실행 가능한 솔루션을 요구하는 것이 중요합니다 .

샘이 말했듯이 '다른 사람을 공격하는 것'은 AI 분야의 발전에 큰 영향을 미치지 않습니다. AI 챗봇 편견을 줄이기 위한 가능한 옵션에 주의를 기울여야 합니다.

AI 챗봇의 편견을 줄이는 방법

AI 챗봇의 인간 편견은 편향된 알고리즘이나 데이터 및 모델 개발자를 사용하여 발생합니다. AI의 편견을 방지하려면 챗봇 구축 시 다음 사항을 준수해야 합니다.

다양한 기원의 개발자

AI의 알고리즘 편향이나 데이터 편향은 인간인 개발자가 자연스럽게 접근 방식에 편향되어 있기 때문에 대부분 가능합니다.

동질적인 개발자들로 구성된 팀이 특정 삶의 문제에 대한 자신의 견해와 관점을 선호하거나 지지하는 AI 모델을 구축하는 것은 쉽습니다.

이러한 일이 발생하지 않도록 하려면 알고리즘 편향을 관찰하고 줄이는 데 도움을 줄 수 있는 다양한 데이터 과학자 로 구성된 팀을 고용해야 합니다.

합성 데이터의 사용

AI 모델은 검열되지 않은 대량의 데이터를 소비하므로 편향됩니다. 챗봇 편견을 근절하는 한 가지 방법은 개발자가 철저하게 관찰한 합성 데이터를 모델에 사용하도록 하는 것입니다.

투명도

ChatGPT가 발견한 편견에 대한 반발로 OpenAI는 자사의 새로운 AI 챗봇이 여전히 "사실을 정확하게 유지하는 데 문제가 있고 때때로 유해한 지침을 발행하는 데 문제가 있다"는 점에 동의했습니다.

AI 회사는 중요하거나 민감한 정보에 대해 챗봇을 여전히 신뢰할 수 없는 이유를 사람들에게 알리기 위해 나왔습니다.

이는 챗봇에서 인간의 편견을 억제하는 데 필요한 투명성의 한 형태입니다. 모델의 약점을 언급함으로써 사회적 혼란이 확대되기 전에 길들일 수 있습니다.

개발 전후 모델 테스트

명시된 대로 개발자는 모델이 개발되기 전과 후에 모델을 테스트해야 합니다.

챗봇의 기능을 평가하고 테스트 원인으로 표면화될 수 있는 모든 형태의 편견을 해결하는 데 오랜 시간이 걸릴 수 있습니다.

데이터 과학자가 AI 챗봇이 작동하는 데 필요한 데이터를 면밀히 연구할 수 있도록 하고, 모델이 어떻게 반응할지, 또는 변질된 정보를 구성할지 완벽하게 만드는 것은 개발 후에 수행해야 하는 필수 검사여야 합니다.

결론

ChatGPT는 다른 모든 챗봇과 마찬가지로 여전히 인간의 편견에서 자유롭지 못합니다. 이는 AI가 학습한 데이터와 개발자의 개인적 선호에 의해 발생하는 근본적인 문제입니다.

개발자와 데이터 과학 팀이 이러한 AI 모델에서 사용되는 데이터 수집에 대한 접근 방식에서 임상적이고 객관적이기 시작하면 AI 편견은 소멸을 향한 여정을 시작할 것입니다.