OpenAI가 AI 감지 도구를 만들었는데, 왜 출시하지 않을까?

OpenAI는 2022년 11월에 ChatGPT를 출시하면서 적어도 기술계에서는 하룻밤 사이에 유명해졌습니다. 기업과 개인은 이 도구를 빠르게 채택하여 일상적인 작업을 자동화하는 데 사용하기 시작했습니다.

AI가 생성한 텍스트와 이미지의 한 가지 문제점은 기존 작품을 미러링할 수 있다는 것입니다. 어떤 사람들은 소프트웨어를 표절했다고 비난했고, 다른 사람들은 인간이 만든 작품만큼 자세하지 않다고 생각합니다. 모든 곳의 고용주는 타겟 청중의 요구를 충족하고 기술을 활용할 최적의 시기를 알기 위해 AI 사용을 감지하는 더 나은 방법을 원합니다.

Open AI는 AI 탐지 도구를 만들어 대응했지만 아직 출시하지 않았습니다. 많은 사람들이 지연의 이유와 대중에게 공개될지 알고 싶어합니다.

OpenAI가 자체 도구 출시를 주저하는 이유는 무엇일까?

TechCrunch는 OpenAI의 탐지 도구를 설명하는 기사를 게재했습니다. 이 도구는 컴퓨터 프로그램이 논문을 쓰게 하여 부정행위를 하는 학생을 잡는 것을 목적으로 합니다. 이 회사는 이를 공개하지 않고 보류해 놓았고, 일부에서는 그 이유에 대해 의문을 제기했습니다. OpenAI의 한 대표는 이 회사가 도구의 더 광범위한 영향 시간을 들여서요.

다른 많은 탐지 도구는 효과가 없어서 때로는 거짓 양성을 만들고 때로는 AI가 생성한 텍스트를 탐지하지 못했습니다. OpenAI의 제품은 주로 ChatGPT에서 워터마크가 찍힌 텍스트를 탐지하는 데 중점을 둡니다. 출시하지 않는 한 가지 이유는 영어가 모국어가 아닌 화자에게 부정적인 영향을 미칠 수 있다는 우려 때문입니다. 또한 이 도구는 ChatGPT가 워터마크가 찍힌 단어를 추가할 때 작동 방식을 변경하도록 강제합니다.

도구의 더 광범위한 사용

해당 탐지 소프트웨어는 학생들이 AI를 이용해 논문을 쓰는 것을 적발하기 위해 만들어졌지만, 특히 대규모 사기를 퇴치하는 데 적용이 가능할 뿐만 아니라, 다른 여러 상황에도 적용될 수 있다.

예를 들어, 사이버 범죄자가 사용하는 컴퓨터 생성 텍스트를 잡는 데 AI 탐지 도구가 얼마나 유용할 수 있는지 생각해 보세요. 2023년에만 랜섬웨어 지불 작년 대비 두 배로 늘었다 10억 달러 이상이며 이 숫자는 계속 상승할 것으로 예상됩니다 AI의 보급으로 극적으로 증가했습니다. 소비자와 회사가 데이터 침해에 맞서기 위해 노력함에 따라 AI는 컴퓨터 생성 텍스트를 더 쉽게 찾을 수 있도록 만들 수 있습니다.

많은 사기에는 누군가의 감정적 심장을 울리거나 두려움을 유발하기 위한 유창한 말이 포함됩니다. 메시지가 합법적인지 확신할 수 없는 경우 사람들은 텍스트를 감지 도구로 실행하여 AI가 생성에 사용되었는지 확인할 수 있습니다. 많은 사기가 로봇이 쓴 텍스트를 포함하기 때문에 이는 매우 귀중할 수 있습니다.

탐지 도구 사용에 대한 주장

지금까지 AI 탐지 도구는 그다지 정확하지 않았습니다. 그들은 원본 콘텐츠를 AI가 생성한 것으로 잘못 표시했고, 학생들이 성적과 때로는 학업 경력을 위해 싸워야 했습니다. 대학과 고용주는 표절을 심각하게 여기기 때문에 거짓 비난은 누군가의 미래나 생계를 파괴할 수 있습니다.

사용자가 다음을 수행할 수 있는 경우에도 도구가 효과적이지 않을 수 있습니다. 사용하기 쉽고 다재다능한 소프트웨어에 연결 HumanizeAI와 RealWriter와 같은 AI 감지를 우회하는 데 도움이 되는 것들. 사람들은 정보를 표절하지 않고도 브레인스토밍을 하고 새로운 아이디어를 생성할 수 있는 방식으로 AI를 활용하는 법을 배워야 합니다. 그러나 그들은 감지기에 의해 플래그가 걸릴까봐 어떤 유형의 소프트웨어도 사용하지 않을 수 있습니다.

소프트웨어 반대자들은 탐지기를 작동시킬까봐 사람들이 덜 창의적이 될까봐 두려워합니다. StealthAI와 같은 프로그램은 AI가 생성한 텍스트를 다시 쓰다 더 인간적으로 들리도록 하기 위해서입니다. 그들은 또한 사람들이 ChatGPT와 같은 일반적으로 사용되는 도구에서 벗어나 동일한 워터마크가 없는 도구를 찾을 것이라고 말하며, 이는 탐지 도구를 효과적으로 쓸모없게 만듭니다.

사람들은 또한 도구를 사용하여 코드를 역엔지니어링하고 다음과 같은 것을 만드는 나쁜 플레이어에 대해서도 우려를 표명했습니다. AI를 활용해 딥페이크 영상 만들기 또는 DDoS 공격. 사이버 범죄자들은 이미 교활합니다. 아무도 사람들을 속여 개인 데이터를 공유하도록 하는 방법을 더 많이 제공하고 싶어하지 않습니다.

AI 탐지 도구의 이점

AI 탐지 도구에 대한 논쟁은 곧 무의미한 문제가 될 수 있습니다. 사람들은 영어가 모국어가 아닌 사람들이 뒤처지는 것에 대해 우려를 표명했지만, 소프트웨어 개발자들은 시간이 지남에 따라 언어 장벽 문제를 해결할 가능성이 큽니다.

많은 사람들은 OpenAI가 곧 도구를 출시할 것이라고 믿습니다. 보고서에 따르면 내부적으로 토론이 진행 중이었다 소프트웨어의 유용성과 포용성에 대한 우려에 대해 거의 2년 동안 논쟁을 벌였습니다. 어떤 사람들은 대학과 고용주가 AI 감지 도구를 사용하는 것의 이점을 봅니다.

AI 감지기 개발이 확대됨에 따라 다음과 같은 용도로 사용될 것으로 예상됩니다.

• 정치 캠페인에 사용된 가짜 영상 식별

• 다른 봇보다 더 정확하게 잘못된 정보를 찾아 표시합니다.

• 윤리적인 콘텐츠 생성

  
  

이 도구를 출시하면 다른 브랜드도 자체 프로그램을 만들고 AI 감지 성공률을 높이는 데 영감을 줄 수 있습니다.

AI 사용의 미래

좋아하든 싫어하든 AI는 계속 존재할 것입니다. 하지만 기업들은 처음 예상했던 것보다 AI를 수용하는 데 약간 더 느렸습니다. MIT는 이 기술이 다양한 비율로 채택됨 분야별로. 예를 들어, AI를 도입한 대부분의 기업은 제조 및 의료 분야에 있었습니다.

마케팅 부서에서 AI가 작동하는 방식과 구현 방법에 대해 점점 더 많이 알게 됨에 따라, 더 많은 브랜드가 AI를 사용하고 개인정보 문제와 복제를 방지할 수 있는 탐지 도구를 모색하게 될 것으로 예상됩니다.

AI를 잠시 사용한 사람들은 소프트웨어의 도움 없이도 감지할 수 있는 패턴을 알아차리기 시작합니다. 예를 들어, 거의 모든 기사의 서론은 비슷한 언어를 사용합니다. 레이아웃, 페이싱, 세부 사항은 동일합니다. 약간의 연습만 하면 대부분의 사람들은 AI가 생성한 작품을 상당히 정확하게 알아낼 수 있습니다.

지금 사람들에게 도구가 필요한 이유

AI가 생성한 콘텐츠를 정확하게 감지할 방법이 없다면 사람들은 온라인에서 읽는 내용을 신뢰하지 않을 수 있습니다. 다른 상황에서는 누군가가 AI를 사용했지만 공개하지 않았다고 의심하지만 증명하는 것이 불가능하다고 생각할 수 있습니다. 근로자는 무죄인데도 거짓으로 고발되거나 직장과 학위를 잃을 수 있습니다.

이 도구는 학생들이 공부를 거의 하지 않고 흥미도 없이 다른 사람의 노고와 땀, 눈물로 고급 학위를 취득하는 문제를 해결할 것입니다.

OpenAI의 제품은 교육 부문에서 가장 큰 영향을 미칠 가능성이 높습니다. 그러나 회사는 또한 고객이 읽고 싶어하는 고유하고 매우 타겟팅된 콘텐츠를 생산하기 위해 이를 활용할 수 있습니다.

복잡한 문제

OpenAI가 탐지 도구를 보류하기로 한 결정은 AI 기술이 성장하고 윤리적 문제가 발생함에 따라 최선을 다하고자 하는 데서 비롯되었습니다. 언젠가는 소프트웨어를 출시할 가능성이 높으며, 모든 교육자들의 안도감을 얻을 것입니다. 다른 산업에서 이를 어떻게 사용할지는 아직 알 수 없습니다. \

AI 프로그램을 개발하는 모든 회사는 도입하는 각 기능의 장단점을 균형 있게 조정해야 합니다. 그래야만 AI가 진보를 촉진하는 없어서는 안 될 도구가 될 것입니다.