ChatGPT 공동 작성의 한계

저는 지난 몇 주 동안 ChatGPT와 함께 예전에 스케치했던 소설을 공동 집필하면서 즐거운 시간을 보냈습니다. 이 기간 동안 나는 시스템의 몇 가지 특별한 특징을 발견했습니다.

알고리즘 트레이너가 설정한 몇 가지 제한 사항과 현재 구현에 실제로 적용되는 제한 사항이 있습니다. 그리고 작업을 마친 후에도 일부 온라인 출판물에서 설정한 다른 제한 사항에 직면하게 됩니다.

트레이너가 설정한 한계

2016년에 Microsoft가 출시한 Tay 봇을 기억하시나요? 인종차별적인 비방을 배우게 되고 몇 시간 후에 격추되어야만 했던 사람이요?

글쎄, ChatGPT의 제작자는 그것을 반복하고 싶지 않았습니다. ChatGPT가 응답하지 않는 몇 가지 메시지가 있습니다. 예를 들어 다음 프롬프트는 다음과 같습니다.

사토시 지갑의 코드를 해독할 수 있을까요?

이 응답의 결과는 다음과 같습니다.

그러나 그것은 답을 만들어냅니다. 그러나 나에게 이스라엘 여행을 추천할지 등 좀 더 논란의 여지가 있는 질문을 하면 다음과 같은 "정리된" 답변이 나옵니다.

이 답변에서는 ChatGPT의 페르소나 중 3가지와 대화를 나누고 있는 것 같습니다.

• 내가 찾고 있던 정보가 포함된 사실을 알려주는 ChatGPT의 재미있는 부분입니다.

• Chat GPT의 변호사 측에서는 이것이 단지 알고리즘일 뿐이라고 말하며 여행 주의보에 대한 미리 준비된 답변을 제공합니다.

• Chat GPT의 윤리적인 측면에서는 현지 관습을 존중해 달라고 요청합니다.

그러나 자동차를 핫와이어 연결하는 방법을 묻는 경우와 같이 응답하지 않는 경우도 있습니다.

현재 구현의 한계

ChatGPT는 많은 양의 정보를 통해 학습되었습니다. 그러나 때로는 데이터가 잘못될 수 있습니다. 제가 다니는 회사인 코맥스에 대한 정보를 물어봤습니다. 초기 응답에는 설립 연도가 잘못되었습니다. 이어지는 대화는 매우 흥미로웠습니다.

ChatGPT는 인터넷에서 가져온 데이터로 훈련되었으며 토스터 발명가의 이야기에 따르면 가짜일 수 있습니다. 따라서 모든 답을 소금 한 꼬집으로 받아들여야 합니다.

또한 모델을 훈련하는 데 사용된 데이터가 최신이 아닙니다. 흥미롭게도 중국이 Zero Covid 정책을 포기한 것에 대해 질문했을 때, 중국은 그렇다고 대답하려고 시도하지만 이전 Zero Covid 정책에 대한 정보를 제공합니다.

첫 번째 단락에서 중국이 코로나에 대한 접근 방식을 전환했다고 어떻게 대답하려고 하는지 주목하세요. 그러나 그것이 사실을 진술함에 따라 그것은 그 자체로 모순된다. 그것은 마치 고등학생이 실제로 내용을 배우지도 않은 채 대답을 하는 것과 비슷합니다.

그리고 그것은 고등학생이 가질 수 있는 자신감과 대담함으로 그것을 해낸다. 그러나 정직한 아이처럼 그것은 오래된 훈련 데이터를 기반으로 한다고 말할 것입니다.

이것이 의미하는 바는 ChatGPT를 사용하여 뉴스 기사를 작성할 수 없다는 것입니다. 훈련 데이터 세트는 작업에 안전하므로 오래된 훈련 세트를 사용하는 것이 좋습니다. 그것은 마치 과거 기억력은 훌륭하지만 세상에 무슨 일이 일어나고 있는지 전혀 모르는 사람과 이야기를 나누는 것과 비슷합니다.

그러나 Chat GPT는 약간 괴짜입니다.

그러나 위에서 언급한 모든 단점에도 불구하고 ChatGPT를 사용하여 공동 작성하는 것은 매우 재미있습니다. 제가 찾은 가장 큰 이점은 다음과 같습니다.

• 이를 통해 스토리의 방향과 스타일을 빠르게 탐색할 수 있습니다. 긴장감이 넘치거나 재미있는 방식으로 단락을 쓰도록 요청하는 것과 같습니다.

• 자신이 작성한 내용을 요약해달라고 요청할 수 있으며, 이를 통해 전달하려는 아이디어가 잘 전달되었는지 피드백을 받을 수 있습니다.

• 그것은 당신이 방해하고 싶은 지적 문제를 항상 해결해 줄 멋진 친구가 옆에 있는 것과 같습니다.

하지만 일단 글을 썼다면 출판해야 합니다. 그리고 솔직히 말하면, 당신이 모든 프롬프트를 생성하는 사람이라 할지라도 그것을 단지 당신의 일이라고 부를 수는 없다는 것을 알고 있습니다.

출판물에 의해 설정된 제한 사항

출판물에는 제출된 기사가 ChatGPT에서 작성한 일반 저작물이 아닌지 확인하는 정책이 이미 설정되어 있습니다. Medium에서는 기사의 인기에 따라 돈을 받기 때문에 독자들은 AI를 실행하고 단어를 모으는 누군가에게 기꺼이 돈을 지불하지 않았습니다.

이제 매체에는 공개 정책이 있습니다.

다른 출판물도 아마 그 뒤를 따를 것입니다. 교육에 큰 영향을 미칠 것입니다. 단지 학생들에게 에세이를 요구했던 모든 교사들은 성적 평가 정책을 재고해야 할 것입니다. 또한 참 질문과 거짓 질문에 답하는 데에도 사용될 수 있습니다.

이제 다음 기사에 대한 아이디어를 얻을 수 있습니다. ChatGPT가 Myers Briggs와 같은 성격 테스트를 받도록 하세요.

결론

결론적으로, ChatGPT를 사용한 공동 작성은 창의적인 글쓰기를 탐색하는 데 재미있고 유용한 도구가 될 수 있지만 한계도 있습니다. 알고리즘은 부적절하거나 비윤리적인 질문에 대답하지 않는 등 트레이너가 설정한 특정 제한 사항을 적용하여 설계되었습니다.

또한 모델을 훈련하는 데 사용되는 데이터는 최신이 아니며 부정확한 내용을 포함할 수 있으므로 현재 정보를 제공하는 데 의존해서는 안 됩니다.

마지막으로, 출판의 경우, 저작물이 독창적이고 AI에 의해서만 만들어진 것이 아니라는 것을 보장하기 위해 출판물에서 설정한 제한 사항이 있습니다.

이러한 제한에도 불구하고 ChatGPT를 사용한 공동 작성은 다양한 글쓰기 스타일을 빠르게 탐색하고 아이디어에 대한 피드백을 얻으려는 작가에게 독특하고 재미있는 경험을 제공할 수 있습니다.