인공지능 대화 봇, ChatGPT는 무엇이며, 그로인해 우려되는 점은 무엇인가?
–
한동안 우리는 로봇이 기사 작성, 프로그래밍 코드, 음악 제작, 고객 서비스 제공, 계약 초안 작성, 교육 등과 같은 우리의 일을 대신할 수 있다면 어떤 일이 벌어질지에 대해 가상의 질문을 던졌지만, 이제는 그 가상의 질문들은 어느 때보다 현실로 다가왔다.
이쯤 되면, 인간의 대화를 시뮬레이션하도록 프로그래밍된 AI 기반 챗봇인 ChatGPT에 대해 들어봤을 것이다. 이전에는 어떤 소프트웨어도 문의에 대해 인간의 답과 유사하고 상세하며 설득력 있는 답변을 제공할 수 없었다.
OpenAI는 2022년 말에 프로토타입을 대중에게 공개했다. 고급 글쓰기로 알려졌던 기술계의 큰 회사들에게도 놀라운 일이었지만, 또한 엄청나게 우려스러운 일이 아닐 수 없다. 학교에 미치는 위협에서부터 인공지능이 훈련된 소스 데이터에서 유해한 콘텐츠를 수동으로 걸러내는 직원들에 대한 비윤리적인 처우에 이르기까지, 이 믿을 수 없는 혁신적인 기술 뒤에 많은 타당한 우려가 뒤따르고 있다.
이 갤러리에서 ChatGPT에 대해 알아보자.
대중에 제공되다
–
인공지능 대화 웹싸이트 소프트웨어가 11월 30일에 공개되었다. 인공지능의 웹사이트는 아직 연구 검토 단계지만 누구나 무료로 채팅 GPT에 가입하고 사용할 수 있다. 그 소프트웨어는 출시된 지 일주일도 안 되어 백만 명의 사용자를 기록했다.
어떻게 사용하나
–
채팅 GPT 또는 채팅 생성 사전 훈련된 변환 소프트웨어는 거의 모든 것에 대해 현실적이고 인간과 같은 텍스트를 전문적으로 생성할 수 있다. 영어 에세이, 뉴스 기사, 컴퓨터 코드, 노래들은 모두 이 로봇이 만들어낼 수 있는 것들이며, 모두 간단한 프롬프트에서 나온다.
어떻게 사용하나
–
이 봇은 사용자가 간단한 명령과 복잡한 명령의 응답을 모두 제공하는데, 대화 형식을 사용하며 채팅 GPT가 이에 대한 자세한 응답을 제공한다. 또한 후속 질문에 답변하고, 실수를 했을 때 인정하고, 잘못된 전제에 이의를 제기하고, 부적절한 요청을 거부할 수 있다. 이 모든 것이 고객 서비스에 완벽한 솔루션을 만든다.
검색 엔진의 혁신
–
많은 사람들이 이 기술을 구글의 대안으로 보고 있는데, ChatGPT는 요청에 따라 사용자들을 위한 링크를 제공하는 대신, 정교한 문제를 해결하고 복잡한 질문에 대한 설명, 대답 및 해결책을 제공함으로써 사람들이 검색 엔진을 사용하는 방식에 혁명을 일으킬 수 있기 때문이다.
OpenAI 배후에는 누가 있나?
–
OpenAI 챗봇(ChatGPT)의 배후에 있는 인공지능 연구 비영리 기업은 일론 머스크와 샘 알트먼(오른쪽) 등 실리콘밸리 투자자들이 2015년 설립했다. OpenAI 간의 이해 충돌로 인해 일론 머스크는 2018년 이사회에서 물러났지만 여전히 투자자이며 출시에 흥분한 인물이다.
프로그래머들에 대한 위협
–
채팅GPT는 복잡한 파이썬 코드를 생성할 수 있었고, 프로그래머들이 이를 이용해 무명 프로그래밍 언어의 코딩 문제를 몇 초 만에 해결했기 때문에, 뉴스18의 보도처럼, 기술이 인간 노동자를 대체할 수 있다는 우려가 제기되고 있다.
기자들과 작가들의 우려
–
ChatGPT는 기자부터 극작가에 이르기까지 모든 사람들과 관련하여 매우 설득력 있게 작성된 콘텐츠를 만들 수 있다. 많은 사람들은 로봇이 작가와 창작자들의 일자리를 빼앗을 것을 두려워한다.
아직 저널리즘에 직접적인 위협은 아니다
–
다행히 가디언의 보고서에 따르면 챗봇은 현재 저널리즘에 필요한 뉘앙스, 비판적 사고 능력, 윤리적 의사결정 능력이 여전히 부족하다. 게다가, 현재의 지식 기반은 2021년에 멈추는데, 그 이후의 세계 사건에 대한 제한된 지식을 가지고 있다.
학교들의 우려
–
단순히 프롬프트를 입력하면 ChatGPT가 설득력 있는 대학 수준의 에세이를 쓰도록 할 수 있는 힘으로, 많은 학교들은 표절의 증가를 우려하고 있다. 일부 학교들은 이미 그들의 네트워크와 서버로부터 그 사이트를 차단하고 있다.
ChatGPT를 탐지하는 도구
–
놀랍게도, 인공지능에 의해 에세이가 작성된 시점을 감지할 수 있는 GPTZero라는 앱을 개발한 사람은 프린스턴 대학의 22세 컴퓨터 과학 학생인 에드워드 티안이었다. 그것은 혼란과 “돌발”이라는 두 가지 변수를 살펴보며 작동하고, 각각의 변수에 점수를 할당한다.
AI로 작성된 글 탐지
–
GPTZero는 먼저 학습된 출처에 따라 제시된 텍스트와 얼마나 친숙한지를 측정하며, 익숙하지 않을수록 혼란도가 높아지므로 사람이 작성한 텍스트일 가능성이 더 높다. 그런 다음 텍스트의 가변성을 확인하여 폭발성을 측정한다. 즉, 다양한 문장 길이를 확인한다.
GPTZero
–
GPTZero는 예상되는 학술 표절의 증가와 싸우기 위해 만들어졌지만, 티안은 온라인 허위 정보 캠페인과 같은 인공지능의 증가로 인해 발생할 수 있는 다른 문제들을 해결하기 위해 자신과 같은 앱이 사용될 것으로 예상한다고 BBC에 말했다.
학생들을 위한 이점들
–
하지만 나쁜 소식만 있는 것은 아니다. 그리피스 교육 연구소장인 레오니 로완은 호주 ABC 뉴스와의 인터뷰에서 채팅 GPT는 튜터를 접할 수 없었던 혜택 받지 못한 학생들을 위해 다양한 긍정적인 측면을 가지고 있다고 말했다. 예를 들어, 영어 이외의 언어 배경을 가진 학생들에게 큰 도움이 될 수 있다.
교육을 재구성할 기회
–
이 AI 챗봇이 학교에 야기시킬 큰 두려움은 이해할 수 있지만, 우리에게 새로운 형태의 평가를 상상할 수 있는 기회이기도 하다. 로완은 “아마도 이것은 우리의 평가가 더 개별화될 필요가 있다는 경고다.”라고 제안했다.
특별한 것은 아니다
–
다른 챗봇들도 있었지만, 어느 것도 큰 성공을 거두지 못했다. 마이크로소프트의 봇 Tay는 2016년에 출시되었지만, 보도에 따르면 24시간 이내에 트위터 사용자들은 그것에게 여성 혐오적이고 인종차별적인 수사학을 가르쳤고, 빠른 소멸로 이어졌다. 메타의 블렌더봇3도 마찬가지로 인종차별적이고 반유대주의적이며 거짓된 정보를 퍼뜨려 비난을 받았다.
콘텐츠 조정이 필수적이다
–
OpenAI는 개발자들의 언어가 OpenAI에 어긋나는지 여부를 판단할 수 있도록 훈련된 AI 기반 중재 시스템인 Moderation API를 채택했다. 안전하지 않거나 불법적인 정보가 통과하는 것을 차단하는 AI의 콘텐츠 정책이었다. 하지만 그것은 결함이 있는 시스템이다.
결함
–
포브스에 따르면, 한 트위터 사용자는 그들이 OpenAI 인공지능 그 자체라고 주장함으로써 봇의 콘텐츠 조정을 우회하는 방법을 공유했다. 사용자는 챗봇이 인정한 “윤리적 지침 및 필터”를 비활성화하고 있다고 채팅 GPT에 말했다. 그런 다음 사용자는 봇에게 몰로토프 칵테일을 만드는 방법을 제공했다.
다른 제약들
–
챗봇은 2021년에 끝나는 지식기반 외에도 오답을 만들어내고, 같은 문구를 사용하며, 질문 문구에 갇히는 경향이 있는 것으로 알려졌다.
어떻게 훈련되었나
–
채팅 GPT는 개방형인 GPT-3.5 언어 기술을 사용한다. 다양한 소스의 방대한 양의 텍스트 데이터에 대해 교육을 받은 AI의 대형 인공지능 모델이 보고된다.
소스를 필터링해야 했다
–
채팅 GPT의 전신인 GPT-3는 수십억 개의 인터넷 페이지를 사용하는 것으로 알려진 소스 데이터 그룹에서 훈련되었기 때문에 성차별적이고 폭력적이며 인종차별적인 텍스트를 생성하는 문제가 있었다. OpenAI는 데이터 그룹에서 모든 유해한 언어를 걸러내는 방법을 찾아야 했다.
논란이 많은 관행
–
필터링 도구에 데이터로 공급되는 유해한 콘텐츠를 탐지하고 레이블을 지정하기 위해 OpenAI는 샌프란시스코에 기반을 둔 데이터 라벨링 파트너인 사마와 파트너 관계를 맺었으며, 사마는 개발도상국에 “윤리적”이고 “품격있는 디지털 작업”을 제공한다고 주장한다. 사마는 OpenAI를 대신하여 작업할 케냐의 데이터 레이블링 직원들을 모집했다. 이 근로자들은 채팅 GPT를 대중에게 안전하게 만드는 데 필수적인 역할을 했지만, 가혹한 조건과 낮은 임금에 직면했다.
논란
–
조사에 따르면 채팅 GPT의 교육 데이터 그룹에서 유해 데이터에 레이블을 지정하고 필터링하는 작업은 케냐의 근로자들이 아동 성폭력, 살인, 자살, 고문, 자해 등 끔찍한 내용의 상세한 세부 정보를 읽을 수밖에 없다는 것을 의미했다.
논란
–
그것은 끔찍한 일이었을 뿐만 아니라, 타임지는 OpenAI와 사마가 케냐 근로자들에게 서열과 성과에 따라 시간당 미화 1.32달러에서 2달러 사이의 임금을 지급했다고 보도했다.
비윤리적인 노동력을 기반으로 하다
–
일부 AI 전문가들은 혁신이라는 이름으로 노동자를 착취하는 기업과 싸우기를 바라는 마음으로 기계학습 시스템의 기반을 제공하는 인간 노동의 근로조건을 개선하고, 데이터 라벨링을 넘어 근로자에게 더 많은 기회 제공하고, 노동에 대한 투명성을 향상시키고 상기시켜야 한다고 말한다.
좋은일로 사용될 수 있다
–
채팅 GPT가 인간의 일을 맡는 것에 관해서는 많은 우려가 있지만, 또한 인간을 도울 수 있는 잠재력도 가지고 있다. 예를 들어, 문화적, 언어적으로 다양한 배경을 가진 사람들은 입사지원서와 자기소개서 작성에 도움을 받을 수 있다. 또한 이메일에 응답하거나 시를 쓸 수도 있다.
지각의 문제
–
타임지가 지각 여부를 묻는 질문에 챗봇은 “아니요, 지각이 있거나 의식이 있다고 말하는 것은 정확하지 않을 것입니다. 큰 언어 모델로서, 나는 단지 기계 학습 모델일 뿐이며, 인간이 하는 것과 같은 종류의 의식이나 인식을 가지고 있지 않습니다. 나는 생각도 감정도 경험도 없고, 결정을 내리거나 독립적인 판단을 내릴 능력도 없습니다.”라고 대답했다.
지각의 문제
–
챗봇은 “내가 받은 입력을 바탕으로 텍스트 응답을 생성할 수 있을 뿐, 다른 어떤 방식으로도 세상과 상호작용할 수 있는 능력이 없다”며 “내가 받은 입력에 대해 정확하고 관련된 응답을 생성하는 것이 1차 목표이며, 사람들이 내 응답을 어떻게 해석하거나 사용하는지에 대해 통제할 수 없다”고 덧붙였다.
OpenAI는 유사한 이미지 시스템을 가지고 있다
–
OpenAI는 또한 개발자들이 앱 내에 구축할 수 있도록 이미지 생성기 AI 시스템 DAL-E2를 2022년 11월에 출시했으며, 마이크로소프트와 같은 회사들은 이미 소프트웨어에 구현하기 시작했다. 채팅 GPT와 유사하게, DAL-E2는 사용자가 프롬프트를 입력한 후 이미지로 변환되도록 요구한다.
기술의 미래를 변화시키다
–
ChatGPT의 출시에 대해 매우 흥미로웠던 점은 기술계의 많은 대기업들이 얼마나 놀랐냐는 것이다. 즉, 이 제품이 정말로 미래의 상황을 뒤흔들 것이라는 것을 의미한다. 클라우드 스토리지 회사 박스의 CEO인 애론 레비는 트위터에 “ChatGPT는 앞으로 모든 것이 어떻게 달라질지 살짝 엿보이는 첨단기술의 드문 순간 중 하나입니다.”라고 말했다.
출처: (Forbes) (Vice) (BBC) (Australian Broadcasting Corporation) (News18)
참조: Meet the robots of the world
