GPT-3이란 무엇이며 현재 직업에 어떤 영향을 미칠까요?
3 분. 읽다
에 업데이트 됨
이 기사 공유
이 가이드를 개선하세요
공개 페이지를 읽고 MSPoweruser가 편집팀을 유지하는 데 어떻게 도움을 줄 수 있는지 알아보세요. 자세히 보기
GPT는 Generative Pre-training Transformer(GPT)의 약자이며, Alec Radford가 작성하고 Elon Musks의 인공 지능 연구소인 OpenAI에서 2018년에 출판한 언어 모델입니다. 언어의 생성 모델(두 개의 신경망이 경쟁을 통해 서로를 완성함)을 사용하고, 긴 연속 텍스트가 있는 다양한 서면 자료 세트에 대한 사전 교육을 통해 세계에 대한 지식을 습득하고 장거리 종속성을 처리할 수 있습니다.
GPT-2(Generative Pretrained Transformer 2)는 2019년 8월에 발표되었으며 Reddit 제출을 통해 공유된 기사의 총 40GB 텍스트에 대해 XNUMX백만 문서에 대해 훈련된 감독되지 않은 변환기 언어 모델입니다. Elon Musk는 가짜 뉴스로 소셜 네트워크를 스팸하는 데 사용될 수 있다고 우려하여 공개를 꺼리는 것으로 유명했습니다.
2020년 3월 OpenAI는 GPT-3(Generative Pretrained Transformer 2)를 발표했습니다. 이 모델은 GPT-175(1.5억 대 2억 매개변수)보다 XNUMX배 더 많은 매개변수를 포함하고 GPT-XNUMX보다 극적인 개선을 제공합니다.
텍스트 프롬프트가 주어지면 GPT-3은 텍스트 완성을 반환하여 사용자가 제공한 패턴과 일치시키려고 시도합니다. 원하는 작업의 몇 가지 예만 표시하여 "프로그래밍"할 수 있으며 아래 텍스트와 같이 전체 GPT-3에서 작성한 완전한 기사 또는 이야기를 제공합니다.
GPT-3은 번역, 질문 답변, 클로즈 작업을 비롯한 많은 NLP 데이터 세트에서 강력한 성능을 발휘할 뿐만 아니라, 새로운 단어를 사용하여 스크램블링 단어와 같이 즉석 추론 또는 도메인 적응이 필요한 여러 작업을 수행합니다. 문장, 또는 3자리 산술 수행. GPT-3는 인간 평가자가 인간이 작성한 기사와 구별하기 어려운 뉴스 기사 샘플을 생성할 수 있습니다.
마지막 응용 프로그램은 항상 OpenAI를 걱정했습니다. GPT-3는 현재 공개 베타로 제공되며, 유료 비공개 베타도 결국 제공될 예정입니다. OpenAI는 괴롭힘, 스팸, 급진화 또는 아스트로 터핑과 같은 명백히 유해한 사용 사례에 대해 API 액세스를 종료할 것이라고 말했습니다.
가장 명백하게 위협받는 인구는 스크립트 작성자와 같은 서면 작업을 생산하는 사람들이지만 AI 개발자는 이미 GPT-3을 사용하여 코드를 작성하는 것과 같은 놀라운 응용 프로그램을 발견했습니다.
예를 들어 Sharif Shameem은 원하는 것을 일반 텍스트로 설명하고 모델이 적절한 코드를 생성하는 레이아웃 생성기를 작성했습니다.
이것은 마음이 부는 것입니다.
GPT-3을 사용하여 원하는 레이아웃을 설명하는 레이아웃 생성기를 구축하고 JSX 코드를 생성합니다.
뭐 트윗 담아 가기
— 샤리프 샤임(@sharifshameem) 2020 년 7 월 13 일
Jordan Singer도 마찬가지로 일반 텍스트 설명을 사용하여 앱을 만들 수 있는 Figma 플러그인을 만들었습니다.
이것은 모든 것을 바꿉니다. ?
GPT-3를 사용하여 설계할 Figma 플러그인을 만들었습니다.
나는 그것을 "디자이너"라고 부른다 pic.twitter.com/OzW1sKNLEC
— 조던 가수 (@jsngr) 2020 년 7 월 18 일
천식을 진단하고 약물을 처방하는 데에도 사용할 수 있습니다.
So @오픈AI 개발자가 본질적으로 가장 강력한 텍스트 생성기를 사용할 수 있게 해주는 도구에 대한 조기 액세스를 제공했습니다. 나는 의학적인 질문을 해서 그것을 테스트할 것이라고 생각했다. 굵은 글씨는 AI가 생성한 글씨입니다. 인크레더블… (1/2) pic.twitter.com/4bfpI09CL
— 카심 무니예(@qasimmunye) 2020 년 7 월 2 일
다른 응용 프로그램은 검색 엔진이나 일종의 신탁으로서 어려운 개념을 설명하고 확장하는 데 사용할 수도 있습니다.
나는 GPT3 위에 완벽하게 작동하는 검색 엔진을 만들었습니다.
임의의 쿼리에 대해 정확한 답변과 해당 URL을 반환합니다.
전체 영상을 보세요. 정말 좋습니다.
참조 : @gdb @npew @그웨른 pic.twitter.com/9ismj62w6l
— 파라스 초프라(@paraschopra) 2020 년 7 월 19 일
이 접근 방식이 인간처럼 이해하고 추론하고 대화할 수 있는 일반 AI로 직접 이어질 수 있는 것처럼 보이지만 OpenAI는 GPT-3에서 수천 페타플롭/s일의 컴퓨팅이 필요한 근본적인 확장 문제에 직면했을 수 있다고 경고합니다. , 전체 GPT-2의 경우 수십 페타플롭/s-days와 비교됩니다. 우리가 가까이 있지만 우리의 모든 직업을 쓸모없게 만들 돌파구는 아직 멀게만 느껴집니다.
GPT-3에 대해 자세히 알아보기 여기 GitHub에서.
