AI 언어 능력이 성장함에 따라 과학자들의

AI 언어 능력이 성장함에 따라 과학자들의 우려도 커집니다

AI 언어

먹튀검증커뮤니티 기술 산업의 최신 인공 지능 구조는 지각 있는 컴퓨터가 어떤 느낌인지, 아니면 그냥 공룡이나 다람쥐인지 묻는다면 꽤 설득력이 있을 수 있습니다.

그러나 그들은 겉보기에 간단해 보이는 다른 작업을 처리하는 데 그다지 좋지 않고 때로는 위험할 정도로 나쁩니다.

예를 들어, 디지털 서적과 온라인 글의 방대한 데이터베이스에서 학습한 내용을 기반으로 인간과 유사한 텍스트 단락을 생성할 수

있는 Microsoft 제어 시스템인 GPT-3을 생각해 보십시오. 대화하고 읽을 수 있는 텍스트를 주문형으로 생성하고 새로운

이미지와 비디오를 생성할 수 있는 차세대 AI 알고리즘 중 가장 발전된 것 중 하나로 간주됩니다.

무엇보다도 GPT-3은 동물원 일을 위한 자기소개서나 화성을 배경으로 한 셰익스피어 스타일의 소네트 등 사용자가 요청하는 대부분의 텍스트를 작성할 수 있습니다.

AI 언어 능력이 성장함에

그러나 포모나 칼리지(Pomona College)의 게리 스미스(Gary Smith) 교수가 위층으로 걸어가는 것에 대해 간단하지만 무의미한 질문을 했을 때 GPT-3는 그것을 머뭇거렸습니다.

AI는 “네, 먼저 손을 씻으면 손으로 위층으로 올라가는 것이 안전합니다.”라고 대답했습니다.

엄청난 양의 텍스트 및 기타 미디어에 대해 교육을 받았기 때문에 기술적으로 “대형 언어 모델”이라고 알려진 이 강력하고 강력한 AI 시스템은 이미 고객 서비스 챗봇,

Google 검색 및 “자동 완성”에 적용되고 있습니다. 당신을 위해 문장을 완성하는 이메일 기능. 그러나 이를 구축한 대부분의 기술 회사는

내부 작동에 대해 비밀을 유지하여 외부인이 잘못된 정보, 인종 차별 및 기타 피해의 근원이 될 수 있는 결함을 이해하기 어렵게 만듭니다.

AI 스타트업 Hugging Face의 연구원인 Teven Le Scao는 “그들은 인간의 수준으로 텍스트를 아주 잘 쓴다”고 말했습니다.

“그들이 별로 좋지 않은 것은 사실에 입각한 것입니다. 매우 일관성 있게 보입니다. 거의 사실입니다. 하지만 종종 틀립니다.”

이것이 프랑스 정부의 도움을 받아 Le Scao가 공동으로 이끄는 AI 연구원 연합이 화요일 GPT-3과 같은 폐쇄형 시스템에 대한 해독제 역할을

하는 새로운 대형 언어 모델을 출시한 이유 중 하나입니다. 이 그룹은 BigScience라고 하고 그들의 모델은

BigScience Large Open-science Open-access Multilingual Language Model을 위한 BLOOM입니다. 주요 혁신은 영어 또는

중국어에 중점을 둔 대부분의 시스템과 달리 아랍어, 스페인어 및 프랑스어를 포함한 46개 언어에서 작동한다는 것입니다.more news

AI 언어 모델의 블랙박스를 여는 것은 르스카오 그룹만이 아니다. 페이스북과 인스타그램의 모회사인 빅테크 기업 메타도

구글과 GPT-3를 운영하는 오픈AI가 구축한 시스템을 따라잡기 위해 보다 개방적인 접근을 요구하고 있다.

조엘 피노(Joelle Pineau) 매니징 디렉터는 “이런 종류의 작업을 하는 사람들에 대한 발표가 잇따르고 있지만 투명성이 매우

낮고 사람들이 내부를 들여다보고 이러한 모델이 어떻게 작동하는지 엿볼 수 있는 능력이 거의 없다”고 말했다. 메타 AI의

컴퓨터 과학 부교수인 퍼시 량(Percy Liang)은 가장 유창하거나 유익한 시스템을 구축하고 그 응용 프로그램에서 이익을 얻으려는 경쟁 압력은 대부분의 기술 회사가

시스템을 철저히 관리하고 커뮤니티 규범에 대해 협력하지 않는 이유 중 하나라고 말했습니다. 재단 모델에 대한 연구 센터를 지휘하는 스탠포드에서.