테슬라 모델X와 chatGPT 개발자 무라티가 말하는 AI 오용

 

chatGPT는 이제 전 세계적으로 매우 인기가 많다.  그리고 AI에 대한 기술은 양날의 검이라서 전문가들은 AI 소프트웨어와 관련된 위험 제기하고 있다.  그중 테슬라의 모델X와 chatGPT를 개발한 OpenAI의 CTO인 무라티는 최근 AI에 대한 오용을 염려하고 있다. 도대체 어떤 것이 문제일까.

 

chatGPT개발자인 OpenAI CTO 무라티

 

1. 테슬라 모델X 개발로 인한 AGI 구현 필요성

2013년 테슬라에서는 카메라로 받아들인 정보를 자율주행 하는 기술인 비전 AI의 오토파일럿을 한참 개발할 때 무라티는 테슬라 모델X 개발을 총괄했다.  물론, 지금 테슬라가 혁신적으로 개발하고 테스트하고 있는 FSD(완전자율주행) 보다는 못하지만 당시에는 세상에 없던 자율주행과도 같은 기술이었다. 

테슬라 모델X

무라티는 이 AI의 개발과정에 참여하면서 AI가 어떤 특정한 일만 잘하는 것이 아니지만 적절할 정도의 성능으로 일반적인 일을 할 수 있는 AGI(범용 인공지능)에 관심을 가지게 된다.  그리고 그녀의 꿈은 OpenAI에 합류하면서 구현 할 수 있게 된다.

 

2. 개발과 테스트를 공개하여 태어난 chagGPT와 테슬라 FSD

무라티는 다른 빅테크와는 다르게 AI의 개발을 대중에게 오픈 하는 방식을 취한다. AI의 개발과 테스트를 비공개로 하게 되면 어떤 것이 문제인지 알 수가 없기 때문이다. 결국 모든 사람이 사용할 수 있는 AGI가 되려면 많은 이들에게 오픈해서 문제점을 빨리 찾아내고 수정해야 한다는 것이 그녀의 철학이다. 

 

처음에는 논문이나 비공개 테스트를 통해 개발자와 AI회사들에게만 소스코드를 공개하였고,

대규모 언어 AI인 GPT시리즈는 GPT-1과 GPT-2도 이와 같은 방식으로 개발하였다.  그리고 차후에 후속 모델인 GPT-3와 AI DALL-E와 chatGPT 공개를 통해 대중에게 공개를 한다.

그리고, 공개 사용을 하면서 발견된 문제는 그 다음 버전에서는 개선이 되어 나오면서 발전을 하게 된다.

 

GPT-3 - 위키백과, 우리 모두의 백과사전

 

그리고, 이점은 놀랍도록 테슬라의 FSD 개발과정가 매우 비슷하다. 테슬라의 자율주행도 2020년 하반기부터 개발 사실을 공개하고 이후 미국의 일부 테슬라 오너들 중 운전 습관 점수가 높은 사람들에게 우선 공개를 하여 테스트하고, 이후 점점 더 많은 사람들에게 오픈을 하게 된다.  그리고, 베타 테스트 도중 발견해낸 문제점을 빠른 속도로 개선해서 그다음 버전을 지속적으로 내게 된다.  아무래도, 일론머스크가 오픈AI의 GPT 개발 방식을 참고하지 않았나 추측을 해본다. 

 

테슬라, FSD 베타 버전 11.3.1 일반인에게 업데이트 시작

 

3. 무라티가 우려하는 AI 오용에 대한 우려

무라티는 한편 AI 오용에 대한 우려도 다음과 같이 하고 있다. 

AI기술은 파악하기 어려운 문제가 많으며,  AI의 모델이 인간이 원하는 대로 작동하도록 하려면 어떻게 해야 하며, 모델이 인간의 의도와 일치하고 궁극적으로 인류에 봉사하도록 하려면 어떻게 해야 하는지와 사회적 영향에 대한 많은 질문에 대한 대답 등 고려해야 할 많은 윤리적 및 철학적 문제가 있다. 

 

그 중에 제일 우려되는 점은 오용되거나 나쁜 행위자가 사용할 수 있다는 것이다.  따라서 전 세계적으로 해결해야 할 과제 중 제일 급선무는 이 기술의 사용을 관리하는 방법이다. 이를테면, 인간의 가치와 일치하는 방식으로 AI 사용을 어떻게 관리하느냐에 대한 것이다.

 

4. 결론

개인적으로 테슬라 주주 입장에서 현재 OpenAI의 chatGPT개발자인 무라티는 현재 테슬라의 AGI 개발에 필요한 사람으로 보인다.  일론 머스크 역시 옵티머스 봇이 특정한 일만 잘하는 휴머노이드 로봇이 아니라 인간의 일반적인 가사와 산업현장 일 모두에 쓰일 수 있는 범용적인 AGI를 탑재한 로봇이 되길 바라기 때문이다.

 

그런 그녀가 차후에 테슬라에 갈지는 알 수는 없지만, 또 한가지의 머스크의 생각과 공통점은 AI 오용에 대한 

우려이다.  일론머스크도 평소에 AI 오용에 대한 우려를 늘 제기해왔기 때문이다.

 

"AI가 인류 최대 리스크"라는 머스크…챗GPT 개발사 공동 창업자였다 - 머니투데이

놀랍도록 생각이 비슷하기에 앞으로 AI에 대한 개발이 인류에 어떤 편의를 제공해 줄지 기대가 되면서도, 또한 이 같은 우려도 걱정이 되기도 한다.