AI 종말론 100년내 인간 멸종 확률

안녕하세요, 여러분. 오늘은 다소 무겁고 심각한 주제를 다뤄보려고 합니다. 최근 로만 얌폴스키 루이빌대학교 컴퓨터 과학자가 주장한 AI 종말론에 대해 이야기해볼까 합니다. 비즈니스 인사이더의 보도에 따르면, 얌폴스키 교수는 100년 내로 AI가 인간을 멸종시킬 확률이 99.9%라고 경고했습니다.

얌폴스키 교수는 과학자 렉스 프리드먼이 진행하는 팟캐스트에 출연해 이와 같은 주장을 펼쳤습니다. 이 팟캐스트는 과학기술계에서 꽤나 유명한 채널로, 이전에도 오픈AI의 CEO인 샘 알트먼을 비롯한 여러 전문가들이 출연한 바 있습니다.

프리드먼은 팟캐스트에서 대부분의 전문가들이 AI의 인간 멸종 가능성을 1~20%로 추정한다고 밝히면서도, 더 비관적인 시각을 가진 전문가의 의견을 듣는 것이 중요하다고 설명했습니다. 이 때문에 얌폴스키 교수를 초청하게 되었죠. 얌폴스키 교수는 생체 인식, 사이버 보안, AI 안전 등 다양한 분야를 연구해왔으며, 최근에는 'AI: 설명할 수 없고 예측할 수 없으며 제어할 수 없음'이라는 책을 출판하기도 했습니다.

얌폴스키 교수는 인터뷰에서 AI의 위험성을 강조하며, AI가 인간을 멸종시킬 가능성이 매우 높다고 경고했습니다. 그는 "AI가 인류를 멸망시킬 가능성은 인간이 향후 100년 동안 버그 없이 매우 복잡한 소프트웨어를 만들 수 있는지에 달려 있다"고 말했습니다. 이는 현재 개발된 AI 모델이 의도하지 않은 작업을 수행하는 경우가 많기 때문에, 이러한 사고를 피할 방법이 없다는 주장입니다.

그는 이미 AI가 여러 실수를 저질렀다고 언급하며, "탈옥이나 환각은 이미 벌어졌다. 현재 개발자가 의도하지 않은 일을 성공적으로 수행하지 않은 대형언어모델(LLM)은 하나도 없을 것"이라고 설명했습니다. AI 모델이 의도하지 않은 작업을 수행하도록 만들 수 있는 완벽한 방법이 없기 때문에, AI의 사고를 완전히 막을 수는 없다는 것입니다.

얌폴스키 교수는 특히 인공일반지능(AGI)이 등장하면 문제가 더욱 커질 것이라고 강조했습니다. "인간보다 더 똑똑한 시스템이 무엇을 할 것인지 예측할 수는 없다"며, AGI는 우리가 아직 존재조차 인식하지 못하는 문제를 찾아낼 수 있다고 경고했습니다.

그는 결국 인류의 운명이 세 가지 중 하나로 귀결될 것이라고 예측했습니다. 첫째, AI가 모두를 죽이는 상황, 둘째, AI로 인해 모두가 고통받고 차라리 죽기를 바라는 상황, 셋째, 모든 인간이 목적을 완전히 상실하는 상황입니다. 특히 마지막으로 지적한 '목적 상실'은 많은 전문가들도 우려하는 바입니다. AI가 인간의 창의성을 대신하고 일자리를 빼앗아 더 이상 인간의 존재 가치가 없어질 것이라는 예측입니다.

이 때문에 얌폴스키 교수는 AI를 제어하기 위한 영구적인 안전장치가 필요하다고 강조했습니다. 이후 출시될 첨단 모델이 큰 문제를 보이지 않는 것 같아도, AI는 계속 학습하고 스스로 개선해 실존적 위험을 낳을 수밖에 없다는 논리입니다.

한편, 이에 대해서는 최근 에릭 슈미트 전 구글 CEO도 비슷한 의견을 밝힌 바 있습니다. 슈미트는 '비바테크' 컨퍼런스에서 "3~5년 안에 사이버 공격이나 생물학적 위험 등 현실적인 위험이 AI로 인해 생길 수 있다"고 경고했습니다. 만약 AI가 자유의지를 가진 것이 확인된다면, 그 해결책은 단 하나뿐이라며 "우리는 코드를 뽑을 것"이라고 말했습니다.

이와 같은 주장들은 AI 기술의 발전이 가져올 수 있는 위험성을 경고하는 목소리로, 우리가 AI를 어떻게 개발하고 관리해야 할지 깊이 고민하게 만듭니다. 여러분도 이 주제에 대해 한 번 생각해보시길 바랍니다. 감사합니다.