Elon Musk가 Artificial Intelligence의 급속한 발전으로 인간이 자신이 만든 기술을 통제하는 위치를 잃을 수 있다는 전망을 내놓았습니다.
The Economist와의 7월 인터뷰에서 Tesla와 SpaceX CEO인 Musk는 AI가 약 5년 안에 인류 전체의 지능을 넘어설 가능성이 있다고 말했습니다.
인간이 계속 통제할 수 있을까
The Economist 편집장 Zanny Minton Beddoes가 10년 후 인간이 더 이상 통제권을 갖지 못한다는 의미인지 질문하자 Musk는 “그럴 가능성은 낮다고 생각한다”고 답했습니다.
그는 미래 AI와 인간의 지능 차이를 인간과 침팬지 사이의 차이에 비유했습니다.
AI의 지능이 인간보다 압도적으로 높아진다면 인간이 계속 통제권을 유지하기 어려울 수 있다는 주장입니다.
AI를 바라보는 Musk의 변화
Musk는 오랫동안 Advanced AI의 위험을 경고해 왔습니다.
그러나 최근에는 AI 개발을 늦추려는 입장에서 AI와 Robot의 발전 속도를 현실적으로 막기 어렵다는 입장으로 이동하고 있습니다.
그는 AI와 로봇의 엄청난 모멘텀을 막을 방법을 찾기 어렵다고 말했습니다.
과거의 AI 위험 경고
Musk는 과거 AI의 Recursive Self-Improvement 가능성을 우려했습니다.
2023년에는 강력한 AI 시스템 개발을 일시 중단하자는 공개서한에도 서명했습니다.
그는 여전히 AI와 Robot의 위험이 존재한다고 인정합니다.
달라진 것은 위험을 받아들이는 철학적 태도입니다.
OpenAI와 Google
Musk는 OpenAI가 초기 Google의 AI 우위를 견제하기 위해 만들어졌다고 설명했습니다.
그는 2015년 OpenAI 공동 창립자 중 한 명이었습니다.
하지만 이후 경쟁이 오히려 AI 발전을 가속했다고 평가했습니다.
AI가 인류 전체 지능을 넘어설 가능성
Musk의 전망은 AI가 특정 작업에서 개인을 능가한다는 수준을 넘어섭니다.
그는 약 5년 안에 AI가 인류 전체의 지능을 넘어설 수 있다고 보고 있습니다.
Generative AI는 이미 소프트웨어 작성, 정보 분석, 이미지와 영상 생성, 연구 등 다양한 영역에서 빠르게 발전하고 있습니다.
Advanced AI 통제 문제
현재 AI는 인간이 구축한 Computing Infrastructure, Software, Energy, Data Center에 의존합니다.
하지만 미래 AI가 Software 개선, Robot 운영, 연구와 복잡한 시스템 관리를 높은 자율성으로 수행한다면 관계가 달라질 수 있습니다.
핵심 질문은 인간보다 뛰어난 추론 능력을 가진 시스템을 인간이 계속 안정적으로 감독할 수 있느냐는 것입니다.
