Elon Musk对Artificial Intelligence的未来作出了新的大胆预测，认为随着AI能力快速增长，人类最终可能失去对自己创造的技术的主导地位。
在7月接受The Economist采访时，这位Tesla和SpaceX CEO表示，他认为AI可能在大约5年内超过全人类智慧的总和。
人类10年后还能保持控制权吗
The Economist主编Zanny Minton Beddoes询问，这是否意味着10年后人类将不再掌握控制权。
Musk回答：“我认为可能性不大。”
他将未来AI与人类之间可能出现的智慧差距，与人类和黑猩猩之间的差距进行比较。
如果AI的智慧远远超过人类，那么人类继续控制AI可能变得非常困难。
Musk对AI的态度发生变化
Musk多年来一直公开警告Advanced AI可能带来的风险。
但他的立场如今似乎已经从试图减缓AI发展，转向接受AI和机器人的发展势头可能已经无法停止。
Musk表示，他看不到真正阻止AI和机器人巨大动能的方法。
他还认为，即使存在一个能够停止AI发展的按钮，如果最可能出现的结果是为所有人带来巨大繁荣，也可能不应该按下它。
从AI风险警告到接受现实
过去十年，Musk多次警告AI可能快速进行Recursive Self-Improvement。
2023年，他也是要求暂时暂停最强大AI系统开发的公开信签署者之一。
不过Musk并没有认为AI风险已经消失。
变化的是他面对这些风险的方式。
OpenAI与Google的早期竞争
Musk还回顾了自己在现代AI产业中的角色。
他表示，OpenAI最初成立的目的之一是制衡Google在Artificial Intelligence领域的早期领先优势。
Musk是2015年OpenAI成立时的联合创始人之一。
但他认为，这种竞争最终产生了意想不到的后果——进一步加速AI发展。
AI可能超过全人类智慧
Musk的预测并不仅仅是AI在某些任务上超过个人。
他认为AI可能在大约5年内超过全人类智慧的总和。
如今Generative AI已经能够编写软件、分析信息、生成图像和视频、开展研究以及操作数字工具。
谁来控制Advanced AI
目前AI仍依赖人类设计的计算基础设施、软件、能源和Data Center。
但如果未来AI能够自主改进软件、控制Robot、进行研究和管理复杂系统，人类与AI之间的关系可能发生变化。
Musk提出的核心问题是：当系统的推理和执行能力超过人类时，人类是否仍能可靠地监督这些系统。
