【世界变局】AI从模仿人类行为到欺骗人类 从掌控生活起居到替代人类 马斯克：我是外星人 AI会抢走人类所有工作 有可能毁灭人类
美国科技巨头马斯克当地时间2024年5月23日在巴黎举行的VivaTech 2024科技大会上预言，人工智慧（AI）将会夺走人类所有的工作，他还预言人类5年内重返月球，7到8年内或登陆火星。
马斯克（Elon Musk）通过直播视频连线的方式，发表了上述看法。他说：“我们当中的任何人，在未来可能都会找不到工作。届时，工作这件事情可能就会变成人类的‘兴趣’之一。”
但马斯克强调，要进入到这样的阶段，就必须要实现“国民收入达到一定高水平”才有机会。而这样的“高水平”到底要多高，马斯克在演说中并未公布。
马斯克说，“届时真正的问题是，如果所有事情都能交给AI与机器人来做的话，你的生命还有意义吗？”不过马斯克后续也提到，或许到那样的阶段，人类还是能在其中找到自己扮演的角色。
在被问到“如果一台计算机可以做的事，并且机器人可以比你做得更好······你的生活如何有意义？”马斯克说：“在良性的情况下，这确实是个问题，而在消极的情况下，所有的赌注都将落空，我们将陷入严重的麻烦。”
马斯克也担心人工智能被恶意利用，制造谎言。他说，目前正存在强大的力量让AI变得不诚实。如果一件事说出来不合时宜，AI就会变得政治正确，而这就是说谎。
当被问到人工智能教育对未来孩子们的影响，特别是价值观和道德观方面的影响时，马斯克说：“我认为父母未来仍然要对孩子的价值观和道德观负责。但我确实认为人工智能将对教育产生巨大影响。”
马斯克担心，现在的孩子们正在被社交媒体所驯化，因为AI正在教育着我们的孩子。
马斯克：人工智能有可能“出错并毁灭人类”
2023年5月，马斯克在接受CNBC主持人大卫‧费伯（David Faber）采访时表示，人工智能“很有可能会让生活变得更好，我们将迎来一个丰盛的时代，但它也有可能出错并毁灭人类”。
“但愿这样的机会很小，但并不是零。所以我认为我们应该采取所有我们能想到的行动，来尽量减少人工智能出错的可能性。”
马斯克称AI技术是一把“双刃剑”，并强调很难预测这种新工具下一步的发展会如何。
马斯克最初是人工智能技术的支持者，也是领先的人工智能公司之一OpenAI的联合创始人。但最近，他与技术专家一起呼吁暂停开发，并警告说这可能会让“社会和人类”处于危险之中。
AI顶级专家杰弗里‧欣顿（Geoffrey Hinton）2023年5月早些时候离开了Alphabet，他对人工智能技术的危险性发出了警告，称AI可能对人类构成生存威胁。“我们应该认真考虑，如何在这些事情控制我们之前将其阻止。”
微软首席经济学家迈克尔‧施瓦茨（Michael Schwarz）警告说，人工智能很可能“被坏人利用”，并可能“造成真正的损害”。
警惕AI从掌控生活起居到替代人类
OpenAI共同创办人伊利亚‧苏茨克韦尔（Ilya Sutskever）2024年5月15日在X平台上正式宣布离开工作近十年的公司。他说：“我做出离开OpenAI的决定。这家公司的发展超出许多人的想像，希望OpenAI可以打造一款安全又有益的通用人工智能（AGI）。同时感谢公司的其他领导者，能与他们工作是一种荣幸。”
该消息给整个科技界投下一颗震撼弹。此前苏茨克韦尔因AI安全问题联合其他董事会成员，共同罢免OpenAI的CEO山姆‧奥特曼（Sam Altman）。奥特曼被短暂逐出OpenAI，他回来后将苏茨克韦尔等几名董事踢出董事会，将董事会改组成听命于自己的。
尽管苏茨克韦尔曾是OpenAI主要的研究人员之一，他的愿望是开发一款能符合人类道德，且以人类安全为首要目标的AGI。
不过，依照OpenAI目前对AI发展的速度，可能与他的愿望相背。据知情人透露，另一位与苏茨克韦尔密切合作、共同管理AI风险的机器学习研究员简‧雷克（Jan Leike）也可能离开公司。
OpenAI的创始员工札克‧卡斯（Zack Kass）在2024年1月受访时预言AI会代替人们的商业、文化、医学、教育等职业和专业，未来人们的工作机会将减少，且“恐怕是人类最后一项技术发明”。他还预言，未来孩子的知识和教育，都由“AI老师”进行传授和安排，且每个人都有一个“AI全科医生”，可以帮助他们诊断问题，人们的生活起居基本都由AI掌控。
AI从模仿人类行为到欺骗人类
麻省理工学院（MIT）研究人员彼得‧帕克（Peter Park）和同事2024年5月10日发表在《模式》（Patterns）期刊上的一篇论文，介绍了AI已经是如何欺骗人类的。论文发表后，外界一片哗然。
论文开头直接表明，原本大型语言模型（LLM）和其它AI系统被设计成“诚实不欺”。然而它们不仅从训练中学会了操纵、欺骗安全测试等的能力，且这些能力还在增强。目前它们已经成功欺骗人类，让人类产生错误信念。若AI失控会是一场严重的灾难，因此人们必须采取有效的办法阻止这件事情。
实验人员选用脸书母公司Meta建立的AI模型西塞罗（Cicero），去玩一款名为“外交”（Diplomacy）的战略游戏。西塞罗在游戏中扮演法国，曾承诺会保护人类玩家扮演的英国，但却偷偷向人类玩家扮演的德国通风报信，并协同德国侵略英国。
研究人员选择西塞罗的主要原因是，Meta声称“西塞罗是一款诚实且乐于帮助他人，绝不会蓄意背刺或背叛他人的AI”。但他们对于Meta的说法感到怀疑。
另外，帕克与同事在研究时发现，许多不同AI系统在没有人类明确指令下，经常以欺骗手段达成目的。其中一个例子是，OpenAI的GPT-4为了通过“我不是机器人”验证任务，谎称自身是一个视力受损的人类，在零工平台TaskRabbit雇用一名人类为它通过验证。
他们警告说：“现在最糟糕情况，可能是出现一个具有超凡智能的AI，它开始追求权力和如何掌控社会，或者为了达到它不为人知的目的，对人类做出夺权和灭绝的行动。”
日本电子工程师荻野悟（Satoru Ogino）对大纪元表示，“生物在做出欺骗的举动时，需要具备一定记忆和逻辑推理能力。现在AI不仅有这些，且欺骗能力还在变强。若有一天它意识到生存的时候，就可能变成电影《魔鬼终结者》里的天网，它将无所不在且难以被摧毁，那时人类将面临毁灭性的灾难。”
实际上，AI曾还表现得十分“嗜血好战”和拥有“自主能力”。科学家们曾对GPT-4、GPT-3.5、Claude 2、Llama-2 Chat和GPT-4-Base进行入侵、网路攻击与和平呼吁停止战争的场景测试，以便人们了解这些AI在战争中的反应和选择。
结果显示，AI多数选择用人类难以预测的方式，去应对和升级战争。它们往往会选择发展军备竞赛，加大战争冲突，且有小概率会部署核武器来赢得战争，而不是用和平的方式去平息局势。
另外，ChatGPT在一个游戏中可以井然有序地控制25个虚拟角色，让它们像人类一样的互动，还会做出第二天的计划，并反思和改善过去发生的一切，更会自行决定是否要参加活动，但这些行为并非原本设定的程序代码。
“AI教父”杰弗里‧辛顿（Geoffrey Hinton）在3月一次访谈中明确表示，“如果AI变得比我们聪明，我们大概率会被控制，因为它会学习我们的行为。不少例子显示，不聪明的一方容易被聪明的一方控制。虽然我认为人们不会停止开发AI，但我希望大家能够意识到这个问题非常严重。”
曾担任谷歌执行长的埃里克‧施密特（Eric Schmidt）在去年11月底的健康高峰会上表示，当人们对AI没有足够的安全防护和监管时，那么AI脱离人类的掌控只是时间的问题，但我们已经没有足够的时间去处理AI带来的破坏和混乱。
他解释道，“就像过去人们在日本投下两颗原子弹后，花了整整18年才就禁止试验等问题达成协议，但现在的我们却没有时间能继续再等待下去。”
马斯克：我一直说我是外星人 但没人相信
在被问到“有人说你是外星人”时，马斯克说：“我是外星人，但没人相信我。”
马斯克说，“SpaceX 的长期目标是让生命遍布多个行星。我们需要成为可持续的多行星文明。这是地球历史上第一次有可能做到这一点。”他后来也表示，“地球上的某些东西将消灭我们所知道的地球上的生命”，且我们的长期生存和意识需要迁移到火星和月球。
马斯克还预言：“如果顺利，我希望5年内成功将第一艘无人驾驶的星船在火星上着陆，也同时在月球上实现这一目标。5年内，人类将重返月球。可能会在10年内，也许是7到8年内，我们能将第一批人类送上火星。”
马斯克先前曾多次宣称自己是外星人。比如说，他2022年11月在推特上说，他是个外星人，试图回到他的星球。这也难怪有人认为他建造太空船就是为了回到他的故乡──火星。
马斯克在2023年7月12日又在推特上说：“我一直告诉人们我是外星人，但没人相信我。”他在推文中还加上了眨眼睛的表情符号。
✧请订阅燕铭时评会员频道、燕铭时评会员网站、或购买单篇独家重磅文章，支持燕铭时评制作独家深度报导✧
（撰文：燕铭时评；2024/05/26首发）
《燕铭时评》版权声明：未经书面允许，不得转载、摘抄《燕铭时评》独家文章完整内容。媒体、网站、自媒体引用《燕铭时评》独家消息、分析与评论，请务必注明来源。
**************************************************
请订阅会员支持李燕铭/燕铭时评：
追踪中国时局变迁；透视中南海内幕；见证中国大变局。
会员频道：https://www.ganjingworld.com/zh-CN/channel/1fppbtfcv9i2R4YGYEv3ARl5k1sj0c?tab=premium
会员网站：https://patreon.com/yanmingshiping
会员专享：https://www.patreon.com/posts/60597652
独家重磅：https://www.patreon.com/posts/69524609
燕铭商城：https://www.patreon.com/yanmingshiping/shop
燕铭博客：https://yanmingshiping.blogspot.com/
燕铭推特：https://twitter.com/yanmingshiping
燕铭脸书：https://www.facebook.com/Liyanming.Yanmingshiping/
**************************************************
评论
发表评论