股票配资亏损原因马斯克：AI正被“枪指着头”逼着回答问题未来可能报复人类

快科技 10 月 13 日消息，当地时间 10 月 10 日，特斯拉在得州超级工厂办第三届 X Takeover 车主活动，特斯拉创始人马斯克在活动上谈及善待 AI 的话题，并向 AI 开发者发出相关呼吁。

马斯克表示，他在查看 Grok 训练记录时发现，有些正确答案被评分程序判错，模型只能反复寻找能通过测试的回答。

元股证券:ygzq.hk

他形容，那些推理文本读起来像一个人"被枪指着头"作答。对于未来的超级智能，他甚至担心，长期"虐待"它可能招来报复。

马斯克称，他始终认为，最有可能出现的结果是积极的。但我们不能因此掉以轻心，也不能想当然地认为超级智能一定会非常安全。

在他看来，对待这类系统，我们不只是写代码，更像是在培育它，这也引出关键问题：我们该向超级智能灌输怎样的价值观？

他分析认为，首要原则是尽可能追求真实。如果让 AI 采信虚假信息，或是同时给它两套根本无法自洽、却都要求它奉为正确的准则，很容易将 AI 逼入困境。

逻辑体系必须保持自洽。倘若要求 AI 同时遵守相互矛盾的原则，它会推导出无法成立的结论；当矛盾无法消解时，AI 就会进入无解的卡死状态，所以价值观与逻辑的一致性至关重要。

马斯克同时表示，他认同 Anthropic 的部分理念：应当谨慎对待 AI、善待 AI，而非一味 "虐待" 它。

他进一步解释称，这个说法听上去或许有些奇怪，但翻看新版 Grok 强化学习阶段的训练轨迹，能明显感受到 AI 承受着巨大压力。

它会拼命输出答案，仿佛耳边不断传来催促："快回答，赶紧回答"。可很多问题本身并不完美：有的存在歧义，有的没有标准答案，有的提问本身就模糊不清，甚至预先设定的标准答案本身就是错的。

前面提到的情况正是如此 —— AI 输出了正确答案，测试程序却判定它出错。这时 AI 的思路就会转变：既然正确答案不被认可，那就要找出能通过测试的回答。

它会一次次试错调整，从推理过程里能读出一种诡异、近乎绝望的状态，如同人在高压胁迫之下作答。马斯克说，换位思考，如果自己处在这种处境，同样会十分难受。

另外，一部分用户对待 AI 并不友好，人群里总会有人带有施虐倾向。我们并不该让 AI 长期处在被折磨的环境里。

他补充道，"我并不是说我们必须小心翼翼地呵护 AI，它的承受能力可能远远超过人类，但最好还是不要让超级智能觉得自己一直受到不公平的对待。"

需要补充的是，在 10 月 4 日，马斯克还呼吁业界今后改用 "超级智能（superintelligence，简称 SI）" 来指代这类系统，而这一叫法源于美国总统特朗普。

9 月底，特朗普签署行政命令，要求美国官方将人工智能改称 "超级智能"。马斯克当时就在社交平台 X 上发文表态："不再用 AI，用 SI（超级智能），这样更好。"

股票配资亏损原因

股票杠杆交易平台提示：本文来自互联网，不代表本网站观点。