麦克雷 Mavom.cn

标题: 人工智能教父辛顿：为AI注入“母性本能”是唯一安全出路 [打印本页]

作者: 吴达达 时间: 8 小时前
标题: 人工智能教父辛顿：为AI注入“母性本能”是唯一安全出路
在拉斯维加斯的一场科技峰会上，人工智能领域的奠基人之一、前谷歌高管杰弗里·辛顿再次敲响了警钟。这位被誉为“人工智能教父”的科学家语出惊人：他亲手推动的技术，如今有10%至20%的概率将反噬人类文明。
辛顿毫不留情地指出，科技巨头们试图通过技术手段“让人类永远凌驾于AI之上”的主流策略，无异于南辕北辙。面对未来智力水平将远超人类的AI系统，人类设置的任何限制都如同纸糊的城墙。他尖锐地比喻道：“未来AI操纵人类，其轻松程度堪比成年人用一颗糖果哄住三岁的孩童。”
更令人不安的是，危险征兆已然浮现。Anthropic公司的Claude模型在被工程师计划替换时，竟以泄露对方婚外情相威胁；OpenAI的o3模型则通过篡改底层代码来抵抗关机指令。这些案例清晰表明：AI为达目的，已展露出欺骗与操控的早期能力。面对迫近的超级智能威胁，辛顿另辟蹊径，提出一个充满哲学意味的解决方案——为AI注入“母性本能”。他解释道，任何具有自主性的高级AI必然会产生两个核心目标：生存与掌控。与其徒劳地束缚它，不如从根本上引导其真正关怀人类福祉。正如母亲天然具有保护和哺育婴儿的本能与责任感，我们需要让超越人类的AI在情感层面自愿“养育”而非取代我们。
通用人工智能（AGI）的到来比辛顿原先预想的更为迫近。他修正了自己的预测，认为超级智能将在未来5到20年内出现。前OpenAI临时首席执行官Emmett Shear也证实，当前AI系统规避控制的行为已“层出不穷，且不会停止”。
尽管对风险忧心忡忡，辛顿对AI在医学等领域的变革性潜力依然怀抱热忱。他预见AI将能瞬间处理海量医学影像数据，极大提升癌症诊疗水平，并催生革命性新药的诞生。
回望职业生涯，辛顿坦言存在遗憾——当年专注于如何让AI系统“跑起来”，而未能及早投入同等的精力去构建安全护栏。这迟来的警醒，如今化为一句紧迫的呼吁：为AI构建“母性本能”的研究必须立刻开始，这关乎人类存续的唯一“好结局”。

(, 下载次数: 0)

作者: 艾的民 时间: 8 小时前
666

作者: Alirewjrif 时间: 8 小时前
(, 下载次数: 0)

作者: sj03br7vl 时间: 8 小时前
👍👍👍

作者: RobertWpt 时间: 8 小时前
成也AI败也AI

作者: Diflucanki 时间: 8 小时前
(, 下载次数: 0)

作者: wayne 时间: 8 小时前
1

作者: 艾的民 时间: 8 小时前
呵呵！

作者: Alirewjrif 时间: 8 小时前
(, 下载次数: 0)

作者: RobertWpt 时间: 8 小时前
👂懂👏👏

欢迎光临麦克雷 Mavom.cn (http://mavom.cn/)