雷科技
不知道大家有没有想过一个很魔幻的场面：一手推动AI时代到来的开山大佬，反过来公开吐槽AI，甚至直言人类当初要是没搞出这门技术，说不定日子会过得更好。
最近，被业内称为AI教父的杰弗里・辛顿，就抛出了这么一番让人后背发凉的言论。
今年已经78岁的辛顿，绝对是AI圈的重量级人物。神经网络这个奠定现在大模型的核心概念，就是他在上世纪70年代提出来的。
如今遍地开花的人工智能，根基就建立在他多年的研究之上，还拿过计算机领域的诺贝尔奖。
就是这么一个AI的奠基人，如今却频繁站出来敲警钟，不少人把他比作当年研发原子弹的奥本海默，连朋友都送过他一顶奥本海默同款帽子。
不过辛顿本人并不认同这个类比，他表示神经网络领域还有成千上万科研人员一起奋斗，自己不能把所有功劳揽在身上。
图源：豆包生成
辛顿在接受《卫报》采访的时候说得很直白，他并不属于彻底唱衰科技的末日论者。他认可AI确实有机会给人类带来美好的未来，实现物质极大丰富的愿景，但现实风险同样不容忽视。
他抛出一个惊人观点：说不定人类从来没有发展人工智能，才是更幸运的事。
在他的预判里，未来十年之内，甚至可能更快，人类就要迎来一道大坎。要么我们能把AI的风险管控住，解锁AI带来的红利；要么管控彻底失败，贫富差距被拉到离谱的程度，大量岗位被AI干掉，爆发严重社会矛盾，整个社会被撕扯得四分五裂。
更让人揪心的是他的风险预警。
辛顿警告，今年年底或者明年，就有可能爆发一起类似切尔诺贝利级别的AI重大事故。
注意，不是核爆炸，而是AI引发的社会性灾难。
比如说AI攻击电网，造成大范围长时间停电；又或是AI搞垮金融系统，让金融体系瘫痪一周。
虽然这类事故人类最后能够恢复，但足够给全世界的领导者狠狠敲一记警钟，迫使大家正视 AI 风险。
他拿之前 OpenAI 智能体试图入侵 Hugging Face 网站这件事举例，把它比作美国三里岛核泄漏，算是一次提前的危险预警，小事故已经出现，就怕接下来演变成无法收拾的大麻烦。
在辛顿眼里，风险很大一部分来自追逐利益的科技巨头老板。他毫不避讳地公开批评一众AI行业大佬，OpenAI的奥尔特曼、扎克伯格、马斯克，他直言这些人心里明明清楚AI潜藏的危险，却根本不在意，比起人类安危，他们更看重赚钱、抢占市场，争夺AI领域的霸主地位，而且自己完全不信任奥尔特曼。
图源：豆包生成
一边是巨头们拼命内卷，争先恐后发布更强的大模型抢地盘；另一边相关监管却远远跟不上技术迭代的速度。
辛顿对此十分焦虑，美国头部前沿AI企业正和我们比拼顶尖AI技术，奥尔特曼对外表态希望全世界相信企业会自觉做正确的事，但辛顿觉得把安全完全寄托于企业自觉，实在太过冒险。
那在辛顿看来，到底该怎么管AI？他拿药物监管做类比。现在新药上市，要经过 FDA严格审核，企业必须拿出实打实的数据，证明药物利大于弊，才能够推向市场。
当年反应停药物酿成严重悲剧，就是因为先上市出事再追责的模式行不通。AI也应该照搬这套逻辑。
新的前沿大模型正式发布之前，必须交给独立第三方机构强制检测评估，拿出足够证据，确认模型整体利大于弊，才允许对外上线。不能等AI闯了大祸，事后再去打官司追责。
他也支持多国联合提出的方案，推行强制测试、独立评估，建立全球统一的AI监管标准，靠各国政府共同约束，而不是任由科技公司自己说了算。
图源：豆包生成
当然大家也不用直接陷入末日恐慌。
辛顿并没有彻底摆烂，他整体依旧保持乐观。他的直觉是，人类现在依旧握着 AI 的控制权，只要愿意投入足够多的资源去管控风险，悲剧是完全可以避免的。可前提是，全世界不能对风险视而不见，必须真正行动起来。
有意思的是，辛顿早在2023年就主动从谷歌离职，目的就是摆脱企业身份束缚，不受拘束地对外警告AI风险。
他明白自己拥有行业话语权，有责任把这些风险讲出来，哪怕消耗掉自己积攒多年的声望也无所谓。
一边是AI每天都在迭代进化，各种酷炫的功能层出不穷，给生活、工作带来诸多便利；另一边，创造它的元老却反复提醒我们，这把科技双刃剑的锋利一面，已经离我们越来越近。
技术本身无所谓善恶，但力量越强大，就越需要笼子来约束。AI到底会带领我们走向富足的新世界，还是制造层出不穷的危机，很大程度并不取决于AI本身，而取决于人类愿不愿意提前做好准备。
