雷科技
家人们，今天聊个事儿，看完真让人细思极恐。
你以为AI只是帮你写写周报、画画图、做个PPT？
最新研究表明，AI能直接改写你的记忆。不仅自己察觉不到，还会对自己的假记忆深信不疑。
这不是什么科幻电影里的洗脑情节，这是MIT（麻省理工学院）和乔治城大学刚刚发布的严肃研究结论。
AI不光能造假，它还能让你把假的当成真的，刻在脑子里。
MIT恐怖实验：3倍的假记忆，还让你深信不疑
先给家人们盘盘MIT媒体实验室做的这个实验。
研究人员找了200个参与者，给他们看原始的现场照片。
接着，把这些照片分成几组，有的没动过、有的是AI修过的图、有的是AI生成的假视频，还有的是基于假图生成的假视频。
结果一出来，所有人都麻了。
那些看了AI生成假视频的参与者，脑子里产生虚假记忆的概率，是普通对照组的2.05倍。
更可怕的是，他们对这些根本没发生过的假记忆，自信程度比对照组高出了1.19倍。
在另一个模拟犯罪目击者的测试里，如果让AI聊天机器人去提问，有36.4%的回答是被AI在对话中直接带偏的。
而且，过了一个星期再问，这些假记忆非但没消失，这帮人还依然坚信那些没发生过的细节。
最后记忆被篡改了，当事人还以为自己记性特好。
告诉你这是AI写的也没用
如果说MIT的实验是用视频洗脑，那乔治城大学和华盛顿大学的实验，彻底把人类防线给击穿了。
他们让参与者看一段车祸视频，分别阅读两份报告。一份是准确的，另一份是AI生成的，但里面掺杂了一个关于交通标志的错误细节。
结果呢？
看了准确报告的人，83.6%记住了正确的标志。
而看了AI错误摘要的人，正确率直接腰斩到44.8%。多半参与者把AI编的瞎话当真了。
最恐怖的是，研究人员特意提前告诉了参与者，这摘要是AI生成的。但最终参与者还是被误导了。
乔治城的报告里说，因为人类的记忆不是录像带，按个播放键就能原样重现。人类的记忆是拼图，每次回忆，都是大脑在根据碎片重新拼凑。
AI生成的内容，画面精美、逻辑严密、语气自信。
当这种高质量的假信息塞进你的大脑，你的大脑不仅不排斥，还会把它当成拼图的一部分，完美地嵌进去。
这就好比玩传声筒游戏，一个人传话到最后全变样了。但在AI这，传到最后不仅没变样，让你觉得这就是真相。
别以为这离你很远，现实里全是坑
你可能觉得，这不就是在实验室里骗骗大学生吗？
错了。这玩意儿一旦进入现实，后果不堪设想。
第一，法律和案件的冤假错案。
目击证人的证词，在法庭上分量极重。如果警察用AI去辅助询问，或者给证人看了一段AI处理过的现场视频，证人可能就会指认一个根本没在场的人。
事实却是，他的确没撒谎，因为自己也不知道被AI篡改了记忆。
第二，医疗记录的张冠李戴。
现在很多医院用AI来总结病历。
如果AI把患者A的症状总结到了患者B的头上，患者B看了记录，下次看病就会顺着这个记录说病情。
久而久之，患者自己都分不清，那到底是自己真实的感受，还是AI写进病历里的幻觉。
第三，网络里的认知战。
你刷到一段AI生成的明星塌房视频，哪怕后来官方辟谣了，你脑子里还是隐隐觉得这事儿没那么简单。
当大脑的记忆被深度伪造的视频打上烙印，真相跑断腿，也追不上AI造假的速度。
为什么人类把关彻底失效了？
以前搞AI，有个词叫Human in the loop（人类在环），意思是最终得有人来做审核和把关。
但如果你的记忆已经被AI的摘要改写了，你就失去了独立核查的能力。
仔细品品，这原来是个死循环。
你看了AI生成的错误摘要，你以为那是你原有的记忆。然后你拿着这段被污染的记忆去核对AI，你能查出个啥？
你以为你在审视AI，其实是AI在审视你。
写在最后
说实话，看完这份研究报告，小雷在空调房里都出了一身冷汗。
我们整天防着AI会不会取代我们的工作，防着AI会不会觉醒毁灭人类。
结果呢？AI直接绕过你的防火墙，你连自己脑子里想的是不是真的都分不清了，这还怎么玩？
AI工具虽然好用，但千万别把脑子外包给AI。
比如合同条款、医疗诊断、事故现场，别盲目信AI的总结。去查原件，去问真人，去亲眼看看没有加过滤镜的原始记录。
别等哪天，被AI篡改了记忆，还拍着胸脯跟别人说：我记性特别准，绝对没错！
在这个AI能伪造一切的时代，保持怀疑，是我们最后一道防线。
最后，小雷想问一下，你有没有过明明记错了，但特别确定的时候？看完这些研究，你还敢完全信任AI写的总结吗？来评论区聊聊你的看法。
本文由雷科技编译自gadgetreview
