「AI 教父」说今明两年要出 AI 界切尔诺贝利,普通人该慌吗?
警告的原文是什么
「AI 教父」辛顿近日公开警告:今明两年就可能发生人工智能领域的「切尔诺贝利事故」。他的意思不是机器人造反,而是:AI 系统在关键环节给出错误输出,而没有人有能力检查和纠正,错误被自动化流程放大。
我的理解
切尔诺贝利的教训从来不是「核电不能用」,而是「流程黑箱 + 没人能叫停」。AI 也一样——我现在每天用 AI 干活,最怕的不是它犯错,是它犯错了我还看不见。带执行记录、出错能定位的用法,跟黑箱问答完全是两种风险等级。
聊聊你的经历
你被 AI 犯过的最离谱的错是什么?发现了吗?怎么发现的?