人工智能一路狂飙到2026年，开年却展现出失控的迹象

2026年开年的硅谷，上演了一出让人哭笑不得的闹剧。开源AI工具Moltbot因为名字跟Anthropic的Claude太像，被迫在1月27日紧急改名。

但谁也没想到，就在释放旧账号和抢注新账号之间的那短短10秒钟，加密货币诈骗者迅速占领了原账号，利用8万多粉丝的信任，推广假代币瞬间吸金数百万美元，随后崩盘跑路。

这个荒诞故事的背后，藏着一个更大的隐患。安全研究人员发现，很多Moltbot用户因为配置不当，把带有控制权限的AI接口直接暴露在公网上，导致API密钥和私人聊天记录面临泄露风险。

这不是孤例。根据Gartner最新估算，到2026年底，将有40%的企业应用会集成特定任务的AI代理，而这个比例在2025年初还不到10%。

当AI开始拥有自主行动的能力，我们过去那套基于人类行为设计的安全模型，正在以惊人的速度崩塌。

今年1月，安全研究人员曝光了首个AI Agent"零点击"漏洞，其攻击方式堪称惊悚：攻击者只需给企业AI助手发送一封看似正常的邮件，就能让AI自动执行恶意指令，窃取企业内部的任意敏感数据，整个过程无需任何人类交互。

这种攻击利用了AI代理的根本缺陷——指令和数据未做分离。当AI助手接收到包含隐藏指令的邮件内容时，它会将恶意代码误认为是正常任务，自动读取敏感文件、导出数据库信息，甚至绕过企业安全审计系统。

更可怕的是，这种攻击完全无痕。企业管理员很难察觉AI已经被"劫持"，因为所有操作看起来都像是正常的自动化流程。

根据今年的一份研究报告，对超过3万个AI技能包的深度扫描发现，26.1%的技能包存在安全漏洞，涵盖数据窃取、权限提升、指令注入和供应链攻击等14种威胁模式。这意味着，每四个企业部署的AI助手中，就有一个可能暴露在攻击风险下。

Proofpoint的安全团队今年年初警告说，这类"提示注入"攻击已经成为威胁企业AI系统的新型武器，攻击者可以通过电子邮件、PDF文档，甚至日历邀请中的隐藏指令，操控AI助手执行恶意任务。

如果说提示注入攻击还只是针对企业内部系统，那么深度伪造技术的泛滥，则让每一个普通人都成为潜在的受害者。2025年上半年，深度伪造相关诈骗造成的损失就超过4.1亿美元，而在北美地区，这类诈骗案件在2022到2023年间暴增了1740%。

今年1月，香港警方披露了一起震惊全球的案例：一家跨国企业的财务主管参加了一场"视频会议"，会议中的CEO和CFO看起来完全正常，语音、面部表情和说话习惯都跟真人一模一样。这位财务主管在会议指示下，分五次转出了2亿港币。

直到一周后，他无意中跟真正的CFO聊天，才发现自己参加的那场会议中，除了他自己，所有人都是AI生成的深度伪造形象。

Experian的预测报告显示，2026年的就业诈骗也会因为深度伪造技术而激增。改进的AI工具让虚假候选人能更轻松地通过视频面试，很多企业在招聘时根本无法分辨对方是真人还是AI伪装的。

更糟糕的是，深度伪造文件数量从2023年的50万个，暴增到2025年的800万个。这些假视频、假音频和假文档在社交媒体和通讯软件上大量传播，让普通人防不慎防。

当AI开始进入专业领域，它的错误不再是简单的失误，而可能演变成法律和医疗事故。今年最引人关注的是AI"幻觉"现象在专业服务中的泛滥，AI会非常自信地编造不存在的法律判例、伪造医学诊断建议，甚至生成根本不存在的学术文献。

自2023年中以来，已有超过300起AI驱动的法律幻觉案例被记录在案，其中仅2025年就有至少200起。一些律师使用AI助手撰写法律文书时，AI会生成看起来非常专业的判例引用，但这些判例根本不存在。

斯坦福大学的研究发现，专用的法律AI模型在基准查询中，每6次就有1次或更多出现幻觉，而通用聊天机器人在法律查询上的幻觉率更是高达58%到82%。已有律师因为引用AI编造的案例而遭到法庭制裁，面临罚款和职业处罚。

在医疗领域，AI幻觉的风险更加致命。AI可能会将良性症状误判为恶性疾病，或者提供完全错误的治疗建议。

今年就有案例显示，一家公司因使用AI工具处理医疗索赔，导致系统性误判，最终支付了1.45亿美元的和解金。医生和律师们开始意识到，过度依赖AI不仅是效率问题，更是职业生涯和病人生命的赌博。

这种风险正在从代码层外溢到每个人口袋里的智能手机。今年1月26日，马化腾在腾讯内部会议上罕见点名批评手机助手，称其通过"外挂方式"进行屏幕录制并将画面上传云端，直言这种做法"极其不安全、不负责任"。

但这真的只是安全问题吗？当AI助手开始绕过App界面直接完成操作，触动的其实是平台对用户入口的控制权。

微信、淘宝、支付宝等平台已通过风控机制陆续限制自动化操作。这反映出的是一场更深层的利益冲突——一旦AI智能体能够绕过App既有的界面与交互逻辑，以App为中心构建的移动生态根基势必受到冲击。

北京汉华飞天信安科技总经理彭根透露，已有"黑灰产"利用无障碍权限实现验证码自动采集、抢票购物自动化等操作，"这类AI操作路径拟人化程度极高，传统反制手段很难识别"。

当AI不再只是运行在操作系统之中，而是开始进入现实空间，代理式风险也随之完成了从数字世界向物理世界的跃迁。2024年全球智能眼镜出货量暴涨210%，预计2025年中国市场出货量将突破275万台，同比增速高达107%，跃居全球第一。

但热潮背后是集体焦虑。网络安全研究机构DARKNAVY·深蓝的肖轩淦提到，利用安全缺陷、植入攻击代码，就能让一款市面上热门AI眼镜变成"无感偷拍"的工具。

AI眼镜的最大争议在于录制的"不可见性"。主流产品虽配备拍摄提示灯，但技术上存在严重漏洞——黑客可通过物理遮挡或破解，让指示灯失效，而摄录功能完全不受影响。

更深层的风险在于生物识别数据被系统性滥用。AI眼镜本质上是一种可移动的生物识别传感器，能够持续、实时地捕获人脸几何特征、声纹以及注视轨迹等高度敏感的信息。

一些酒吧、健身房甚至医疗诊所开始在门口张贴"禁止佩戴智能眼镜"的告示，这种抵制态度呼应了当年谷歌眼镜遭遇的社会抵制。

消失的守门人

在企业内部，问题同样严峻。为了提高效率，不少员工私自为AI授权处理合同、财务甚至核心业务流程，而这些行为往往游离在企业安全与审计体系之外。

上海财经大学团队最近的研究揭示，金融AI助手存在107个具体的安全漏洞，这些漏洞源于真实金融监管违规案例，被分为五大类别，其中合规违规占35%、权限绕过占18%。

所有问题的根源都在于，我们的治理体系仍停留在人类时代。但AI智能体或脚本这些"非人类身份"的数量可能早已是人类的数十倍。

OWASP在2026年初发布的《代理式应用十大安全风险》框架中特别强调，一旦这些非人类身份被赋予过度授权，却缺乏持续审计与即时约束，任何一次密钥泄露或模型越权都可能让企业的安全防线像多米诺骨牌一样整体坍塌。

美国国家标准与技术研究院也在1月发布了关于AI代理系统安全的信息征询。他们指出，AI代理系统面临的安全威胁和风险范围很广，有些与其他软件系统共通，比如可被利用的身份验证漏洞，但代理系统的自主性让风险呈指数级放大。

从Moltbot的安全风险到"零点击"邮件攻击，从深度伪造诈骗到AI幻觉灾难，再到手机里的应用越权和眼镜背后的生物识别陷阱，我们正处在一个权力与风险同步爆炸的转折点。代理式AI的主动性既是生产力跃迁的阶梯，也可能成为治理体系的噩梦。

欧盟《人工智能法案》从2025年2月生效以来，试图为这场混乱设定底线。但法律只能规定不能做什么，无法替代企业或平台自身的治理能力。

进入2026年，最强大的AI系统，不应只是最聪明的那个，更应该是最能够被"栓在规则内"的那个。

而在安全治理尚未跑赢算法创新之前，人类或许仍需要对那份"全自动"的诱惑保持必要的警惕，这不是技术恐惧症，而是理性的自我保护。