这次我们来看一个不太一样的网络安全动向,它不涉及某个开源工具,却直接影响每一个做基础设施、做平台、做内容系统的技术团队。OpenAI 联合 100 余家公司签署了一封公开信,核心警告是:AI 正在被用于网络攻击,而关键基础设施是重点目标。
这封信不是一个抽象的口号。它背后有一条完整的链路:攻击者用大模型做钓鱼文案、自动发现漏洞、生成恶意代码、批量探测目标系统,再用 AI Agent 把多个攻击动作串成一条自动化流水线。过去的攻击还需要不少人工分析,现在一个学安全不久的人,甚至没有安全背景的人,只要会用工具,就能发起规模不小的试探性攻击。
对于 CSDN 的技术读者来说,这封信值得读,但更重要的是从工程角度做两件事:一是知道自己负责的系统面临哪些 AI 增强型攻击,二是把检测、加固、响应、合规的基线补齐。
本文会从公开信事件出发,拆解 AI 网络攻击的技术链路,梳理关键基础设施的风险图谱,然后给出可以落地的监控示例、加固方案、事件响应验证流程和安全边界建议。适合安全工程师、运维开发、平台架构师,以及所有正在用 AI 能力做业务系统的开发者。
1. 事件概况:一封关于“AI + 关键基础设施”的公开信
根据公开报道,OpenAI 联合 100 余家公司签署公开信,表达了一个明确共识:人工智能的快速发展,正在显著改变网络安全威胁格局,尤其是针对关键基础设施的网络攻击。
这里的关键基础设施,通常指电力、水务、能源、交通、金融、医疗、政务、通信等行业中一旦中断会严重影响社会运行的信息系统。过去这些系统以工控网络隔离、专线内网等方式获得一定安全性,但近几年大量工业设备、业务系统开始联网,攻击面越来越大,AI 的介入则让攻击效率大幅提升。
先快速整理事件的核心信息:
| 项目 | 说明 |
|---|---|
| 事件类型 | 行业公开信 / 安全倡议 |
| 发起方 | OpenAI 联合 100 余家公司(据公开报道) |
| 核心议题 | AI 网络攻击、关键基础设施保护 |
| 受影响范围 | 电力、水务、能源、交通、金融、医疗、政务等 |
| 对技术团队影响 | 需要强化监测、加固、应急响应和合规建设 |
| 适合读者 | 安全工程师、运维开发、平台架构师、技术管理者 |
为什么值得重视?原因不复杂。
第一,AI 让攻击门槛大幅降低。没有专业安全知识的人,也可以借助现成模型生成钓鱼邮件、编写扫描脚本、分析漏洞信息。
第二,攻击速度变快。大模型可以在一小时内生成数百个钓鱼变体,传统关键词过滤很难抵挡。
第三,目标更精准。AI 可以自动收集公开信息,对特定行业、特定系统定制攻击话术,比传统群发式攻击更有针对性。
第四,防御方同样可以利用 AI,但很多组织和开发团队还没有把 AI 能力接入安全运营流程。
从本质上看,这次公开信是在推动一件事:大模型厂商和应用方共同承认 AI 安全责任边界,不只是让 AI 生成内容,还要防止 AI 被滥用、被用于攻击关键系统。
2. AI 网络攻击的核心技术拆解
AI 增强型攻击不是凭空出现的。它在四个环节上显著改变了攻击方式和效率。
2.1 自动化社交工程
钓鱼攻击是最经典的社工手段。传统钓鱼的问题是文案质量不高,容易看出破绽。大模型生成钓鱼邮件时,可以模仿企业内部的语气、结合目标员工的公开社交媒体信息,生成看起来非常真实的邮件。
典型流程是:
- 攻击者收集目标员工的姓名、职位、常用平台。
- 使用大模型生成一封伪装成 IT 部门或合作方的邮件。
- 邮件包含恶意链接或恶意附件。
- 员工点击后,进入伪造登录页,账号密码被窃取。
这个过程的自动化程度很高,同一个目标可以被生成几十封不同角度的邮件,测试不同关键词。传统邮件网关里如果只做关键词库匹配,很难全面拦截。
2.2 漏洞发现与利用加速
大模型本身不能真正替代人工漏洞挖掘,但它可以显著辅助这个过程。把一段可疑代码交给大模型分析,它能快速给出可能的问题点;把一段报错日志交给它,它可以推断出栈溢出、SQL 注入、命令注入等风险。
更现实的威胁是:代码助手类 AI 工具被攻击者用来生成漏洞利用代码。虽然很多模型有安全限制,但攻击者可以通过提示词拆解、上下文拼接等方式绕过限制。
2.3 AI Agent 自动化攻击链
这是最值得关注的部分。AI Agent 可以把一个完整攻击链拆成多个步骤,然后逐步执行,不再需要每一步都由人工操作。
例如,一个攻击 Agent 可以:
- 自动扫描公网资产,识别开放的端口和服务;
- 将识别出的服务版本与漏洞库比对;
- 自动生成针对该漏洞的利用代码;
- 执行利用,拿到初始权限;
- 在内网中自动发现其他主机,尝试横向移动。
这个过程本质上就是攻击手册的自动化执行。对传统入侵检测系统来说,攻击速度一旦快到一定程度,本身就会形成一种规避效果。
2.4 规避检测
大模型可以辅助攻击者绕过检测规则。例如分析安全设备的过滤逻辑,然后生成不同编码方式、不同传输协议的恶意流量,让简单特征匹配失效。
不过这里也要客观说一句:模型是工具,关键在于使用人的意图。AI 在攻击和防御两个方向上都有价值,公开信更多是提示大家警惕攻击侧应用,而不是否定 AI 本身。
3. 关键基础设施面临的现实风险图谱
关键基础设施与普通互联网业务有一个明显差异:可用性和物理安全优先级极高。普通网站挂了可以重启,电网调度系统或水务控制系统的业务中断,会造成现实世界的影响。
从行业维度看,主要风险点如下:
| 行业 | 典型系统 | 主要威胁 | 可能后果 |
|---|---|---|---|
| 电力 | 发电控制、电网调度、变电站系统 | 勒索软件、控制命令篡改 | 大面积停电 |
| 水务 | 水质监测、水厂控制 | 篡改设备参数 | 水质异常、供水中断 |
| 能源 | 油气管道、储运系统 | 探测渗透、数据窃取 | 生产停顿、安全事故 |
| 交通 | 信号控制、票务系统 | 拒绝服务、伪造数据 | 交通拥堵、运行混乱 |
| 金融 | 核心交易、支付网关 | 逻辑漏洞利用、欺诈 | 资金损失、信任危机 |
| 医疗 | HIS、LIS、医疗设备管理 | 勒索加密、隐私泄露 | 诊疗中断、患者数据外泄 |
| 政务 | 政务云、数据交换平台 | 数据窃取、网页篡改 | 公共服务中断 |
需要注意,关键基础设施的安全问题不只是一个技术问题。很多老旧系统运行多年,无法直接打补丁,操作系统版本很老,设备固件不支持升级,安全团队能做的加固空间非常有限。
但从实际经验看,攻击者要想真正破坏关键基础设施,通常需要完成三个阶段:
- 初始入侵:通过钓鱼、漏洞利用、供应链攻击进入内部网络。
- 横向移动:在内网中寻找关键控制设备,确认高价值目标。
- 触发影响:通过勒索、逻辑炸弹、命令篡改等方式制造业务中断。
三个阶段中,初始入侵是最容易被打断的。只要在攻击链前半段做好监控和阻断,后面可能还没走到位就已经暴露。
4. 如何识别 AI 增强型攻击:异常检测与监控示例
攻击语言会变,攻击工具会升级,但攻击行为在系统层面总会留下痕迹。对技术团队来说,不需要一开始就建一个复杂的 AI 安全大平台,先把基础日志和流量特征管好,就能拦截大量攻击。
这里给出三个可执行的监控思路。
4.1 登录日志异常分析
AI 增强型钓鱼攻击之后,攻击者往往会在短时间内尝试登录目标账号。关注以下特征:
- 非工作时间登录;
- 登录位置与常用位置不符;
- 短时间内连续登录多个账号;
- 登录后出现异常行为,例如修改密码、添加密钥、创建新账号。
可以使用 Python 快速做一个日志分析脚本,检测登录失败集中爆发的情况:
import re from collections import Counter from datetime import datetime, timedelta log_file = "auth.log" failed_attempts = [] with open(log_file, "r", encoding="utf-8", errors="ignore") as f: for line in f: if "Failed password" in line: match = re.search(r"(\w{3}\s+\d+\s+\d+:\d+:\d+).*?from (\d+\.\d+\.\d+\.\d+)", line) if match: timestamp = match.group(1) ip = match.group(2) failed_attempts.append((timestamp, ip)) # 统计同一 IP 在 10 分钟内的失败次数 ip_counter = Counter(ip for _, ip in failed_attempts) threshold = 10 print("疑似暴力破解 / 撞库来源 IP:") for ip, count in ip_counter.items(): if count >= threshold: print(f"{ip}: {count} 次失败尝试")这个脚本适合小型系统和自建服务的初期检测。实际生产环境建议用 SIEM 或者云平台的原生日志审计功能做持续聚合。
4.2 网络流量中可疑外连检测
关键基础设施系统的外联通常是有规律的。如果一台内网业务服务器突然频繁连接外部 IP,或者与已知威胁情报库中的 IP 通信,需要立即关注。
可以简单记录系统对外连接情况:
# 查看当前 established 连接 ss -tunap | grep ESTAB # 每 10 秒采样一次,记录外部连接 IP while true; do ss -tunap | grep ESTAB >> /tmp/conn.log; sleep 10; done生产环境更推荐使用网络检测响应设备,或者至少定期导出防火墙会话日志,做外联 IP 的聚合分析。
4.3 文件完整性监控
攻击者在拿到系统权限后,通常会修改系统文件、放置后门、修改计划任务。文件完整性监控是发现这类行为的关键手段。
可以用简单的哈希比对方式,对敏感目录做定期扫描:
# 首次生成基线 find /usr/bin /usr/sbin /etc -type f -exec sha256sum {} \; > /tmp/file_baseline.txt # 后续对比 find /usr/bin /usr/sbin /etc -type f -exec sha256sum {} \; > /tmp/file_current.txt diff /tmp/file_baseline.txt /tmp/file_current.txt这个方案比较粗糙,生产环境建议使用成熟的完整性检测工具,把告警接入统一监控平台。
5. 安全基线:关键基础设施加固的六个方向
与 AI 攻击对抗,基础工作仍然是加固。没有良好的基线,再高级的检测手段也只是亡羊补牢。
5.1 资产盘点与暴露面收敛
先搞清楚有哪些系统暴露在公网,再判断哪些真正需要公开。对不需要公网访问的运维端口、数据库端口、管理后台,一律通过堡垒机或专线访问,减少被扫描命中的概率。
建议做一次完整的攻击面梳理:
- 所有公网 IP 和域名,对应哪个系统;
- 每个开放端口,对应哪个服务;
- 是否有默认账号、弱口令、无 MFA 的管理入口;
- 是否有过期证书、错误配置的 CDN、泄露的源代码仓库。
5.2 身份认证强化
AI 钓鱼攻击最终目的是获取账号权限。守住身份认证,就能拦住大量攻击。
- 强制所有员工使用 MFA;
- 管理员账号与个人账号分离;
- 高权限账号使用单独的硬件安全密钥或证书认证;
- 定期轮换高权限凭据;
- 对异常登录行为做实时风控。
5.3 最小权限与网络隔离
关键基础设施网络里,应该默认拒绝内网大规模互访。只允许业务需要的端口和协议通信。
- 工控网络与办公网络物理或逻辑隔离;
- 管理网段与业务网段分离;
- 数据库、核心系统不允许直接对全内网开放;
- 对跨网段访问做审批和审计。
5.4 补丁管理
无法做到百分之百及时打补丁,但要有一个可执行的补丁节奏。
- 建立资产与漏洞库的映射清单;
- 对高危漏洞限期修复;
- 对不能重启的工业系统,做虚拟补丁或网络侧缓解;
- 关注供应链组件的漏洞信息,特别是开源组件。
5.5 数据备份与恢复演练
勒索软件攻击的关键后果是数据丢失和业务中断。备份是最后一道防线。
- 离线备份核心系统数据;
- 定期做恢复演练,而不仅仅是备份成功验证;
- 备份存储与生产网络隔离,防止被加密或删除;
- 明确恢复的 RTO 和 RPO 目标。
5.6 日志集中管理
日志要足够保留,且保证防篡改。很多攻击事件在事后调查时发现日志缺失或日志只保留 7 天,无法还原完整攻击链。
建议:
- 所有关键设备的日志集中接入;
- 日志保留至少 180 天;
- 关键操作日志禁止本地删除权限;
- 日志内容包含用户、时间、来源 IP、操作对象、结果。
6. 防御侧使用 AI:提升安全运营效率
AI 不只是攻击者的工具,防守方同样可以借用模型能力提升效率。这里给出几个能够落地的方向。
6.1 安全日志智能分类
大型组织每天产生海量安全日志,人工分析效率很低。可以用大模型做初步的日志摘要和威胁分级,帮助安全人员优先处理高危告警。
示例:把一段告警日志交给大模型,让它提取攻击源、攻击类型、受影响资产和处置建议。这种方式在告警分级、通告编写上能显著节省时间。
6.2 钓鱼邮件检测辅助
大模型可以辅助判断邮件真实性,分析邮件中的链接、附件和表述特征。但要注意,不要在大模型网页端粘贴真实钓鱼邮件内容,因为邮件中可能包含个人信息和内部系统信息,建议使用本地化部署的模型或在脱敏后分析。
6.3 漏洞情报信息摘要
每天有大量安全通告和漏洞描述需要阅读。把通告原文输入到一个内部知识库中,由模型生成摘要和处置建议,再经过人工复核,能提高效率。
6.4 用户安全意识培训内容生成
生成针对不同岗位的钓鱼测试案例和安全宣传材料,也是一种实际应用。这里需要强调的是,钓鱼测试本身要经过内部审批,并且必须在受控范围内进行。
7. 事件响应:从发现到闭环的验证流程
任何安全建设最终都要落到事件响应能力上。建议按下面流程设计一套内部演练方案。
7.1 第一层:发现与确认
假设一台办公电脑被钓鱼入侵,账号被异常使用。安全团队需要:
- 确认告警来源是否可信;
- 确认受影响主机和账号范围;
- 决定是否立即隔离主机;
- 保存原始日志和内存快照,防止证据破坏。
7.2 第二层:遏制与清除
- 断开受影响主机的网络连接;
- 冻结受影响账号的登录权限;
- 修改相关服务账号口令;
- 查找恶意进程、计划任务、启动项;
- 回溯攻击者可能的横向移动路径。
7.3 第三层:恢复与加固
- 对受影响系统做重装或从干净备份恢复;
- 修复漏洞或调整网络策略;
- 增强身份认证和监控策略。
7.4 第四层:总结与复盘
- 整理攻击时间线;
- 分析防御体系在哪个环节失效;
- 输出改进清单;
- 更新安全预案。
这里提供一个简单的应急响应命令清单模板:
# 检查当前连接 ss -tunap # 查看异常进程 ps aux --sort=-%cpu | head -20 # 查看计划任务 crontab -l ls -la /etc/cron.d/ cat /etc/crontab # 查看系统用户变化 awk -F: '$3==0 {print $1}' /etc/passwd ls -la /etc/sudoers.d/实际环境中,事件响应人员需要配合威胁情报和外部安全团队,不要把排查范围局限在单台机器上。
8. 合规边界与合法授权
做安全测试和攻防演练时,合法授权是一个不可逾越的前提。
关键基础设施领域尤其严格。任何渗透测试、红队演练、钓鱼测试,都必须经过系统所有者和管理部门的明确授权,并且在指定范围内执行。未经授权扫描、测试或利用漏洞,即使是出于安全研究目的,也可能构成违法行为。
技术开发者在自己的项目中使用 AI 生成代码、生成测试用例、复现攻击样本时,也要注意:
- 只针对自己有权测试的系统;
- 不将恶意样本公开发布;
- 不在公网平台上分享包含真实敏感数据的日志和截图;
- 输出内容涉及漏洞利用方法时,要说明适用场景和授权要求。
同时,AI 本身的合规使用也值得关注。不要将内部代码、客户数据、敏感日志直接粘贴到第三方 AI 产品中,尤其是在没有签订数据保护协议的情况下。企业应建立 AI 使用规范,对内部数据分级,对员工使用外部 AI 工具的行为做合理约束。
9. 常见安全建设误区
在安全建设过程中,很多团队容易踩一些坑。整理如下:
| 误区 | 实际情况 | 建议 |
|---|---|---|
| 买了安全设备就等于安全 | 设备不配置、不更新、不看告警,等于没有 | 定期检查告警覆盖率 |
| 只重视边界防护,忽略内部流量 | 攻击者突破边界后,内网横向毫无阻力 | 做内网流量可视化和微隔离 |
| 日志有存,但没人看 | 日志不分析就没有价值 | 设置例行审计和告警规则 |
| 等保检查完了就结束 | 合规是底线,不是安全上限 | 持续安全运营比一锤子验收重要 |
| 灾难演练只做恢复流程,不做切换 | 恢复脚本可能失败 | 每年至少做一次真实恢复演练 |
| AI 安全就是给 AI 加个审核提示词 | 系统级的安全需要权限、审计、监控 | 把模型当普通组件做安全评估 |
这些误区在很多机构里反复出现。公开信事件之后,安全建设受到的关注度会进一步提升,但真正的改善还是来自团队内部的持续投入。
10. 普通开发团队可以立刻做的事
不是每个团队都能在短期内建立大型安全运营中心。但以下事项是大多数团队可以马上执行的。
10.1 先做最小必要清单
- 梳理所有公网入口,关停无用服务;
- 开启关键系统的 MFA;
- 把管理员账号收口到堡垒机;
- 确认核心数据有备份,并且做过恢复测试;
- 设一条最简单的异常登录告警。
10.2 管理好 AI 使用边界
- 制定内部 AI 工具使用规范;
- 禁止把生产环境日志、客户个人信息、未公开代码直接输入外部 AI 服务;
- 对 AI 生成代码严格执行代码审查;
- 在安全测试中,AI 生成的内容必须经过人工确认后再执行。
10.3 保持学习与情报跟进
网络安全是一个信息密度很高的领域。定期关注行业安全通告、漏洞公告和攻击事件报告,建立内部安全情报订阅机制,比临时抱佛脚更有效。
11. 总结与行动建议
这次 OpenAI 联合 100 余家公司签署公开信,本质上是一次行业共识的表达:AI 已经进入网络攻击链条,关键基础设施需要更系统的防御体系。
对技术团队来说,不必恐慌,也不该轻视。先把基础安全动作做到位,再逐步引入 AI 辅助防御能力,是完全可行的路径。
最容易踩的坑有三个:一是认为 AI 攻击离自己很远,不做基础加固;二是把大模型的生成能力直接放到生产环境,却没有做模型滥用检测和权限隔离;三是安全测试不做授权,自己把自己放在了法律风险里。
最先应该验证的能力是:登录异常检测是否覆盖所有关键系统、核心数据备份能否在限定时间内恢复、有没有一条可靠的告警通知链路。先确认这三件事,再谈 AI 安全平台的搭建。
后续如果要扩展,方向很明确:把日志数据接入统一审计平台,逐步引入异常行为分析和威胁情报,定期组织接近真实场景的攻防演练,最后才是在安全运营中引入大模型辅助判断。
公开信不能替代任何一个组织自己的安全建设。真正的安全感来自平时做好的资产清单、加固配置、监控规则和恢复演练。