▲12月22日晚，不少网友反映快手直播间内展示大量色情内容，包括播放淫秽视频、播音员低俗表演等。图/九拍新闻 12月22日晚，快手平台出现大量违规直播。该平台随后回应称，遭到黑灰产品攻击，并已报警。乍一看，这是一起突发的内容安全事件，但转化为更广泛的技术和产业背景，则是对随着技术快速复制，人工智能可以用来做坏事的警告，互联网平台的安全冲突逻辑也面临重大变化。据媒体报道，针对黑色和灰色产品的袭击发生在晚上 10:00 左右。盘中快手称，短时间内，众多直播间被恶意注入色情、低俗等内容d 的时间。在高峰时期，大约有 17,000 个被指控的“僵尸账户”同时启动，在屏幕上产生类似滑动的效果。涉事直播间观看人数接近10万，评论区充斥着攻击性言论。更为严重的是，现阶段部分用户的举报功能暂时停止工作，表明黑灰产品不仅发布了违法内容，还干扰了平台的处理渠道。一小时后，该平台基本删除了违法内容，并暂停了所有涉案账户。受此事件影响，凯商股价次日大幅波动。请注意“系统性风险” 纵观互联网发展历史，如此规模的恶意网络攻击并不多见。攻击背后的操纵者显得非常咄咄逼人，不仅窃取利润，而且作为“抗议者”，有着明显的目的。内在的特征。这是国内大型平台首次发生密集、短暂、自动化、人工智能驱动的非法内容攻击。在这次攻击中，黑灰没有依赖分布式账户或手动交互。相反，使用自动化工具批量注册和管理帐户并管理您的内容。它很快就产生、启动和传播。这击败了传统的平台安全和监控措施，造成了重大负面影响。俗话说，那条路上的每一步都像魔鬼一样高。网络攻击自出现以来就一直存在，互联网接入和攻击方法随着网络技术的进步而不断改进。这次攻击的“自动化”特征非常明显。攻击者利用自动化工具控制批量注册、同步传输的僵尸账户，实现非法内容秒级发布和传播。如此大规模的攻击完成完全超出了人工审查的极限，在短时间内造成了安全漏洞。某网络安全公司评论称：“这是网络攻击者利用人工智能技术实施的系统性、有计划的攻击，表明网络攻击已进入新的产业化阶段。”尽管目前尚不清楚攻击者使用了哪些AI技术，但AI技术的使用本身就使得本次事件预警的重要性超越了网络安全。人工智能的兴起总是伴随着恐惧和争议，其中许多是情感或宏观层面的，比如担心人工智能未来会主宰人类或取代人类的工作。最近的快手事件不会突然让公众担心人工智能已经有了自我意识，而是会面临一系列危机。一种更真实、更危险的新现象：人工智能正在帮助不良行为变得更加经济实惠、可复制和可扩展。在此之前，人们接触到的主要是利用AI“做事”。恶意”，带来了诸如面部修改、盗窃、虚假视频、假直播、算法歧视、侵犯隐私和知识产权等个人和道德风险。这些问题虽然严重，但一般在短期内是可控的。但在快手事件中，非法内容因操纵人工智能技术而泛滥，人们感受到的不再是个人的技术问题，而是一种秩序被打破、失去控制的感觉。看到你的屏幕上充斥着数以万计的账户，非法内容就像在线观看场景一样，在互联网和人工智能成为社会基础设施的未来，如果所有技术先进的互联网平台公司都受到攻击，那么更强的攻击是否会带来相应的系统性风险？必须立即解决成为新的、放大的风险源的技术。被虐的时候谁能真正停下来呢？过去，大众下意识地信任平台公司。一直相信平台可以通过技术手段和人力监督，及时消除潜在的损害。然而，快手事件中平台的“防守缺口”却揭示了另一种可能。此外，它还引发了担忧：“如果平台无法响应，正常的社会系统会发生什么？”毫无疑问，各大平台都因此次事件受到了极大的震动，在安全运营方面，从单一防御到系统治理，都将面临新的挑战和挑战。然而，面临挑战的不仅仅是平台公司，而是整个社会。人工智能是不可阻挡的科技趋势，此类事件在所难免。一旦发生这种情况，并不会导致社会对人工智能的排斥，只会导致强化监管共识。迄今为止，许多监管辩论都是抽象的，例如“人工智能为善”和“透明算法中央情报局”。未来，它们将逐步走向实际应用，切实向监管机构提出更严格的要求。平台职责也将更新。平台在积极推广人工智能的同时，还必须证明是否能够控制人工智能，是否具有自动化防御、极端场景训练以及熔断、降级和止损机制。同时，这一事件彻底摧毁了公众对一切人工审计的浪漫想象，并引发了“AI对AI”治理的变革。这个逻辑最终可能会被接受。快手事件虽然严重，但还没有到天塌地陷的地步。相反，它是导致未来真正风险的触发器。如果邪党向工业化、自动化、人工智能进化未来的执政党是否做好充分准备？撰稿/编辑：辛海光（专栏作家）/审稿：迟道华/李立军