Anthropic发报告说,坏人已经把AI当武器使了

做Claude大模型的公司Anthropic发了一份报告,讲了他们发现坏人是怎么用AI做坏事的。这事挺严肃的。
报告里说了三个大趋势:
第一,AI现在能自己动手干坏事了。以前,AI最多就是给黑客出出主意。现在,黑客能让AI自己去执行一套完整的攻击,AI成了一个可以自动攻击的“武器”。
第二,做坏事的门槛低了很多。以前想写个勒索病毒,你得是个很厉害的程序员。现在,一个懂点代码的人,让AI帮忙就能写出来。
第三,犯罪团伙把AI用到了每个环节。从找哪个目标更好下手,到分析偷来的数据,再到用AI生成假身份骗人,AI成了他们的“全能员工”。
报告还举了个真实例子。一个叫“Vibe hacking”的团伙,用AI帮他们从医院、政府机构等17个地方偷了数据。他们不加密数据,而是威胁说要把数据公开,以此来勒索钱财。
Anthropic把这些事说出来,是想告诉大家AI滥用的风险有多大,希望整个行业能一起想办法应对。

上一篇:

下一篇:

发表回复

登录后才能评论