黑客滥用ChatGPT更容易检测：OpenAI报告

OpenAI透露，利用其人工智能工具ChatGPT的不法分子无意中使当局更容易发现和破坏他们的秘密网络行动。

在一份详细的报告中，OpenAI讨论了网络犯罪分子利用其工具帮助他们进行非法活动的新趋势，但也指出，这些尝试往往会因为暴露了他们的方法而适得其反。

根据该报告，ChatGPT提示有助于OpenAI识别恶意行为者所针对的平台和工具。在一个例子中，滥用ChatGPT使OpenAI能够在社交媒体平台X（以前的Twitter）和Instagram上进行秘密影响活动。

该报告还揭示了ChatGPT提示如何揭示了网络犯罪分子正在测试的新工具，以加强他们的在线欺诈活动。

尽管越来越多的人担心人工智能有可能加剧虚假信息的传播，但OpenAI强调，它的模型并没有为威胁行为者提供他们无法从公开来源获得的能力。

相反，像ChatGPT这样的人工智能工具主要被网络犯罪分子用来节省时间或降低成本，比如生成社交媒体帖子来扩展垃圾邮件网络，这在以前需要一个庞大的团队。

该报告强调了几个值得注意的案例，其中一起涉及一个疑似来自中国的对手，名为“SweetSpecter”。

该组织使用ChatGPT研究并执行了针对政府官员和OpenAI员工的鱼叉式网络钓鱼活动。

SweetSpecter假装用户在解决问题，试图通过电子邮件附件传播恶意软件。幸运的是，OpenAI的垃圾邮件过滤器在威胁到达员工之前就阻止了它。

通过监控SweetSpecter的ChatGPT提示，OpenAI发现该组织意图利用各种应用程序和基础设施中的漏洞，包括属于一家主要汽车制造商的系统。

除此之外，OpenAI指出，SweetSpecter甚至请求帮助命名电子邮件附件，以避免被发现。

另一个重大案件涉及CyberAv3ngers，据报道，该组织隶属于伊朗武装部队。CyberAv3ngers以对美国、爱尔兰和以色列等国的公共基础设施进行破坏性网络攻击而闻名。

OpenAI发现该组织使用ChatGPT进行研究和调试代码，为该组织在未来的攻击中可能利用的技术提供了有价值的见解。

OpenAI的报告还揭示了他们如何破坏另一个伊朗威胁参与者STORM-0817，该参与者被发现使用人工智能工具攻击一名批评政府的伊朗记者。

STORM-0817一直在使用ChatGPT抓取Instagram的个人资料并调试他们的代码，OpenAI将其标记为更广泛监控工作的一部分。

尽管人工智能工具正在被不良行为者试验，但OpenAI明确表示，他们没有看到威胁行为者的能力有任何重大突破。

虽然一些活动成功地吸引了网上的真人，但它们的总体影响仍然有限。

OpenAI指出，在大多数情况下，网络犯罪分子使用的人工智能工具只提供了非人工智能资源可以实现的增量功能。

该公司的报告强调，整个科技行业需要加强合作，以建立针对网络威胁的强大防御。OpenAI承诺在解决其模型可能被滥用的方式方面保持持续的透明度。

然而，他们认为，人工智能公司无法单独进行这些战斗，必须与其他机构合作，制定多层次的保护措施，防范与国家有关的网络行为者和在线的秘密影响行动。

OpenAI透露，利用其人工智能工具ChatGPT的不法分子无意中使当局更容易发现和破坏他们的秘密网络行动。

在一份详细的报告中，OpenAI讨论了网络犯罪分子利用其工具帮助他们进行非法活动的新趋势，但也指出，这些尝试往往会因为暴露了他们的方法而适得其反。

根据该报告，ChatGPT提示有助于OpenAI识别恶意行为者所针对的平台和工具。在一个例子中，滥用ChatGPT使OpenAI能够在社交媒体平台X（以前的Twitter）和Instagram上进行秘密影响活动。

该报告还揭示了ChatGPT提示如何揭示了网络犯罪分子正在测试的新工具，以加强他们的在线欺诈活动。

尽管越来越多的人担心人工智能有可能加剧虚假信息的传播，但OpenAI强调，它的模型并没有为威胁行为者提供他们无法从公开来源获得的能力。

相反，像ChatGPT这样的人工智能工具主要被网络犯罪分子用来节省时间或降低成本，比如生成社交媒体帖子来扩展垃圾邮件网络，这在以前需要一个庞大的团队。

该报告强调了几个值得注意的案例，其中一起涉及一个疑似来自中国的对手，名为“SweetSpecter”。

该组织使用ChatGPT研究并执行了针对政府官员和OpenAI员工的鱼叉式网络钓鱼活动。

SweetSpecter假装用户在解决问题，试图通过附件传播恶意软件。幸运的是，OpenAI的垃圾邮件过滤器在威胁到达员工之前就阻止了它。

通过监控SweetSpecter的ChatGPT提示，OpenAI发现该组织意图利用各种应用程序和基础设施中的漏洞，包括属于一家主要汽车制造商的系统。

除此之外，OpenAI指出，SweetSpecter甚至要求帮助命名附件以避免被发现。

另一个重大案件涉及CyberAv3ngers，据报道，该组织隶属于伊朗武装部队。CyberAv3ngers以对美国、爱尔兰和以色列等国的公共基础设施进行破坏性网络攻击而闻名。

OpenAI发现该组织使用ChatGPT进行研究和调试代码，为该组织在未来的攻击中可能利用的技术提供了有价值的见解。

OpenAI的报告还揭示了他们如何破坏另一个伊朗威胁参与者STORM-0817，该参与者被发现使用人工智能工具攻击一名批评政府的伊朗记者。

STORM-0817一直在使用ChatGPT抓取Instagram的个人资料并调试他们的代码，OpenAI将其标记为更广泛监控工作的一部分。

尽管人工智能工具正在被不良行为者试验，但OpenAI明确表示，他们没有看到威胁行为者的能力有任何重大突破。

虽然一些活动成功地吸引了网上的真人，但它们的总体影响仍然有限。

OpenAI指出，在大多数情况下，网络犯罪分子使用的人工智能工具只提供了非人工智能资源可以实现的增量功能。

该公司的报告强调，整个科技行业需要加强合作，以建立针对网络威胁的强大防御。OpenAI承诺在解决其模型可能被滥用的方式方面保持持续的透明度。

然而，他们认为，人工智能公司无法单独进行这些战斗，必须与其他机构合作，制定多层次的保护措施，防范与国家有关的网络行为者和在线的秘密影响行动。