派拓网络：ChatGPT——人工智能是把“双刃剑”
作者：Sean Duca，派拓网络副总裁兼亚太及日本地区首席安全官
科技及其组成部分在过去几代人的时间里大大推动了人类社会的发展。其本质是对新知识的探索，但凡事都有两面性——科技带来的利与弊取决于背后的人。
凭借在模仿和破译人类思维方面的不懈努力，我们进入了人工智能（AI）时代。作为一款基于文本的AI机器人，ChatGPT因广泛应用先进的AI技术而备受关注。从准确修复编码错误、生成烹饪食谱、创建3D动画，到制作完整的歌曲，ChatGPT展现了AI的惊人能量，为世界带来了不可思议的新能力。
然而与此同时，AI也一直被视为一把“双刃剑”。多年来，全世界都在猜测AI可能即将统治世界。如今，用户可以使用AI驱动的安全工具和产品，在几乎无需人为干预的情况下应对大量网络安全事件，但业余黑客也可以利用同样的技术开发智能恶意软件程序并发起隐形攻击。
ChatGPT带来的网络安全隐患不容忽视
自去年11月底ChatGPT问世以来，全球技术专家和评论员一直在关注AI生成的内容工具所产生的影响，尤其是对网络安全的影响。那么AI软件会使网络犯罪走向普及吗？
在拉斯维加斯举行的黑帽和Defcon安全大会上，一个技术团队展示了AI在生成钓鱼邮件和鱼叉式钓鱼信息方面是如何超越人类的。
研究人员将OpenAI的GPT-3平台与其他侧重于个性分析的AI即服务产品相结合，生成了根据他们同事的背景和性格而定制的钓鱼邮件。最终，研究人员开发出一个在攻击目标之前对邮件进行梳理和完善的流程。令他们惊讶的是，这个平台还能自动提供具体内容，例如当被要求生成针对特定国家的人的内容时，会提到该国的法律。
ChatGPT的开发者明确表示，这款AI工具具有质疑错误前提和拒绝不当请求的能力。虽然该系统自带用于防止任何形式犯罪活动的护栏，但经过调整，它生成了一封看上去极其像人类写出来的近乎完美的钓鱼邮件。
采取智能化行动，实现自动化响应
根据派拓网络威胁情报团队Unit 42的调查，勒索软件攻击是最主要的安全事件，发展呈现愈演愈烈的态势——不仅案例数量超过总量的三分之一（36%），而且攻击者索要和获得的赎金也在不断增加。究其原因，主要是由于暗网中的工具价格低廉——甚至不到10美元，而且还出现了勒索软件即服务模式和ChatGPT等AI工具，大大降低了网络犯罪的门槛。
鉴于日益智能和先进的黑客技术所带来的威胁迫在眉睫，网络安全行业必须拥有同等资源才能对抗这些AI驱动的攻击。从长远来看，安全行业的目标不是仅让一群人类威胁猎手通过猜测来零散地解决问题。
当务之急是采取智能化的行动来化解这些不断发展的威胁。好消息是自主响应如今能够在无需人类干预的情况下有效解决威胁。但随着AI驱动的攻击成为常态，受到自动化恶意软件攻击的企业、政府和个人需要越来越多地依靠AI和机器学习（ML）等新兴技术做出自动化响应。
更负责且道德地使用AI工具
从技术的复杂性到人为因素，企业在确保AI网络安全的过程中面临着诸多挑战，尤其是需要高度重视机器、人类和道德因素之间的平衡。
制定企业策略对于兼顾经营道德和网络安全至关重要。建立有效的治理和法律框架能够增强人们对AI技术的信任，并促进社会公平和可持续发展。因此，AI和人类之间的微妙平衡将成为实现网络安全的关键因素，其中信任、透明度和责任感为机器带来了补充优势。
关于Palo Alto Networks（派拓网络）
Palo Alto Networks（派拓网络）是全球网络安全领导者。我们持续创新，防范网络威胁于未然，让企业放心拥抱技术。凭借行业领先的威胁情报和先进自动化技术，我们为全球各行各业成千上万的客户提供下一代网络安全平台和服务，并成为众多企业首选的网络安全合作伙伴。从部署我们的解决方案以实现零信任企业、响应安全事件，到通过一流的合作伙伴生态系统获得更佳的安全效果，我们的愿景是构建一个日益安全的世界。
肩负为网络安全保驾护航的使命，Palo Alto Networks（派拓网络）一直致力于与优秀人才携手同行。我们很荣幸成为首选网络安全工作场所，获得《新闻周刊》“最受喜爱的工作场所（2021年）”、Comparably“最佳多元化公司（2021 年）”和人权运动基金会“LGBTQ平等的最佳工作场所（2022 年）”等殊荣。
