除非您在过去几个月中没有互联网访问的地方静修 ，否则您很可能很了解Openai开发的人工智能（AI）Chatbot在Chatgpt周围有多少炒作和恐惧。也许您会看到有关学者和老师的文章 ，他们担心“会比以往任何时候都更容易作弊 。在硬币的另一侧，您可能已经看到了福音派的所有潜在应用的文章 。
另外 ，您可能会被使用该工具的一些更深奥的例子挠痒痒。例如 ，一位用户让它撰写了一份指南，以从詹姆斯·圣经的风格中从VCR中删除花生酱三明治 。另一个要求它以尼克·凯夫（Nick Cave）的风格写一首歌 。这位歌手对结果不满意。
但是 ，在所有这些炒作和讨论中 ，几乎没有足够的关注对网络安全领域中AI工具所带来的风险和奖励 。
你可能喜欢
网络安全的AI：Raider还是Guardian？
AI正在重写勒索软件剧本 - 企业可以跟上吗？
脆弱性开发：开放LLM模型繁荣的危险
了解chatgpt
为了更清楚地了解这些风险和奖励是什么样的，重要的是要更好地了解Chatgpt是什么以及它的能力 。
Chatgpt（现在以最新版本为2023年3月14日发行的Chatgpt-4）是由美国Openai开发的大型AI工具系列的一部分。虽然它正式称为聊天机器人 ，但并没有涵盖其多功能性 。经过监督和强化学习技术的培训 ，它可以做得比大多数聊天机器人多得多 。JP Perez-CetheGoysocial Links导航
JP Perez-etchegoyen，onapsis的首席执行官。
作为其响应的一部分，它可以根据培训的所有信息来生成内容。该信息包括通用知识以及编程语言和代码 。结果 ，它可以模拟整个聊天室 。玩Tic-Tac-toe之类的游戏；并模拟ATM。
更重要的是 ，对于企业和其他大型组织，它可以帮助改善企业 。通过更个性化 ，准确的消息传递客户服务 。它甚至可以编写和调试计算机程序。其中一些以及其他功能意味着它既可能是网络安全盟友 ，也可能是威胁 。
教育，过滤和加强防御
在积极的方面 ，对于chatgpt来说 ，有很多话要说 。它可能扮演的最有价值的角色之一也是最简单的角色之一：发现网络钓鱼。组织可以养成员工的习惯，从而使用chatgpt来确定他们不确定是否有任何内容是网络钓鱼 ，或者是出于恶意而产生的 。
这很重要 ，因为对于近年来的所有技术进步，网络钓鱼等社会工程攻击仍然是网络犯罪中最有效的形式之一 。实际上 ，研究表明 ，在2022年在英国成功确定的网络攻击中，有83％的网络涉及某种形式的网络钓鱼。
当然，还有许多其他方法可以用来加强网络安全工作 。例如 ，它可以为更多的初级保安人员提供一定程度的帮助 ，无论是在交流他们可能遇到的任何问题上，还是帮助他们更好地理解他们“在任何给定点要做的事情”的背景 。它还可以帮助资源不足的团队策划最新的威胁并确定内部漏洞。
坏人也在使用它
但是 ，即使网络安全专业人员探索利用Chatgpt发挥优势的方式 ，网络犯罪分子也是如此。例如，他们可能会利用其生成恶意代码的能力 。另外 ，他们可能会使用它来生成似乎是人类生成的内容 ，可能用于欺骗用户点击恶意链接，在不知不觉中导致危险的后果 。
有些人甚至使用Chatgpt令人信服地模仿公司网站上的合法AI助手 ，从而在社会工程战线上开辟了新的途径。请记住 ，网络犯罪分子的成功在很大程度上取决于能够尽可能迅速，迅速地针对尽可能多的漏洞 。像chatgpt这样的AI工具可以通过实质上充当增压助手来做到这一点 ，该助手可以帮助创建恶意运动所需的所有资产 。
使用可用的工具
应该清楚的是 ，如果网络犯罪分子使用Chatgpt和其他AI工具来增强其攻击，那么您的安全团队也应该使用它们来增强您的网络安全工作。幸运的是，您不必一个人做 。
正确的安全提供者赢得了关于网络犯罪分子如何使用最新技术来增强其攻击的不断研究 ，还可以如何使用这些技术来改善威胁检测 ，预防和防御 。由于网络安全攻击可以对您的关键基础设施造成损害，因此他们也应该主动告诉您一些事情。
chatgpt-4
借助Chatgpt（ChatGpt-4）的最新版本 ，OpenAI已提供了最新 ，最强大的对话模型，还引入了更多的控件以防止其滥用 。我们问Chatgpt：“什么可以阻止恶意演员使用恶意意图使用Chatgpt ” ，这就是答案：
“有多种措施可以防止恶意行为者使用恶意意图使用CHATGPT：访问控制：OpenAL ，在ChatGpt背后的组织，已实施了访问控制 ，以限制谁可以访问其API并使用其技术 。通过限制访问权限 ，他们可以防止恶意参与者使用其技术来实现恶意的目的。MONITOISS和检测模型：开放型Monitors notal intal Monitors nighate nocation nocation of Scholace of Scholage osege intercage osege intercage os nakite of他们的技术和探索技术，并以其技术来探索和探索 。用法的异常可能表明潜在的滥用 ，开放的指南已经发布了负责任的技术指南 ，概述了最佳实践和道德考虑，用户可以用负责任的和道德的方式使用该技术，以确保教育的能力和教育材料及时的限制 。滥用的风险。法律后果：将诸如Chatgpt之类的技术用于恶意目的和执法机构有法律后果。
总体而言 ，防止恶意演员以恶意意图使用Chatgpt需要技术控制 ，道德准则，用户教育和法律后果的结合 。重要的是要以负责任地和道德的方式使用诸如Chatgpt之类的语言模型 ，以防止该技术被滥用出于有害目的 。 ”
因此 ，Chatgpt继续进行，并列举了Openai为防止其滥用而采取的所有措施。OpenAI在Chatgpt-4的发行博客中解释了该模型的据称如何比其前代者更安全：“我们花了6个月的时间使GPT-4更安全 ，更加保持一致 。GPT-4的可能性低82％ ，对不允许内容的请求的响应的可能性少82％，而对内部评估产生事实响应的可能性要高40％ 。”
因此 ，所有人都表明 ，正确的措施继续得到改进以避免滥用，但是众所周知 ，由于模型被更广泛地使用和理解 ，坏人将继续找到克服这些局限性的方法。
我们已经对最好的互联网安全套件进行了评分 。
本文来自作者[水埋奉]投稿，不代表卓思号立场，如若转载，请注明出处：https://nc-sczs.cn/cshi/202505-2394.html
评论列表（4条）
我是卓思号的签约作者“水埋奉”！
希望本篇文章《网络安全中chatgpt的风险和回报》能对你有所帮助！
本站[卓思号]内容主要涵盖：国足,欧洲杯,世界杯,篮球,欧冠,亚冠,英超,足球,综合体育
本文概览： 除非您在过去几个月中没有互联网访问的地方静修，否则您很可能很了解Openai开发的人工智能（AI）Chatbot在Chatgpt周围有多少炒作和恐惧。也许您会看到有关学者和...