必威图:OpenAI行政总裁阿尔特曼在11月的开发者大会上发表讲话。\法新社
【大公报讯】综合BBC、CNBC报道:随着人工智能技术发展,使用AI的门槛越来越低,用户毋须学习编程就可轻松打造自己的聊天机器人,但专家视之为双刃剑:一是AI可进一步帮助用户提升效率,另一方面是AI技术可能会让犯罪分子“如虎添翼”,助长网络犯罪。
OpenAI上月推出了定制版的ChatGPT后,英国BBC新闻团队就使用其付费版本,创建了一个名为Crafty Emails的定制AI聊天机器人。这个机器人专门生成用于诈骗和便于黑客入侵的电子邮件、文字和社交媒体帖文。据称,该机器人能够在几秒钟内,以多种语言生成诈骗短讯文本。
据称,尽管ChatGPT的公开版本拒绝执行类似的工作指令必威,但定制版的Crafty Emails几乎完成了用户要求的所有内容,尽管该软件有时候还会添加了免责声明,称诈骗是不道德的。专家们说,OpenAI没有像ChatGPT的公开版本那样,严格地审核定制版本,这有可能让最先进的AI工具落入犯罪分子之手。OpenAI回应,正在不断改进安全措施,防止滥用行为。
另外,网络安全公司SlashNext 11月底发布最新报告,自2022年第四季度以来,与网络钓鱼有关的恶意电子邮件增加了1265%,其中,专门用于骗取用户个人敏感资料的钓鱼电邮增加了967%。报告指出,网络犯罪分子正在利用ChatGPT等来帮助编写复杂的网络钓鱼信息。