昆士兰大学互联网欺诈研究所副教授卡桑德拉·克罗斯警告说,通过互联网寻找真正关系的人需要更加了解新技术,这些新技术将使他们面临“全新级别的风险”。
仅在2020年,罗曼史骗局就从澳大利亚人手中净赚了1.31亿美元。随着犯罪者开始使用人工智能(AI)和deepfake技术欺骗受害者,罗曼史骗局可能会变得更加难以发现。
借助deepfake技术,犯罪者不仅可以使用他人现成的图像并创建虚假的个人资料图像,还可以创建完全合成的图像和相应的个人资料,而无需从他人的社交媒体或互联网上获取。
昆士兰大学司法学院的克罗斯教授表示,公众已经意识到了浪漫骗局,并被建议使用检测方法,如对发送给他们的图像进行反向图像搜索,以确定发送者是否是他们声称的人。
克罗斯教授说:“这意味着需要修改欺诈预防活动,使人们意识到这种复杂且不易发现的欺骗方法。”。
“AI和deepfakes使反向图像搜索几乎过时。由于可用的检测手段有限,因此迫切需要改进对AI的技术响应和deepfakes的欺诈潜力。”
克罗斯教授表示,许多媒体报道已经记录了使用人工智能和深度假货欺骗浪漫欺诈受害者的行为。
她说:“例如,一名美国妇女向一名她认为是美国海军官员的男子发送了多笔钱。在这起案件中,犯罪者操纵了一名美国海军军官的公开图像和录音,以制作不同身份的真人的深度假视频。”。
“deepfake软件不仅可以让犯罪者提升活人的图像并创建真实的个人资料,还可以创建一个完全可信但虚构的图像和个人资料。
“技术能够生成独特的图像,用于社交媒体档案,这有可能改变浪漫欺诈和其他欺骗性在线行为(如鲶鱼)的实施方式。”
Cross教授表示,deepfakes已经演变为包含语音记录,当与其他欺诈行为一起使用时,它是一种强大的工具。
“例如,在商业电子邮件妥协(BEC)欺诈中,犯罪者可以使用虚假录音来冒充首席执行官和其他权威人物,并以紧急请求代表其转移资金的较低级别员工为目标。
“很明显,预防信息需要针对那些使用约会平台和社交媒体平台建立关系的人,至少要提醒公众AI和深度假货在他们生活的这些领域带来的风险。”
该论文发表在《预防犯罪和社区安全》上。