今年以来，人工智能得到了飞速发展，被广泛应用于各个领域，但与此同时，AI技术被黑产滥用的负面影响也逐步显现。今年的5月22日，“AI诈骗正在全国爆发”登上了微博热搜榜首。包头警方披露，不法分子利用AI换脸和仿声技术，在微信视频中进行冒充受害者朋友，10分钟内骗取430万元。
这只是AI技术滥用的冰山一角，类似事件正在世界各地频频发生，大量受害者遭受了金钱和精神上的双重损失。CBS在一档节目中警告老人：当接到子女打来电话要钱时，不要放松警惕，一定要问他们一个只有他们才能回答的问题。
同盾科技行业资深安全专家认为，当前黑灰产利用AI等技术升级攻击工具和策略的趋势越发明显。除了利用深度伪造技术进行语音或视频欺诈，其他诈骗手段同样值得警惕。
例如借助人工智能进行的电信“杀猪盘”诈骗。在某些海外社交平台上，已经有黑产团伙开始售卖利用逆向ChatGPT接口实现的聊天机器人，并宣称其可以用于电信诈骗活动。
过去，诈骗者使用的传统聊天机器人通常只能根据关键词与受害者对话，很容易被识破。然而，利用ChatGPT等工具构建的聊天机器人，可以结合对话的上下文和情感进行对话。普通人很难察觉其中的破绽。曾经有组织以“卖茶小妹”骗局进行测试，发现ChatGPT生成的话术与真实剧本几乎无法区分。
此外，ChatGPT强大的编程能力，也降低了很多底层黑产从业者使用高难度技术的门槛。此前，制作和使用免杀木马往往是高端黑客的专长，随着ChatGPT的出现，即便是技术能力较弱的黑产"新手"也能制作免杀代码和恶意载荷，发动网络攻击，从而控制用户的电脑终端并实现资金窃取。
在暗网上，已经有人在售卖类似代码。这种代码可以搜索受害者电脑中12种常见的文件，并将有价值的文件自动上传到黑产指定服务器。
同盾科技安全专家强调，尽管目前利用AI进行诈骗的手段较为粗糙，但是随着技术的发展，AI诈骗将变得更加难以识别。
对普通人来说，在日常生活中应当提高警惕，多关注媒体报道和网络曝光的诈骗案件，了解近期出现的作案手法，并及时提醒家人和亲友。同时，还应注意电信运营商发送的安全提示信息，公安机关发布的风险防范要点，以及金融机构通过各种渠道开展的知识宣教活动。
对银行等金融机构来说，这意味着未来面临的挑战更加艰巨。《反电信网络诈骗法》的出台，明确了金融机构的主体责任，也对银行的业务安全风控能力提出了更高要求。传统的反欺诈机制已经难以适应新的形势，金融机构同样需要借助人工智能等前沿科技的力量，精准打击各种新型电信诈骗。
总的来说，防范电信网络诈骗是一场需要旷日持久的斗争，需要政府、银行和企业共同努力，提升银行金融机构的风险防范能力。
面对这一挑战，同盾科技结合多年来积累的反电诈经验，提出“电信诈骗风险防御全场景解决方案”，为金融机构在应对电信诈骗挑战方面提供助力。
该方案从金融业受诈者及欺诈者双视角出发进行双轨识别，精准刻画电诈风险画像，围绕数据体系整合、平台体系规划、决策体系设计、运营体系建设四个方面，建立健全覆盖多层次的电信诈骗风险防控体系。方案覆盖了借记卡、贷记卡、信贷、对公、商户等多个业务场景，实现事前、事中、事后全生命周期风险识别、策略部署、账户管控、全流程风险核查、量化评估及运营、案件分析挖掘等。
例如在事中拦截阶段，通过丰富的反电诈策略、时序分析及实时反诈模型，全场景解决方案可以识别可疑交易，提升事中风险监测识别能力。对于高、中、低不同级别疑似欺诈风险，分别通过拦截或实时阻断、二次认证处置、电话银行外呼提醒客户等方式进行处置。这些技术的运用不仅可以保护消费者免受诈骗的侵害，还可以帮助金融机构提升防诈效能，从而降低整个社会的诈骗风险。
未来，同盾科技将继续深耕AI反诈领域，不断提升解决方案的效果，提供更多的防御机制，以期为网络安全环境的稳定做出更大的贡献。
