科技是把双刃剑，它可以用来造福人类，也可以用来毁灭人类。AI 技术的发展给人类带来了巨大福祉，改善了我们的生活，提高了生产效率，拓展了认知视野。然而，任何技术都蕴藏着两面性，除了方便与效益，也潜伏着误用与滥用的风险，这需要我们对新技术保持清醒的认识。
一、 AI 犯罪层出不穷
ChatGPT 开启了人工智能的新时代 ，也打开了潘多拉的魔盒，根据相关数据统计，不法分子利用 AI 技术进行犯罪的频率与日俱增。AI 正在被犯罪分子所利用，利用相关软件进行人脸替换、虚拟角色生成、模仿声音、伪造图像和视频等，让目标对象分不清屏幕背后是人还是 AI, 最终实施电信诈骗和网络敲诈。
AI 换脸手段高超
2023 年 3 月，不法分子将广州一女子在地铁上的一张正常自拍照使用 AI 软件进行一键脱衣处理后，在网络上广泛传播。实际上女子是小红书的一名博主，原图中她衣着正常，经 AI 软件处理后，照片中的她似乎全裸，该事件造成了极其恶劣的影响，此博主已报警处理。这件事也让关于 AI 软件的安全隐患暴露，促使人们开始思考 AI 的道德和法律的边界究竟在哪里。
在美国，AI 同样处在风口浪尖。美国网民使用 AI 图像生成技术，将前总统特朗普的照片与被捕照片进行合成，制作出特朗普被警察逮捕的场景照片，这些照片在社交媒体上疯狂传播，引起热议。尽管大多数人对这些恶搞照片表示赞扬，但也有网民担心，如果 AI 图像生成技术可以做到如此逼真的图片合成，那么一旦被用来实施诈骗，后果将难以想象。
一语成谶 企业老板数分钟内被 AI 诈骗 430 万
2023 年 4 月，一起利用 AI 实施电信诈骗的案例发生在福州，某企业老板郭先生被自称 “好友” 的人通过微信视频骗走 430 万元。犯罪分子采用 AI 换脸和拟声技术，假装成郭先生的好友，通过视频通话成功骗得其信任，随后提供虚假的转账证明，郭先生转账后才发现上当。后经警方努力追回款项的大部分，但仍有 93 万元流入犯罪分子手中。
AI 换脸威胁不容小视
关于 AI 诈骗，远比我们想象中的严重。在 2022 年的《猎罪图鉴》中，就曾揭露过关于 AI 诈骗的真实案件。剧中，犯罪分子通过社交媒体搜集到一名独居老人的儿子在美国的大量照片和视频资料。利用 AI 换脸技术，他们将这些资料用于一个视频模特，制作出老人儿子求救的视频，在视频中声称需要 25 万美元来处理事故。
犯罪分子通过微信将视频发送给这名老人后，老人信以为真，将钱款给犯罪分子汇了过去，老人被骗的倾家荡产，最终导致老人自杀身亡。
AI 变声升级 AI 孙燕姿翻唱
最近，“AI 孙燕姿” 因其翻唱《下雨天》等歌曲走红网络。而且 “AI 孙燕姿” 居然能做到连其 “换气声” 都可以模仿，一时间 “AI 出来后第一个失业的是孙燕姿” 等话题被推上热搜。
所谓 “AI 孙燕姿” 即人工智能技术合成出来的。“AI 孙燕姿” 凭借歌手孙燕姿 “上天赏饭吃” 的音色从诸多 “AI 歌手” 中成功 “出圈”，被歌迷评为 “华语乐坛 2023 年最勤奋歌手”，翻唱歌曲几十余首，其中包括粤语、日语、英语、俄语中歌迷们耳熟能详的歌曲。
“AI 孙燕姿” 翻唱的《下雨天》和《半岛铁盒》等作品获得了突破百万的播放量，实属罕见。“AI 孙燕姿” 可能采用了多个孙燕姿作品中的素材，运用 AI 技术加以重新编排与合成，产生了一个 “虚拟的孙燕姿”, 从而创作出大量翻唱作品。
二、警示
社会已经进入了数字时代，被打上 “数字、大数据、云计算、人工智能” 等标签。除 AI 换脸诈骗外，还出现生成虚拟角色助长电话诈骗、AI 模仿儿子声音求救诈骗父母等技术手段。这些 AI 技术由于成本低、速率快、检测难度大，已成为新型网络犯罪手段，威胁不容小觑。
犯罪分子会在公开的社交平台上搜集个人和企业的信息与照片，然后利用 AI 技术制作出逼真的虚假图片与视频，悄无声息地实施诈骗。尽管 AI 技术提高了社会效率，但也带来了风险，比如音频、视频合成技术的滥用，个人敏感信息滥用，如人脸、声纹和指纹的安全保护，使得个人信息安全面临严峻挑战，数字时代没有任何秘密是绝对安全的，个人隐私信息与企业数据安全同样重要。
数据是组织机构高效运转和发展的重要资源之一，如果数据信息遭到窃取或篡改，将面临重大损失。犯罪分子可以利用企业的数据，结合 AI 技术制作虚假信息进行诈骗，严重损害信誉与利益。企业自身运用 AI 技术也需要应对潜在风险，如 AI 系统的数据与算法可能存在缺陷或漏洞，被利用实施犯罪。
对企业来说，应对 AI 带来的挑战和数据安全威胁是急需解决的问题。企业需要不断提高数据与信息安全技术，加强对敏感数据的保护，降低被犯罪分子利用和 AI 技术滥用的风险。企业需要建立健全的 AI 产品与服务的安全管理制度，严格控制数据使用，避免防止给用户带来损失。
三、埃文科技为打击新型网络犯罪 “赋能”
互联网电信诈骗领域的持续探索
埃文科技一直在互联网电信网络诈骗与数据安全服务领域不断探索，积极参与打击互联网电信网络诈骗，在 IP 高精准定位、涉案 IP 研判、数据安全运营服务、数据治理等方面提供了多维技术与产品。
在面对日益增多的互联网犯罪案件中，新型的互联网电信诈骗类型案件日益增多，在互联网的外衣下犯罪嫌疑人难以溯源。质量高、数据准、更新快的 IP 地理位置数据库能高效协助相关单位对嫌疑人的入网 IP 地址进行精准溯源、取证，IP 地址不仅能够定位到目标的大致范围，部分 IP 地址甚至可以精准在 50 米之内，达到街道楼宇级（注：并不是所有的 IP 地址都能到街道楼宇级别）。
埃文科技在数据安全服务领域的 “赋能”
面对流动数据泄露和被攻击窃取的高风险，埃文科技的安全运营平台可以对数据进行全方位保护，对敏感数据智能分类分级治理，监控敏感数据流转动态，实时进行业务风险告警，事件溯源全链路追踪，多维度保护数据的机密性、完整性和可用性。
平台立足数据治理，帮助客户建立起符合自身特征的闭环式覆盖数据治理咨询规划、方案制定、执行和评价的数据治理统一流程，包括数据标准管理、元数据管理、质量管理、资产管理、安全管理、数据生命周期管理，赋能业务应用场景，助力企业构建扎实的数据根基，实现数字化经营。同时可以从源头上保护数据，降低犯罪分子利用 AI 技术进行恶意合成和利用的风险。
人工智能的发展为我们带来方便的同时，企业也面临数据泄露、技术滥用带来的巨大风险。2023 年 1 月 10 日开始施行的《互联网信息服务深度合成管理规定》中也提出，要对深度合成技术应用提出规范。
重视数据风险管理，防患于未然，是企业在数字时代健康发展的关键。只有不断提高数据安全意识，加强对新技术的研究与管理，企业才能发挥 AI 与科技的积极作用，实现数字化转型中安全与效益的有机结合。
结 语
随着人工智能技术的发展，其潜在威胁也日益凸显。企业要实现数字化转型，必须重视技术风险管理，推动数据治理体系与资产运维架构同步发展。通过业务数据化，应用数据采集、传输、加工等技术，推动业务全面线上；通过数据业务化，实现数据智能决策，驱动业务创新。
