要了解如何保护自己免受虚假信息的侵害，您首先需要了解什么是深度伪造。Deepfakes 是由人工智能生成的图像或视频，用于制作高度逼真的内容。
深度伪造是如何制作的？
深度学习是一种先进的人工智能 (AI) 方法，它使用多层机器学习算法从原始输入中逐步提取更高级别的特征。它能够从非结构化数据（例如人脸）中学习。
这些数据通过 GAN（生成对抗网络，一种专门的机器学习系统）进行处理，从而制作出 Deepfake 视频。它采用两个神经网络，以相互竞争的方式学习训练集（例如人脸照片）的特征，然后生成具有相同特征的新数据（新的仿冒“照片”）。
当网络根据训练集测试创建的图像时，虚假的图像、视频和音频变得更加令人信服。这使得 Deepfake 成为一个更强大的威胁，因为它们可以利用合成技术来复制声音。
创建深度伪造的另一种方法是使用自动编码器架构。自动编码器神经网络旨在将数据（例如图像）编码为低维潜在表示（即数学向量而不是像素），压缩数据，然后在管道的另一端重建相同的数据。自动编码器在计算机视觉领域有多种用途，例如笔迹分析和面部识别。
由于自动编码器从图像（例如面部图像）中寻找“基本”数据，因此它们非常擅长消除视觉噪声。对于深度伪造软件而言，这意味着自动编码器架构可以从面部图像中学习基本特征和特性，同时很大程度上忽略图像中可能存在的无关因素，例如颗粒、阴影和其他“非面部”元素，从而产生多功能且广义的模型（即，可以对不同于原始训练数据的数据执行有用转换的模型）。
Deepfakes 是如何被利用的
虽然深度伪造的概念也用于在电影中创造视觉效果，但在线深度伪造有很多用途：
虚假宣传活动，特别是在选举期间，旨在左右民意。
勒索是指某人制作你的深度伪造视频或图像，并威胁说如果你不屈服于他们的要求，他们就会发布它。
Deepfakes 网络钓鱼是指以帮助朋友、家人或同事为幌子实时冒充某人。
Deepfakes 的危害
随着技术和人工智能的发展，在线深度伪造视频和图像变得更容易生成，也更令人信服。成为深度伪造的受害者对企业、名人、员工、选举候选人和普通个人都构成了高风险。
欺诈
2023年，香港一名金融工作者因深度伪造技术向一名诈骗艺术家支付了2500万美元。该员工被邀请与同事和公司首席财务官一起参加视频通话。通话中，该员工同意汇款2亿港币。
尽管他在会议上看到了其他员工和首席财务官，但这一切都是深度伪造的人工智能操纵面部识别特征，使其看起来像同事和首席财务官。
勒索和诽谤
2020 年，韩国警方发现一个犯罪团伙，他们拍摄高中女生的照片，然后在通讯应用Telegram 上制作和传播。帮助这些人的是高中男生，他们会拍摄同学的照片，其中一些是未成年人，然后把照片发给创作者。
这些视频会在各个平台上传播，让女孩们束手无策。虽然他们没有实施犯罪行为，但伪造的证据影响了社会对他们的看法，并且仍然给他们带来心理创伤。
Deepfake 网络钓鱼
2024 年， 77 岁的英国妇女 Nikki 通过深度伪造视频被骗取了 17,000 英镑。这名女子在网上认识了另一名女子，她们建立了恋爱关系——或者至少她是这么认为的。诈骗者声称他们正在石油钻井平台上工作，无法进行视频通话，受害者需要支付代金券才能上网。当妮基开始怀疑时，肇事者开始向她发送“她自己在石油钻井平台上”的视频，打消了妮基的怀疑。随着关系的继续，妮基经常会要求进行视频通话，但总是被拒绝，但不久之后就会收到人工智能生成的文档、图像和视频，让她安心——然后要求更多的钱。
当妮基试图将钱转入她伴侣的银行账户时，她才得知这一骗局。
无害的深度伪造
一些在线深度伪造可能纯粹是为了娱乐目的，试图在社交媒体平台上吸引更多粉丝。
最受欢迎的深度伪造视频之一是汤姆·克鲁斯 (Tom Cruise) 的视频，发布在 TikTok 上。尽管不是汤姆·克鲁斯本人，但该账户拥有一百万粉丝，一些视频的观看次数已接近 5000 万次。最初，人们以为这位名人加入该平台是因为其视频、肖像、声音甚至个性都非常令人信服。
2022年，YouTube 创作者 Shamook 拍摄了新蜘蛛侠电影预告片，并将演员汤姆·霍兰德替换为原演员托比·马奎尔。该视频标题中列为 Deepfake，纯粹是为了娱乐目的。
如何防范 deepfake
随着深度伪造迅速成为一个日益严重的问题和安全风险，您可以采取一些措施来防止它发生在您或您的企业身上。
验证所有请求
如果有人要求您提供个人信息或机密信息，请通过辅助渠道确认呼叫者的身份，例如回拨给他们所说的公司。
在所有在线帐户上使用隐私设置
限制对包含您的视频或图像的社交媒体帐户的访问，以减少复制您的肖像的机会。
密码保护
定期更改密码。确保所有密码都是强密码、唯一、复杂密码，且长度至少为 16 个字符。在共享帐户上，使用密码共享软件，这样您就不必向家人或员工透露密码。
为帐户添加双重身份验证
确保所有在线帐户都要求您在使用双重身份验证访问之前验证您的身份。这使得欺骗者更难侵入您的帐户。
定期更新软件
软件更新对于确保您的设备免受最新恶意软件、间谍软件和漏洞的侵害至关重要。
定期培训员工
随着技术的发展，深度伪造欺诈的运作方式也在不断发展。了解最新的诈骗行为并与员工交流如何识别这些诈骗行为至关重要。
了解如何识别深度伪造视频
跟踪视频中个人的面部特征，以验证其是否与正常人类动作一致的。
视频是否出现卡顿或清晰度不一致？
检查自然动作，例如眨眼。是太少还是太多？
查看视频中的阴影和灯光是否一致的。
截取屏幕截图并上传至 Google 以验证来源。
遭受攻击时该怎么办
记录证据
确保保存深度伪造和与其相关的任何内容，包括评论、共享平台（如果适用）、屏幕截图以及与其相关的任何数据。记下发生的日期、时间和平台。
通知平台
如果深度伪造内容来自某个平台，请将其报告给您看到该内容的主机平台，例如 YouTube、Facebook 或 X。大多数平台都有删除被操纵媒体的政策。
联系当局
涉及身份或金融盗窃的深度伪造是犯罪行为。通知当地执法部门并提供证据，以便当局可以发布正式报告。此报告可用于您的银行、保险、和其他官方犯罪帐户。
寻求法律行动
研究您所在辖区的诽谤、版权或隐私法，以确保您有令人信服的案例。检查其他人是否也遭遇了同样的骗局，如果可能的话，调查集体诉讼。
聘请公关公司
如果您或您的企业的信誉受到威胁，与公共关系专家合作可以帮助您制定回应并将其分发给必要的各方以减轻任何损害。
最先进的防伪技术
一些科技公司正在生产深度伪造检测工具，以帮助阻止错误信息、欺诈和 钓鱼诈骗的传播。
如今，有一些新兴技术正在帮助视频制作者为其视频验真。可以使用一种加密算法，在视频中按既定时间间隔插入哈希值；如果视频被篡改，这个哈希值也会发生变化。AI 和区块链技术可以为视频注册防篡改的数字指纹。这种方式与为文档添加水印很相似；不过视频的困难在于，如果要压缩视频以用于不同的编解码器，那么需要设法留下哈希值。
对抗 Deepfake 尝试的另一种方法是使用一种特殊的程序，将经过特殊设计的数字“伪影”插入视频中，以隐藏人脸检测软件所使用的像素模式。这类伪影会降低 Deepfake 算法的速度，并导致其获得低劣的结果，从而降低了成功进行 Deepfake 伪造的机会。
预防性安全保护：
确保员工和家人了解 Deepfaking 的工作原理及其带来的挑战。
自行探究并向他人科普如何发现 Deepfake。
确保您具有媒体方面的素养，并使用高质量的新闻来源。
有良好的基本协议。对语音邮件和视频保持质疑态度不能保证您永远不会被骗，但确实可以帮您避开许多陷阱。
定期备份可保护您的数据免受勒索软件的侵害，也让您可以恢复损坏的数据。
为不同的帐户使用不同的强密码，这样，即便有一个网络或服务遭遇入侵，其他网络或服务也可能安全无忧。如果有人侵入您的 Facebook 帐户，您必定不希望他们也能够侵入您的其他帐户。
使用卡巴斯基反病毒软件等优秀的安全软件来保护您的家庭网络、笔记本电脑和智能手机免受网络威胁。该软件包提供了防病毒软件、 VPN （用于阻止您的 Wi-Fi 连接被黑客入侵）以及网络摄像头保护。
Deepfake 的未来会怎样？
Deepfake 技术一直在发展演进。两年前，仅仅通过伪造视频中的人物笨拙的动作和似乎从不眨眼这一事实，就可以轻松判断出它们属于 Deepfake 视频。确保您在网上保持安全，并对任何在线活动保持警惕和怀疑，特别是涉及个人信息时，有助于人们在欺诈发生之前识别欺诈行为。
网络跟踪常见问题解答
什么是垃圾邮件网络钓鱼？
社会工程欺骗攻击 是一种网络钓鱼诈骗，通过冒充他人来欺骗和操纵个人。这些骗局的目的是获取机密信息并让受害者转移资金或访问系统。
我是否应该担心语音深度伪造会被用于诈骗？
是。诈骗者现在可以生成听起来与您一模一样的深度伪造音频，以帮助您的名义向朋友、家人或同事勒索钱财。为了解决这个问题，请与亲人设置一个暗号或安全问题，骗子不会知道答案，您可以在通话过程中询问，以验证他们的身份。
身份盗窃是如何发生的?
诈骗者可以利用您的肖像或声音伪造文件、更改账号或通过电话冒充您。
深度伪造是如何制作的？
Deepfake 视频、音频和图像是由人工智能制作的。机器学习吸收您外貌的所有数据并创建合成版本。
推荐的产品：
