合成媒体和Deepfakes很热,但我们的经济尚未准备就绪

财富杂志 · 商业 · 07月28日
内容显示:
  • 英文
  • 中文
  • 中英对照

注册财富特色电子邮件列表,这样你就不会错过我们最大的特色,独家面试和调查。

在我们数字化的世界里,用户可以在几秒钟内订购、购买、索取或出租任何东西,这是全球经济的未来。

视觉、图像和视频越来越多地被用来为决策提供信息。从外卖应用程序到在线约会平台,或保险公司支付虚拟索赔,一切通常都从图片或视频开始。

然而,向数字系统的巨大转变恰逢合成一代图像、视频和音频的激增。尽管专家们多年来一直在警告合成媒体和深度假货,但这些工具的可用性似乎正达到一个拐点。

最近,着名的A . I和综合成就推动了对话向前推进,突显了外行人已经以惊人的速度获得的力量。谷歌的Pixel手机(6)将其"神奇橡皮"作为原生相机的一部分。虽然不是完全合成的图像,但这个令人印象深刻的功能利用设备上的人工智能来擦除图像的任何方面,并基于机器学习重新创建像素。虽然它非常适合对抗"照片炸弹" ,但它也让坏演员能够立即创建和传播某些类型的复杂廉价赝品。

OpenAI的Dall - E - 2和Google Brain的Imagen是朝着使用文本到图像合成工具的合成媒体扩散的显着步骤。这些平台可以在不到20秒的时间内将任何描述性句子,例如" Homer Simpson在购物中心运行的监控镜头,低质量,黑白" ,转化为超现实的照片。

这些工具最令人震惊的方面是?它们绝对不需要技能或知识来生成图像。到目前为止,生成合成媒体,甚至编辑现有图像都需要知识、专长和工具的访问。这些障碍正在消除。这是向大众提供图像更改和合成的新范式转变的开始。

如果认为随着这些技术的普及,它们将不会被用于欺诈和欺骗,那将是愚蠢的。人们已经瞥见了用于欺骗和欺骗公众的图像合成,最近一次是在乌克兰,总统泽伦斯基的深假在网上激增。去年, FBI和其他当局警告说,在企业间谍活动和复杂犯罪中使用合成媒体有助于提高私营企业的认识。非法网络、国家赞助者和老练的行为者已经足够令人担忧,但这个问题变得更加令人担忧,实际上谁都能获得这种技术。

两年前,一个奇怪的故事出现了,宾夕法尼亚州的一位母亲因涉嫌网络欺凌一群十几岁的女孩而被捕。最初的报告表明,这位母亲使用了描述年轻女孩吸烟的合成视频来诋毁她们。这一指控令人震惊。那些密切关注的人发现,很难想象一名非专业人员能够成功地访问和部署Deepfake技术用于这种用途。大多数专家排除了使用生成对抗网络(生成Deepfake的神经网络)的可能性。然而,随着合成媒体的普及,这个案件可能是未来的预兆。那天快到了。

Dall - E 2有重要的保障措施,例如限制用户数量(beta和现在的100万用户)和严格的内容合成政策,限制滥用。谷歌还公开表示,这种技术可能会被严重滥用,并"决定不发布代码或公开演示" 。

然而,文本到图像的合成是一个流行的话题,许多研究论文和GitHub存储库可以为道德较低的行为者提供,而无需预防。即使是较不复杂的技术也构成了威胁。较小的Dall - e Mini可以公开使用,在大多数文本提示上,仍然可以在不到一分钟的时间内生成令人印象深刻的合成。

这些损坏的吉普切诺基吉普车的图像是在大约70秒内通过在Dall - E迷你平台上输入"损坏的大切诺基吉普车保险杠"创建的。如今,消费者可以综合创建有缺陷、损坏或次优项目的图像,并利用消费者友好的"不问问题"公司战略或支持数字提交的政府政策。

至关重要的是要考虑法院和法律程序将如何处理在民事或甚至刑事指控中使用视觉媒体作为证据的问题。如果没有确定和认证的视觉证据,法院也会发现很难将事实与虚构区分开来。欺骗性图像可以被接受为证据,或者由于无法确定什么是真实的,所有媒体都可以停止使用。

企业、社会以及我们的法律和政府机构将需要开始学习、参与和采用数字内容来源公开标准,以帮助区分现实和制造。

开放标准由内容来源和真实性联盟(C2PA)领导,但内容来源也得到其他联盟的支持和测试,如内容真实性倡议(CAI)、 Projectorigin和斯坦福大学Starling实验室等项目。

没有办法将事实与虚构区分开来,我们数字化经济的未来将面临严重的危险。

Mounir Ibrahim是Truepic的公共事务和影响力副总裁, Truepic是C2PA的指导委员会成员和CAI的成员。

在Fortune . com的评论文章中表达的观点仅仅是作者的观点,并不反映命运的观点和信仰。

《财富》杂志发表的更多必须阅读的评论:

热门推荐
关注西梅公众号