亚马逊的Alexa模仿任何人声音的计划引发了人们的担忧,担心它将被用于深假和骗局

财富杂志 · 商业 · 06月23日
内容显示:
  • 英文
  • 中文
  • 中英对照

注册财富特色电子邮件列表,这样你就不会错过我们最大的特色,独家面试和调查。

亚马逊Alexa的最新功能:让人们从死里复活。

亚马逊正在为其语音助理Alexa开发一项新技术,该技术将能够模仿任何人的声音,无论是死的还是活的,使用不到一分钟的录音音频。

在该公司周三在拉斯维加斯举行的Re : Mars会议上,亚马逊高级副总裁兼首席科学家罗希特·普拉萨德(Rohit Prasad)用一个孩子问亚马逊设备" Alexa ,奶奶能读完《绿野仙踪》(Wizard of Oz)吗? "的视频演示了这个功能。

Alexa通过默认的机器人声音确认了请求,然后立即切换到孩子祖母的人形、柔软和善良的音调。

Prasad在演示中指出,该功可以用来纪念已故的家庭成员。他说: "在COVID - 19大流行期间, "我们中的很多人失去了我们爱的人。 "他说,现实促使公司将人造公司式的对话作为公司的重点。

Prasad说: "虽然人工智能不能消除这种损失的痛苦,但它肯定能让记忆持续下去。 "

但是,尽管演示具有令人振奋的情感性质,但新的Alexa功能很快就受到了技术世界一些人的抵制。他们不仅将语音模仿视为情感联系的一种手段,还将语音模仿视为进行深度假货、犯罪诈骗和其他邪恶目的的理想工具。

技术

亚马逊的一位发言人告诉《财富》杂志, PRASAD的介绍是基于亚马逊的探索性文本到演讲(TTS)研究,该公司一直在利用该技术的最新进展进行探索。该发言人说: "我们已经学会了用更少的数据制作高质量的声音,而不是在专业工作室录制。 "

该语音模拟功能目前正在开发中,该公司没有透露何时打算向公众推出。

Prasad说,新的语音模式技术只需要"不到一分钟的录制音频"就可以产生高质量的语音,这"通过将问题框定为语音转换任务而不是语音生成路径"是可能的。

新技术有一天可能会在购物者的生活中无处不在, Prasad指出,它可以用来在用户和他们的亚马逊设备之间建立信任。

他说: " Alexa最让我惊讶的一点是,我们与它的友谊关系。在这个友谊角色中,同情心和情感的人性属性是建立信任的关键。 "

恐惧

虽然新的模仿功能可能是创新的,但在一些公司,包括在该领域工作的公司中,它让人担心它可能被用于邪恶的目的。

微软首席人工智能官员娜塔莎·克兰普顿(Natasha Crampton)告诉路透社(Reuters), 微软还开发了语音模仿技术,以帮助语音受损的人。 微软限制了其业务的哪些部分可以使用该技术,因为担心它将被用来制造政治上的深层假货。

这个新功能也在网上引发了人们的担忧。

推特用户@ Wolven说: "还记得当我们告诉你Deepfakes会增加这种文化中已经发生的不信任、疏远和认识论危机吗?是的。这很多次。 "他的简历将他标识为算法、价值观和偏见博士研究员Damien P . Williams 。

有些人担心骗子可以轻易地利用这项技术为自己谋利。

热门推荐
关注西梅公众号