最好看的新闻,最实用的信息
11月22日 16.0°C-18.2°C
澳元 : 人民币=4.72
珀斯
今日澳洲app下载
登录 注册

AI工具沦深伪帮凶 乡民假借名人声音骂脏话(图)

2023-02-01 来源: 法广 原文链接 评论2条

本文转载自法广,仅代表原出处和原作者观点,仅供参考阅读,不代表本网态度和立场。

英国人工智慧(AI)公司Eleven Labs的音讯工具被人用来仿制名人的声音、让他们说一些种族歧视和恐同字眼后,公司今天表示,正在检讨自身「防护措施」。

AI工具沦深伪帮凶 乡民假借名人声音骂脏话(图) - 1

Eleven Labs推文称,公司度过一个「疯狂周末」,并坦承在公布这款工具的试用版几天后,就发现「愈来愈多仿制声音的滥用案例」。

Eleven Labs未提供这些案例的细节,但它表示,网路论坛4chan涌入假借名人声音来骂种族、性别歧视和恐同字眼的深度伪造(deepfake)之作。

许多贴文都提到Eleven Labs,一些用户宣称已被这家公司禁绝,另一些人则提供这款工具的试用版连结。

4chan论坛充斥冒犯他人的笑话而恶名昭彰。被论坛用户盗用声音的名人包括「哈利波特」(Harry Potter) 电影的影星们,以及电影导演昆汀塔伦提诺(Quentin Tarantino)、乔治卢卡斯(George Lucas)等人。

Eleven labs号称自家声音仿制技术具备潜力,「可革新多种产业的内容制造、表达和互动方式」。

Eleven labs曾制作一段宣传影片,内容仿制其他名人的声音来替影星李奥纳多狄卡皮欧(Leonardo DiCaprio)配音。

Eleven labs今天推文称自家技术「绝大多数被用于正向用途」,但仍需要「额外防护措施」,考量中的选项包括手动核对每个仿制要求,或是让帐户认证措施变得更严格。

本文转载自法广,仅代表原出处和原作者观点,仅供参考阅读,不代表本网态度和立场。

今日评论 网友评论仅供其表达个人看法,并不表明网站立场。
最新评论(2)
楊嘉Emma
楊嘉Emma 2023-02-01 回复
AI也可以用来做坏事
爱丽丝丁
爱丽丝丁 2023-02-01 回复
这样也可以,太牛逼了吧


Copyright Media Today Group Pty Ltd.隐私条款联系我们商务合作加入我们

电话: (02) 8999 8797

联系邮箱: [email protected] 商业合作: [email protected]网站地图

法律顾问:AHL法律 – 澳洲最大华人律师行新闻爆料:[email protected]

友情链接: 华人找房 到家 今日支付Umall今日优选