太可怕！维州家长注意：最近孩子间流行一个app，危险！（组图）

家长注意

据澳媒报道，维州的学生正在使用有害的人工智能应用程序和网站，来生成同学的色情图片和视频。

老师们发出警告：担心随着技术的普及，更多年轻人的生命将被“毁掉”。

01.

日前，维州各地的老师都发出了警告：

称学生们在用人工智能“脱光”照片中的人、并在篡改的图像中制作“深度伪造裸照”。

“深度伪造”是一种经过数字处理的媒体，用于将一个人的肖像令人信服地替换为另一个人的肖像。

领先的专家还呼吁，在课堂上普及人工智能知识，称需要对这一问题进行更多的教育。

与此同时，维州警方继续调查虚假的人工智能裸照，这些裸照使用了至少 50 名 Bacchus Marsh Grammar 女学生的脸，并在网上肆无忌惮地传播。

详情：突发！维州名私校，50名女孩“假裸照”被po上网，有男生被捕

一名男性青少年因该事件被捕后被释放。

上个月，一名来自Chastone Salesian College的 15 岁少年，使用人工智能应用程序制作了一名女教师的色情图片，最后他被开除。

墨尔本东南部的一名小学教师告诉澳媒，他“非常担心”人工智能在课堂上的滥用。

“六年级的孩子正在访问这些网站和应用程序，作为教育工作者，我们感到担忧，因为感觉这些网站和应用程序的数量正在激增。”他说。

另一位小学老师表示，需要“更严格的监管”来防止儿童和青少年使用这些在线工具。

“我看到很多孩子在玩人工智能应用程序，让我担心的是这些程序的险恶性质。”他说。

“如果这项技术被不当使用，可能会毁掉更多年轻人的生命。”

02.

《先驱太阳报》的一项分析发现了数十个人工智能换脸和身体改造程序，这些程序允许用户在几分钟内生成生动的照片。

一些网站专门为用户设计，用于创建“深度伪造裸照”、“脱光”照片中的人衣以及将人的脸部处理成色情内容。

一个网站包括这样的描述：

“最好的人工智能裸体应用程序，可以让你看到任何人的裸体”。

更令人震惊的是，一些移动应用程序的年龄建议低至四岁，很少有应用程序仅限于成人使用。

今年 6 月，联邦政府出台立法，禁止制作和分享深度伪造色情内容，作为打击暴力侵害妇女行为的措施之一。

墨尔本大学人工智能和数字伦理中心联席主任 Jeannie Paterson 教授表示，年轻人需要了解什么是“深度伪造”。

“教育部推出了尊重关系培训……但我认为他们需要教育，如果你在未经同意的情况下制作或分享亲密照片，那就是犯罪。”Paterson 教授说。

“我们需要人工智能素养。我们已经超越了人工智能影响我们生活各个方面的地步，无论好坏。问题不仅仅是深度伪造的裸照。”

Sexual Assault Services Victoria首席执行官 Kathleen Maltzahn 表示：教育部需要获得更多资源来应对学校的性暴力。

网络安全专员 Julie Inman Grant 表示：基于图像的虐待，包括制作深度伪造的图像和视频，是一种持续存在的网络伤害，也是最恶劣的侵犯隐私行为之一。

教育部发言人表示，澳大利亚学校所使用的学习框架：Australian Framework for Generative Artificial Intelligence，为在课堂上安全和合乎道德地使用人工智能提供了指导。

“超过 1950 所学校签署了维州政府的尊重关系倡议，支持他们在整个学校社区中树立尊重和性别平等的观念。”她说。

联邦警局发言人表示，联邦警察知道有多个平台允许用户创建人工智能生成的虐待儿童材料，并补充说：

创建此类内容是“严重罪行，最高可判处 15 年监禁”。

维州警方发言人也表示，根据现行法律，人工生成的私密图像与任何其他此类图像的处理方式相同。

结语

目前，维州校园的孩子们，不正当地使用人工智能软件的情况愈演愈烈。

这里提醒各位家长，注意观察孩子平时上网的活动，如有端倪，要及时介入提醒！