孩子手机里的“AI陷阱”：一个父母不可忽视的新隐患

青少年在利用AI“修改”同学的照片，并制作有关老师的伪造图像。教育工作者和专家揭示了人工智能和社交媒体的惊人影响，警告家长需要“提高警惕”。

澳洲eSafety Commissioner最新数据显示，在近几年中，数百名12岁或以下的儿童报告称曾遭受图像滥用，包括真实或虚假的图片。此外，还有成千上万13到17岁的青少年成为性勒索、诈骗、威胁和AI操控的受害者。

第一线的工作人员警告，这些案例只代表问题的一小部分，而这种问题正因技术变革的速度而加剧。

AI在澳大利亚学校的问题有多严重？

有一系列学生利用AI创建甚至出售涉及同学或老师的假图像案例。去年六月，维多利亚州一地的一名学生被捕后，因涉嫌在虚假露骨AI照片中针对50名女学生。今年一月，悉尼一所公立高中的一名学生被指控创建女学生的深度伪造色情图像。悉尼私立学校的学生也被发现出售女同学的深度伪造裸照。五月，阿德莱德一所学校的男生因发现包含老师的深度伪造图像而被停学。

此领域的专家Dom Phelan表示，这些案例只是冰山一角，他每周在墨尔本负责一个项目，与数百名学生互动。今年他至少去过六所学校，因学生创建的深度伪造图像而报警。一个案例中，一组男孩彼此制作假图像，一开始只是个“玩笑”，但后来超越了界限。一名学生因感到极度羞愧，不再愿意面对朋友，于是选择了转校。

“孩子们没有立即看到这些行为的后果，”Phelan说。他们没有考虑到长远影响。

这是新问题吗？
简而言之，并非如此，但新技术让造成更多伤害变得更容易。Monash University六年前的研究发现，澳大利亚、新西兰和英国16至64岁的人中，有14%曾遭遇未经同意创建的“性化、数字化改造图像” 。主要作者Asher Flynn教授表示，造成这种伤害的工具变得“更易于获取和使用”。eSafety Commission的最近调查发现，十分之一的孩子曾被要求发送色情图像，几乎一半收到过这样的图像。

家长能做什么？

提高警觉
承认这可能正在影响你的孩子，比你想的还要严重。了解孩子如何使用互联网：他们使用哪些应用或网站？他们在线上关注谁或与谁成为朋友？他们使用什么语言？理解密码、隐私设置和家长控制技术的重要性。

进行对话
确保孩子知道即使犯错也能和你谈谈。帮助孩子理解社交媒体算法是如何通过他们的消费向他们推送内容的。解释内容如何容易被复制和分享，会超出他们的控制。

坚持立场
尽可能晚地给孩子提供手机、平板、笔记本或其他设备。与即将实施的未满16岁禁止使用社交媒体的禁令保持一致。在设备上使用家长控制技术，以限制上网时间和访问的应用或网站。

如何获得帮助
可以向警方和eSafety Commissioner报告有害的在线内容。
Kids Helpline（1800 55 1800）提供电话和在线咨询。
1800 RESPECT（1800 737 732）是国家家庭和性暴力咨询热线。