人工智能给孩子们带来的机遇与挑战

青少年往往是新一代数字技术的测试者。这意味着他们是新技术优点的最先受益者和缺点的受害者。在面对生成式人工智能的冲击时，他们会面临哪些机遇与挑战呢？文章来自编译。

今年春天，洛杉矶联合学区（美国的第二大公立学区）给学生和家长介绍了一位新朋友，它的名字叫Ed。 Ed 是个带聊天机器人的学习平台，，目前正在学区内的 100 所学校进行测试，可通过网站全天候访问。Ed可以回答有关孩子课程、成绩和出勤率的问题，并为用户提供可选活动。

负责人 Alberto M. Carvalho 表示：“人工智能会继续存在。如果你不控制它，它就会控制你。”Carvalho 说他希望让教师和学生学会安全地使用人工智能。学区没有选择“将这些资产永远锁起来”，而是选择“让我们的学生和他们周围的成年人意识到人工智能的好处，以及挑战与风险”。Ed 只是该理念的体现之一；学区还为 13 岁及以上的学生开设了一门必修课，课程的名字叫做《人工智能时代的数字公民》。

据阿尔塔洛马小学三名接受采访的一年级学生说，Ed 很好。他们特别喜欢的一点是自己做完练习后Ed 会给他们一颗金星。不过即便他们用过这个程序之后，他们还是不太理解这个东西。当我问他们是否知道什么是人工智能时，他们犹豫了。其中一人问我是不是超级智能的机器人的意思。

孩子们再次成为新一代数字技术的测试者，就像早年社交媒体的情况一样。不同年龄段的人会以不同的方式体验人工智能——最小的孩子可能会听到父母用 ChatGPT 创作的睡前故事，而大一点的青少年可能会在他们每天都用到的app上遭遇聊天机器人——但这个现在已经是现实。一种令人困惑、时而鼓舞人心、常常会出问题的技术已经出现，并正在重塑着在线生活。

孩子们在很多地方都可以接触到人工智能。谷歌、苹果和 Meta 等公司正在将生成式人工智能模型融入到谷歌搜索、iOS 以及 Instagram 等产品之中。Snapchat 这款应用在美国青少年的渗透率达到了60%，它就提供了一个叫做 My AI 的聊天机器人，这个基于 ChatGPT 的迭代据称截至去年 6 月就已被超过 1.5 亿人使用。廉价笔记本电脑Chromebook 在美国有数千万 K-12 学生使用，现在也正在升级人工智能。而骗子们已经在利用人工智能制作合成视频，并在 YouTube 上发布给孩子们看，然后从中获利。

不管人工智能到底有什么好处，孩子们很可能就是能发现其好处的人。他们也将体验到人工智能的某些最坏的影响。加州大学欧文分校长期研究儿童和技术的 Mizuko Ito 告诉我：“这是自然的社会事实，孩子们会更热衷于实验，并在文化上推动许多关于新技术使用的创新。成年人会感到恐慌、会批判并试图限制新技术，这也是自然的社会事实。”

这或许可以理解。家长和教育工作者会担心孩子们依赖这些工具来完成作业。一项民意调查显示，使用 OpenAI ChatGPT 的人表示，他们利用人工智能写作业的可能性是利用谷歌等搜索引擎的三倍。如果聊天机器人可以在几秒钟内写出一整篇论文，那家庭作业还有什么意义呢？今天的孩子将如何学习写作？另一个是通过机器人传递出来的不良信息：人工智能聊天机器人可能会给出有偏见的回应，或事实错误的材料。隐私也是一个问题；这些模型需要大量数据才能工作，据报道，儿童的数据已经在未经同意的情况下被使用。

人工智能还催生了新型的青少年霸凌行为。今年 3 月，比弗利山庄一所中学有五名学生被开除，原因是他们用生成式人工智能制作的同学裸照流传起来了。《纽约时报》报道称，学生用人工智能制作同学的此类媒体其实已成为全美各校的“流行病”。今年 4 月，顶级人工智能公司（包括谷歌、Meta 和 OpenAI）承诺，要制定新标准，以防止对儿童的性伤害，其中包括负责任地采购训练材料，以避免数据中可能含有儿童性虐待材料。

当然，不是每个小孩都一样。不同年龄段的孩子对人工智能的体验也不一样，每个孩子都有其独特性。Common Sense 最近进行过一项调查，目的是了解“青少年与年轻人”（年龄在 14 至 22 岁之间）对生成式人工智能的看法。受访者表现出的感受很复杂：约 40% 的人表示相信人工智能会在未来十年给他们的生活带来好与坏的影响。乐观的受访者认为，人工智能会帮助他们处理工作、学习与社区事务，并增强自己的创造力，而悲观的受访者则担心人工智能会让自己失去工作、会侵犯版权、产生虚假信息，当然还会催生“接管世界”的技术。

但我尤其担心的是那些接触到人工智能却对它没有任何概念的最小孩子。对他们来说，真实媒体与虚假媒体之间的界限已经很模糊了。比方说，说到智能音箱，威斯康星大学麦迪逊分校认知发展与媒体实验室主任希瑟·科科里安（Heather Kirkorian） 说：“很小的孩子可能会想，哦，这个盒子里面会有一个小人在跟我说话”。密歇根大学教育学教授 Ying Xu 则表示，更像人类的人工智能可能会进一步模糊界限——以至于有些孩子可能会开始用跟 Alexa 说话的口吻跟其他人说话：粗鲁、霸道专横（或者，更粗鲁、更霸道）。

科科里安指出，年纪大一点的儿童和青少年也许能思考得更具体一点，但可能难以区分现实和深度伪造。哪怕是成年人也很难理解人工智能生成的东西——对于初中和高中生来说，这项任务仍然更具挑战性。科科里安解释说：“孩子们要学会这一点会更加困难”，因为这需要具备更多的媒体与数字素养。青少年尤其容易受到人工智能某些最坏缺点的影响，因为他们可能是人工智能最大的用户之一。

十多年过去了，成年人连智能手机和社交媒体对年轻人做了什么以及正在做什么还弄不清楚。如果说现在有什么不一样的话，那就是人们对它们对儿童和心理健康的影响的担忧有增无减。人工智能的引入意味着今天的父母需要同时应对多波的科技反弹。（父母们本来就已经在对屏幕时间、网络欺凌等问题感到担忧了——现在又来了个 ChatGPT。）对于任何新技术，专家通常会建议父母与孩子讨论，并成为孩子们探索新技术时值得信赖的伙伴。孩子们也可以帮助我们找到前进的道路。联合国儿童基金会的政策专家 Steven Vosloo 表示：“人工智能在治理方面有很多工作要做。但孩子们在哪里？” Vosloo 认为，在制定人工智能的规则时，应该听取孩子们的意见。联合国儿童基金会已经列出了“以儿童为中心的人工智能”的九项要求。

Ito指出，有一点跟以往对技术的焦虑不一样：“跟我之前见到的早期技术浪潮相比，现在对新技术的预期更多是恐惧。”率先使用手机和社交媒体是年轻人，成年人则在随后的几年里陷入到监管补课的境地。她说：“我认为人工智能的情况几乎正好相反。虽然还没有太多的事情发生，但每个人都已经感到恐慌。”