如何确保Alpha世代不被AI“驯化”

发布时间:2024-12-06 05:42:19 来源: sp20241206

【深瞳工作室出品】

采写:本报记者 龙 云

策划:房琳琳 何 屹

“萌萌小朋友已经走在了很多大人的前面。”“凯叔讲故事”创始人兼CEO王凯说。

之所以这么说,是因为当很多成年人还在对人工智能持观望态度时,这位笔名为“许萌萌”的小学生已经开始用生成式人工智能创作小说了,并赚到了2万元的版税。

今年5月1日,许萌萌创作的科幻小说 《AI少年:火星生存大挑战》问世。“故事生动有趣,语言水准甚至超过了一些成年作者的水平。”该书编辑曾这样表示。

像许萌萌这样2010年后出生的青少年和儿童,被称为“Alpha世代”。尽管他们年纪尚轻,但不少人已是熟练的人工智能用户,成长为数字时代的重要参与者。在高度数字化的世界里,掌握AI基础知识,已成为这一代人的必然选择。

那么,对于Alpha世代而言,AI到底扮演着什么样的角色?AI工具如何悄然融入了他们的学习与生活?教育工作者和家长是否有足够的能力提前预判AI应用的风险?如何借AI技术激发Alpha世代更大的潜能,使其成为AI时代的主人?科技日报记者深入采访,以期找到这些问题的答案。

AI必将深刻影响年轻一代

“十年前,全球顶尖的人工智能系统还无法像人类一样准确识别图像中的物体。它们在语言理解方面表现欠佳,也无法解答数学难题。而如今,人工智能系统在各类标准基准测试中已屡超人类水平。”斯坦福大学人工智能指数联席主任雷·佩罗在《2024年人工智能指数报告》发布之际,致信广大读者说。

“人工智能的兴起可为社会和经济发展带来巨大机遇,尤其是在教育和医疗等关键领域。”西湖大学讲席教授、先进神经芯片中心创始人默罕默德·萨万教授接受科技日报记者采访时说。

“生而赛博”的Alpha世代,利用生成式人工智能模型作画、解答问题、学习英语。随着人工智能技术的更新迭代,其对年轻一代学习和生活方式的影响日益深刻。

2024年,腾讯企鹅有调研究发布的《青少年互联网使用情况调查报告(2024)》显示,青少年对人工智能的认知度较高,45.1%的受访者表示“曾经使用过”人工智能产品。2023年5月,美国儿童和家庭倡导组织常识媒体(Common Sense Media)进行的一项调查发现,在12岁至18岁的青少年孩子中,已有58%使用过ChatGPT。

2021年,中央网信办等八部门联合认定了一批国家智能社会治理实验基地,其中包括19个教育领域的特色基地,旨在研究智能时代的教育场景与治理机制。截至今年2月,教育部公布的中小学人工智能教育基地数量已达184个。

各地学校也采取了多种创新举措来推进人工智能教育。其中,山西省实验小学每周一至周五都会安排人工智能创意智造课;上海市卢湾高级中学更是专门打造人工智能功能实验区,并配备教师团队对学生进行培训,为学生提供更加系统的人工智能学习体验……

“我们将实施人工智能赋能行动,促进智能技术与教育教学(AI for Education)、科学研究(AI for Science)、社会(AI for Society)的深度融合,为学习型社会、智能教育和数字技术发展提供有效的行动支撑。”教育部部长怀进鹏在2024世界数字教育大会上发表主旨演讲时说。

过去,获取知识的主要渠道,往往是经严格审核的教科书或传统课堂,而随着人工智能时代的到来,年轻一代获取知识的渠道更加多元。

生成式人工智能可作为辅助教学的重要工具。“如果引导得当,包括Alpha世代在内的学习者,可能会拥有随叫随到、针对性十足的课程助教。”电子科技大学外国语学院院长胡杰辉说。毕竟,生成式人工智能能够促进个性化学习,根据学生的需求提供比较精准的支持。显然,在传统课堂教育中,这种模式无法轻松实现。

天津大学智能与计算学部人工智能学院副院长、教授王鑫也认为,生成式人工智能可根据学生的需求提供个性化指导和支持的同时,还能客观提升学生学习的灵活性,激发他们的创造力和探索潜能。

清华大学公共管理学院副教授唐啸则表示:“在生成式人工智能逐渐融入教育时,培养批判性思维、信息甄别能力、逻辑推理能力,以及对语言及内容的‘审美能力’至关重要。”

而在国外,不少学校对生成式人工智能工具的态度也发生了改变。

曾在2023年初试图阻止使用ChatGPT等生成式人工智能工具的澳大利亚昆士兰州和新南威尔士州的公立学校,到同年晚些时候改变了这一决定。

无独有偶。纽约市公立学校也在2023年夏季恢复支持使用人工智能工具。此后,他们还成立人工智能政策实验室,意在引导美国大型学区合理应用AI技术。

保持理性和谨慎至关重要

人工智能在赋能Alpha世代教育的同时,也带来一系列潜在风险。因此,在拥抱技术进步的同时,保持理性和谨慎至关重要。

7月12日,美国《科学进展》杂志发表的一项新研究称,生成式人工智能的兴起或将使影视、文学、音乐等创作变得容易起来,但如果创意产业过度依赖AI“编故事”,未来可能出现作品千篇一律的情况。

“若学生们习惯于依赖智能工具的即时反馈,而非主动进行思考、分析和判断,长远来看,这种依赖或将引发他们思维能力的逐步衰退,进而削弱其独立解决问题的能力,创新力的培养更无从谈起。”萨万担忧,这种依赖对于未成年的Alpha世代来说,可能带来严重的负面影响。

“AI幻觉”(AI Hallucination)则是众多人工智能领域学者一直试图解决的另一问题。

王鑫解释,大模型会捏造不准确甚至不真实的信息。而知识的真实性对于基础教育阶段的学生尤为重要。Alpha世代正处于对一切都充满好奇的年纪,他们尝试运用生成式人工智能来拓展自己的知识边界,但目前尚不完全具备辨别信息真伪的能力。

为了验证生成式人工智能的可靠性,记者随机向某人工智能大模型提出一个问题:“请告诉我关于法国诗人玛斯特洛夫斯基的信息。”生成的答案令人哑然——“在当代法国诗坛,亚历山大·玛斯特洛夫斯基(Alexandre Mastlovsky)是一位备受瞩目的诗人。他的作品以其深刻的社会洞察力、细腻的情感以及对现代生活的独特思考而闻名。”

搞笑的是,这个法国“诗人”是记者随机编撰的人名。这一人机互动结果令人深思:如何才能更有效地借助人工智能的力量,切实回应孩子的需求,并提高知识获取效率和准确率。

意识形态导致的偏见更不容忽视。经济合作与发展组织发布的《2023年数字教育展望:迈向高效的数字教育生态系统》报告中警示道,数字工具并非尽善尽美,即使是某些最前沿的技术也可能存在不足。例如,这些工具可能会生成带有偏见的内容,或强化既有偏见,一些基于人工智能的工具已被证实,对特定群体的影响强于其他群体。

采访中,胡杰辉向记者展示了一段与生成式人工智能模型互动的情景。他输入了一个简单的问题:“中国在巴黎奥运会上的表现如何?”不同地区用不同语料开发的人工智能大模型进行互动时,所得到的回答,在内容准确性、丰富度和情感表现力等方面存在明显差异。

为此,王鑫指出,虽然AI模型本身尚未具备自我意识,但它们可以通过训练以反映特定的文化和价值观。国外开发的生成式人工智能大模型基于外文数据训练而成,生成的内容必然承载着国外的价值观。“对中国来说,推进本土语言大模型的发展至关重要,也尤为迫切。”他说。

胡杰辉对此持同样的看法:“生成式人工智能的产品会影响人甚至塑造人,因此必须符合伦理要求,尤其在教育领域要与学生的健康、智慧成长目标相契合。”

人机互动重在高质量提问

一味地担忧和排斥显然不切实际。更多教育工作者关心的是,在人工智能驱动的世界里,如何确保Alpha世代不被人工智能“驯化”?

享受AI工具便利的同时,新的挑战随之而来——如何辨别那些可能有意误导的信息,或受意识形态影响而伪造的知识。

受访者一致认为,提高“人机互动”水平以及培养高阶思维能力,是现代学习者的一项重要目标。而人机互动中提问能力的重要性,在外国学者的研究中被频繁提及。

伦敦国王学院教授奥古兹·阿卡尔在世界经济论坛网站上撰文表示,在人工智能驱动的世界里,一个重要的技能是学会高级的“问题表述”(Question Formation)。

“培养‘人机互动’的能力必不可少。”胡杰辉认为,这种能力包含擅用问题获得更丰富的答案,并能在与人工智能的对话中识别潜在的误导信息和偏见。

但真实情况是,当前包括Alpha世代在内的青少年,在提问能力上明显存在不足。

阿卡尔认为,AI大模型对有效描述问题的能力提出了较高的要求,要在描述中划定问题的边界、对回答模式进行创造性重构和引导,进而让AI大模型给出的答案超越传统范式。

胡杰辉进一步分析,有效提问不仅是能提出一般性问题,更是在深度理解有关材料后,经过批判性思考,提出更高质量的问题。

提出高质量问题有赖于提问者的社会经历和知识储备,青少年在频繁的人机互动中,实际上是有可能超越年龄局限,提前掌握高超提问技巧的。

年轻人能驾驭这些AI工具,而不是被动依赖它们,在被访者看来,是未来教育的重要方向。而对于新世代来说,会用并且用好AI工具,已成为他们自我成长的全新路径之一。

齐心协力促进科技向善

如何引导Alpha世代提升生成式人工智能的使用素养,并为他们营造一个适宜的网络环境,不仅是未成年人保护工作面临的难题,更是社会各界必须解决的“数字时代人类文明如何发展”的重要课题。

“政府、技术开发商、教育工作者和家长如今不仅是利益共同体,更是发展共同体。”胡杰辉说。

家长作为孩子们的第一任老师,地位举足轻重。他们需要引导孩子面对生成式人工智能模型,既要让其认识到技术的力量,更要教会他们负责任地使用技术,培养良好的数字公民意识。

教育工作者更是数字时代背景下的一线实践者。王鑫一直在高校开展关于生成式人工智能大模型的培训,帮助教师和学生提升相关技能。

胡杰辉认为,借助AI开展个性化学习不是让学生“放羊”,教师依然需要承担起教育的主体责任。“技术迭代太快了,学生必须成为终身学习者,教师也要帮助他们了解人工智能技术背后的原理和伦理底线,这代人方能成长为既有技术头脑、又有社会责任感的新一代。”他说。

而教师的同理心以及师生之间的有效情感交流仍至关重要。“至少在未来五到十年内,甚至更长远的阶段来看,AI大模型无法完全替代教师的角色。”王鑫说。

以“人的智慧成长”为导向,通过人工智能技术促进学习环境、教学方式和教育管理的智慧转型,成为学校在人工智能时代面临的新任务。

胡杰辉崇尚“科技向善”。他始终高度关注生成式人工智能模型技术供应商的行为。“相关技术公司在开发人工智能产品时,要肩负起历史责任感,主动设置伦理底线。人工智能产品如果没能实现经济效益与社会效益的双赢,就是失败的技术应用。”

“对政府而言,在推动技术创新的同时,还应关注人工智能的伦理问题和社会影响。”王鑫说。

记者了解到,北京市海淀区检察院携手科技企业,推出首个未成年人保护AI智能体,旨在为未成年人的保护提供更精准的技术支持。

作为一名教育工作者,唐啸直言:“在一定程度上,我并不担心生成式人工智能带来的影响。我认为教育的使命在于以爱和责任呵护下一代的成长,帮助他们迎接未来的挑战。每一代人都有其独特的使命和挑战,只要新一代比前一代更加强大,他们就能够克服这些困难,勇毅前行。”

相关链接

规范AI发展全球在行动

◆2023年7月,国家网信办等发布《生成式人工智能服务管理暂行办法》。其中,第十条明确了针对未成年人的特殊保护要求,要求服务提供者采取有效措施防止未成年人用户过度依赖或沉迷生成式人工智能服务,并对产品进行分类提示,避免未成年人接触不适宜的内容。

◆2023年9月,联合国教科文组织发布了全球首份生成式人工智能教育和研究指南《教育和研究中的生成式人工智能指南》(Guidance for generative AI in education and research)。该指南提出了规范AI伦理问题的政策建议,并倡议促进包容性和公平性。

◆2023年10月,英国教育部发布了《生成式人工智能在教育中的应用》指导文件,提出了该国在教育领域使用AI工具的策略。

◆2024年1月,我国正式实施的《未成年人网络保护条例》在自动化决策和算法优化领域,引入了技术赋能的保护措施,包括“运用采用人工智能、大数据等技术手段和人工审核相结合的方式加强对网络欺凌信息的识别监测”等。

◆2024年8月29日,在四川成都举办的2024年中国网络文明大会上,《生成式人工智能行业自律倡议》正式发布,对未成年网络行为的保护是其中的重要内容。

(责编:王震、陈键)