AI教育应用隐忧：技术普及与培训缺失

课堂拥抱AI——培训未能跟上，某机构警告

今日的学生正在使用AI完成从辅导到治疗甚至恋爱的所有事务。一项新研究警告称，这项技术可能像酒精对大脑的影响一样，正在悄然削弱孩子们的社交能力。

某专注于数字权利和负责任技术部署的非营利机构进行的一项针对教师、家长和学生的调查发现，几乎所有的教师和学生都在使用AI，分别有85%和86%的受访者表示他们在过去一年中依赖过聊天机器人。

该机构指出，聊天机器人的普及正在产生许多意想不到的后果，包括数据泄露事件增加、AI助长的性骚扰和欺凌、AI故障，以及可能最令人担忧的“学生与技术之间的麻烦互动”。

值得注意的是，只有一半的学生表示他们将AI用于学业，而更多的人（73%）报告了个人用途。

这些非学术用途的AI应用敲响了更多警钟，42%的学生表示他们或他们认识的人曾使用AI寻求心理健康支持、陪伴或作为“逃避现实生活”的方式。近五分之一（19%）的学生表示他们或认识的人甚至与AI聊天机器人建立了恋爱关系。

先前的研究和专家警告称，花太多时间与AI机器人相处可能对现实生活中的社交技能产生负面影响——这一结果对处于发育阶段的年轻人可能更为严重。回应该机构研究的教师似乎也同意这一观点，71%的教师表示他们担心AI会削弱写作和批判性思维等关键学术技能。某理工学院的一项研究也证明了这一点，该研究发现使用AI辅助写作论文的学生大脑活动较少，并且不出所料，对他们所写内容的记忆力更差。

半数受访学生表示，他们认为在课堂上使用AI使他们感觉与老师的联系减少。换句话说，孩子们也能看到AI正在对他们产生负面影响。

该机构总裁兼首席执行官在评论这些发现时表示：“教育工作者和学生都看到AI在课堂中发挥作用，同时他们也正在经历使用这项技术带来的意外后果。AI在课堂中的潜在好处不能分散我们对学校核心使命的注意力——确保每个学生充分发挥其潜力。”

教师不知如何应对AI危害

基于其研究，该机构向美国教育部长发送了一封信函，敦促该部门将其7月份发布的“负责任使用原则”嵌入K-12教育工作和项目中，该组织表示这些措施尚未完全到位。

该机构在信中指出，前政府通过行政命令推动AI进入学校的努力并未伴随适当的教师培训。虽然近半数的教师和学生表示他们接受了关于如何在课堂上使用AI的某种形式的培训，并且十分之九的人表示他们发现这些信息有用，但只有11%的教师表示他们的培训涵盖了如何应对怀疑学生使用AI正在损害其福祉的情况，例如伤害自尊或鼓励危险行为。

由该机构和其他九个教育或技术相关组织签署的信函主张：“这些以及我们研究中的其他结果证明了解决AI在学校广泛使用可能产生风险的重要性。”

信函继续写道：“该部门和更广泛的行政机构已经认识到这样做应该是一个优先事项。”然而，具体细节尚未实施。“将该部门的负责任使用原则嵌入这些承诺中，对于在K-12学校实现AI使用的好处同时最小化对学生的伤害至关重要。”
更多精彩内容 请关注我的个人公众号 公众号（办公AI智能小助手）或者 我的个人博客 https://blog.qife122.com/
对网络安全、黑客技术感兴趣的朋友可以关注我的安全公众号（网络安全技术点滴分享）

公众号二维码

公众号二维码