编者按:随着人工智能的普及，教师是否会失去对学生学习过程的控制？人工智能在教育系统中的胜利引发了许多伦理问题。人工智能专家玛丽亚·维尔茨伯格(Maria Wirzberger)代表欧洲委员会参与制定了《教师使用人工智能和数据进行教学和学习目的的伦理准则》，本篇文章对其进行采访以回应人工智能相关的问题。

本文是浙外德国研究中心“教科资讯”栏目第79篇(总第196篇)。

第一部分:在学校和课程中使用人工智能时，教师面临哪些伦理问题？

人工智能失控成为伦理问题。特别是人们对机器将取代教师的担忧愈发严重。消除人们对人工智能的恐惧和顾虑的关键是加大透明度。要了解人工智能究竟是什么，以及它们能做什么和不能做什么。社会上有许多对人工智能的担忧:这张新出现的强大的机器会做出我们无法控制的事情。首先必须消除这些恐惧，并认真打消人们的忧虑。为此，让人们对人工智能系统工作原理建立基本认知至关重要。一旦对人工智能有充足了解，人们的恐惧和抵制就会相应减少。因为他们清楚人工智能背后运行的原理，认识到这不是洪水猛兽，而是在技术领域内正常运行的规则、是按照特定模式运行的算法，整个过程变得明朗起来。接下来我们可以开始有针对性的考虑：人工智能系统可以做什么？它们可以怎样辅导学生学习？

另一重要伦理问题是人工智能是否会加剧不平等现象。使用人工智能往往需要财力支持。而那些无力负担费用的人往往会因为接触不到这些高新技术逐渐被社会边缘化。因而人工智能所需的门槛高低是人们关注教育公平的重点，换句话就是是否让更广泛的学生群体在更普及的电子设备上运行。例如，人工智能是否也能在学校的平板电脑上运行，而不仅仅是在大多数学校负担不起的高性能计算机上？由此产生的更大教育差距是人们主要顾虑之一，这显示出在《伦理准则》中提及这点的重要性所在。

另一个伦理问题与数据安全有关。谁能获取哪些数据？学生的数据是否会被出售？如果未来的雇主获取到有关学生的信息，孩子们在未来的生活是否会受到不利因素影响？除此之外，学生对人工智能系统的过度依赖也是一个潜在威胁，因此《伦理准则》对此也有所提及。同时人们也对这个问题感到困惑：如果学生在学习方面过度依赖人工智能系统，他们本身的人体机能会退化吗？

人工智能

图片来源: pixabay.com

第二部分: 人工智能是否会导致人类能力萎缩？

为了避免这种情况发生，我们需要提前考虑如何设计考试和课堂任务，促使学生必须自主地进行批判性思考。批判性思维是人类的一项基本能力。我个人认为，智能机器即使在未来也无法做到这一点。批判性思维是非常人性化的东西。我们必须在这一点上坚持不懈地、有针对性地加强培养学生的批判性思维。

第三部分：人工智能系统最终会完全取代教师的工作吗？

不，我认为这是相当不可能的。当教师站在学生面前时，他们会情不自禁地运用独属人类的直觉。尤其是经验丰富的教师，通常只需瞥一眼就能把握整个群体的学习氛围。时至今日，人类直觉仍既不能被形式化，也不能被模拟，因此难以通过数字和代码将其转化为人工智能系统中的一部分。

第四部分：七个伦理准则涵盖从“人类行为和人类监督的优先”到“社会和生态福祉”。其中共被分成36个引导性问题，作为教师的指导工具。教师如何使用这些引导性问题作为指导工具呢？

首先，教育机构和教育责任方必须掌握《伦理准则》。这是教师职业化的一个起点。我们必须将《伦理准则》的处理方法融入到相关教师培训课程和教师研修课程中，同时也要让从业已久的教师接受相关培训。这将是一项艰巨的工作，需要制定大量相关文件和教育政策，以便全面传播。

在玛丽亚·维尔茨伯格的教学中，这些准则已经得到了应用。受到专家小组中的合作启发，她开设与之主题相关的研讨会。在会上，她从现有的教育技术，如聊天机器人和智能教辅系统开始，与学生一起讨论引导性问题，以便有针对性地找出关键问题并协商解决。

例如，像Alelo公司开发的语言学习软件Enskill，其优势在于提供一种既能激励学习动力又适应个人能力的教学环境。同时，除了访问学生数据的权限问题之外，在与学生交流的方面还存在各种挑战。学生是否明确理解，这只是一种模拟的社交互动，而并不是存在独立的对话对象？系统用于调整难度的有关学习水平预测是否可靠？由不同的人来控制该系统的结果并确保其可靠性？

第五部分：玛丽亚在伦理准则专家开发小组中做出了什么贡献？

在专家小组会议和全体会议中，他们讨论了各种主题，这些主题的讨论结果现在也体现在了《伦理准则》和最终报告中：包括教育中基于人工智能和数据支持技术的应用场景及其相关挑战、在欧洲背景下已定义的伦理导向维度、与此相关的法律规定以及在教育领域专业人员所需的能力。作为小组成员，他们特别关注了人工智能系统在教育中应用的案例，并将其以书面形式汇总。部分案例及其应用场景也被纳入了《伦理准则》中。

他们特地研究有关包容性教育的例子，并得出结论：支持人工智能的工具可以以多种方式改善特殊需求者的学习条件。例如，通过算法生成的字幕或语音输出，可以用于弥补听力或视力上的缺陷。这创造了扩大教育内容的机会，对形成教育公平的世界至关重要。

第六部分：如何评价《伦理准则》的重要性？

玛丽亚对此评价很高。他们认为在欧洲层面上创造了一个真正具有巨大影响力和潜力的工具。而他们的任务是利用这一巨大的潜力，将其引入德国的教育系统中。这将是他们在现代教师培训中面临的艰巨挑战。

个人简介：玛利亚•维尔茨贝格(Maria Wirzberger)博士，斯图加特大学终身教授，负责领导智能系统教学部门，担任智能系统反思交流论坛发言人。这个跨学科研究联盟，旨在批判性地反思智能系统的伦理和社会影响。此外，作为人工智能软件学院董事会成员，她还致力于为学院所有专业提供人工智能技术。

本文编译自:

1. 德国网站Bildungsklick 2023年5月19日报道: Künstliche Intelligenz: Ethische Leitlinien für die Bildung

https://bildungsklick.de/schule/detail/kuenstliche-intelligenz-ethische-leitlinien-fuer-die-bildung  

供稿 | 张雅轩

排版 | 林兰馨

编辑 | 林邦雷

初审 | 程静 盛妤婷

终审 | 陈洪捷 吴卫东