谁在高等教育中控制人工智能及其重要性
这是高等教育中人工智能的关键时期。更多的教师正在他们的课堂上试验自适应学习系统。大学咨询系统正在尝试使用预测分析来提高学生的留用率。算法的输入导致了问题 - 伦理问题和实际问题以及哲学问题 - 关于高等教育在引入人工智能方面应该走多远,以及谁决定算法应该是什么样子。
为了探讨这个问题,EdSurge邀请了一个专家小组讨论他们对人工智能在教育中的承诺和风险的看法,这是我们新推出的名为EdSurge Live 的视频城镇大厅的第一部分。长达一小时的讨论很丰富,所以我们分两期发布。第1部分如下,第2部分在这里。
第一部分包括两位不同观点的嘉宾:斯坦福大学教育研究生院教育助理教授Candace Thille和Civitas Learning的联合创始人兼首席学习官Mark Milliron。阅读以下对话的记录,该记录已经过轻微编辑和浓缩,以便清楚。我们将在下周发布讨论的第二部分(或者您可以观看下面的完整视频,或者收听播客版本)。您可以在这里注册下一个EdSurge Live。
EdSurge:Civitas开发用于高等教育的人工智能系统。Mark,您如何描述这种技术在大学中如何发挥作用的理想情景,以及学生如何在校园内获得AI的帮助?
Milliron:现在的高等教育肯定处于任何人工智能的开始阶段。它可能正在从“问责分析”转变为“行动分析”。今天,高等教育中95%的数据工作实际上都集中在问责制分析上 - 向认证机构,立法者和受托人提供数据。我们的主要数据科学家来自医疗保健领域,他基本上说高级编辑似乎对“尸检分析”很着迷。这是关于那些不再和我们在一起的人,试图讲故事以帮助当前学生的数据。
我认为转变是更多的“行动分析”,我们实际上获取数据,并且更接近实时,试图帮助学生。我们开始编织预测分析以显示轨迹,并使用这些数据来帮助当前学生选择更好的路径并做出更好的选择。特别是,他们试图个性化学生将继续前进的道路,并帮助塑造那些重大决策,同时也在合适的时间为他们提供精确支持,轻松鼓励。
这个阶段的开始阶段是很多高等教育机构在做我称之为算法触发的基本形式,他们说,“根据这个人口统计类别并基于这一假设,我们将要制定确保学生做X,Y或Z.“ 这在某种程度上是痛苦的,因为有时候[顾问]会假设人口统计类别是风险的代理,这在某些方面确实存在问题。但我认为我们开始看到越来越多的数据,并且它变得越来越精确,学生可以做些事情来实际参与数据并成为他们自己船上的船长,或者至少参与他们自己的救援。
这是学生的数据。每一条数据实际上都是一个足迹,如果你放在一起讲述这些学生所在的旅程的故事,他们的数据应该用来帮助他们。现在他们的数据主要用于帮助机构证明其存在的合理性,或者告诉他们一些故事,我们强烈认为这部分原因是让这些数据真正帮助那个学生。
坎迪斯,你是使用人工智能和自适应学习工具的早期先驱,你在卡内基梅隆大学开始在斯坦福大学担任在线学习计划。但是你最近还提出了一个问题,即当公司提供人工智能驱动的工具时,软件可能是一种黑盒子,它可能是教师或教育工作者或高等教育机构的控制者。我想知道你是否可以先谈谈这个观点?
Thille:我非常相信使用我们从学生工作中抽象出来的数据来帮助和支持学生的学习,所以我们对此非常相似。不过,我的工作水平与Civitas的工作水平略有不同,开放式学习计划。这是为学生在学习特定学科领域时创造个性化和适应性学习体验。因此,它的工作方式是,当学生与在线环境调解的活动相互作用时,我们正在通过预测模型进行这些交互并运行它们以便能够做出预测,也许关于学习者的知识状态在哪里他们正处于学习的轨道上。
正如马克所说,这种方法正在彻底改变其他所有行业。但我们必须认识到的是,我们正在做的是让系统支持我们的教学决策。将一段学生的互动作为证据,通过模型运行以对该学习者进行预测,然后将该信息反馈给系统或教师,以便他们可以深入了解学生的学习内容,所有这是教学决策。
要收集的数据,制作模型时要包括的因素,如何权衡因子,使用什么建模方法或算法,预测后要表示的信息以及如何将其表示给各个利益相关方群体我想说,这些都是非常活跃的研究领域,也是新兴学习科学的一部分。
因此,我认为在学术背景下,所有这些部分 - 特别是模型和算法 - 都不能被锁定在专有系统中。它们必须透明。他们必须是同行评审。它们必须具有挑战性,以便在我们进入高等教育领域时,我们可以做出正在制定的教学决策的决定,这些决策是由知道如何做出这些决定的人做出的。只要说“相信我们。我们的算法有效”,我认为这就是炼金术,那不是科学。
Mark,作为该领域公司的领导者,您如何回应这样的事情?
Milliron:我们绝对认为像Civitas这样的公司以及想要做这种工作的组织有责任确保我们能够透明化数据科学所说的内容。例如,在我们的工具Illume中,如果您正在查看任何给定的学生部分,并且您想要查看他们的轨迹。我们做的第一件事就是你正在看的任何一组学生,我们实际上想向你展示最强大的预测者。我们确实会在模型中列出最强大的预测因子及其相对分数和功效,因此人们很清楚这就是轨迹显示轨迹的原因,因此人们可以理解哪些变量正在影响它。
我们这样做的部分原因是我们希望教育工作者与数据进行交互,因为在很多方面,您希望教育工作者能够对学生发生的事情作出相关且明确的决定。
我们清楚地看到的是将数据传递给那些管理顾问的人 - 顾问,学生成功的人 - 并让他们进行迭代,而不是假设我们知道挑战是什么,甚至反应是什么都很重要。然后在同行评审期刊上发表,以便其他人可以看到数学。但说实话,这些日子的造型是一种商品。这并不是你真正希望他们理解的火箭科学是你使用的因素,哪些因素往往是最具预测性的,以及它们如何加载到模型中。你知道,算法是关于正确性和模型效率的。
试图让教育者以这种方式思考对他们来说是完全不同的。我认为我们现在拥有新兴的实践社区,人们可以通过这些社区分享哪些有效,哪些无效。
是否有人担心学生和教授会滥用这些数据?
Thille:有很多挑战。其中之一就是人们会做出这样的假设,“计算机告诉我这个,所以它是中立的”,或“它是客观的”,或“它是真的”。并且在没有认识到计算机的情况下,该算法是由人类编写的。我们有一定的价值观。我们对他们的模型中包含哪些因素,如何权衡这些因素,在预测他们给你的分数时使用什么,以及那是人类的决定做出了一些选择。
然后它被我们提供的数据所偏向。因此,如果我们没有极具代表性的数据,这些数据既代表不同背景下的大量学生,也可以局限于特定的背景,那么算法将产生有偏见的结果。
我完全赞同你,Mark,它的一部分是确保使用系统的人真正了解系统告诉他们的内容以及如何使用它。但我正在考虑制度。正如你所说的那样,与我合作的很多机构都面临着很大的问责压力。现在,一个重要的问责制是毕业率。
假设我是第一代学生。我可以谈论我的表弟,第一代拉丁女人,进入一个大型的开放式机构,我决定我想成为一名医生,所以我报名参加了预科。我在第一年就注册了化学和生物学以及所有这些东西,因为我想要预备医学,这些都是要求。我没有特权去一所高中,这给了我很多关于科学和数学的实践,就像这个机构所期待的那样。所以我可能会感觉有点像,“我真的属于这里吗?我很高兴我进去了,但我有点质疑我的适应性。”
所以,我的第一年,我采取了生物学序列。我讨厌化学序列然后说我的选修课,我参加拉丁裔研究班,因为我对此很感兴趣。而且,我在生物学和化学课程中获得了Cs和Ds,而且我获得了拉丁裔研究课程。他们来看我的顾问,他看了预测分析,并说这个学生留在化学专业的机会将在四到六年内毕业,可能是2%。它看起来并不像是你留在这个专业的成功图片,但你在拉丁美洲研究课上做得很好,所以我们预测如果你把专业转到拉丁裔研究,你肯定会毕业在四年内,你们在我们学院的时间会更好,所以我建议你转换专业。
现在,我想如果是我的一个孩子坐在那把椅子上,他们的回答是,“那是你的信念。我知道我将成为一名医生,所以你弄清楚这个机构将如何帮助我医生,“他们不会改变专业。
我关心的是一个已经处于这样一个位置的学生,他们认为,“这些权威人员在这里照顾我。他们最关心的是他们。他们向我展示了数据。它看起来不像我我会变得很成功。无论如何,我对此感到很紧张。这真的很难。我猜他们是对的。我会换掉专业。“ 我关心的不仅仅是个人学习者的损失。我的意思是,这是一种损失,但对于我们这个更大的社会来说,对于年轻女性可能会成为一名出色的医生来说也是一种损失。
Milliron:我不能就这个问题达成一致。问题是,我们能否采用相同的数据并以完全不同的方式和更有效的方式使用它们。要使用我们的设计思维,并对那个学生说:“好的,如果你真的想在这条路上取得成功,这就是我们所学到的关于你成功的学生。如果你能在这个水平上通过这门课程,你可以利用这些资源,将你在未来四到六年内毕业的可能性提高一倍。“ 你几乎可以开始教他们如何升级。
好消息是我们处于这个阶段的早期阶段,如果我们能围绕这个制定规范和道德,我们就能确保好事发生。
Thille:我希望你会说我们可以使用这些数据的另一种方式不仅仅是尝试修复学生,而是使用数据来查看告诉我们的模式(关于机构)。如果具有此简介的学生未能通过入门化学,那么这不仅仅是“我们如何让学生与众不同?”这是“我们需要看看我们教授入门化学的方式,以便不那么许多学生都失败了。“这可能是使用这些数据的另一种方式。