使用社交账号登陆

当前位置: 主页 > 前沿 > 信息 • 能源

AI远程监考软件惹争议,UIUC宣布停用该服务

时间: 2021年02月08日 | 作者: Admin | 来源: 机器之心
出于对隐私、歧视、数据安全和可访问性的考虑,伊利诺伊大学香槟分校(UIUC)宣布将在 2021 夏季学期结束后停用远程监考软件 Proctorio。



在新冠肆虐的大背景下,「上网课」已经成为常态。那么考试的时候怎么办?在没有监考老师的情况下,学生会不会作弊?


越来越多高校选择使用远程监考软件 Proctorio 解决这一问题。该软件利用机器学习和先进的人脸检测技术,通过网络摄像头记录学生在考试期间的行为,监控学生的头部位置,以及标记「可疑行为」。


image.png


然而,这一软件的广泛使用引起了巨大争议。如去年 5 月澳大利亚国立大学数千学生发起请愿,要求停止使用 Proctorio 远程监控软件;美国大量师生出于隐私、歧视、数据安全和可访问性等因素抗议这一服务。


近日,伊利诺伊大学香槟分校(UIUC)发布公告,宣布将在 2021 夏季学期结束后停用 Proctorio 软件。


image.png

UIUC 公告地址:https://emails.illinois.edu/newsletter/1970177238.html


在公告中,ADA 协调员 Allison Kushner 和本科教育副教务长 Kevin Pitts 表示:


1. Proctorio 将在 2021 夏季学期结束后停用。


2. Proctorio 存在极大的可访问性问题。因此,使用 Proctorio 监考的老师需要考虑到提出可访问性问题的学生,包括在残疾人资源与教育服务中心(DRES)注册的学术住宿学生面临的技术问题(如缺少网络摄像头)。伊大创新教学中心(CITL)可以提供额外的 Proctorio 设置指导,帮助缓解可访问性问题。


3. 学校 ADA 部门和 CITL 已为替代性评估和监考技术方面的咨询做好准备。学生可以直接向 ADA 协调员报告与 Proctorio 相关的可访问性问题。


4. 学校正在研究长期的远程监考选择。



Proctorio 及其他远程监考服务,引争议不断


自 2020 年春季 UIUC 引进该服务以来,有关 Proctorio 软件的争议便一直不断,忧心于此的学生在 2020 年秋季学期纷纷发声。1000 多人签署请愿书呼吁学校停止使用该服务,他们在请愿书上写道:「Proctorio 非但效率不高,而且不安全,完全侵犯了学生隐私。」


image.png

请愿书封面:「你的一切都在监视之下」。地址:https://www.change.org/p/uiuc-stop-proctoring-exams-through-proctorio-proctoru?redirect=false


伊利诺伊大学香槟分校是众多强烈反对远程监控的大学之一。迈阿密大学也曾有 500 多人签署了请愿书,表示「Proctorio 的设计侵犯了学生权利,本质上存在对残障人士的歧视和区别对待,这与同行评审研究结果不符。」在加拿大里贾纳大学,3500 多人呼吁终止另一项自动监考服务 ProctorTrack。中佛罗里达大学也曾有 1200 人签署请愿书,要求停止使用另一个类似软件 Honorlock,他们表示:「学校不应该因为考试而强迫学生放弃其隐私和权利。」


除了学生强烈反对以外,教授以及其他职工同样对 Proctorio 服务持批评态度。致力于公民自由与隐私事宜的美国电子隐私信息中心(Electronic Privacy Information Center, EPIC)对 Proctorio 以及其他四项监考服务发起诉讼,称这些服务收集个人信息的行为属于「不公平且欺诈性的贸易惯例」。


不仅如此,2020 年 12 月,美国的一些参议员联合向 Proctorio 和其他两个类似服务平台写了一封公开信,表达了他们对相关商业行为的诸多担忧。公开信中写道:「学生正直面并抵抗这些技术的缺陷,这些缺陷不仅沉重打击了弱势群体,也将导致歧视性偏见长期存在。」


image.png

公开信地址:https://www.blumenthal.senate.gov/newsroom/press/release/blumenthal-leads-call-for-virtual-exam-software-companies-to-improve-equity-accessibility-and-privacy-for-students-amid-troubling-reports



担忧究竟源自哪里?


对此类远程监考软件的担忧主要围绕安全性和隐私两个方面。Proctorio 的记录数据允许教师和平台访问考生的浏览数据,并在某些情况下看到他们的私人住宅。Proctorio 在对参议员公开信的回应中表示:「Proctorio 通过多层加密保护并处理考生的数据,并且按照客户或适用法律要求的最短时间限度保留记录。」


image.png

图源:http://www.diglog.com/story/1026344.html


可访问性是需要面临的另一个常见问题。有学生表示家里没有可用的网络摄像头,也可能没有足够的带宽来支持这项服务。有的考生甚至在星巴克的停车场参加化学考试。


学生还报告了另一个问题:Proctorio 这类服务难以识别肤色较深的考生,而且可能会将学生标注为残疾。研究发现即使最优秀的人脸识别算法,在识别黑人面部时也会比识别白人出现更多的错误。此前,Proctorio 曾回应道「这是光线、摄像头位置、摄像头质量的问题,与种族歧视无关」。


UIUC 的邮件中称,学校审慎考虑了学生对「可访问性、因素、数据安全和公平」的抱怨,并作为决策因素。邮件表示,将在选择下一个远程监考方案的时候考虑可访问性。


原文链接:https://www.theverge.com/2021/1/28/22254631/university-of-illinois-urbana-champaign-proctorio-online-test-proctoring-privacy