chatgpt在教育中的应用风险 智能时代教育数据风险不容忽视

AI资讯1年前 (2023)发布 fengdao
26 0

【专家视角】

智能时代,大数据技术在教育领域的应用不断深入,应用场景与范围加速扩展,为教育决策提供了科学依据,为教学改革创新、教育高质量发展提供了强大动力,但教育数据采集、存储、分析、共享等环节面临的隐私安全等风险也不容忽视,教育数据安全事件时有发生。随着教育信息化建设不断推进,教育大数据作为教育战略资源的价值持续提升,保障教育数据安全成为办好人民满意的教育的必答题。

教育数据风险不容小觑

教育数据涉及个人、学校、课程、资源等诸多方面,涉及规模庞大的受教育者与教育者群体,一旦发生风险事件,不仅影响学生、家长、教师、学校等主体,还可能外溢到其他领域,衍生网络欺诈、电信诈骗等,波及更多人群和领域,造成经济等各方面损失。教育数据风险,主要表现为三种形式。

第一,侵权风险,包括数据隐私权被侵犯和数据资产所有权问题。在教育数据采集过程中,不当扩大范围、采集敏感数据等侵犯个人隐私的情况时有发生。比如2021年10月,山西忻州一小学推出一张学生情况统计表,按照11种类别对学生家庭情况进行统计,包括“领导子女”“企业老板子女”等,造成较大负面影响。而教育数据规模迅猛增长、流动速度超快,数据所有权归属不明晰等,也易引发争议。

chatgpt在教育中的应用风险_12.5风险应用_风险应用会怎么样

第二,监管风险,包括教育数据的泄露和滥用等。教育行业信息化程度不断提高,学生个人信息、成绩、学籍学历、学位等大量敏感信息集中存储在数据库系统中,面临被篡改、窃取、盗用、泄露等威胁,给学生、教师、学校带来很大困扰。近年来,勒索软件攻击成为各国教育数据安全的一大威胁,2021年,仅英国就有18家教育行业机构受到勒索软件攻击影响。

第三,算法风险,包括规则算法束缚自由选择、数据预测剥夺自主决策等。一些教育数据管理者以科技手段为借口“暗箱操作”,利用算法歧视用户,并对用户实施不当干涉。比如,某些学校利用算法分派教师工作,但其实可能已经超出教师的负荷;有学校让学业成绩不佳的学生转专业,剥夺了学生自我决策的机会;一些教育类平台依托算法,向学习者推送网络游戏、低俗小说、娱乐直播等与学习无关的内容。

给予数据安全四维保障

智能时代,规范教育数据所涉各项流程,提供强有力的安全保障,让数据资源真正成为教育科学决策、创新发展的利器,是教育治理体系和治理能力现代化的应有之义。

教育数据的安全保障,可以从四个层面着手。

风险应用会怎么样_chatgpt在教育中的应用风险_12.5风险应用

首先,完善法律法规。国家应完善教育法等法律中关于教育数据安全保护的部分,明确禁止出现侵权、隐私泄露、数据滥用等现象。教育部等部门应依托数据安全法等法律,制定规章制度,厘清教育数据管理的边界,对教育数据的采集、分析、使用、共享、决策等实行有效规约;明确界定并维护教育数据生成者与提供者的数据权利,尊重其数据人格权与财产权;优先考量保护个人数据隐私,对教育用户数据设立财产权,以教育数据资产增值为优先标准,赋予数据收集实体以产权。省、市教育行政部门,应根据本地教育发展、大数据应用等实际情况,制定具有针对性的教育数据安全保障实施办法,强化对学校、校外培训机构等的监管,并给予技术、培训等支持。

其次,强化风险评估。教育部应联合相关部门,建立教育数据风险评估体系,根据不同风险的影响面、破坏性和可能造成的损失,分类控制、分类治理。建立基于教育数据风险评估的隐私防护机制,构建敏感数据安全存储与传输机制。对师生个人身份信息、学生行为偏好、学籍学历管理等敏感数据的安全传输,应通过加强密码等级、多级用户认证系统、加密电子邮件等协同管理,相关网站采用数字证书,建立信息安全防火墙,保护隐私信息、敏感数据不被泄露、窃取。

再次,构建监管体系。构建国家、省、市、校四级监管体系,形成多方联动、多层治理机制,优化教育数据风险协同监管,充分利用智能技术,对教育数据风险进行识别、定性,全面分析潜藏危害,排查、预警、化解教育数据风险。国家层级,可由教育部、中央网信办、市场监管总局等建立部际联席或协调机制,由教育部牵头,其他部门根据自身权责,承担网络安全监管、市场主体合规审查、打击违法行为等工作,特别是针对全国性的大平台教育数据侵权或安全漏洞进行立案调查。省、市两级可参照国家层级,组建区域内的教育数据监管小组,明确划分并规范教育数据监管权限、责任和义务。学校应按照教育数据监管要求,与教育、网信等部门合作,抽调技术骨干力量,建立数据安全保护机制和校本化数据监管团队,明确管理权责,实现快速响应、快速应对。

最后,规范伦理价值。若忽视教育的伦理和价值,基于智能算法的教育数据服务可能会将教育异化,使其被数据与算法操纵。因此,有必要强调传统教育秉持的人文立场,在对客观真理的追寻中回归教育的人文价值,打破数据霸权。要基于“以人为本”,判定伦理困境与盲区,制定与优化伦理风险化解方案,摒弃数据“暗箱操作”,促进算法公开透明。要建立数据安全审查与问责制度,保障教育数据的合法性、安全性、完整性和可用性,保障师生的教育自主性与教育隐私数据的安全性,对违法违规行为实施惩戒。构建教育数据伦理风险调控机制,促进教育数据在教育管理、教研活动、学生发展等方面合规应用,彰显教育数据应用的人文关怀。

(作者:赵伟,系北京交通大学马克思主义学院副教授)

© 版权声明

相关文章

暂无评论

暂无评论...