‘萤火’作为先行者,理应在此过程中发挥领导作用,这是责任,也是机遇。”
他们将“萤火”
在数据隐私、算法公平性上的严格自律,包装成“行业最佳实践”
,并暗示只有符合类似“萤火标准”
的产品,才算是“负责任的技术”
他们巧妙地避开了“萤火”
技术本身的颠覆性,而将焦点完全集中在“伦理”
和“标准”
上,这很容易赢得那些对技术变革感到不安、或希望维持现有教育利益格局的机构和个人的好感。
几次闭门会议后,一份名为“关于建立全球教育科技伦理治理框架的倡议(草案)”
的文件开始在小范围内流传。
草案的核心,是提议成立一个由“独立专家”
、行业代表和政府观察员组成的“全球教育科技伦理委员会”
,该委员会将负责制定一套详细的伦理准则,并对自愿申请的企业产品进行认证,认证结果将作为政府采购、学校采购和投资机构决策的重要参考。
表面上看,这完全符合“技术向善”
但韩薇在收到一位相熟的欧洲学者私下发来的草案副本后,仔细阅读,却惊出了一身冷汗。
草案中对“伦理”
的定义极为宽泛和模糊,涵盖“数据安全”
、“算法公平”
、“内容适当性”
、“文化敏感性”
、“商业道德”
等数十个方面,几乎涵盖了教育科技产品的所有环节。
而“认证”
过程,草案建议由一个“多元化”
但实际操作中很可能被传统教育利益集团和保守势力把持的委员会主导,认证标准可以“动态调整”
,认证过程不透明,且没有有效的申诉和复核机制。
更关键的是,草案隐含地将“符合伦理”
与“技术成熟度”
、“商业可行性”
甚至“****”
进行了隐性捆绑。
任何试图挑战现有教育模式、采用激进技术创新、或者可能触动某些利益集团蛋糕的产品,都很可能因为无法满足某个模糊的、可由委员会“解释”
的伦理条款而无法获得认证,从而被排除在主流市场之外。