或“操纵”
的工具;有人忧虑AI算法中可能隐含的设计者偏见,会固化甚至放大社会不平等;更有人尖锐地指出,“萤火”
所倡导的“潜能激发”
,其背后是否暗含着一种“所有人必须优秀、必须成功”
的绩效主义焦虑,而这本身是否就是一种对多元价值和幸福生活的窄化定义?
韩薇坐在那里,听着这些或尖锐、或深刻、或偏激的质问,感到一种深深的无力。
她无法反驳所有的质疑,因为其中许多,正是她内心也反复思忖、甚至感到恐惧的问题。
技术的光明面与阴影面,从来都是一体两面。
当“烛龙”
的光芒照亮一些角落时,也必然会在其他地方投下更深的黑暗。
而如何权衡,如何取舍,如何划定那条模糊而危险的边界,并没有简单的答案。
“各位,”
她终于开口,声音有些沙哑,但努力清晰,“首先,我代表‘萤火’,为‘Leo’事件中我们未能及时发现和阻止技术滥用,深表歉意。
对于孩子和家庭造成的伤害,我们负有不可推卸的责任,也将持续提供一切必要的支持。”
她停顿了一下,环视众人,目光坦诚而沉重:“其次,我承认,各位提出的许多问题,都是真实、严峻且必须面对的。
技术,尤其是像‘烛龙’这样深度介入个体发展的技术,绝不是中立的工具。
它承载着设计者的价值观,放大着使用者的意图,也必然在复杂的现实社会中产生难以预料的多重影响。
‘萤火’在过去,或许过于专注于技术的可能性,而对其潜在的风险和伦理挑战,思考得不够深入,准备得不够充分。”
会议室安静下来,所有人都看着韩薇,等待她的“但是”
“但是,”
韩薇话锋一转,语气变得坚定,“我依然相信,技术,包括AI,可以为教育、为人类的成长带来积极的变化。
问题的关键,不在于是否使用技术,而在于如何使用,由谁来决定如何使用,以及我们是否建立了足够的智慧、勇气和机制,去引导技术向善,制约其向恶。”
“今天讨论的所有问题——数据隐私、算法偏见、教育公平、儿童自主性、技术规训——都不是‘萤火’一家公司能够解决的,甚至不是单靠技术或教育行业能够解决的。
这需要技术开发者、教育工作者、伦理学者、政策制定者、家长和社会公众的共同参与和持续对话。”
“因此,我在此代表‘萤火’郑重承诺:第一,我们将全面升级‘烛龙’的伦理审查和安全保障体系,成立独立的、有外部专家参与的伦理委员会,对所有AI学伴的功能和干预策略进行前置评估和持续监控。
第二,我们将开放部分脱敏数据和研究框架,与学术界、公益组织合作,共同研究AI+教育的长期社会影响,并推动相关行业标准的建立。
第三,我们将设立‘教育科技向善基金’,支持那些关注技术普惠、数字包容、以及技术时代儿童权利保护的研究与实践项目。”
“我们无法承诺完美,也无法消除所有风险。
但我们承诺,将永远保持敬畏,保持开放,保持反思,并愿意与所有关心教育未来的人一起,在这条充满未知与挑战的道路上,谨慎前行。”
韩薇的发言,没有华丽的辞藻,也没有回避问题,而是以一种近乎坦承自身局限的姿态,提出了具体的行动承诺。
这在一定程度上缓和了现场的对抗气氛。
但质疑并未消失,只是从激烈的抨击,转向了更务实的追问:伦理委员会如何确保独立性?数据开放到什么程度?基金如何运作?
会议在一种复杂而疲惫的氛围中结束。