南洋理工大学黄金辉传播与信息学院梁巧儿等女学生,发现同侪依赖ChatGPT且其回答有失准问题,去年11月发起CheckGPT扫盲运动,创建工具与框架,促学生正确用AI,养慎思明辨习惯 。
1. 南洋理工大学发起CheckGPT运动
近日,随着生成式人工智能的日益普及,南洋理工大学的一群女学生注意到,不少同学在面对简单任务时,也倾向于向人工智能聊天机器人ChatGPT求助。
团队成员到新加坡管理大学进行校园宣导活动。
来源:受访者提供
为引导同侪有效使用生成式人工智能,避免对其产生依赖和盲从,她们发起了名为CheckGPT的生成式人工智能扫盲运动。
2. 团队成员及发现
发起此次运动的学生来自南洋理工大学黄金辉传播与信息学院,分别是梁巧儿、高洁敏、陈莉莹和冯靖颐。
据透露,团队中的一名成员偶然发现,ChatGPT在回答英文单词“strawberry”中有几个“r”字母的问题时出现错误,答案前后不一致,时而称有两个,时而又说有三个。
这一情况引发了团队成员的反思:如果连简单问题的回答都可能失准,那么ChatGPT在处理复杂问题时的可靠性又有多少呢?
基于上述发现,团队从去年8月起开始搜集相关资料,并于11月正式推出了生成式人工智能扫盲运动CheckGPT,旨在帮助学生正确运用ChatGPT。
团队创建的自定义GPT。
来源:受访者提供
截至上个月,除了利用社交媒体Instagram进行宣传外,团队成员还走进东部的两所中学、义安理工学院、共和理工学院、新加坡管理大学和南洋理工大学,开展校园宣导活动,与1500多名学生进行了互动交流。
在推进CheckGPT运动的过程中,团队通过网上搜索资料、自学以及向本地生成式人工智能社群The Gen-C请教等方式,创建了自定义GPT和4C框架,以帮助学生在生活和学习中更有效地使用ChatGPT。
“4C”分别指语境(Context)、明确性(Clarity)、限制条件(Constraints)和核实(Check)。
3. 强调信息验证
冯靖颐强调,人们不应将ChatGPT当作普通的搜索引擎,更不能盲目轻信其提供的信息,而应学会多方验证。
她指出:“不能ChatGPT说什么就立刻采用或相信,因为它有时会生成一些不真实的答案或连结。”通过CheckGPT运动,团队希望提高学生对生成式人工智能的认识,培养他们慎思明辨的习惯。
冯靖颐表示,我们希望学生能够自主掌控学习过程,而非盲目接受人工智能生成的所有信息。
鉴于现实中已出现许多生成式人工智能信息不准确的案例,为防止这类情况成为普遍现象,我们需要从学校教育入手,培养学生的批判性思维和良好的数字素养。
参考资料:
1. 发起生成式人工智能扫盲运动 南大学生盼同侪有效使用ChatGPT, 8world.