• 2024 年 3 月 2 日 下午 3:22

衣若芬 I LOFEN

天地大美.人文長青.衣若芬陪你一起悠遊 Discover Endless Beauty, Nurture Timeless Humanity, Wonder Alongside I Lo-fen

AI来了,谁怕谁? AI is coming, who’s afraid of whom?

Bylofeni

6 月 11, 2023

除了软件Turnitin检测学生作业是否可能剽窃抄袭,因应制造文本威力超强的ChatGPT,学校告诉我们,还可以使用ZeroGPT 和 GPTZero。这两款名字很接近,都是识别AI生成文章的线上工具。将想要检测的文章上传或是复制粘贴到该网站,便可以推导出其中AI生成的比例。

然后呢?

对教育工作者,困难的不是怎样检测,大数据和大型语言模型(LLM)给我们证明的数值和文字比较的结果,要和学生“对质”有理有据。困难的是,后续应该劝导、处罚、还是杜绝?

目前这些新开发的检测工具能够处理的仅限于文字。针对英语文章效果明显,中文部分还在研究。文图学课的作业不只是书写,还有图绘、音频和视频,如何检测?

一位同学交了三分钟谈文图学的视频,我看了30秒,就知道这是ChatGPT生成文字,导入自动生成语音和搭配图像,转录为视频的软件制造出来的。

“你的作业非常AI啊!”我告诉他。

“是的,老师你真聪明!”他回复说。

“还有时间,重新自己动手做一个吧。”我再给一次机会。

通常关于人工智能的练习和讨论会安排在文图学的进阶课程《文学经典与图像艺术》中,这学期由于ChatGPT的爆发出圈,我及时在课堂介绍了ChatGPT和配合的应用程式可以促进、改变、乃至于颠覆人们生活的可能性。我提出了“选择比闷头努力还重要”的观点。有同学反应:老师的一番话太震撼!我们的价值观要被AI挑战了!

缴交期末作业的期限在即,我紧急发布通知:“作业可以接受的范围包括:智能语音字幕、AI生成图像、背景音乐音频、剪接视频,但是要注明出处。”幸而大家都顺利完成,留下美好的作品和记忆。

近日看到AI和数据数字政策(Data and Digital Policy)律师 Aleksandr Tiulkanov在今年1月发表的导图,题目是《ChatGPT用在你的工作安全吗?》或可参考。从开始使用ChatGPT,遇到第一个需要判断的问题是:“输出内容是否正确重要吗?”如果无关紧要,纯粹作为聊天娱乐,那么就是安全的。相反的,如果我们想要依赖ChatGPT输出的内容,就必须要像我先前在《ChatGPT的雷区和乐土》(《联合早报》2023年4月22日)文中谈到的,要有“明辨师”的专业能力。不能明辨是非,使用ChatGPT就不安全。即使能够辨析,还需要对可能不准确的输出造成的法律、道德问题负责任。

果然是律师厉害!“传播虚假信息”这一点,我也在文章里表达了忧心。目前有些所谓提供知识的博主,良莠不齐,甚至道听途说,加以嬉笑怒骂,让观者不知道应该认真对待还是轻松放任。

更过分的,本来以为好玩的深度伪造(Deepfake)不幸被歹徒取得声音和影像样本,结合ChatGPT天花乱坠的技术,成为诈骗手段,岂可掉以轻心?

相较之下,学生利用ChatGPT做作业就不必太大惊小怪了。我想,多接触、多了解AI的套路,厘清其中的“能”与“不能”,不膜拜AI神、恐惧AI鬼,谁怕谁!

2023年6月3日,新加坡《联合早报》“上善若水”专栏

By lofeni

讀書。寫作。教學。演講。旅行。我的日常生活。 作家。文圖學創發人。任教於新加坡南洋理工大學。