【文╱陳韻涵輯】
聊天機器人工具「ChatGPT」可以針對用戶的問題與需求連續回應，在短時間內產出貌似合理的長篇大論、解決複雜的數理問題或撰寫程式碼或論文，卻也對教育領域和學術界造成衝擊，學生利用ChatGPT舞弊、抄襲和濫用來寫作業、交報告的案例頻傳，美國紐約市今年初宣布禁止公立學校網域使用ChatGPT。
ChatGPT是電動車「特斯拉」（Tesla）執行長馬斯克（Elon Musk）共同創立的人工智慧（AI）研究基金會「OpenAI」利用「人類回饋增強學習」（RLHF）研發而成的聊天機器人工具，ChatGPT能夠模擬對話、持續回答有既定答案或開放式的問題，且不同於過往的聊天機器人，ChatGPT會坦承錯誤並挑戰錯誤的假設。
此外，ChatGPT可在幾秒內把困難概念濃縮成常人就能理解的簡短摘要等，也能產出一篇看似有邏輯的長篇大論或文章。不過，ChatGPT會因為它接收和學習的內容而產生偏差與錯誤，提出沒有意義或似是而非的內容，形成潛藏的不實資訊隱憂。
紐約市教育局3日宣布，公立學校的電腦和網域系統會過濾並擋下ChatGPT，成為全美第一個在學術領域公開限制ChatGPT的地區。但若個別學校的師生想研究聊天機器人相關技術，仍可申請開放使用。然而，這項禁令很容易破解，教職員或學生若使用個人行動裝置和網路，就能輕易連上ChatGPT網站。
紐約市教育局發言人珍娜萊爾表示，把ChatGPT過濾是考量該AI技術對學生學習的負面影響，且關切ChatGPT產出內容的安全性與準確度。萊爾說，這項工具雖然可快速提供簡易答案，但無法培養學生具備批判性思考和解決問題的能力，無助學術和個人的學習歷程。紐約市教育局表示，會持續與OpenAI溝通，討論相關工具如何應用於教育和學術領域。
ChatGPT可以針對使用者的特定提問產出客製化的回應，它能提取和彙編歷史事實，或以特定風格寫作，並提出令人信服的邏輯論證，且以近乎完美的語法或文法呈現。ChatGPT逼近真人的撰述能力引起部分教育人士憂慮，擔心寫作功課可能很快變無用武之地，且ChatGPT可能鼓勵學生投機取巧、作弊和剽竊。這對仰賴獨立寫作功課來培養和評估學生理解力和批判性思考能力的教育工作者形成棘手難關。
●學者說╱禁用恐生蝴蝶效應 不如了解從中學習
紐約市教育局禁止學校網域連上ChatGPT可能造成蝴蝶效應，考驗全美各學區對這項動態新科技的應變能力。另有學者認為，禁用ChatGPT反而讓學生更想用，且可能招致反彈，不如開放學生使用、了解並從中學習。
紐約市退休歷史教師史帝芬斯表示，校方禁用ChatGPT會造成反效果，並將外界目前對ChatGPT的疑慮比作當年眾人對Google新興之初的質疑。他說：「人們在Google約20幾年前出現時，也提出類似的討論，說學生可以在網路上找到答案。」
史帝芬斯認為，ChatGPT在部分情況下或許是有用的工具，例如ChatGPT可根據問答題產出一篇文章的基礎架構，接著由老師帶領全班同學共同分析並找出改良這篇文章的更好方法。
史帝芬斯覺得，要讓學生主動不用ChatGPT的方式並非一昧禁止，反而是要讓學生了解ChatGPT的運作機制，藉此培養學生批判性思考和寫作能力，「探索值得涉獵的消息」，擺脫生硬的公式化寫作教學。他說：「我們已經訓練了許多學生追求評分標準而非知識，但若學期成績最重要，那麼ChatGPT就會是個威脅。」
●看問題╱新興科技難以規範 就算抓到也沒證據
美國南卡羅來納州傅爾曼大學教授抓到學生利用ChatGPT撰寫哲學小論文作業，凸顯大專院校猖獗的舞弊問題不僅難解且雪上加霜，對於各項新興科技，校方及教授也難以及時制定學術規範因應。
傅爾曼大學哲學系助理教授希克告訴《紐約郵報》，「學術界沒有預見到這一點，我們有點被蒙在鼓裡，當我透過臉書宣告我抓到學生利用ChatGPT寫作業，我在學術領域的朋友回應道『我也揪出一個』。」
希克上月派回家作業給學生，要求學生撰寫500字的文章，內容關於18世紀的蘇格蘭啟蒙運動哲學家休謨（David Hume）和恐怖悖論（paradox of horror），論述人們如何從害怕的事物中獲得樂趣。
希克批改作業時，發現一位同學的文章出現少數提問人工智慧（AI）的回答標記。他形容，「那是一種俐落的風格，顯而易見，彷彿非常聰明的12年級學生寫的作品。有些獨特卻詭異的措辭，雖然沒有錯，但就是很奇怪。」
儘管希克具有版權倫理相關背景，但他坦言要證明該篇文章出自ChatGPT，幾乎不可能。因此，希克決定親自操作確認，他把有疑慮的學生作業內容上傳到GPT-2的文本生成模型之中，利用RoBERTa預訓練模型對可疑的內容進行真假訊息的辨識、分類與比對，藉此判定這些內容是否由AI生成，結果顯示99.9%相符，但與專門偵測剽竊的軟體不同之處在於，該軟體不會顯示引用原文的出處。
希克接著試著模擬學生可能提問的問題，讓ChatGPT撰寫同一篇文章，結果雖未完全匹配卻也相當雷同，因為ChatGPT有獨特的回應脈絡與措詞可循。希克最終找來這名學生問話，學生坦言使用ChatGPT寫作業，希克當掉這名學生，並將相關問題反映給系主任。
希克唯恐其他學生濫用ChatGPT的案例難以證明，他與其他教授未來可能會收到更多詐欺性質的作業，校方也難以針對新興科及時制定學術規範。希克表示，目前他能做的就是在課堂上以隨堂考或口頭問答的方式考驗學生，讓學生在沒有科技助力的突襲情況下，靠實力作答。
【2023-01-16/聯合報/R10版/R11好讀周報新識力】
