生成式人工智能時代高校學生學習誠信治理研究

［摘要］生成式人工智能的教育介入要求高等教育及時應對學習誠信治理的新挑戰，這事關我國教育強國的建設，必須明確治理方向、治理主體以及治理方式。研究確定了生成式人工智能時代高校學生學習誠信治理框架，以善治為最高目標，以教育管理部門的政策引領、學校的規則銜接與供給、高校教師的自主治理、高校學生的誠信自治以及人工智能行業責任擔當來實現共同治理。在治理原則上，應遵循全過程治理、協同共治、促進發展與治理相結合以及以人為本的治理原則。在治理路徑上，以智能技術為基礎，處理好教育內部與外部的協同治理關系，遵循“頂層制度設計—學?？傮w規定—課程教學規則”三級管理模式，從“風險防范事前治理—風險控制過程治理—風險糾正事后治理”3個階段設計好治理策略。［關鍵詞］生成式人工智能；學習誠信；教育治理；高等教育；高質量發展生成式人工智能對高校學生學習過程和學習結果的強勢介入，使學習誠信風險以新的形式進入了研究者的視野。國內外調查均顯示，生成式人工智能工具很受學生群體的歡迎，大部分高校學生會出現利用ChatGPT等生成式人工智能工具完成作業、剽竊觀點、生成論文數據、代寫論文等學習不誠信現象，甚至在學習評價中獲得高分。與此同時，也有學生因缺乏正確使用人工智能的指導而感到焦慮。可見，在生成式人工智能帶來機遇的同時，學習誠信問題已成為教育中的焦慮點，無論是教師還是學生都對如何保障學習誠信感到焦慮。《Nature》雜志指出，“人工智能工具正在改變數據驅動的科學，需要更好的道德標準和更穩健的數據管理來推動繁榮和防止崩潰”［1］。相應地，高等教育領域需要更好的學習誠信道德規范和學習誠信治理框架，以保障自身的高質量發展。數智時代的教育治理關乎我國從教育大國到教育強國的躍升［2］。因此，高等教育應當摒棄簡單禁用智能工具的想法，思考如何將生成式人工智能作為教育教學的輔助工具，以及如何治理學習誠信失范問題［3］。這不僅能夠拓展與深化現代教育治理的內涵，還可以糾正不良學風，促進教育公平，為高等教育高質量發展以及建設教育強國提供保障。一、生成式人工智能時代高校學生學習誠信危機及其后果生成式人工智能帶來的學習誠信危機主要體現在虛假的學習過程和虛假的學習結果兩個方面。（一）學習過程誠信危機及其后果學習過程過度外包智能工具會導致素養發展危機。學習的目的在于實現知識、思維、價值觀、道德等方面的全面發展。在生成式人工智能時代，人機協作的認知外包方式逐漸產生，即將人類思維和認知過程中的某些部分外包給機器，從而擴展人類的認知能力［4］。然而，在實際學習過程中，由于學生的學習惰性等原因，他們可能會將認知無邊界地外包給智能工具，讓渡自身學習的主體性地位。學生會將知識視為隨時可取的物品，不再主動進行知識的識記、理解、加工和創造。然而，知識作為思維的原材料，與思維的發展具有整體性。思維的發展以舊知為基礎，而知識的獲得以思維的結構為前提［5］。當學生把知識無邊界地外包給智能工具，他們思維的發生與發展就缺乏了原材料與根基。況且，“AI幻覺”會導致學習內容的不準確。人工智能的“生成”功能本質上是一種現有數據信息的組合與復制，依賴于現有的大語言模型，而大語言模型中可能暗藏著錯誤信息、偏見信息等。在這種情況下，“AI幻覺”會給學生提供看似合理的學習信息，并且通過模仿“對話”這種古老的啟迪人智慧的方式改變學生的認知，使得“學生-機器”的互動過程體驗成為自然的社交過程［6］。當學生依賴于生成式人工智能提供的學習信息時，難免會困于大語言模型的繭房，學習到錯誤內容、偏見歧視信息等，進而導致認知發展的惡性循環。素養的發展依賴于知識與思維的互動與轉換，當學生從生成式人工智能中獲得的知識并不準確，且過度依賴智能工具處理信息，這種學習過程對技術的過度依賴勢必會導致素養發展的危機。（二）學習結果誠信危機及其后果1.人機貢獻的難區分導致師生信任危機。傳統課堂教學中，作業是檢驗高校學生學習效果、鞏固學生所學知識的重要手段［7］。據S公司調查，超過89%的學生使用ChatGPT完成家庭作業；中國青年報的調查也顯示，84.88%的高校學生曾使用過AI工具，其中16.30%的學生經常使用AI工具。從技術輔助學習到完全交由技術處理作業，目前在國內高等教育中，使用生成式人工智能的邊界并不清晰。由于生成式人工智能生成結果的遮蔽性，高校教師難以區分最終作品中的人機貢獻程度，常常對高校學生作業的真實性產生質疑。同時，生成式人工智能工具功能強大。在輸入層，它能夠理解人類的自然語言文字；在處理層，它具備強大的信息收集與聚合能力，能夠做出正確率較高的判斷與決策，并極速響應提問；在輸出層，它能夠用接近自然語言的文字生成內容，并且可以根據用戶提示迭代更新。因此，高校學生接受知識與啟迪智慧的渠道也發生了變化，甚至由于技術的強大功能，學生逐漸對教師知識的權威性產生了質疑。2.人機貢獻的難區分導致教育公平危機。有研究顯示，生成式人工智能產出的作品在教育評價中甚至可以獲得較高的分數等級，導致學術誠信及學生評估的公平性受到嚴重的挑戰［8］。在生成式人工智能時代，高校學生作業和論文中的人工智能參與度很難衡量，通常的作業、考試和論文已經無法準確體現高校學生的學習成果，人機貢獻的難區分使得高校教師也無法恰當評價學生的發展。生成式人工智能生成結果的濫用會導致誠信危機蔓延，高校學生之間為了追求高分而惡意使用智能工具進行競爭，從而影響教育公平。二、生成式人工智能時代學習誠信治理的文獻回顧關于學習誠信的研究隨著信息技術的發展逐漸轉變了聚焦點。在線學習平臺的興起是學生學習誠信研究的一次重要轉變，在線學習掛機、網絡作弊等現象使得學生學習監控問題成為實踐中的難點［9］。在生成式人工智能時代，學生學業作弊變得更加隱蔽，學習誠信問題更加凸顯。通常，學生學習誠信治理主要依賴誠信教育以及相應的懲罰機制。例如，增強師生誠信心理［10］，塑造考試倫理觀［11］，以及對學生給予相應的處分等。在生成式人工智能時代，為應對學習誠信失范風險，2023年聯合國教科文組織在其發布的《高等教育中的ChatGPT和人工智能：快速入門指南》中提出審查并更新與AI工具相關的學術誠信政策。尤其在ChatGPT進一步升級之后，許多高校都發布了生成式人工智能的使用指南，明確表達了對使用生成式人工智能的立場，并通過科普幫助師生樹立正確的技術觀。國外一流高校治理學習誠信的策略主要面向教學場景和研究場景［12］。在教學場景中，學校提出在大綱中增加學術誠信事項，設計新型作業，改變考試方式，開發新學習模式等方式來治理學習誠信失范問題。在研究場景中，學校提出制定學術誠信規定，規范引用生成式人工智能產生的內容等治理策略。在高校學生的學習誠信治理研究框架中，科研誠信治理受到較多關注。例如，生成式人工智能的學術應用應該告知外部和內部的政策環境和學術規范，聲明負責任使用的立場等［13］。同時，OpenAI、Turnitin等學術作弊檢測工具也被嘗試應用，但也遭到質疑。相較于國外，我國在生成式人工智能時代學習誠信治理的相關研究與實踐還較為不足。在面向教學場景時，國內學者認為可以通過改進課程評價模式，變革學?？荚囍贫龋ㄈ玳_放式作業、即興答辯、項目式課題），以及培養學生倫理品德等方式治理學習誠信問題［14］。也有學者提出有效利用動態生成的生成式作業來避免學習作弊現象［15］。與國外類似，我國在學習誠信治理的研究框架上主要關注高校學生科研誠信治理。在面向研究場景時，國內研究者提出了需要及時總結論文造假規律、開發智能論文檢測工具、加強科研道德建設等治理策略［16］。實踐方面，我國出臺了《生成式人工智能服務管理暫行辦法》，關注生成式人工智能的發展與治理，并提出教育和科研機構在生成式人工智能風險防范等方面開展協作。同時，部分高校也開始使用“AIGC檢測服務系統”，以規范學生畢業論文的寫作誠信問題。縱觀國內外現有研究，對于學習誠信治理存在兩個主要問題。一是雖然我國學界已經意識到了生成式人工智能給教育帶來的挑戰，但關于學習誠信治理的研究主要集中在介紹與借鑒國外高校的治理策略上，且研究視角較多投放在學術研究誠信治理，對于高校學生學習過程和學習結果中的誠信行為治理關注仍不夠充分。二是在學習誠信治理上，相較于國外高校在學生使用生成式人工智能的立場、指南以及技術支持上提供的治理策略，我國高校在學習誠信治理方面的研究稍顯滯后與不足，需要形成一套合理的治理框架。因此，有必要探討生成式人工智能時代我國高校學生學習誠信治理的問題，關注學習全過程和學習結果的誠信，從現代教育治理的角度設計學習誠信治理的框架。三、生成式人工智能時代高校學生學習誠信治理框架為治理高校學生的學習誠信問題，必須回答好治理方向、誰治理以及如何治理的問題，即確定好治理目標、治理主體、治理原則以及治理路徑等核心要素。（一）高校學生學習誠信的治理目標善治是使公共利益最大化的社會管理過程，也是各領域治理的“理想目標”［17］。失范行為造成的群體影響和誠信危機不僅對高校學生、高校教師、學校乃至整體教育的高質量發展帶來危害，還會進一步影響到教育強國的建設。學習誠信治理可從短期目標、中期目標以及長期目標3個階段逐步推進。當前，生成式人工智能仍舊在迅速發展。在技術發展早期，由于掌握的技術知識與信息較為有限，人們無法準確預估技術發展帶來的社會風險，也難以對性地制定規制策略［18］，但如果不及時關注早期風險就會導致風險的進一步擴大與彌散。在短期目標上，教育管理部門以及學校應該實現“教育、激勵、規范、監督、懲戒”一體化的學習誠信治理體系［19］，通過誠信教育的引導、制度設計的激勵與規范、同伴的監督以及誠信失范后的懲戒一系列組合拳，短期內控制生成式人工智能帶來的學習誠信失范風險。在中期目標上，高校學生學習誠信治理應致力于維護與傳承優良學風，保證教育公平。教育公平的一個重要體現就是以學生個人權利和福利為中心，強調教育結果的公平［20］。學生階段是形成正確誠信觀的關鍵階段，而當前高校學生誠信缺失是學生思想教育的關鍵內容之一。通過治理學習誠信，干預生成式人工智能導致的學習混亂，可以保證教育過程中的良好秩序，確保每個學生在使用智能技術的同時得到發展，保證學習結果得到適恰的教育評價，維護每個學生的學習權益，發揚優良學風，促進教育公平。在長期目標上，高校學生學習誠信治理應致力于促進高等教育高質量發展，建設教育強國。2024年全國教育工作會議中指出，要堅持教育服務高質量發展這個硬道理，推進教育強國建設。而教育高質量發展、教育強國建設的一大需求就是培養人才。高等教育領域應充分利用生成式人工智能的優勢，妥善治理生成式人工智能帶來的虛假學習過程以及虛假學習結果等學習誠信失范問題，避免高校學生思維懶惰與幼稚化、喪失認知主體性地位、內外部認知失衡與割裂［21］，幫助高校學生形成智能時代人機協同的知識觀與學習觀，從而培養出智能時代的新型人才。（二）學習誠信的治理主體為促進生成式人工智能在教育中的有序發展，聯合國教科文組織在《生成式人工智能教育與研究應用指南》中提出，需要政府監管機構、人工智能工具提供者、機構用戶以及個人用戶共同協調生成式人工智能的設計與實施［22］。因此，在高等教育領域中，學習誠信治理的主體應包括教育管理部門、學校、高校教師、高校學生和人工智能行業。首先，教育管理部門需要與國家的法律對接，制定生成式人工智能學習誠信治理的政策框架。例如，《中華人民共和國學位法》規定，若學生的學位論文或實踐成果被認定為存在代寫、剽竊、偽造等學術不端行為，則經學位評定委員會決議，學位授予單位可不授予學位或者撤銷學位［23］。基于法律的規范以及政策與法律規定的對接，教育管理部門應進一步細化以何種方式使用生成式人工智能撰寫學位論文屬于違規情形［24］。當然，許多學習過程和學習結果的造假并沒有受到國家法律的規制。因此，教育管理部門有義務從頂層制度層面為高校的學習誠信治理提供指導，為高校教學的正常運行提供保障。其次，基于教育管理部門的政策指引，高校應設計自主性校規實現生成式人工智能時代學習誠信治理的規則供給與銜接。國外高校注重生成式人工智能指南的制定，表明使用生成式人工智能的立場。大部分國外高校對使用生成式人工智能持包容開放的態度，認為“堵不如疏”，并關注如何開展“疏導工作”以及“疏導的邊界何在”等問題。因此，高校應制定相應的管理規范，聯合學校教學管理部門、信息技術支持部門、科研部門、學術委員會等多部門共同制定相應的政策與治理策略，開展誠信教育，表明對學生使用生成式人工智能的總體態度，并且提供發展性指導與監管性指導［25］，以提升學校自身的學習誠信治理能力。再次，人工智能行業擔負著技術發展的社會責任。在智能技術賦能教育高質量發展的同時，人工智能行業應同時承擔相應的社會責任，基于倫理與人權的方法準則和對社會福祉的承諾開發人工智能技術與工具［26］。在學習誠信的治理中，人工智能行業應該把好數據關、模型訓練關、算法設計關等，生成負責任的教育大語言模型。在人機對話中，引導高校學生學會自主思考、自主學習、自主創造。此外，人工智能行業還可以通過技術手段減輕高校學生學習誠信失范的風險。接著，高校教師在生成式人工智能時代學習誠信的治理中有一定的自主權。在智能技術強勢介入教育教學的時代，我們依然不能否認教師在促進高階思維、組織人際互動以及培養正確價值觀方面的作用［27］。為規范學生的學習行為，避免作弊、代寫等現象，高校教師可以在教學環節中作出相應的學習誠信規定，明確該課程中學生使用生成式人工智能工具的邊界，為高校學生提供清晰的指導［28］。同時，教師也可以通過價值觀教育引導高校學生樹立正確的學習誠信觀。最后，高校學生在學習誠信治理上是自治的主體。外部規則、外部教育的引導和懲戒需要與學生承擔學習使命的自律相結合，才能構成內外部的協同治理。學習誠信治理的基源性問題是如何培養高校學生正確的價值觀念，以及引導高校學生在主觀動機上規避作弊等不誠信學習行為［29］。善治旨在使所有利益相關者實現利益最大化。作為學習誠信治理中的關鍵利益相關者，高校學生參與學習誠信治理可以發揮學習者的主動權，實現自我教育和自我引導和自我革新，同時也可以在學習誠信治理中保障自己的權益。（三）高校學生學習誠信治理原則1.風險防范、過程控制以及風險糾正的全過程治理原則。高校學生學習誠信治理應該堅持全過程治理原則。風險防范的事前治理是一種前端干預。學習誠信失范表現為虛假的學習過程和造假的學習結果，對應的治理策略應包括學習過程中的學習行為監控以及學習誠信失范發生后的應對與補救。然而，生成式人工智能時代學習誠信治理不能僅在學生已經發生學習失范行為時才介入，而是需要從源頭上化解高校學生的作弊心理。教育的前瞻性與引導性要求學習誠信治理遵循風險防范的事前治理原則，將學習誠信失范后的懲戒、教育等對策前置到危機之前，在虛假學習尚未發生時采取有效措施進行風險規避，從而保證正常的學習環境與學習秩序。2.協同共治原則?！渡墒饺斯ぶ悄芊展芾頃盒修k法》中指出：“支持行業組織、企業、教育和科研機構、公共文化機構、有關專業機構等在生成式人工智能技術創新、數據資源建設、轉化應用、風險防范等方面開展協作?！保?0］學習誠信治理需要教育管理部門、學校、高校教師、高校學生以及行業的協同共治。協同共治是治理的高級形態，高校學生學習誠信治理需要處理好教育內部與外部協同的“雙重協同難題”，處理好學生學習層、教師教學層、學校制度層、教育體制層、行業技術層的內外部協同關系［31］。協同共治原則不僅體現為學習誠信治理主體的參與性，更強調在此基礎上的多元治理主體平等的治理地位、共守的治理制度、共商的治理協議、共擔的治理責任、共享的治理效能。3.促進發展與治理相結合原則。生成式人工智能時代學習誠信治理的重點并不在于單純的預防、監督與懲戒，而是在于多主體協同共治實現可共享的治理效能，即促進高校學生的全面發展和高校教育教學的數字化轉型。促進學習誠信治理并不意味著排斥高校學生在學習中使用生成式人工智能，而是在新的教育生態下，在人機協同的新學習方式中，幫助高校學生理解認知外包的邊界、人機關系異化的危害以及人全面發展的教育目的，認識到“人何以為人”。同時，學習誠信的治理也在推動高等教育教學進行數字化轉型，倒逼教師思考如何進行深度教學，從教授“是何”“為何”轉向“如何”“若何”等高階問題的解決。4.以人為本原則。聯合國教科文組織發布的《生成式人工智能教育與研究應用指南》中提出了生成式人工智能監管的“以人為本”原則。以人為本，首先體現在對人的地位和尊嚴的堅守。在生成式人工智能時代，學習誠信治理是為了保證高校學生認知的主體性地位，避免其淪為單向度的人，保障“人何以為人”的尊嚴，并尊重學習者的數據隱私與安全。其次，以人為本體現在生成式人工智能使用的安全性上。在統籌多主體協同共治時，需要充分考慮高校學生、教師以及整個教育系統的需求與合法權利，打擊損害他人權益的行為，以實現善治。最后，以人為本體現在學習誠信治理的自主性上。高校學生在學習誠信治理中享有話語權，能夠在教育部門的主導下共同參與相關規則的制定，在他律的同時以自律的方式自主管理、自主監督學習誠信問題。（四）高校學生學習誠信的治理路徑基于生成式人工智能時代高校學生學習誠信的治理目標、治理主體以及治理原則，應從頂層設計入手設計高校學生學習誠信的治理路徑。具體而言，需遵循教育內部與外部協同治理關系，以教育系統內部的“頂層制度設計—學校總體規定—課程教學規則”三級管理模式出發，在教育系統外部充分建設好智能技術基礎，涵蓋“風險防范的事前治理—風險控制的過程治理—風險糾正的事后治理”3個階段，面向教學和研究雙重場景來構建生成式人工智能時代學習誠信治理路徑（如圖1所示）。1.生成式人工智能時代高校學生學習誠信治理的頂層制度設計。我國教育體系具有的制度優勢能夠實現從教育管理部門的頂層制度設計到課程教學規劃的分層布局，能夠協調組織、行業、機構與個人的力量做好教育事業。教育主管部門負責頂層制度設計。相較于國外教育管理部門對人工智能在教育中的應用所作的規定，例如美國教育部發布的《人工智能以及教與學的未來》、英國教育部頒布的《教育中的生成式人工智能》，我國教育部尚未單獨針對教育中人工智能的應用制定專門的指導文件。因此，依據學習誠信風險治理的3個階段，教育管理部門應從以下3個方面開展工作。一是在風險防范的事前治理階段提供生成式人工智能工作原理的說明、合理使用生成式人工智能的操作指南、生成式人工智能時代學習誠信失范的標準（面向教學和研究兩種場景）、學生學習誠信失范的處理規則、教育人工智能行業的政策規范等。二是在風險控制的過程治理階段加強科普和宣傳。一方面，向學校提供鑒別學習誠信失范的方法；另一方面，承擔教育的社會責任，向家長以及其他公眾科普生成式人工智能在教育中的應用潛能與風險挑戰等，讓家長和公眾意識到學習誠信治理的新挑戰與必要性。三是在風險糾正的事后治理階段對學習誠信失范行為進行處理，并處理因誤判學習誠信失范而提出的學生申訴。2.生成式人工智能時代高校學生學習誠信治理的學?？傮w規定設計?；诮逃芾聿块T的指導以及高校教學的現實需要，各高校需要做好生成式人工智能時代學習誠信治理的總體規定。借鑒國外高校的學習誠信治理策略，例如耶魯大學官網提供了生成式人工智能工作原理的指導、調整教學的建議以及將人工智能納入教學的示例等內容。我國高校在學習誠信治理中，可以從以下3個方面開展工作。一是在風險防范的事前治理階段，高校應表明對學生使用生成式人工智能的立場。依據教學與研究場景的不同、學科之間的差異，從完全禁止到適當地使用再到開放式使用，設置生成式人工智能的使用層級。例如，在英語寫作課中完全禁止使用生成式人工智能，而在研究方法課中鼓勵學生適當使用生成式人工智能輔助科研。高校需向全校說明使用權限差異的理由，并提供生成式人工智能的使用指南。該指南應涵蓋以下內容：生成式人工智能的優勢與風險、教學應用探討、案例資源與鏈接、學習與學術誠信規定、信息安全與隱私保護等［32］。二是在風險控制的過程治理階段，學校應加強學生誠信教育，將生成式人工智能使用的具體實施要求放權給教師。學校依據不同學科的實際教學情況分類管理、進行監督。三是在風險糾正的事后治理階段，學校需要對違反學習誠信的高校學生進行懲戒處理，并合理面對學生對處理結果的申訴。此外，學校可以依據實際經驗，打造生成式人工智能學習誠信治理的示范校。3.生成式人工智能時代高校學生學習誠信治理的課程教學規則設計。第一，課程教學規則應由高校教師和高校學生協商共定。首先，在風險防范的事前治理階段，有一定治理權限的高校教師應該積極提升自身的數字素養，依據我國教育部發布的《教師數字素養》標準的要求形成數字化意識、數字技術知識與技能，實施數字化應用，承擔數字社會責任，促進自身專業發展，提升對生成式人工智能的評估力、判斷力和選擇力［33］。在具體的教學實施中，國外高校教師主要通過修訂教學大綱、創新教學方式、改革評估模式等來治理學習誠信問題［34-35］。我國高校教師同樣可以與學生協商，依據課程性質在教學大綱中明確高校學生使用生成式人工智能的程度與方式，促進高校學生透明使用人工智能。教學大綱可以采用逆向設計的方式。一是確定高校學生最終的學習目標與學習成果，明確哪些目標可以在生成式人工智能的支持下更好地達成，哪些目標不需要生成式人工智能的加入。二是明確高校學生如何通過評估展示學習成果。在生成式人工智能對文本作業的巨大沖擊下，為確保學習誠信，高校教師應在教學大綱中事先確定口頭匯報、表演、辯論、項目實物作品等評估方式，并且規定好生成式人工智能的引用規范。例如，在作業中，學生可通過以下方式注明使用情況：“我在作業中的lt;XXX主題gt;中使用了lt;生成式人工智能工具XXXgt;，在lt;XX年XX月XX日gt;通過lt;XX輪人機對話gt;，關鍵詞依次是lt;A—B—Cgt;，獲得了生成式人工智能的支持材料lt;XXX觀點—XXX觀點—XXX觀點gt;。通過核實其科學性、合理性以及倫理性，我引用了lt;XX……XXgt;這部分觀點。”在研究中，可以采用“觀點陳述XX……XX（ChatGPT4.0，2024）”等引用方式。三是通過學習活動設計使學生達成目標。其次，在風險控制的過程治