科技倫理視角：高校教學中智能技術應用風險及對策

摘要：隨著人工智能技術的普及，其引發的倫理問題日益突出，在一定程度上制約了教育領域人工智能的研究和發展。本文先從技術應用與倫理風險的角度，分析了智慧教學主體、智慧教學環境、智慧教學模式以及個性化教學等方面的智能技術應用原理以及存在的倫理問題，在此基礎上，結合國家關于科技倫理風險治理的相關政策和指導意見，提出了智慧教學中智能技術應用倫理風險的治理對策，從治理機構、治理技術、管理機制等方面為高校開展教學活動的潛在倫理風險提供治理建議。

關鍵詞：智能技術；
科技倫理；
智慧教學

中圖分類號：G434? 文獻標識碼：A? 論文編號：1674-2117（2023）12-0080-04

引言

智慧教學是人工智能應用于教育行業的重要落腳點，其中智慧教學場景和智慧教學模式是現階段教育領域的研究熱點，人工智能技術對智慧教學場景和智慧教學模式的影響正持續擴大，但隨著人工智能技術的普及，其引發的倫理問題日益突出，對教育領域應用人工智能的輿論導向產生了負面影響，在一定程度上制約了其研究和發展。

2022年3月，國務院發布了《關于加強科技倫理治理的意見》，對以人工智能為代表的重點科技領域，提出了體制機制不健全、制度不完善、領域發展不均衡等倫理治理方面的問題，要求有針對性地加強科技倫理治理。對高校而言，包含人工智能在內的眾多學科的研究和應用均面臨倫理風險[1]，人工智能倫理的治理應統籌規劃到科技倫理治理范圍，統一規劃和統一治理更有利于高校的全局管理和長遠發展。

技術應用與倫理風險

智慧教學環境、智慧教學模式以及效果評價是智慧教學的重要組成部分，國內外學者對智能化教學環境和模式開展研究，對人工智能在智慧教學中的應用倫理問題也展開了探討，如數據采集過程中人工智能相關技術侵犯隱私權[2]、肖像權等人格權問題。在技能與知識的教學過程中，“計算主義”[3]“數據至上”導致學生缺乏情感關懷、人機溝通缺乏共鳴以及教學氛圍缺失等問題。在人工智能技術原理層面，人工智能系統本質上是以數據為基礎、以算法為框架、以軟件為形式的計算機程序及關聯硬件設施，算法本身可能產生“算法陷阱”，可能導致算法歧視、算法黑箱等問題[4]，引發師生權利失衡、師生倫理失范以及師生情感缺失等后果，對教學效果存在一定的負面影響，有違教學中引入人工智能技術的初衷。

1.虛擬教師：科技風暴與情感缺失

虛擬教師是“虛擬角色”產品的衍生技術，虛擬教師是一個復合概念，可以指通過圖靈測試的、具備學科專業知識的教育機器人，也可以指數字孿生或者元宇宙概念下的“數字虛擬人”，兩者均可在智慧教學場景中發揮教學輔助作用。在線上和線下教學環境中，虛擬教師目前已經被應用于知識解答、學習引導、為學生提供個性化的幫助和建議等。

虛擬教師的知識解答、學習引導以及學習幫助和建議等功能所依據的算法各不相同，一般會用到自然語言處理、深度學習等算法，其中學習引導和個性化幫助功能還需使用與學生關聯的各類數據庫，如學生基本信息數據庫、學習檔案數據庫，該類功能還需要采集學生的個人行為習慣信息等，這可能導致教育倫理方面以及數據方面的風險。在教育倫理學的角度，教育應是“全方位的”，教學過程不僅要傳授知識與技能，更要適當地進行德育和美育等帶有“情感成分”的教學，從而實現“立德樹人”的目的。與傳統教師授業解惑相比，虛擬教師的一個重要缺陷是缺乏情感傳達和交互，情感傳達和交互是營造學習氛圍、激發學生潛能的重要因素。而虛擬教師作為與學生直接溝通的人工智能實體，會根據算法規則對學生學習階段、學習習慣、學習層次進行相對生硬的標記和評估，如算法設計缺乏人性化考慮，則可能導致“張冠李戴、生搬硬套”等問題，也可能導致學生在學習的過程中缺乏情感認同。

2.智能化教學環境：人格權侵犯風險

智能化教學環境通常指智慧教室內以智能化技術為基礎的教學輔助軟硬件設備。[5]其中，機器視覺技術可以對教室狀態進行識別，判斷課堂的出勤率，可以對學生進行人臉識別以實現簽到功能；
模式識別技術可以應用于智慧教室內部的人機協同教學，教師可以通過手勢、語音等方式控制教室內部任意設備，根據教學需要實時調整設備的狀態；
在課堂教學中，綜合機器視覺、模式識別和深度學習技術，人工智能還能對學生的表情、瀏覽習慣等進行綜合分析，實現教學效果評測以及學習狀態評價。在智能化教學環境中，數據庫是主要風險點之一，如師生信息數據庫以及圖像識別相關的訓練集等。

機器視覺以及模式識別技術的應用需采集大量的人臉信息，包括圖片、人臉特征信息以及語音、姿態信息等，同時還將對整個學習過程進行實時數據采集，這可能帶來兩個問題：一是信息泄露風險導致的自然人隱私權容易受侵犯的問題；
二是實時數據采集和分析過程所帶來的人格權受侵犯的問題。人格權一般意義上可分為人格自由、獨立和尊嚴等權益，事實上，生活中無處不在的監控也屬于實時數據采集的一種，但安防監控一般受保密協議保護，而且普通安防監控并不會對圖像、視頻信息進行分析，但機器視覺和模式識別等人工智能技術不僅采集視頻、圖像數據，還需要對數據進行處理、特征提取，并基于現有樣本集進行數據分析和歸類識別，由此可概括自然人的各種特征，其結果是將肖像權、隱私權等人格權的構成要素進行數據化，如數據存放得不到有效的保護或者數據應用得不到有效的規約，上述過程將可能造成隱私權、肖像權以及人格尊嚴等人格權侵犯問題。

3.智能化教學模式：從數字鴻溝到智能化鴻溝

智能化教學模式是教學數字化、信息化發展的新階段，其表現形式是借助智能化教學軟硬件，對教學過程、教學設計以及教學評測進行重構，要求師生應當具備信息技術基礎知識以及人工智能基本素養，智能化教學模式在提升教學效率的同時，也引發了教育教學公平機制方面的問題，如數字鴻溝問題。數字鴻溝造成的后果之一就是無法保證教學起點、教學體驗和教學效果的公平性。隨著教育信息化的逐步發展，數字鴻溝造成的不公平問題會“馬太效應”般急速加劇，導致素養鴻溝的出現。[6]

智能化教學模式加大了數字鴻溝和素養鴻溝的負面影響，人工智能是多學科交叉形成的高精尖技術，其運行機制和技術原理存在較高的復雜性，使用人工智能技術或者工具需具備一定的計算機科學、社會學以及哲學基礎，使用門檻大幅度提高，也催生了智能化鴻溝的出現。智能化鴻溝是素養鴻溝的高級階段，素養鴻溝造成的負面影響也存在于智能化鴻溝階段。例如，在教師層面，理工科教師對多媒體系統、智慧教學工具掌握程度比人文學科教師更加熟練；
在學生層面，不同學科的學生以及不同學習階段的學生，均表現出對智能化學習模式的群體性差異，具備一定信息技術基礎的學生更容易接受智慧教學模式以及教育信息化工具。

4.個性化教學：信息繭房與算法偏見

人工智能技術賦能個性化教學的前提是計算機系統能夠“認識學生”并分析學生的個性行為，也即實現“用戶群體畫像”“用戶精準畫像”。[7]數據技術的發展為學生群體畫像和個性化分析提供了基本條件，在此基礎上，基于人工智能算法的主動推送功能和智能評測功能則為個性化教學提供了可行性。其中主動推送也叫智能化推送，是人工智能系統根據用戶的個性、偏好和習慣自動推送用戶感興趣的知識內容。另外，利用自然語言處理等技術以及配套的人機交互界面，智能化軟硬件設備也可對學生進行問題輔導、作業批改、學習效果評判，達到擴充課后輔導方式、提高課后學習效率的目標。

由于算法本身的不完備和訓練數據的體量不夠等問題，基于智能技術的個性化教學也面臨相應的倫理問題，其中最常見的是信息繭房和算法偏見。信息繭房在個性化教學中的表象之一是人工智能算法推送的信息過于同質化，無形中打造了一個基于用戶瀏覽習慣和偏好的相對封閉的“繭房”。對學生來說，學習的過程不僅是溫故知新的過程，而且是培養創新精神以及創造力的過程，信息繭房可能形成一個“囚籠”，窄化學生眼界，不利于學生創造力的培養。算法和數據的微小偏差不僅能導致“網絡群體的極化”[8]和“社會粘性的喪失”[9]問題，還能引發算法偏見問題，如弱勢群體在尋求人工智能系統解答學科問題過程中，智能系統按照答復規則給出了看似正確合理的答案，但是該答案并不具備師德屬性，答案本身可能造成“弱勢群體歧視”等師德準則問題，不符合教育倫理提倡的“包容性”“公平性”。

倫理問題之對策

1.提高人工智能素養

高校師生的人工智能素養建立在信息化素養和普及人工智能常識的基礎上。信息化素養要求教師懂得基本的教育信息化常識，如信息化教學方案設計等，也能使用基本的信息化教學基礎設施實現教學目的。人工智能素養還要求廣大師生了解人工智能概念和起源、人工智能在社會生活中的應用方向以及人工智能技術面臨的道德挑戰和安全問題。對高校而言，師生人工智能素養的提升途徑主要是加強教師技能培訓，開設人工智能相關課程以及普及教學過程中人工智能倫理常識等。

2.建立科技倫理審查機構

倫理審查機構是科技倫理治理的執行機構，高?？萍紓惱韺彶椴块T應由人工智能相關學科技術專家、校園信息化建設者、學校政策制定者等人員組成，并從以下幾個方面開展工作：注重全體師生人工智能素養的培養工作，常規性開展科技倫理科普活動，舉辦科技倫理培訓活動；
加大政策宣傳力度，避免師生對智能技術的恐慌感；
規定人工智能技術的正確應用導向，如智能化教學環境的設計應遵循“不得改變人工智能的從屬地位，教學應以師生倫理關系為主導”的原則。

3.借助可信人工智能技術

人工智能系統的風險環節為數據和計算，數據安全、可信計算構成了人工智能倫理安全的兩大要素，對于敏感信息泄露風險、人工智能系統漏洞等問題，可以通過可信人工智能技術解決其安全和倫理隱患問題?？尚湃斯ぶ悄芗夹g有六個特征維度，分別是：健壯性、可解釋性、公平性、隱私性、可追責性，以及環境保護。每個維度都有對應的可信計算技術，從而保證人工智能的公平、可解釋，確保人類自主等基本倫理準則?？尚湃斯ぶ悄芗夹g規定了人工智能系統的基本倫理框架，智慧教學中智能化的教學模式和教學系統的算法設計應首先遵循可信倫理框架。倫理審查機構可借助可信人工智能技術，注重人工智能系統的可解釋性評估、數據風險評估，注重系統安全設計、人類可接管設計、責任機制設計、用戶權利義務設計以及系統公平性設計，構建可控可靠、透明可釋、責任明確、多元包容的人工智能教學應用系統，避免黑箱決策、師生倫理損害以及違背教學過程中的公平機制。

4.強化問責機制和倫理事故回溯機制

問責機制是監管人工智能的重要手段之一，人工智能問責指的是智能系統的建設方和管理方應為系統的任意決策和任意行動承擔相應的責任。倫理事故回溯是實現問責機制的主要技術手段，人工智能系統的設計應充分考慮倫理風險事件回溯機制，要求系統設計、算法架構、用戶交互等都是可解釋的，盡可能保證對用戶是透明的?；厮輽C制要求充分考慮系統運行過程中的“痕跡管理”，且在算法方面要求算法工程師遵循教育教學規律，對人工智能算法的關鍵參數進行合理設置，充分考慮數據安全和數據隱私保護。在使用者方面，回溯機制要求使用者充分了解系統設計原理、使用注意事項以及常見倫理風險，要求高校倫理風險管理機構明確倫理追責機制，劃定人工智能建設方、使用方的責任邊界。

總結與展望

人工智能的應用倫理風險研究依據的往往是國家政策、行業規范以及智慧教學相關理論，實踐檢驗環節通常只能依靠閉環的課堂教學實驗。隨著新技術、新應用的涌現，倫理風險也在變化，在人類社會活動中，人工智能的應用將不斷深入，如何有效認識倫理風險、規避倫理風險、管控倫理風險需要在新的使用場景中進行驗證。

參考文獻：

[1]石連海，楊羽.適應與跨越：人工智能沖擊下的教育現代化[J].中國教育學刊，2022（03）：47-52.

[2]苗逢春.教育人工智能倫理的解析與治理—《人工智能倫理問題建議書》的教育解讀[J].中國電化教育，2022（06）：22-36.

[3]楊足儀，向鷺娟.人工智能為什么“能”？—關于人工智能“心智建?！钡恼軐W思考[J].武漢科技大學學報：社會科學版，2022，24（04）：436-439.

[4]羅江華，王琳，劉璐.人工智能賦能課堂反饋的倫理困境及風險化解[J].現代遠程教育研究，2022，34（02）：29-36.

[5]黃宇彤.人工智能在高等教育中的場景應用[J].哈爾濱工程大學學報，2022，43（07）：1066-1072.

[6]石映輝，韋怡彤，楊浩.教師數字鴻溝的發展與彌合—基于從信息鴻溝到素養鴻溝的視角[J].現代教育技術，2018，28（03）：59-65.

[7]劉邦奇.智能技術賦能新時代綜合評價：挑戰、路徑、場景及技術應用[J].中國考試，2022（06）：6-15.

[8]王海穩.網絡群體極化引發的道德風險及對策分析[J].杭州電子科技大學學報：社會科學版，2018，14（06）：51-54.

[9]嚴俊.“信息繭房”現象的負效應及對策研究[J].大連民族大學學報，2018，20（04）：370-373.

作者簡介：沈振興，中南民族大學現代教育技術中心教師，研究方向為教育信息化、智慧教育。

本文受中南民族大學教研項目“智能技術賦能智慧教學環境構建的路徑與方法研究”資助（項目編號：JYX21092）。