AI強扭出的“好學生”，不甜
2019-09-04 09:27:46 雷鋒網8月31日，AI換臉APP“ZAO”刷屏朋友圈后就被用戶質疑，分享鏈接被微信屏蔽；9月1日晚，一張有關曠視科技的AI課堂行為分析圖在微博上引起不少網友的爭議。曠視隨后發布聲明稱，該圖片為技術場景化概念演示。
這張圖為我們展示了這樣的信息，利用AI不僅可以統計課堂中學生的舉手、閱讀、聽講次數，還可監控學生趴桌子、玩手機和睡覺的次數。
不管是ZAO還是AI課堂行為分析，戳到網友心坎的主要因素都是因為隱私保護問題。
無獨有偶，近日，瑞典北部城市一高中因為引入人臉識別考勤，違反了歐盟《通用數據保護條例》，導致該市政府被罰款20萬瑞典克朗。
隱私問題似乎成了AI前進道路的一顆絆腳石。
一張圖片引發的爭論
近年來，由于政策、資本和技術進步等因素推動，AI+教育成為人們關注的熱門話題。因此不少技術或教育公司紛紛探索AI在教育中的應用。
在AI領域積累頗深的曠視也不例外，教育也是其輸出AI能力的一個場景之一。這張圖中分析統計學生舉手、聽講和睡覺的次數主要是借助人臉識別、人體識別等技術。
由于這張圖片被廣泛傳播，9月2日晚，曠視科技在其官方微博緊急發布聲明稱，該圖片為技術場景化概念演示。言外之意，就是這張圖片只是一張藍圖，還未真正落地學校實施。
在聲明中，曠視表示，始終堅持技術向善，讓人工智能造福所有人。在人工智能技術的各種場景中，曠視會堅持正當性、數據隱私保護等核心原則，接受社會的廣泛建議和監督。
而網友們的討論也是主要集中在隱私保護層面，這反映出多數人其實針對的不是技術本身，而在于如何合理正確的使用技術。
雷鋒網就該事件采訪了北大附中朝陽未來學校語文教師唐伊豆，她表示：
“我個人對這項技術的態度比較保守。實際上，我認為它仍然是在很傳統甚至陳舊的思路上進行設計，從目前的實踐來看，雖然它在某些方面加強了校園安保，但是整體上簡單地將老師和學生置于看與被看、管理者與被管理者的權力關系中，這是很粗暴的，背后實在缺乏對師生關系的想象力。因此這項技術立刻讓我想起了福柯筆下的全景敞視監獄，如果學生都規規矩矩、按部就班，反倒非常傷害學生的多樣性與校園文化建設。”
此外，唐伊豆老師不贊成將課堂教學評價功能進入課堂。她認為，表情分析更是直接將“人”抽離了出去。她舉個例子，在語文課堂上，學生在構思文章時發呆，或者為同學講述的故事而難過，這都是很正常的，“這些幽微的情緒是不可能也不需要被機器捕捉的。教學互動中有很多模糊地帶，這正是其生動的、人性化的魅力所在。”
而某位不愿意透露姓名的老師告訴雷鋒網，他認為利用AI技術分析學生課堂行為，可以幫助老師更好地了解學生的課堂行為，從而改進自己的教學。
“比如，講到某個知識點時，大部分學生都在發呆，老師課后就可以再針對性地補充。但是，如果技術運用不當，也會產生負面效果，比如AI檢查到學生發呆，老師因此去懲罰學生，這樣是不可行的，會引起學生的逆反情緒。”
“AI課堂分析”是否侵犯了學生的隱私？
按照曠視的說法，那張圖片只是一個概念演示，但在現實中有不少學校已將AI應用于課堂中監控學生的行為。
據澎湃新聞報道，近日，中國藥科大學已在兩間教室試點人臉識別系統。該系統不僅可以人臉考勤，還能全程監控課堂的行為，例如統計學生是否在聽講、玩手機、打瞌睡等等。從描述上看，這套系統的功能基本與曠視的概念演示是相同的。
該校圖書與信息中心主任表示這套系統是為了減少學生逃課、早退以及上課走神等行為。關于是否侵犯學生隱私，他表示已向公安和法務咨詢，教室屬于公開場所，不存在侵犯隱私的說法。
唐伊豆老師則認為，教室里是存在隱私的，它不是完全的公共場合，更像是一個特定的師生群體共有的空間。“用攝像頭考勤還可以接受，但是采集和監控課堂行為就是一種過度的介入，它暗含著對教師、對學生的不信任，會影響師生共同建設的一個安全互信的、自在舒適的環境。”
一位老師對雷鋒網(公眾號：雷鋒網)表示，教室里學生也是有隱私的，學生的行為數據不應該共享給所有人，應該設置嚴格的權限，比如校長、學校安全處等，只給有需要的人針對性地開放部分數據。
另一位老師認為，利用AI攝像頭監控學生考勤和行為，一方面出于保證學生安全、優化管理的目的，這一做法無可厚非。但另一方面，更要考慮適度的問題，教室雖是公共場合，但也要切實保障未成年人的隱私安全，特別是持續要關注該舉措對學生心理的持久影響。
AI+教育如何更好的結合？
之所以一張AI課堂分析的概念圖能引起如此大的反響，無外乎還是人們在擔心新技術所帶來的未知挑戰，尤其是恐懼于將技術用在了錯誤的方向，以致于帶來無法挽回的后果。
尤其是在教育這個特殊領域，任何新技術的應用和創新都會被密切關注，任何瑕疵都會被無限放大。因為教育中最大的成本是時間，這些還未成熟，未經嚴格驗證的產品一旦應用于課堂中，對學生產生的任何影響都是不可逆的，所以不管是學校、家長，還是社會輿論對此都是高度關注。
與此同時，國家也在鼓勵AI、大數據技術與教育的融合應用。2017年7月，國務院印發《新一代人工智能發展規劃》，要求推動AI在教育、醫療等領域的應用。規劃中還提到要建設在線智能教育平臺，利用智能技術在教學、校園管理、學習分析系統及個性化教育方面進行探索應用。
當然AI在教育中的應用，不止考勤和學生行為分析等校園管理層面。在教學和個性化教育方面，AI主要被用于減輕老師工作負擔，幫助學生建立個性化學習路徑，實現因材施教。
例如，某些公司開發的智能評卷系統，基于OCR識別、自然語言處理等AI技術，能夠對語文、英語作文，簡答題以及日常作業實現自動評卷和批改，減輕了不少學校的工作壓力。
一起教育科技CEO劉暢對雷鋒網表示，教育本質是讓學生學習到知識，并講知識應用到實際生活中。現階段AI+教育想象空間最大的就是自適應學習領域。
“自適應學習真正從學習的本質提升學習效率，為學生匹配最佳學習路徑，最終提升每一個學生的效果。我們認為自適應學習對教學輔助，學習效果和學習興趣的提升明顯，是目前最為合理且前景光明的方向。”
劉暢認為學生的個人學習資料、學習數據這種都是學生的隱私數據，不能被隨意調取。對于平臺的學生數據，他們會全部進行脫敏處理，并且有嚴格的安全防護措施。
遠昊科技CEO鄧艾華曾在采訪中告訴雷鋒網，他們在處理校園隱私上，采取的辦法是，通過分布式系統將各個學校的大數據留存在學校的本地服務器上，只通過云平臺獲取學生簡單的畫像信息，以此防止泄露學校數據隱私。將校園的各種數據留在學校中，也是一個解決方案，這也考驗了學校的數據保護能力。
唐伊豆老師認為， AI這項新技術應該在更加積極的方向發揮它對教育的賦能效果，而不僅僅局限在所謂的“管理”、“采集”層面。在需要數據幫助的環節里，怎樣避免單一刻板的、自以為是的數據，需要教育者和科技工作者共同來思考。
如何正確使用技術才是問題
關于隱私的討論告訴我們，技術不是問題，如何正確使用技術才是問題。網友們對于曠視的那張概念圖片的討論，本質上源自人們對于未知的新技術可能被濫用而產生的恐懼心理。
如果能用AI監控就能培養出好學生，那樣的教育簡直太輕松了，顯然現實并不是這樣的。
對于科技公司來說，尤其是AI教育公司，如何將AI技術合理應用于教育場景中，顯然是首先要考慮的問題。希望下次AI+教育登上頭條，不再是因為隱私保護的爭議。
免責聲明：本文由作者原創。文章內容系作者個人觀點，轉載目的在于傳遞更多信息，并不代表EETOP贊同其觀點和對其真實性負責。如涉及作品內容、版權和其它問題，請及時聯系我們，我們將在第一時間刪除！
