人在坐，AI在看

乾明 魚羊 2019-09-03 13:05:40 來源：量子位

乾明 魚羊 發(fā)自 凹非寺

量子位 報道 | 公眾號 QbitAI

教室之內(nèi)，你做什么AI都有記錄？！

為此曠視不得不回應(yīng)了。

昨天，一張帶有“MEGVII曠視”圖標(biāo)的視頻監(jiān)控圖像在社交網(wǎng)絡(luò)上瘋傳。

圖中顯示，兩名在教室中的女生身邊，顯示出了相應(yīng)的課堂行為數(shù)據(jù)，比如趴桌子、玩手機(jī)、睡覺、聽講、閱讀、舉手等等。

伴隨這張圖，還有大量網(wǎng)友嚴(yán)厲的指責(zé)與質(zhì)疑，認(rèn)為這樣的技術(shù)不應(yīng)該出現(xiàn)在課堂中。加之變臉AI應(yīng)用ZAO引發(fā)的關(guān)注，隱私話題再次被談及。

不過相比起來，曠視對這些批評感覺有些冤，按照其官方回應(yīng)，“這只是技術(shù)場景化概念演示”。

但引發(fā)的關(guān)注還在繼續(xù)，更多教育場景內(nèi)的AI應(yīng)用，也引起前所未有的重新審視。

攝像頭盯著你上課

事情跟剛剛進(jìn)入的開學(xué)季有關(guān)。

九月新學(xué)期開始后，不少學(xué)生就發(fā)現(xiàn)，自己熟悉的校園中出現(xiàn)了人臉識別系統(tǒng)。

比如位于南京的中國藥科大學(xué)，在校門、圖書館和宿舍都安裝了人臉識別門禁。

對于智能門禁，學(xué)生們的接受度倒是很高。有人認(rèn)為這套系統(tǒng)識別準(zhǔn)確，速度也很快；有人表示不再擔(dān)心忘帶校園卡，確實很方便。

學(xué)校保衛(wèi)處負(fù)責(zé)人也表示，比起從前實行的校園卡刷卡通行，人臉識別系統(tǒng)的引入解決了過去師生忘帶校園卡的麻煩，也解決了代刷卡、復(fù)制卡等校園安保問題。

但這套來自“刷臉之王”曠視Face++的系統(tǒng)，可能不止是人臉識別刷門禁。

在梨視頻的采訪中，校方介紹，這套系統(tǒng)不僅能對進(jìn)入教室的學(xué)生進(jìn)行全程人臉識別，還能監(jiān)測到學(xué)生抬頭低頭，是否玩手機(jī)，是否發(fā)呆等行為細(xì)節(jié)。

關(guān)于這類系統(tǒng)，曠視也早有過相關(guān)介紹，目標(biāo)所指是輔助教育：

在課堂教學(xué)評價系統(tǒng)中，曠視科技將自主研發(fā)的人臉識別、行為識別、表情識別等技術(shù)，集成在考勤及行為分析攝像機(jī)MegEye-C3V-920和行為分析服務(wù)器中。

通過對課堂視頻數(shù)據(jù)進(jìn)行實時的結(jié)構(gòu)化分析，反饋學(xué)生行為、表情、專注度、前排上座率等多維度課堂數(shù)據(jù)，輔助教學(xué)評估評價。

沒想到，竟然在社交媒體上引發(fā)大討論。

曠視在官方回應(yīng)中說，自己在教育領(lǐng)域的產(chǎn)品專注于保護(hù)孩子在校園的安全。

相應(yīng)的解決方案，可以協(xié)助學(xué)校管理人員提升效率并保障學(xué)生安全，主要用于智能校門、教室門及宿舍的出入，方便學(xué)生安全出入校園。

至于引發(fā)討論的課堂行為分析圖片，是技術(shù)場景化概念演示。

但根據(jù)校方說法，相關(guān)系統(tǒng)已在兩間教室中進(jìn)行試點(diǎn)，如果效果好，會進(jìn)行全校推廣。

其實，這樣的技術(shù)和應(yīng)用并不算稀奇。有網(wǎng)友表示，這種校園分析的新聞去年前年就有了，現(xiàn)在竟然來了個大爆發(fā)……而且成為熱搜事件，著實意料之外。

教育場景正成為AI落地跑馬場

但不容忽視的事實是，這幾年來AI賦能落地千行百業(yè)的聲勢越來越大，在這樣的大趨勢面前，教育場景可以說是藍(lán)海一片。

《2019年中國智慧教育行業(yè)市場發(fā)展及趨勢研究報告》數(shù)據(jù)顯示，2010-2018年中國智慧教育行業(yè)規(guī)模持續(xù)擴(kuò)大，增速保持在10%以上，2018年市場規(guī)模超過5000億元。

眾多AI技術(shù)公司、教育場景公司，都紛紛加入戰(zhàn)局，加入新紅利的爭奪中。

而且作為AI領(lǐng)域最為成熟的技術(shù)方向，各種計算機(jī)視覺/人臉識別方案早已見怪不怪。在校園中采用人臉識別技術(shù)，也都已經(jīng)不稀罕。

但沒有哪家公司的方案，止步于門閘刷臉。

閘機(jī)只是切入點(diǎn)，更多方案提供商希望的是用AI來重構(gòu)整個教育全流程，課堂自然是一個能夠大展拳腳的地方。

當(dāng)然，水大魚大，競爭者也多。提供這樣方案的，遠(yuǎn)不止曠視一家。

打開搜索引擎搜索“課堂人臉識別”，能夠得到621萬條結(jié)果，各種大大小小的公司，都有相應(yīng)方案。

其中甚至不乏更為驚人的“黑科技”方案。

比如掌門1對1，已經(jīng)與商湯達(dá)成戰(zhàn)略合作，在情緒智能識別等領(lǐng)域進(jìn)行研究，目的就是通過在線輔導(dǎo)的情緒識別，看學(xué)生是否處于認(rèn)真上課的狀態(tài)。

創(chuàng)始人兼CEO張翼還分享過用“腦電波”的設(shè)想：

腦機(jī)交互的可穿戴智能設(shè)備可以實時監(jiān)測學(xué)生的腦電波數(shù)據(jù)，通過腦電動態(tài)數(shù)據(jù)采集分析，對學(xué)生在學(xué)習(xí)過程中進(jìn)行情緒識別、疲勞度識別，分析判斷學(xué)生在學(xué)習(xí)過程中的精神狀態(tài)、思維活躍度和學(xué)習(xí)專注力。

此外，還有英特爾、K12在線教育機(jī)構(gòu)海風(fēng)教育，少兒英語教育結(jié)構(gòu)VIPKID等等都有相應(yīng)系統(tǒng)與解決方案提供。

總體來說，之前“一塊屏教育”的故事延續(xù)，就是AI可以幫助教學(xué)過程實現(xiàn)數(shù)據(jù)化、機(jī)器學(xué)習(xí)化。

而且談到AI落地傳統(tǒng)學(xué)校，也不是只有這次引發(fā)關(guān)注的中國藥科大學(xué)。

隨手一查，案例新聞非常豐富：

比如2018年5月，浙江省重點(diǎn)杭州第十一中學(xué)（阿里云之父王堅母校），將名為“智慧課堂行為管理系統(tǒng)”的科技應(yīng)用于課堂教學(xué)。

新京報報道中表示，這一系統(tǒng)也可以對課堂上學(xué)生的行為進(jìn)行分析，并對異常行為實時反饋，工作流程是這樣的：

系統(tǒng)每隔30秒會進(jìn)行一次掃描，針對學(xué)生們閱讀、舉手、書寫、起立、聽講、趴桌子等6種行為，再結(jié)合面部表情是高興、傷心，還是憤怒、反感，分析出學(xué)生們在課堂上的狀態(tài)。

目前僅趴桌子一項為負(fù)分行為。若此類不專注行為達(dá)到一定分值，系統(tǒng)就會向顯示屏推送提醒，任課教師可根據(jù)提醒進(jìn)行教學(xué)管理，而顯示屏僅任課教師可見。

不過，校方也給出了回應(yīng)，在系統(tǒng)設(shè)計伊始，便考慮到了隱私問題，系統(tǒng)只采集代碼，并非學(xué)生面部影像。

此外借AI落地之名進(jìn)入校園，也不僅僅只是基于人臉識別的解決方案，還有基于各種傳感器的“智慧校服”。

去年12月底，貴州10多所中小學(xué)的學(xué)生穿上“智能校服”引起大量關(guān)注。

供應(yīng)商介紹稱，這套智能校服，能精準(zhǔn)、及時記錄他們的出勤和活動。只要身著這套校服，學(xué)生進(jìn)出校門的準(zhǔn)確時間就會自動發(fā)送給學(xué)校老師和家長。

而且如果未經(jīng)許可出校門，那也會激活自動語音報警器。校服還會配合校門口的智能攝像頭一起使用，假如學(xué)生互換校服，警報也會響起。甚至它也能發(fā)送準(zhǔn)確的具體位置，幫助學(xué)校和家長快速定位。

但類似方案，也不是中國專利，全球同此涼熱。

早在2012年3月份，巴西也推出了類似智能校服，引發(fā)了媒體廣泛關(guān)注。

巴西維多利亞達(dá)孔基斯塔市最早推出一款智能T恤，這條T恤內(nèi)置了芯片，可以讓家長知道孩子究竟有沒有逃課了。

還有瑞典（真歐洲國家）一中學(xué)，使用人臉識別等技術(shù)對22名學(xué)生進(jìn)行了為期三周的跟蹤調(diào)查，記錄下他們每次進(jìn)入教室的情況。

毫無疑問，這樣的人工智能入校、AI+教育，也同樣引起了爭議與廣泛的討論。

爭議四起：隱私何在？

核心熱議焦點(diǎn)，依然是AI技術(shù)落地中的技術(shù)。

有抖機(jī)靈的網(wǎng)友說，學(xué)霸們研發(fā)的AI，正在不斷壓縮學(xué)渣摸魚的空間。

但更多網(wǎng)友，關(guān)注的還是技術(shù)價值觀的話題：技術(shù)本身無罪，但這并不代表技術(shù)的落地，不需要多方面權(quán)衡考量。

而且日常工作學(xué)習(xí)為攝像頭所監(jiān)控，監(jiān)控背后的AI還要分析量化你的一舉一動，未免讓人有些毛骨悚然。

另外在這場突然掀起的風(fēng)暴之中，AI落地帶來的“隱私”邊界，也令人深思。

有微博網(wǎng)友認(rèn)為，這種無死角全過程的AI監(jiān)控，是在扼殺情感。

有人表示絕對不會讓自己的孩子處在這種環(huán)境之中。

也有人指出，這是對教育的本末倒置，學(xué)校應(yīng)用這種技術(shù)，不是在培養(yǎng)人，而是在培養(yǎng)升學(xué)率。

“技術(shù)再好，用的地方不對有什么意義呢？”

這種評論也代表了很多吃瓜網(wǎng)友的心聲。就像《黑鏡》中描述的未來科技，誕生之初哪有正邪之分呢？

除了隱私、自由，教育場景中令人擔(dān)心的還有數(shù)據(jù)安全問題。

2018年8月的一則判決文書中，就披露了一起非法出售學(xué)生信息的案例。

當(dāng)時負(fù)責(zé)管理維護(hù)安徽全省學(xué)籍管理系統(tǒng)的張某，利用職務(wù)之便，以每條1毛錢的價格，出售了4萬名學(xué)生的隱私信息。據(jù)新浪財經(jīng)報道，張某任職的公司正是科大訊飛。

前沿技術(shù)的發(fā)展，有時候遠(yuǎn)超公眾的想象。當(dāng)一項技術(shù)真正走向落地，就不再是小眾的狂歡，而要接受大眾的審視。

如何選擇更合適的技術(shù)落地場景，如何兼顧科技與社會人文，或許是AI賦能，必須要去面對和思考的問題。

國內(nèi)國外，也開始越來越多傳遞出這樣的風(fēng)向。

比如谷歌開始越來越多科普利于隱私的“聯(lián)邦學(xué)習(xí)”，騰訊在創(chuàng)辦20周年時將“科技向善”寫入公司使命和愿景，而即將IPO上市的曠視實際也在招股書中明確建立“AI道德委員會”。

掌舵微軟AI的沈向洋還呼吁，應(yīng)該每一項AI技術(shù)和產(chǎn)品應(yīng)用前，都要通過倫理道德委員會審查。

雖然人類在發(fā)明汽車80年后才發(fā)明安全帶，但AI時代里，我們需要現(xiàn)在就為AI技術(shù)系上安全帶了。

總而言之，AI和隱私安全的話題，一切還不會就此終止，還會有更多事件、更多應(yīng)用被放在聚光燈下審視。

你覺得呢？