《電子技術(shù)應(yīng)用》
您所在的位置:首頁(yè) > MEMS|傳感技術(shù) > 業(yè)界動(dòng)態(tài) > AI+教育時(shí)代:數(shù)據(jù)安全如何保障?

AI+教育時(shí)代:數(shù)據(jù)安全如何保障?

2019-04-24

  硅谷洞察此前在《2018年AI+教育美國(guó)創(chuàng)投趨勢(shì)報(bào)告》中指出,面對(duì)著教育這個(gè)龐大的領(lǐng)域、市場(chǎng),中國(guó)在教育創(chuàng)新和教育科技領(lǐng)域的投資總額約是美國(guó)的三倍。中國(guó)的教育市場(chǎng)體量也是巨大的,僅在線教育市場(chǎng)就高達(dá)2000億。

  即使如此,美國(guó)作為世界一流強(qiáng)國(guó),其持續(xù)不斷吸引著世界頂尖的人才,背后教育體系功不可沒(méi)。

  因此,無(wú)論中美,在人工智能時(shí)代,教育科技所面臨的三大核心問(wèn)題需要所有關(guān)注教育行業(yè)的人思考:

  如何定義真正的AI+教育企業(yè)?

  人工智能時(shí)代,教育領(lǐng)域?qū)⒚媾R什么樣的倫理挑戰(zhàn),我們?cè)撊绾螒?yīng)對(duì)?

  中美兩國(guó)分別有哪些政策和努力來(lái)約束和推動(dòng)教育科技市場(chǎng)的發(fā)展?

  4月12日,在硅谷由 RoboTerra 與 WISE(世界教育創(chuàng)新峰會(huì))聯(lián)合舉辦的 “人工智能x教育:創(chuàng)造之旅” 峰會(huì)上,硅谷洞察合伙人兼研究主管倪松,與來(lái)自美國(guó)哥倫比亞大學(xué)、弗吉尼亞理工大學(xué)、乂學(xué)教育松鼠AI、芥末堆等學(xué)術(shù)界、科技教育界的專家代表們,一起就上述問(wèn)題進(jìn)行了深入討論。

5cbfe2c399176-thumb.jpg

  小探帶你來(lái)看,現(xiàn)場(chǎng)專家們都引發(fā)了哪些激烈討論!

  真正的AI+教育企業(yè)是什么?

  科技已經(jīng)被廣泛應(yīng)用到了教育領(lǐng)域。例如,學(xué)生們可以用手機(jī)照相,把作業(yè)拍下來(lái),然后讓AI來(lái)回答。VR技術(shù)也已被運(yùn)用在課堂教學(xué)上。學(xué)生可以在歷史課上重回古代羅馬的城市,這有助于吸引學(xué)生更投入的學(xué)習(xí)。

  面部識(shí)別這樣的技術(shù)也已經(jīng)被應(yīng)用。比如通過(guò)學(xué)生憤怒、沉悶、無(wú)聊等表情,來(lái)衡量學(xué)生的壓力、心跳等多個(gè)指標(biāo)。也可以加上一定時(shí)間序列的觀察,比如腦電波分析等,把腦電波跟背后的意圖相連。這些都可以說(shuō)是AI具體的應(yīng)用場(chǎng)景。

  但是,隨著號(hào)稱AI+教育的公司越來(lái)越多,我們不可回避一個(gè)問(wèn)題:到底什么才是真正的AI+教育企業(yè)?

  人工智能和認(rèn)知科學(xué)背景的 KP Thai 博士表示,有沒(méi)有運(yùn)用深度學(xué)習(xí)、機(jī)器學(xué)習(xí)算法等,是作為判斷一個(gè)是否為經(jīng)典 AI 企業(yè)的一些標(biāo)準(zhǔn)。如果運(yùn)用到教育領(lǐng)域的話,則需要通過(guò)機(jī)器學(xué)習(xí)、數(shù)據(jù)等方式,去判斷學(xué)生的需求、對(duì)知識(shí)的理解程度,然后機(jī)器再基于此,給出學(xué)生明智的指導(dǎo)建議。也可以像通過(guò) AI 算法,給學(xué)生提供適當(dāng)其個(gè)性的學(xué)習(xí)路徑等。

  除了技術(shù)給學(xué)生提供幫助之外,硅谷洞察在《2018年AI+教育美國(guó)創(chuàng)投趨勢(shì)報(bào)告》中也指出,從服務(wù)對(duì)象來(lái)看,AI+教育的初創(chuàng)公司面向教師的比例也很高,比如硅谷一家初創(chuàng)公司Gradescope就使用AI技術(shù)幫助教師打分,為教師節(jié)省時(shí)間。

  其次,AI+教育類的初創(chuàng)公司還包括像協(xié)助學(xué)校管理、為教育信息化企業(yè)提供AI模塊(toB類型)的公司等。

  AI+教育時(shí)代:收集數(shù)據(jù)的倫理問(wèn)題

  教育的接受者,很多時(shí)候并非成年人。因此,這是否會(huì)使倫理問(wèn)題對(duì)于教育科技行業(yè)來(lái)說(shuō)更為關(guān)鍵。倪松提出,硅谷洞察非常關(guān)注這個(gè)議題, 因?yàn)楹⑼](méi)有能力對(duì)于自己的哪些數(shù)據(jù)應(yīng)該被搜集和分析做出決策,尤其是幼兒園、小學(xué)階段。那么一旦這種情況出現(xiàn)時(shí),誰(shuí)來(lái)決定到底孩子的什么數(shù)據(jù)被送給機(jī)器去分析呢?

  首先,這個(gè)現(xiàn)象已經(jīng)開始出現(xiàn)。正如芥末堆合伙人 Sophie Chen 所分享,如今在中國(guó),已有遠(yuǎn)程教學(xué)課堂應(yīng)用面部識(shí)別技術(shù),辨別哪些學(xué)生是快樂(lè)的,哪些學(xué)生是認(rèn)真的、分心的等等。

5cbfe2c3b8a86-thumb.jpg

 ?。▓D片來(lái)自杭州某學(xué)校的智慧課堂行為管理系統(tǒng),可以識(shí)別學(xué)生的面部情緒)

  而目前真正缺失的是,數(shù)據(jù)的獲取和運(yùn)用沒(méi)有透明性,根本不知道身邊這些 AI 到底都在做什么。KP Thai 博士認(rèn)為,從長(zhǎng)遠(yuǎn)來(lái)看,這種現(xiàn)狀將是無(wú)法被公眾接受的,也將潛在制造很多問(wèn)題。

  IEEE 標(biāo)準(zhǔn)委員會(huì)副主席、弗吉尼亞理工大學(xué)公共行政與政策中心(CPAP)教授 Sara Jordan 博士也分享到,遠(yuǎn)程教學(xué)也在香港大學(xué)、澳門、深圳等一些高校中加以運(yùn)用。

5cbfe2c4097f3-thumb.jpg

  (左二為Sara Jordan博士,Panel現(xiàn)場(chǎng),圖自Angela Shen)

  如果成人以某種方式在收集學(xué)生的數(shù)據(jù),但學(xué)生們卻沒(méi)有辦法阻止,這便產(chǎn)生了倫理問(wèn)題。如果真的要收集兒童數(shù)據(jù),就應(yīng)該關(guān)注這些數(shù)據(jù)是否對(duì)他們有一個(gè)長(zhǎng)時(shí)間的影響,是否未來(lái)會(huì)影響他們做其他決定的能力。

  誰(shuí)來(lái)監(jiān)管學(xué)生數(shù)據(jù)?中美都有待加強(qiáng)

  既然存在透明度、數(shù)據(jù)現(xiàn)金化等可能存在并引發(fā)道德問(wèn)題的現(xiàn)象,中美兩國(guó)政府在這一塊有什么作為呢?

  Sara Jordan 博士指出,遺憾的是,即使是美國(guó),也沒(méi)有專門機(jī)構(gòu)會(huì)對(duì)教育數(shù)據(jù)的收集進(jìn)行監(jiān)管,不像醫(yī)療數(shù)據(jù)的監(jiān)管有 FDA(美國(guó)食品藥品監(jiān)督管理局)這樣明確的監(jiān)管機(jī)構(gòu)來(lái)進(jìn)行。

  不過(guò),硅谷洞察發(fā)現(xiàn),盡管美國(guó)當(dāng)前沒(méi)有專門的機(jī)構(gòu)進(jìn)行監(jiān)管,但是從2013年起,美國(guó)39個(gè)州頒布了120多項(xiàng)法律,規(guī)范學(xué)校及其服務(wù)提供者如何收集、使用和保護(hù)學(xué)生數(shù)據(jù)。這些法律大多涵蓋小學(xué)、初中和高中學(xué)生信息的收集。其中也有 35 項(xiàng)法律規(guī)定了私立和公立高等教育機(jī)構(gòu)如何使用學(xué)生數(shù)據(jù)。

5cbfe2c454488-thumb.jpg

 ?。〝?shù)據(jù)來(lái)自The Education Privacy Resource Center,版權(quán)屬于原作者)

  在這些法律中,僅有4項(xiàng)法律禁止學(xué)院出售學(xué)生信息或向?qū)W生索取社交媒體帳戶信息。禁止出售,也就意味著學(xué)生的信息將無(wú)法被用來(lái)賺錢。硅谷所在的加州也是其中一個(gè)立法州。

  加州在 2014 年通過(guò)的這條州法顯示,禁止 K-12 網(wǎng)站/應(yīng)用程序供應(yīng)商出于教育目的以外的任何目的使用、共享、披露或編譯學(xué)生信息并改進(jìn)其服務(wù);如果學(xué)?;?qū)W區(qū)要求他們不能出售信息的話,還必須刪除信息。這里面對(duì)信息的定義,就包括生物信息(biometric information)。但此條法案僅針對(duì) K-12 階段。學(xué)前階段,以及高等教育階段不涵蓋在內(nèi)。

  也就是說(shuō),美國(guó)現(xiàn)今的法律系統(tǒng)有開始圍繞學(xué)生數(shù)據(jù)方面進(jìn)行立法保護(hù),但是,監(jiān)管機(jī)構(gòu)的缺失問(wèn)題依舊存在。Thai 博士認(rèn)為,美國(guó)政府對(duì) AI 的關(guān)注太少了,因?yàn)槊绹?guó)盛行的還是自由市場(chǎng)思維,對(duì)AI沒(méi)有足夠的注意力。

  那么在中國(guó)呢?中國(guó)在AI時(shí)代對(duì)學(xué)生數(shù)據(jù)的監(jiān)管同樣有待提高。

  今年1月2日,教育部官網(wǎng)公布《關(guān)于嚴(yán)禁有害APP進(jìn)入中小學(xué)校園的通知》,學(xué)習(xí)類App中色情暴力、網(wǎng)絡(luò)游戲、商業(yè)廣告、抄作業(yè)、搞題海、公布成績(jī)排名等行為,遭到教育部嚴(yán)令禁止。學(xué)校與教育主管部門將建立“雙審查”的監(jiān)督制度,進(jìn)入中小學(xué)的教育類App必須受到嚴(yán)格審查。

  但是,圍繞面部識(shí)別等搜集的學(xué)生數(shù)據(jù)可能存在的泄露和監(jiān)管問(wèn)題,當(dāng)前最主要的還是《消費(fèi)者權(quán)益保護(hù)法》、《未成年人保護(hù)法》以及《網(wǎng)絡(luò)安全法》等通用型的法律在監(jiān)管,并沒(méi)有專門法律。

  曾在國(guó)內(nèi)有著豐富田野調(diào)查經(jīng)驗(yàn)的哥倫比亞大學(xué)教師 Henan Cheng 博士認(rèn)為,中國(guó)當(dāng)前尚未形成足夠的公眾意識(shí),即自己有權(quán)利來(lái)保護(hù)自己的數(shù)據(jù)的意識(shí)。Cheng 博士回憶,曾在調(diào)查時(shí)希望所有受訪者都要簽署同意書,享有知情權(quán),但受訪者甚至不覺得需要簽署同意書。

  “政府需要投入努力,讓公眾這樣意識(shí)到這樣的權(quán)利”,Cheng 博士表示。

  回歸本源,Cheng 博士認(rèn)為,教育者也需要思考,因?yàn)楫?dāng)教育者需要使用某些技術(shù)時(shí),就應(yīng)該思考為什么要設(shè)計(jì)這個(gè)工具,到底真正想要學(xué)生從中學(xué)到什么,避免設(shè)計(jì)出來(lái)的產(chǎn)品被用在錯(cuò)誤的地方。

  專家建議:關(guān)注教育內(nèi)容進(jìn)步而非技術(shù)

  討論最后,倪松希望各位嘉賓預(yù)測(cè)一下,在這樣的技術(shù)背景下,五年后中國(guó)教育市場(chǎng)會(huì)發(fā)生何種變化,會(huì)取得何種進(jìn)步。

5cbfe2c44a597-thumb.jpg

 ?。ㄓ乙粸楣韫榷床旌匣锶四咚砂l(fā)言,圖自硅谷洞察)

  芥末堆合伙人 Sophie Chen 認(rèn)為,過(guò)去五年一個(gè)明顯趨勢(shì)是:從線下變成線上。未來(lái)三五年的話,更多的學(xué)習(xí)行為會(huì)變成線上進(jìn)行,那就意味著數(shù)據(jù)可以被收集,機(jī)器會(huì)做出更多有條理的分析,從而給出學(xué)生更多積極的建議。

  KP Thai 博士則認(rèn)為,如今教育科技在整個(gè)教育市場(chǎng)大概所占比例是10%左右。預(yù)計(jì)五年內(nèi),會(huì)有更多針對(duì)學(xué)生個(gè)性化能力的指導(dǎo)、提升的工具。但她也一再?gòu)?qiáng)調(diào),科技只是一個(gè)工具,無(wú)論 AI 多好,都要關(guān)注學(xué)習(xí)的內(nèi)容,因?yàn)檫@才是教育的根本。因此 Thai 博士希望,會(huì)有更多關(guān)于教育內(nèi)容本身方面 —— 比如教育方法 —— 的進(jìn)步,而不僅僅是 AI 技術(shù)的進(jìn)步。

  你覺得上述話題中,哪些最值得我們重視?讀者里的爹媽們,關(guān)于孩子的教育,你們最關(guān)心什么?最希望 AI 在哪些方面能幫你們的孩子?歡迎大家留言討論。

  近期,硅谷洞察會(huì)呈現(xiàn)更多教育領(lǐng)域的優(yōu)質(zhì)獨(dú)家內(nèi)容,如果你想了解更多教育趨勢(shì)洞察、或更多相關(guān)活動(dòng)預(yù)告,歡迎感興趣的讀者在留言處留下你們的 email、名字,及工作單位(選填),我們會(huì)定向向您推送。


本站內(nèi)容除特別聲明的原創(chuàng)文章之外,轉(zhuǎn)載內(nèi)容只為傳遞更多信息,并不代表本網(wǎng)站贊同其觀點(diǎn)。轉(zhuǎn)載的所有的文章、圖片、音/視頻文件等資料的版權(quán)歸版權(quán)所有權(quán)人所有。本站采用的非本站原創(chuàng)文章及圖片等內(nèi)容無(wú)法一一聯(lián)系確認(rèn)版權(quán)者。如涉及作品內(nèi)容、版權(quán)和其它問(wèn)題,請(qǐng)及時(shí)通過(guò)電子郵件或電話通知我們,以便迅速采取適當(dāng)措施,避免給雙方造成不必要的經(jīng)濟(jì)損失。聯(lián)系電話:010-82306118;郵箱:aet@chinaaet.com。