保護(hù)未成年人上網(wǎng):監(jiān)管立法要求安裝“圍欄”。
編者按:本文來(lái)自微信公眾號(hào) 新浪科技 (ID:techsina),作者:鄭峻,編輯:韓大鵬,創(chuàng)業(yè)邦經(jīng)授權(quán)發(fā)布。
未成年人上網(wǎng)悲劇去年1月20日,10歲的意大利西西里島女童安東內(nèi)拉·斯科梅羅(Antonella Sicomero)拿著手機(jī)打開TikTok,在自家浴室用皮帶勒住脖子,模仿網(wǎng)上熱門的“窒息挑戰(zhàn)”(Blackout Challenge)。她很快失去了意識(shí)。等到家人發(fā)現(xiàn)時(shí),悲劇已經(jīng)無(wú)可挽回。
【資料圖】
這一令人震驚的事件很快引發(fā)了意大利乃至歐洲監(jiān)管部門的跟進(jìn)。悲劇發(fā)生之后第三天,意大利互聯(lián)網(wǎng)監(jiān)管機(jī)構(gòu)DPA對(duì)TikTok下達(dá)為期三個(gè)星期的整改通牒:如果TikTok不能核實(shí)用戶年齡,就禁止提供服務(wù)運(yùn)營(yíng)。
從去年2月開始,TikTok對(duì)當(dāng)時(shí)意大利1200萬(wàn)用戶的年齡進(jìn)行全面核查,刪除50萬(wàn)個(gè)年齡不符合規(guī)定的用戶,查出14萬(wàn)謊報(bào)年齡的用戶。TikTok還承諾,未來(lái)會(huì)引入更多技術(shù)手段進(jìn)行年齡核查,一旦發(fā)現(xiàn)13歲以下未成年人開設(shè)賬戶,則在48小時(shí)內(nèi)銷號(hào)。
然而,即便是專為未成年人開發(fā)的應(yīng)用,也存在著諸多漏洞與問(wèn)題。YouTube Kids是美國(guó)最為成功的兒童視頻應(yīng)用。這是一個(gè)YouTube精選的兒童相關(guān)內(nèi)容的視頻平臺(tái),里面包括了大量的益智類動(dòng)畫、兒歌以及學(xué)習(xí)內(nèi)容,每周活躍用戶超過(guò)3500萬(wàn)人。
盡管YouTube對(duì)兒童內(nèi)容設(shè)置了嚴(yán)格的審核要求,但依然有諸多不適合的內(nèi)容出現(xiàn)。舉例來(lái)說(shuō),過(guò)去幾年美國(guó)家長(zhǎng)投訴的YouTube Kids內(nèi)容包括汽車撞車起火燃燒,人物在懸崖邊做出危險(xiǎn)動(dòng)作,陰森恐怖的墳?zāi)箞?chǎng)景,兒童在浴室玩刮胡刀等等。這些對(duì)成年人來(lái)說(shuō)很正常的內(nèi)容,卻可能給學(xué)齡前兒童帶來(lái)心理陰影,甚至誘使他們模仿危險(xiǎn)動(dòng)作。
誘使兒童觀看視頻成癮也是YouTube Kids遭受指責(zé)的一大原因。這款應(yīng)用的默認(rèn)設(shè)置是自動(dòng)播放視頻,意味著當(dāng)前視頻播放結(jié)束之后,YouTube Kids會(huì)繼續(xù)播放算法推薦的內(nèi)容。如果家長(zhǎng)不能實(shí)時(shí)干預(yù)的話,兒童就會(huì)一直看算法推薦的內(nèi)容。盡管從2017年媒體就開始報(bào)道這一問(wèn)題,但沒(méi)有監(jiān)管部門的介入,谷歌就一直沒(méi)有調(diào)整默認(rèn)設(shè)置。
全票通過(guò)監(jiān)管立法社交網(wǎng)站是否應(yīng)當(dāng)對(duì)這樣的悲劇負(fù)責(zé),他們應(yīng)當(dāng)采取怎樣的技術(shù)手段,如何有效避免類似的悲劇發(fā)生,阻止未成年人在社交網(wǎng)絡(luò)接觸到不適當(dāng)?shù)膬?nèi)容?這已經(jīng)是全球互聯(lián)網(wǎng)監(jiān)管立法的一大迫切問(wèn)題。
這一次,加州又一次走在了美國(guó)前列?;蛟S,加州在互聯(lián)網(wǎng)監(jiān)管方面責(zé)無(wú)旁貸,因?yàn)槿蛑饕缃痪W(wǎng)站和互聯(lián)網(wǎng)公司的總部都位于加州,Youtube、Facebook、Instagram、Twitter、Snapchat以及TikTok的美國(guó)總部,而加州的互聯(lián)網(wǎng)立法也一直走在美國(guó)各州的前列。
本周加州參議院以33票全票通過(guò)了《加州年齡相符設(shè)計(jì)法》(California Age-Appropriate Design Code Act,AB2273),對(duì)社交網(wǎng)站和互聯(lián)網(wǎng)平臺(tái)應(yīng)當(dāng)如何保護(hù)未成年人做出了明確規(guī)定。而此前加州眾議院已經(jīng)以60票全票批準(zhǔn)了這一法案,該法案隨后將送至加州州長(zhǎng)紐森簽字生效,但將會(huì)在2024年付諸于實(shí)施。
需要強(qiáng)調(diào)的是,盡管民主黨在加州占據(jù)壓倒性優(yōu)勢(shì),但全票通過(guò)的法案也并不多見(jiàn)。因?yàn)榧又萃瑯佑猩罴t選區(qū),議會(huì)有諸多共和黨保守派議員,美國(guó)聯(lián)邦眾議院共和黨領(lǐng)袖就來(lái)自加州中部農(nóng)業(yè)地區(qū)。雖然兩黨在諸多議程上爭(zhēng)鋒相對(duì),但卻在互聯(lián)網(wǎng)監(jiān)管方面有著難得共識(shí),都對(duì)保護(hù)未成年人上網(wǎng)有著緊迫感。
值得一提的是,這也是美國(guó)首部針對(duì)社交網(wǎng)站應(yīng)當(dāng)如何保護(hù)未成年人個(gè)人信息和網(wǎng)絡(luò)活動(dòng)的相關(guān)法律。在聯(lián)邦立法層面,參議院立法小組在今年7月已經(jīng)推進(jìn)了兩項(xiàng)法律草案,在未成年人上網(wǎng)方面對(duì)社交網(wǎng)絡(luò)做出了明確規(guī)定:禁止互聯(lián)網(wǎng)公司收集13-16歲用戶的數(shù)據(jù),除非得到他們用戶的同意;要求互聯(lián)網(wǎng)公司為未成年人用戶以及他們監(jiān)護(hù)人提供一個(gè)消除平臺(tái)活動(dòng)數(shù)據(jù)的喧囂。
此外,聯(lián)邦參議院的《兒童網(wǎng)絡(luò)安全法》的草案更是具體提出,社交媒體平臺(tái)必須給未成年人選擇權(quán),允許他們退出算法推薦功能,屏蔽諸多不適合未成年人用戶的內(nèi)容。不過(guò)這些法案目前還沒(méi)有確切的時(shí)間表。加州此次率先通過(guò)相關(guān)立法,也有助于聯(lián)邦層面加快立法步伐。
安裝未成年數(shù)字圍欄加州這一法律明確規(guī)定,社交網(wǎng)絡(luò)在面對(duì)未成年用戶時(shí),必須將他們的隱私、安全和福祉置于自己的商業(yè)利益至上。如果有社交網(wǎng)絡(luò)違反這一規(guī)定,那么將面臨每名所涉及未成年用戶至多7500美元的罰金。
具體而言,這一法律要求應(yīng)用和網(wǎng)站開發(fā)者必須為18歲以下的未成年用戶安裝“數(shù)字圍欄”,分析自己服務(wù)可能對(duì)未成年用戶帶來(lái)的危害,采取主動(dòng)措施保護(hù)他們的個(gè)人信息以及網(wǎng)絡(luò)瀏覽數(shù)據(jù)。
法律明確提到了目前社交網(wǎng)站所常用的推薦算法以及尋找好友功能,這些手段意在提高用戶粘性和增加使用時(shí)間,但對(duì)于未成年用戶,這些功能會(huì)帶來(lái)遭受騷擾的風(fēng)險(xiǎn),也會(huì)影響他們的身心健康。
加州的這項(xiàng)法律得到了美國(guó)諸多兒童權(quán)益保護(hù)機(jī)構(gòu)的歡迎。在法案通過(guò)之后,美國(guó)兒童安全保護(hù)組織Fairplay立即發(fā)表聲明稱,“加州通過(guò)年齡相符設(shè)計(jì)法案是朝著為兒童和家庭打造他們的互聯(lián)網(wǎng)方向的巨大飛躍?!?/p>
Facebook、Twitter等社交媒體巨頭以及代表他們利益的貿(mào)易群體此前在私下游說(shuō)阻止這一法案通過(guò)。他們提出,這一法案會(huì)阻礙互聯(lián)網(wǎng)的創(chuàng)新,違反美國(guó)憲法規(guī)定的言論自由權(quán)利,也無(wú)助于有效保護(hù)家庭與孩子。
代表互聯(lián)網(wǎng)平臺(tái)利益的NetChoice發(fā)表聲明堅(jiān)決反對(duì)這些監(jiān)管法律?!斑@些法律會(huì)讓Peloton無(wú)法給孩子推薦新的鍛煉內(nèi)容,讓Barnes&Noble(美國(guó)連鎖書店)無(wú)法給中學(xué)生推薦繼續(xù)閱讀。加州一直是科技開發(fā)的領(lǐng)先者,但這些法律只會(huì)讓創(chuàng)新者避免承受過(guò)度監(jiān)管而離開加州。
年滿13歲才能注冊(cè)和其他國(guó)家一樣,美國(guó)未成年用戶同樣廣泛存在于Instagram、TikTok、Facebook、Snapchat和Youtube等社交媒體平臺(tái)。但理論上說(shuō),并不是每個(gè)青少年都可以注冊(cè)使用這些服務(wù)。美國(guó)絕大部分社交網(wǎng)站接受的用戶注冊(cè)最低年齡要求都是13歲。
以TikTok舉例,用戶注冊(cè)的時(shí)候可以使用Facebook、Twitter、谷歌或者蘋果賬號(hào),單獨(dú)注冊(cè)時(shí)需要輸入出生日期和手機(jī)號(hào)碼(或郵箱),確認(rèn)年滿13歲才能注冊(cè)。Instagram和Facebook注冊(cè)新用戶的時(shí)候,最后一步也需要輸入生日。如果未滿13歲,平臺(tái)會(huì)直接拒絕注冊(cè)。
但是雖然各大社交媒體平臺(tái)設(shè)置了明確的注冊(cè)年齡要求,拒絕13歲以下未成年人獨(dú)立注冊(cè)使用;但他們只要求用戶主動(dòng)提交年齡,就意味著有著諸多空子可鉆。Instagram等平臺(tái)都承認(rèn),未成年人完全可能虛報(bào)年齡注冊(cè)使用社交網(wǎng)絡(luò),核查用戶實(shí)際年齡是一個(gè)技術(shù)難題。
美國(guó)關(guān)于用戶年齡限制的法律依據(jù)還是1998年頒布的《兒童網(wǎng)絡(luò)隱私保護(hù)法》(COPPA)。根據(jù)這一法律,互聯(lián)網(wǎng)公司為13歲以下用戶提供服務(wù)需要面臨更為嚴(yán)格的監(jiān)管要求和法律責(zé)任。他們需要事先得到父母的同意,設(shè)置“明確與完整的”的隱私政策,確保收集的兒童數(shù)據(jù)安全保密。
正因?yàn)檫@一原因,美國(guó)絕大多數(shù)社交網(wǎng)站都將注冊(cè)最低年齡設(shè)在了13歲。未成年人只能在父母陪伴下觀看一些社交媒體過(guò)濾后的適合未成年人的健康板塊內(nèi)容。13-16歲這個(gè)年齡段的青少年,社交網(wǎng)站使用也面臨著限制。不管是Instagram還是TikTok,這個(gè)年齡的用戶賬號(hào)是默認(rèn)私密的,意味著只有他們批準(zhǔn)的用戶才能看到自己以及私信。
一些互聯(lián)網(wǎng)公司也會(huì)開發(fā)13歲以下兒童的單獨(dú)產(chǎn)品,例如兒童版的YouTube Kids,只能由父母幫助注冊(cè),在父母監(jiān)護(hù)下使用,不能評(píng)論(等于沒(méi)有了社交互動(dòng)功能)。TikTok在2019年與美國(guó)聯(lián)邦貿(mào)易委員會(huì)達(dá)成和解之后,推出了只面向美國(guó)市場(chǎng)13歲以下的健康內(nèi)容版塊,但禁止搜索其他視頻,也不可以評(píng)論,更不能自己發(fā)布視頻。
監(jiān)管立法嚴(yán)重滯后但這一機(jī)制卻存在著嚴(yán)重漏洞。2020年,致力于保護(hù)兒童的非盈利機(jī)構(gòu)Thorn對(duì)美國(guó)2002名9-17歲的未成年人進(jìn)行了社交網(wǎng)站使用情況調(diào)查;其中9-12歲兒童742名,12-17歲少年1260名。
調(diào)查發(fā)現(xiàn),盡管各家社交媒體公司都設(shè)置了明確的年齡限制,但是大多數(shù)兒童依然在使用這些社交應(yīng)用(或是在父母監(jiān)護(hù)下,或是虛報(bào)年齡)。在9-12歲兒童這個(gè)群體中,每天使用社交網(wǎng)站的比例分別為,F(xiàn)acebook(45%)、Instagram(40%)、Snapchat(40%)、TikTok(41%)、YouTube(78%)。而且,調(diào)查發(fā)現(xiàn)27%的未成年人用戶居然在使用約會(huì)應(yīng)用,后者的最低注冊(cè)年齡是18歲。
此外,Thorn還對(duì)1000名9-17歲未成年人進(jìn)行了網(wǎng)絡(luò)騷擾情況調(diào)查;其中9-12歲兒童391名,13-17歲少年609人。這一調(diào)查的結(jié)果更令人觸目驚心:16%的9-12歲女孩都被成年人以性企圖騷擾過(guò),13-17歲的少女更是高達(dá)34%有過(guò)類似經(jīng)歷。
那么青少年是怎么應(yīng)對(duì)這些網(wǎng)絡(luò)騷擾的呢?83%的人表示自己會(huì)屏蔽和舉報(bào),只有37%的人會(huì)告訴父母或者親友。而且很多受訪的兒童表示,即便他們拉黑和舉報(bào)了騷擾行為,他們還是會(huì)再次遭到對(duì)方更換賬號(hào)的再次騷擾。
而在這些性企圖騷擾行為中,Instagram和Snapchat的問(wèn)題最為嚴(yán)重,26%的類似騷擾都發(fā)生在這兩大平臺(tái),其次則是TikTok和Facebook Messenger(均為18%)。顯然圖片和視頻社交平臺(tái)是青少年最容易遭到網(wǎng)絡(luò)性騷擾的平臺(tái)。
監(jiān)管還是事后處罰即便是在注重未成年人和隱私保護(hù)的美國(guó),在未成年人使用社交網(wǎng)絡(luò)方面的立法工作依然嚴(yán)重滯后,監(jiān)管手段依然以事后處罰為主,系統(tǒng)性保護(hù)機(jī)制存在著諸多漏洞。
從Facebook到TikTok到Y(jié)ouTube,各大平臺(tái)都在青少年用戶方面有過(guò)諸多違規(guī)行為,并因此支付了高額的罰金或是和解。但相對(duì)于他們的營(yíng)收而言,這些罰金無(wú)疑是不值一提。這些互聯(lián)網(wǎng)公司明知道自己平臺(tái)存在未成年人用戶,但依然在收集這些用戶的資料,用于定向廣告和內(nèi)容推薦。
其他社交網(wǎng)站在這方面也同樣問(wèn)題不斷。2019年TikTok與美國(guó)聯(lián)邦貿(mào)易委員會(huì)達(dá)成和解,支付570萬(wàn)美元罰金,就此前在未成年用戶隱私問(wèn)題上的違規(guī)行為達(dá)成和解(未成年用戶的頭像和信息沒(méi)有默認(rèn)設(shè)置為私密)。2021年2月,TikTok再次同意支付9200萬(wàn)美元,就違規(guī)收集未成年人用戶信息的集體訴訟達(dá)成和解。
2018年美國(guó)23個(gè)消費(fèi)者和兒童保護(hù)機(jī)構(gòu)聯(lián)合向美國(guó)聯(lián)邦貿(mào)易委員會(huì)指控YouTube,認(rèn)為該網(wǎng)站的年齡限制措施并不完善,而且在未告知父母以及征求授權(quán)的情況下,就違規(guī)收集兒童用戶的使用數(shù)據(jù),用于推送YouTube的個(gè)性化廣告。
在是否關(guān)閉兒童應(yīng)用YouTube Kids的默認(rèn)推送和自動(dòng)播放方面,谷歌也是在采取拖延戰(zhàn)術(shù),因?yàn)殛P(guān)閉之后就會(huì)直接影響兒童使用應(yīng)用的時(shí)間。2021年年初,谷歌CEO皮查伊參加國(guó)會(huì)聽證會(huì)時(shí),馬薩諸塞州民主黨聯(lián)邦眾議員特拉罕(Lori Trahan)就此事詰問(wèn)皮查伊。因?yàn)樗约汉⒆泳统撩杂诳碮ouTube Kids視頻。
除了當(dāng)面施壓皮查伊之外,美國(guó)眾議院監(jiān)管委員負(fù)責(zé)消費(fèi)者和經(jīng)濟(jì)政策的小組也向YouTube CEO沃茨基(Susan Wojcicki)致函,認(rèn)為自動(dòng)播放功能會(huì)讓兒童沉迷于觀看視頻。美國(guó)反壟斷監(jiān)管機(jī)構(gòu)聯(lián)邦貿(mào)易委員會(huì)(FTC)的專家小組也對(duì)YouTube Kids的自我播放功能提出了監(jiān)管意見(jiàn)。然而,谷歌直到去年8月才悄然推出了允許關(guān)閉自動(dòng)播放的功能。
Meta已成全民公敵而在這一方面,Meta社交矩陣已經(jīng)成為了全美公敵。去年Meta前網(wǎng)絡(luò)道德部門(Civic Integrity department)產(chǎn)品經(jīng)理霍根(Frances Haugen)曝光了Meta內(nèi)部的數(shù)萬(wàn)頁(yè)文件,并在美國(guó)國(guó)會(huì)公開作證,引發(fā)了軒然大波。
霍根指證這家社交網(wǎng)絡(luò)巨頭將自己的經(jīng)濟(jì)利益置于用戶權(quán)益之上,在明知道可能帶來(lái)危害與不良后果的情況下,為了追求網(wǎng)絡(luò)流量和用戶粘性,依然堅(jiān)持不改變推薦算法,甚至向未成年人推送本不該看到的內(nèi)容。按照霍根的指證,Meta的興趣算法甚至?xí)蛭闯赡耆送扑妥詺垐D片,向身材焦慮的少女推送厭食癥內(nèi)容。
正是因?yàn)镕acebook有著太多的黑歷史,去年5月,F(xiàn)acebook宣布計(jì)劃開發(fā)13歲以下兒童版Instagram的時(shí)候,遭到了美國(guó)監(jiān)管部門和社會(huì)各界的一致反對(duì)。
從聯(lián)邦貿(mào)易委員會(huì)到聯(lián)邦參議兩院議員到各個(gè)網(wǎng)絡(luò)權(quán)益保護(hù)機(jī)構(gòu),都先后發(fā)布了公開信,督促Facebook立刻停止開發(fā)兒童版Instagram。此外值得一提的是,美國(guó)44個(gè)州的司法部長(zhǎng)也聯(lián)名施壓扎克伯格,要求Facebook放棄這一項(xiàng)目。幾個(gè)月之后,去年9月Meta不得不宣布暫停開發(fā)兒童版Instagram。
在違規(guī)收集以及泄露用戶數(shù)據(jù)方面,F(xiàn)acebook絕對(duì)是劣跡斑斑。2019年他們因此被美國(guó)聯(lián)邦貿(mào)易委員會(huì)處罰50億美元,創(chuàng)下了美國(guó)監(jiān)管和解金額的紀(jì)錄。去年Facebook又因?yàn)槲唇?jīng)用戶授權(quán)掃描用戶網(wǎng)絡(luò)相冊(cè)進(jìn)行面部識(shí)別,遭到160萬(wàn)用戶的集體訴訟,最終同意支付6.5億美元達(dá)成和解。
更令人震驚的是,從2016年到2019年,F(xiàn)acebook通過(guò)多個(gè)測(cè)試項(xiàng)目,每月支付20美元讓13-25歲的年輕人安裝自己的數(shù)據(jù)收集應(yīng)用,從而獲得他們手機(jī)網(wǎng)絡(luò)使用的完整大數(shù)據(jù)。以非常低廉的價(jià)格獲得了大量用戶的完整數(shù)據(jù)。Facebook明知道這其中涉及到未成年人,卻依然收集了三年時(shí)間。
Facebook先是通過(guò)VPN應(yīng)用違規(guī)收集用戶數(shù)據(jù),在被蘋果強(qiáng)行下架之后,F(xiàn)acebook又借助企業(yè)版根證書繞過(guò)蘋果應(yīng)用商店,通過(guò)付費(fèi)收集青少年的網(wǎng)絡(luò)數(shù)據(jù)。這一丑聞徹底激怒了蘋果,一度吊銷了Facebook的企業(yè)版開發(fā)權(quán)限,也是后來(lái)兩家公司關(guān)系不斷惡劣的導(dǎo)火索。
去年蘋果干脆在iOS系統(tǒng)更新中加入了允許用戶拒絕數(shù)據(jù)跟蹤的選擇,給Meta的社交廣告帶來(lái)了顯著沖擊。據(jù)Meta CFO維納(David Wehner)預(yù)計(jì),蘋果此舉可能會(huì)給Meta2022年的營(yíng)收帶來(lái)高達(dá)100億美元的損失。
本文(含圖片)為合作媒體授權(quán)創(chuàng)業(yè)邦轉(zhuǎn)載,不代表創(chuàng)業(yè)邦立場(chǎng),轉(zhuǎn)載請(qǐng)聯(lián)系原作者。如有任何疑問(wèn),請(qǐng)聯(lián)系editor@cyzone.cn。