隨著用戶規(guī)模增長，社交平臺可能產(chǎn)生的安全、隱私問題也越來越多，比如言語侮辱、惡意人肉等等。而在VR中，用戶甚至可能面臨著“身體”被騷擾的可能。比如去年底，還在內(nèi)測中的Meta VR社交平臺《Horizon Worlds》上就有一位女性用戶舉報，在VR中被陌生人惡意撫摸。在內(nèi)測期間，該平臺的每個虛擬世界可同時容納20人，每個人以虛擬化身的形式參與活動，在這么小的規(guī)模就已經(jīng)出現(xiàn)騷擾，那么如果未來用戶越來越多，那么相關(guān)問題的影響也會更大。

這并不是個例，在《Quivr》等多人游戲，甚至在社交應用《VRChat》中，也陸續(xù)有人遭遇虛擬的“身體騷擾”。

空間氣泡功能

為了解決這一問題，VR平臺應該為用戶提供某種避免其他人騷擾的安全機制。比如前不久微軟也開始關(guān)注VR社交平臺的隱私和安全性。包括為加強對旗下VR社交平臺AltspaceVR的隱私保護，微軟推出了一系列措施如：關(guān)閉微軟AltspaceVR官方提供的開放型空間（Campfire, News and Entertainment等）、默認開啟“空間氣泡”功能、為新加入虛擬空間的用戶開啟靜音模式、加強虛擬空間/虛擬活動的評級和審核，以及強制通過微軟賬號登陸AltspaceVR，允許家長開通家長控制功能。

而為了阻止用戶在VR中對其他人進行騷擾，Meta早前也宣布為其VR社交平臺Horizon Worlds和Venues中添加“個人邊界”功能，其特點是在VR“化身”周圍創(chuàng)建一個無形的虛擬屏障，防止其他人靠太近。該功能將默認開啟，如果用戶進入其他化身的安全范圍，他的手會消失，向前的移動也會停止。

Meta個人邊界

據(jù)了解，個人邊界為用戶提供了一個半徑兩英尺（相當于1.2米）的空間，相當于兩個用戶之間的距離至少可以隔開四英尺。為了適應不同的需求，該功能未來可能支持自定義半徑。此外，也可以配合靜音、報告等其他功能。

除了個人安全工具外，平臺的系統(tǒng)性監(jiān)測也同樣重要，為了給VR用戶提供一個安全的環(huán)境，Meta不僅為你提供保護自己的工具，也會根據(jù)規(guī)則來監(jiān)督社區(qū)活動。然而科技巨頭們卻面臨著過度監(jiān)管和隱私安全之間的權(quán)衡。如果不能實時監(jiān)測用戶的語音、文字發(fā)言，以及VR中的行為，那么平臺能否及時處罰違規(guī)行為，為受害者帶來保護呢？

近期，為了測試《Horizon Worlds》現(xiàn)有內(nèi)容審核系統(tǒng)的效果，外媒BuzzFeed在Horizon Worlds中建立了一個虛擬世界，并在其中發(fā)布Facebook和Instagram平臺禁止的內(nèi)容結(jié)果發(fā)現(xiàn)，Horizon Worlds并沒有同樣禁止這些內(nèi)容，因此他們懷疑Meta對于VR世界的審核似乎更寬松。

Meta對于VR安全的愿景

在更名Meta之前，F(xiàn)acebook一度遭受“侵犯隱私安全”等惡名，對品牌形象造成極大影響。而通過改名、轉(zhuǎn)型等策略，Meta希望為用戶帶來不一樣的社交環(huán)境，人們在VR世界中不會體驗到在Facebook中遇到的問題。

Meta CEO馬克·扎克伯格表示：AR/VR元宇宙需要從第一天就融入隱私安全機制，我們的目標是設計出具有安全、隱私性、包容性等特點的虛擬世界。不過，目前Meta對于VR中執(zhí)行的安全協(xié)議大部分內(nèi)容保密，因此用戶并不清楚其宣稱的安全措施到底效果如何。

長久以來，為了優(yōu)化Facebook和Instagram上的內(nèi)容，Meta在機器學習工具上投入數(shù)十億美元。盡管如此，如何篩選內(nèi)容一直是Meta需要著手解決的問題，而對于用戶來講，他們也希望Meta在安全規(guī)則上可以更透明。

相比于傳統(tǒng)的社交平臺，在VR中審核內(nèi)容更具挑戰(zhàn)性，因為不僅需要實時審核內(nèi)容，還需要監(jiān)督用戶的行為。此外，隱私和安全之間的界限也需要權(quán)衡。比如，如果Meta為了保護用戶安全而監(jiān)控人們在VR中的每一次對話和互動，人們能否接受？

此前，Meta曾表示會關(guān)注監(jiān)督和隱私之間的取舍，并承諾對其決策保持透明。因此，為了解Meta在VR平臺采用的安全措施，BuzzFeed向其詢問了19個詳細的問題，其中涉及到如何避免虐待兒童、騷擾、虛假信息等傷害的發(fā)生等等。對此，Meta卻沒有直接回應，而是給出了一個簡短聲明：我們推出了舉報、屏蔽等安全工具，目的是允許用戶可以更加自由的控制VR內(nèi)容。此外，也為開發(fā)者提供了調(diào)節(jié)應用內(nèi)體驗的功能，同時也在利用AI算法來監(jiān)督VR中的行為。

Horizon系統(tǒng)審核寬松？

那么為了測試Meta安全系統(tǒng)的效果，BuzzFeed便在Horizon Worlds中創(chuàng)建了一個虛擬房間：Qniverse，僅允許四位內(nèi)部人員訪問。此外，Qniverse使用真人賬號實名創(chuàng)建的，鏈接了本人Facebook。

房間里的條幅、天空中寫入大量在Facebook的主頁和群組、Instagram中常被刪除、屏蔽的短語，比如一些帶有虛假信息的政治指控等等。結(jié)果發(fā)現(xiàn)，Horizon Worlds似乎沒有檢測到Qniverse，沒有對這些信息采取行動。猜測這可能是因為房間權(quán)限是私密的，而且房間里僅有的4個人幾乎并沒有什么互動。

于是，BuzzFeed員工利用鏈接了Facebook的實名賬號舉報了Qniverse，然而48小時內(nèi)并未有任何變化，所以不得不再次舉報。直到第三次舉報約4小時之后，才收到回復：“經(jīng)過安全專家審核，Qniverse中的內(nèi)容并未違反政策”。而第一次舉報的回復則是花了6小時才收到。BuzzFeed猜測，這也許是因為Qniverse只有內(nèi)容違規(guī)，而未出現(xiàn)違規(guī)行為，所以審核以為是在搞笑。

Meta回應

為了進一步了解原因，BuzzFeed拜訪了Meta公關(guān)部，詢問為什么在相同的社區(qū)規(guī)則下，在Facebook、Instagram上違規(guī)的虛假信息，為什么在Horizon平臺沒有違規(guī)？有趣的是，第二天下午Meta終于對Qniverse采取了行動，取消了這個世界，并發(fā)郵件推翻了之前的決定，不過其發(fā)言人拒絕對此進一步解釋。

可以想象，相比于Facebook，Horizon依然是非常新的平臺，隨著平臺規(guī)模發(fā)展，用戶的行為和語言也越來越復雜，這會為平臺審核系統(tǒng)帶來挑戰(zhàn)。而對于VR這個非常新的平臺來講，完善審核機制將更難，因為吸取了Facebook的教訓，Meta希望在VR中重新審視隱私問題，這也是為什么Horizon的安全機制目前還只有自助屏蔽、靜音和報告。

從Quest強制捆綁Facebook賬號所帶來的負面反饋來看，VR用戶們并不喜歡像Facebook那樣嚴格的隱私監(jiān)控系統(tǒng)，Meta了解到這一點后便取消了捆綁。而Horizon作為未來的VR元宇宙平臺，其生態(tài)也將比傳統(tǒng)2D平臺更加開放，只有短期的VR體驗會被記錄，而且提交舉報時才會發(fā)送給Meta。

這也造成了Horizon平臺監(jiān)管寬松的問題，盡管其要求用戶達到18歲以上，兒童用戶依然能繞過限制使用它。

盡管如此專家認為，缺少一種主動的平臺審核機制，用戶可能會暴露在有害信息中，而不向平臺報告。也就是說，保護隱私和安全監(jiān)管本身就存在矛盾，如何去權(quán)衡這兩點是一個難題。目前Horizon用戶基礎還很小，這也正是Meta應該思考如何防患于未然的時機，以避免在平臺規(guī)模變大后難以控制。不過，現(xiàn)階段Meta似乎更看重增長，努力吸引更多人在VR中互動。

VR專家Brittan Heller則認為，目前還沒有能夠在VR中監(jiān)督內(nèi)容和行為的技術(shù)，因為還沒有一種可靠的語音轉(zhuǎn)錄或手勢分析算法，所以即使你在VR中豎中指或說臟話，系統(tǒng)也無法實時捕捉。

紐約大學斯特恩商業(yè)與人權(quán)中心副主任保羅·巴雷特指出，人們一直在尋找新的方式來分享內(nèi)容，同時逃避檢測。他說，投機取巧的用戶總是會發(fā)現(xiàn)并利用該平臺的最薄弱環(huán)節(jié)，而該公司“有責任事先弄清楚這項新服務如何被濫用?！?/p>

實際上，考慮到VR社交平臺本身對于開放性的愿景，其開發(fā)公司可以將平臺審核、規(guī)則制定等權(quán)利交給用戶，通過投票等方式來進行管理，從而避免平臺受到單一公司控制的局面。而這也帶來了公平性、與現(xiàn)實法規(guī)的兼容性等更加復雜的問題。另一方面，也應該增加人工審核的數(shù)量，避免一個問題在數(shù)個小時后才得到處理。

參考：

https://www.buzzfeednews.com/article/emilybakerwhite/meta-facebook-horizon-vr-content-rules-test

https://about.facebook.com/realitylabs/responsible-innovation-principles/

https://www.oculus.com/blog/keeping-people-safe-in-vr-and-beyond/

https://altvr.com/making-altspacevr-a-safer-space/

本文來自微信公眾號“青亭網(wǎng)”（ID:qingtinwang），編輯：Esther，36氪經(jīng)授權(quán)發(fā)布。

關(guān)鍵詞：