為了減少鍵盤俠們的惡意評論，微軟要用AI過濾Xbox的不當內容

「口吐芬芳」是一個互聯網時代誕生的詞語。

這個詞似乎來自 JOJO 的奇妙冒險係列第四部中，廣瀨康一的替身 ACT3 遇到困境時會逐字逐句說出「S.H.I.T」一詞。之後該係列的狂熱粉絲們開始以 S.H.I.T 替代罵人，或許是因為該詞會被敏感詞係統屏蔽，後來變為了「口吐芬芳」。

在飯圈非友好微博交流，體育比賽死忠討論區，遊戲 battle 現場，每個人或許都會「口吐芬芳」。而作為一個全球知名的在線遊戲、數字媒體服務平台，Xbox Live 從來都不缺「口吐芬芳」的人。

現在，微軟終於決定主動出擊了。他們發現僅在事後對不良行為進行處理是不夠的，他們決定采取一種更為積極主動的方式去屏蔽敏感不當內容——消息過濾器。這個過濾器支持 21 種語言的過濾，它不僅能屏蔽特色「國罵」，也能分為「友好、中等、成人、未過濾」進行過濾設置。

最高級別的過濾器為所有未成年的遊戲玩家默認開啟，它將盡最大可能屏蔽攻擊性語言；中等過濾器允許一些友好的垃圾話，當也會盡忠職守地屏蔽攻擊性和帶有歧視的語言；成人版過濾器則要寬容得多，隻會屏蔽那些一直有較強攻擊性的語言。

▲ 內容屏蔽展示

當然，在選擇你覺得適合自己使用的過濾器後，你也可以為朋友和特定的人進行不同的設置。不管是討厭某位玩家而為他特別開啟「友好」過濾器，還是和朋友們打遊戲時總是放飛自我選擇不過濾，都有較高的自由度。

家長也能通過微軟的家庭設置來管理過濾器的不同級別，Xbox One、Xbox Game Bar 以及適用於 Windows 10、iOS 和 Android 的 Xbox app 中均將支持此過濾功能。

目前過濾器還在內測之中，但微軟已經計劃在今年秋季晚些時候向所有用戶推出這個新工具。

微軟的 Xbox 業務負責人 Dave McCarthy 表示，在遊戲中，語境是一個非常重要的因素。如果你在戰鬥類遊戲中談論殲滅敵人或戰鬥那大多沒什麼問題，但你要在一個田園類遊戲或換裝類遊戲中這麼說很可能就帶有威脅恐嚇的意味。

為此，Dave McCarthy 和團隊也一直在研究將 AI 和關鍵詞過濾工具相結合，更好地識別信息上下文語境。

▲ 圖片來自：unsplash

文本過濾還隻是一個開始，下一個計劃或許是語音過濾。或者更進一步說，微軟的目標是能直接完成遊戲直播中的敏感詞過濾。

畢竟在遊戲裏打字罵人的雖多，開著語音就瘋狂輸出的也不少，這其中就有不少「過界」內容。為此，微軟研究院開發了語音轉文字的功能，可實時轉寫音頻，Xbox 部門未來也可能使用這一功能。

不過這還處於早期階段。Dave McCarthy 表示「我們正在尋找其他人工智能技術來解決更多的語音過濾問題，比如情緒檢測和上下文檢測。」

▲Dave McCarthy

不管是在技術難度上還是隱私層麵的保護上，想要實現這一切都不容易。Dave McCarthy 在接受 The Verge 采訪時就表示 Xbox Live 不是一個言論自由的平台，每個人在這其中享有一定的自由度，但平台依舊有一定限製。

題圖來自 unsplash。