微軟敦促政府規範麵部識別係統

麵部識別技術是一個有爭議的話題。許多投資者和消費者權益組織團結起來反對亞馬遜，向當地執法部門提供麵部檢測人工智能（AI）。在委員會聽證會上，眾議院的代表讓FBI負責使用麵部識別係統，錯誤率接近15％。 Facebook在未經用戶許可的情況下對照片進行麵部識別時受到了抨擊。

關於部署麵部識別技術的監管模糊性讓微軟等公司邀請政府權衡。微軟總裁布拉德史密斯呼籲立法者調查麵部檢測算法並製定指導其使用的政策。

微軟人工智能負責人史密斯和哈裏舒姆今年早些時候發表了一篇論文，預測人工智能的進步將需要新的法律。但史密斯今天的帖子標誌著雷德蒙公司第一次明確提倡麵部識別係統的監管，並且與亞馬遜等競爭對手的語氣不同，後者在6月表示私營部門有責任“負責任地行事”。使用人工智能技術。

越來越多的技術公司需要限製政府機構使用麵部識別和其他技術的方式。在一個民主共和國，當選的代表就需要平衡公共安全與民主自由的本質的問題作出決策是無法取代的......生活在一個法治國家，政府需要發揮作用在調節麵部識別技術方麵發揮著重要作用。

史密斯指出，麵部識別正在我們的社會中“深深地融入” - 這不一定是壞事。印度警方用它在四天內追蹤了3000多名失蹤兒童，地方當局采購了一個麵部識別數據庫，以查明涉嫌參與上個月致命資本公報射擊的嫌疑人。但這並不意味著沒有濫用的可能性。

想象一下，政府會在未經您許可或不知情的情況下跟蹤您過去一個月所走過的所有地方。想象一下，每個參加政治集會的人都有一個數據庫，這個集會構成了言論自由的本質。想象一下，使用麵部識別的購物中心商店可以相互分享您瀏覽的每個貨架和您購買的產品的信息，而無需先詢問您。長期以來，這一直是科幻小說和流行電影的內容 - 如“少數派報告”，“國家的敵人”，甚至是1984年 - 但現在它已經成為可能。

這也是一項不完善的技術。一些麵部識別係統在非洲裔美國人麵孔上的表現要比白種人麵孔嚴重得多，而其他人在識別女性方麵的時間要比男性更難。 （2月份，微軟研究員Timnit Gebru合著的一篇論文顯示，對深色皮膚女性進行分類的係統誤差率高達35％。）

即使解決了偏見，麵部識別係統以對所有人都公平的方式運作，我們仍將麵臨潛在失敗的挑戰。麵部識別與許多人工智能技術一樣，即使以無偏見的方式運行，也會產生一定的誤差。

史密斯沒有要求具體的法律或道德原則，但提出了一係列問題供監管機構考慮，包括“麵部識別的執法使用是否應受到人的監督和控製？”並且“我們應該確保那裏使用麵部識別作為政府國家安全技術實踐的一部分，是民事監督和問責製嗎？“

至於法規可能如何通過，立法者應“利用正確的機製”收集專家意見，為決策提供信息。這包括任命兩黨專家委員會 - 特別是那些以學術界和公共和私營部門所做工作為基礎的委員會。

這樣一個委員會的目的應該包括向國會提出建議，了解需要哪些類型的新法律法規，以及確保在整個行政部門內對這項技術進行適當的國會監督的更強有力的做法。

就其本身而言，微軟已經成立了一個名為Aether委員會的內部顧問小組來審視它。