微軟停用面部識別功能,AI 以為的也許不是你表達的

愛範兒 於 23/06/2022 發表 收藏文章
用面部表情表達情緒是每個人幾乎與生俱來的能力,人們也習慣了面部表情去猜測其他人情緒,但在科技已經飛速發展的現在,AI(人工智能)也會識別人的面部狀況和表情。

▲圖片來自:ResearchGate

不久前,一直着力開發面部識別技術的微軟發佈了一則指南,主題是「負責任地構建人工智能系統的框架」。公開了分享微軟負責任的人工智能標準,這也是指導微軟如何構建人工智能系統的框架。

▲圖片來自:Microsoft

文中提到,微軟決定停用面部識別功能—— Azure 人臉服務,因為這些功能可用於嘗試推斷情緒狀態和內部身份屬性,如果濫用,可能會使人們受到刻板印象、歧視或不公平的拒絕服務。

目前,人臉服務僅適用於 Microsoft 託管客户和合作夥伴,現有客户將有一年的時間進行過渡,但必須在 2023 年 6 月 21 日之前停止使用這些功能;新用户可使用人臉識別申請表申請訪問權限。

▲圖片來自:Microsoft

其實,微軟也並不是完全禁用這一功能,而是將這項技術整合到「受控」的可訪問性工具中,比如為有視力障礙的人提供的「Seeing AI」。它能為視障人士描述物體和文本,閲讀標誌、解讀某人的面部表情以及提供導航等,目前支持英語、荷蘭語、法語、德語、日語和西班牙語。

▲圖片來自:Microsoft

微軟公佈的這則指南,説明了這家科技公司的決策過程,包括關注包容性、隱私和透明度等原則,這也是該標準自 2019 年底推出以來的首次重大更新。

對面部識別功能進行如此大的改動,微軟表示是因為自己認識到,要使 AI 系統值得信賴,它們需要適當地解決它們旨在解決的問題。

▲圖片來自:Microsoft

作為將 Azure 人臉服務與負責任的 AI 標準要求保持一致的工作的一部分,微軟還將停用推斷情緒狀態(快樂、悲傷、中性、憤怒等)和身份屬性(例如性別、年齡、微笑、面部毛髮、頭髮和化妝)的功能。

以情緒狀態為例,微軟決定不提供開放式 API 訪問技術,這些技術可以掃描人們的面部並聲稱可以根據他們的面部表情或動作推斷他們的情緒狀態。

▲圖片來自:Microsoft

微軟的頁面上顯示可以通過人的 27 個面部標誌進行識別,可以判斷的面部屬性也多種多樣,比如給定的面部是否模糊、是否有配飾、估計性別和年齡、是否佩戴眼鏡、頭髮的類型、是否有戴眼鏡、是否有微笑的表情……

微軟內外的專家都強調,在「情緒」的定義上缺乏科學共識,以及圍繞這種能力的高度隱私問題。所以微軟還決定,需要仔細分析所有旨在推斷人們情緒狀態的人工智能系統,無論系統使用面部分析還是任何其他人工智能技術。

▲圖片來自:Microsoft

值得一提的是,微軟並不是唯一一家對面部識別進行慎重審視的公司,IBM 的 CEO Arvind Krishna 也已致函美國國會,透露該公司已退出面部識別業務。兩家公司做出這種決定的原因裏,都離不開此前引起轟動的「弗洛伊德之死」事件。

▲ 圖片來自:BBC

因為擔心這一技術可能為執法機構提供監控工具,從而導致一些侵犯人權的事件發生,也擔心公民的隱私被泄露,並且目前美國在這方面的立法並不十分完善。

於是,這些掌握着技術的公司決定從約束自身做起,讓技術不被濫用,讓公民的隱私和人權多一些保障。當一項技術的用途並沒有完善的規範進行約束,從技術開發本身來約束或許是更好的選擇。


資料來源:愛範兒(ifanr)

如果喜歡我們的文章,請即分享到︰

標籤: 微軟  面部識別功能  

留言


請按此登錄後留言。未成為會員? 立即註冊
    快捷鍵:←
    快捷鍵:→