研究人員Akash Satheesan告訴Motherboard：“我之所以決定調查這件事，是因為（Proctorio）聲稱其隻聽說過‘不到5起’的該類型案例--由種族原因導致的面部識別問題。然而從軼事中我知道這是不可能的……於是我開始尋找一些更確鑿的證據，我想我已經相當肯定找到瞭。”
Satheesan最近在一系列博客文章中發表瞭他的發現。在這些文章中，他描述瞭他是如何分析Proctorio Chrome瀏覽器擴展背後的代碼，並發現跟該工具面部檢測功能相關的文件名與OpenCV發佈的文件名相同。據悉，OpenCV是一個開放源代碼的計算機視覺軟件庫。
Satheesan在向Motherboard演示瞭Proctorio工具中嵌入的人臉檢測算法在同一組人臉上進行測試時跟OpenCV模型的表現完全相同。Motherboard還咨詢瞭一位安全研究員，後者也驗證瞭Satheesan的發現並能重現他的分析。
Proctorio則在其網站上宣稱，公司使用的是“專有的面部檢測”技術。另外它還表示，其是在使用OpenCV的產品，但沒有說明具體使用的產品或用於什麼。當Motherboard詢問該公司是否使用OpenCV的模型進行面部識別時，Proctorio的發言人Meredith Shadle並沒有直接回答。相反，她發送瞭一個鏈接到Proctorio的許可證頁面，其中包括OpenCV的許可證。
Shadle在給Motherboard的郵件中寫道：“雖然公開的報告沒有完全準確地描述我們的技術是如何工作的，但我們很感激分析證實瞭Proctorio使用瞭人臉檢測（而非人臉識別）。”
Proctorio也沒有回答關於該技術的幾個問題，包括該公司是否對OpenCV模型進行瞭微調以便在其軟件中使用。
而基於OpenCV構建的面部識別和檢測軟件此前被發現存在偏差。
Satheesan將這些模型跟FairFaces數據集中包含近1.1萬張人臉的圖像進行瞭測試。FairFaces數據集是一個包含代表多個種族和種族的有標簽的圖像庫。
結果在57%的情況下，這些模型無法識別出被標記為包括黑人面孔的圖像。其中一些失敗非常明顯：算法檢測到瞭白人的臉，但沒有檢測到出現在同一個畫面的黑人的臉。
兩個女人站在一起面帶微笑。左邊的白人女性臉上有一個藍色的方框（意味被檢測到），而右邊的黑人女性沒有（意味沒有被檢測到）。
其他組的通過率要好一些，但仍遠未達到先進水平。Satheesan測試的模特在包含有41%中東人面孔、40%白人面孔、37%東亞人面孔、35%東南亞或印度人面孔和33%拉丁人面孔的照片中都未能識別出人臉。
黑人學生描述瞭Proctorioi糟糕的面部檢測系統是多麼得令人沮喪和焦慮。他們當中一些人指出，每次他們參加測試，軟件都不能識別他們。另一些人則擔心，如果他們離開瞭完美的照明環境，測試將會突然關閉並將他們拒之門外。
Satheesan表示，他的發現有助於證明監考軟件的根本缺陷：這些工具表面上是為教育目的而設計的，實際上卻破壞瞭教育--尤其是對已經處於劣勢的學生。
留言列表
