第443章倫理審查
第443章倫理審查(第1/2頁)
第443章倫理審查
2022年8月15日，周一，上午九點。
陳諾坐在ai倫理認證委員會的辦公室裡，麵前擺著第一批申請認證的ai項目名單。一共有十二個項目，涵蓋了人臉識彆、語音合成、推薦算法、自動駕駛等多個領域。每個項目都需要經過嚴格的倫理審查。
審查流程分為三個階段。第一階段，項目方提交倫理自評報告，包括技術說明、數據來源、隱私保護措施、公平性評估、安全性評估等五個方麵的內容。第二階段，委員會組織專家進行書麵評審，每位專家獨立打分，滿分一百分，六十分及格。第三階段，專家進行現場考察，核實自評報告的真實性。整個流程預計需要兩個月。
陳諾拿起第一份申請，是一家公司的人臉識彆係統。他仔細閱讀了倫理自評報告，發現這家公司在隱私保護方麵做得不錯，采用了差分隱私技術，確保個人數據不會被泄露。但在公平性方麵存在問題——係統對女性、老人、有色人種的識彆準確率明顯低於對年輕白人的識彆準確率。數據顯示，對年輕白人男性的識彆準確率為百分之九十八點五，對老年女性的識彆準確率僅為百分之八十七點三，差距超過十個百分點。
他拿起手機，給項目的負責人打了電話：“張總，我看到你們的倫理自評報告了。隱私保護方麵做得不錯，差分隱私技術的應用值得肯定。但公平性方麵有問題。你們的係統對不同群體的識彆準確率差異很大，這是不符合倫理標準的。”
對方沉默了片刻，然後說：“陳總，這個問題我們也註意到了。但技術上的改進需要時間。我們正在收集更多的訓練數據，特彆是女性和老年人的數據，希望能夠提高對這些群體的識彆準確率。我們已經增加了五千張女性麵孔和三千張老年人麵孔的訓練數據。”
陳諾說：“我理解。但在問題解決之前，我們不能通過你們的倫理認證。這是對用戶負責，也是對你們負責。如果你們的係統被用於安防領域，因為識彆準確率低而導致誤判，可能會造成嚴重的後果。比如，如果一個老年人因為係統誤判而被攔在機場安檢口，那不僅是用戶體驗問題，更是人權問題。”
（本章未完，請點擊下一頁繼續閱讀）第443章倫理審查(第2/2頁)
當天下午，陳諾組織了第一次倫理審查會議。五位專家對十二個項目進行了逐一評審。評審過程非常嚴格，每個項目都要經過三輪投票。最終，有八個項目通過了初審，四個項目需要補充材料。那家人臉識彆係統，被要求補充公平性改進方案，並且在改進完成後重新提交申請。
會議結束後，陳諾單獨留下了王教授。
“王教授，今
（本章未完，請點擊下一頁繼續閱讀）