人工智能Fairness在金融行業(yè)的研究：基于Pipeline的方法

案例背景:
人工智能在金融領(lǐng)域的應(yīng)用越來(lái)越多，很多系統(tǒng)的自動(dòng)判斷，比如各種打分和預(yù)測(cè)，影響了金融系統(tǒng)中的很多決策工作（比如信貸，營(yíng)銷(xiāo)等）。同時(shí)由于很多決策涉及到個(gè)人的敏感數(shù)據(jù)（比如年齡和種族），其中的歧視和不公平由此成為一個(gè)顯著的問(wèn)題. 由此,很多國(guó)家和地區(qū)對(duì)此展開(kāi)了一系列的研究以及規(guī)則制定. 比如歐盟，美國(guó)和新加坡。我會(huì)講述關(guān)于人工智能公正/公平性的具體表現(xiàn)形式，基于機(jī)器學(xué)習(xí)Pipeline的各類(lèi)可能和判別的指標(biāo)，以及在金融系統(tǒng)中的具體事例. （演講中使用公開(kāi)數(shù)據(jù)；不涉及項(xiàng)目本身的數(shù)據(jù)和事例）。

解決思路:
1．合理的制定業(yè)務(wù)項(xiàng)目的目標(biāo)，深入了解可能的偏見(jiàn)情況，并將該目標(biāo)和機(jī)器學(xué)習(xí)的性能指標(biāo)以及Fairness評(píng)價(jià)指標(biāo)聯(lián)系起來(lái)。
2．規(guī)劃?rùn)C(jī)器學(xué)習(xí)的pipeline，系統(tǒng)性的分析各個(gè)步驟中可能產(chǎn)生的偏差，并及時(shí)更正，避免進(jìn)入下個(gè)階段
3．制定適合本企業(yè)的監(jiān)管制度保證后臺(tái)決策人和機(jī)器輸出更好地協(xié)同工作


成果：
我們結(jié)合一系列Fairness評(píng)價(jià)指標(biāo)和模型的，可以確保機(jī)器學(xué)習(xí)模型性能滿(mǎn)足要求的同時(shí)，也可以保證一定的Fairness。Fairness模型對(duì)于金融領(lǐng)域的健康發(fā)展有著巨大的幫助，也是在當(dāng)前金融監(jiān)管,隱私和人工智能道德受到廣泛關(guān)注的背景下，有效解決數(shù)據(jù)和模型的黑箱模式的一條途徑。