聯邦學習開源社區(qū)FATE年末升級：首度支持縱向聯邦神經網絡算法
近兩年來，聯邦學習發(fā)展迅速，其作為分布式的機器學習范式，能夠有效解決數據孤島問題，讓參與方在不共享數據的基礎上聯合建模，從技術上打破數據孤島，實現AI協作。而FATE作為聯邦學習全球首個工業(yè)級開源框架，支持聯邦學習架構體系，為機器學習、深度學習、遷移學習提供了高性能聯邦學習機制。此外，其自身還支持多種多方安全計算協議，如同態(tài)加密、秘密共享、哈希散列等，具有友好的跨域交互信息管理方案。
近日，FATE 1.2版本正式發(fā)布。在這一版本中，FATE推出了兩大重量級的更新項——對縱向聯邦DNN的支持，及對多方安全計算SPDZ協議的支持。作為首個支持縱向聯邦神經網絡算法的版本，開發(fā)者在縱向聯邦建模的分類、回歸、排序等場景下都可以明顯感受到其支持性。而SPDZ秘密共享安全計算協議的支持，進一步拓展和豐富FATE應用場景。
在之前的1.0大版本中，FATE上線了首個可視化聯邦學習產品與聯邦pipeline生產服務。而在1.1大版本中，FATE聯合VMware中國研發(fā)開放創(chuàng)新中心云原生實驗室的團隊一起搞了個“大事”——發(fā)布了KubeFATE項目，通過把FATE的所有組件用容器的形式封裝，實現了使用Docker Compose或Kubernetes（Helm Charts）來部署。前兩個版本分別在可視化使用體驗及部署體驗上做了重點提升，而FATE v1.2 版本則回歸至算法本身，進一步拓展其支持性。除兩大重量級更新項以外，還新增了如二階優(yōu)化方法-縱向SQN、數據管理模塊等功能，前者能夠顯著提升縱向邏輯回歸和縱向線性回歸收斂效率，對算法加速起到關鍵作用。后者則用于記錄upload的數據表及Job運行中模型的輸出結果，并提供查詢以及清理CLI。
FederatedML： 開啟縱向聯邦深度學習和多種多方安全計算協議支持之旅
在FATE 1.2版本中，首次對外發(fā)布了縱向聯邦深度學習框架，開啟了FATE對深度學習聯邦化的支持，開發(fā)者可以自定義深度神經網絡結構。目前版本已支持Tensorflow, 后續(xù)會推出Pytorch版本，便于開發(fā)者低代價遷移Tensorflow和Pytorch的使用習慣和經驗。
在這一版本中，FATE實現了SPDZ秘密共享多方安全計算協議的支持，這意味在現有同態(tài)加密協議的基礎上，FATE能為開發(fā)者提供更多樣化的多方安全計算協議支持。開發(fā)者們可根據自身算法的特點，自由選擇適合自身算法的多方安全計算協議，聯邦學習的可應用范圍得到進一步拓展。值得說明的是，在縱向皮爾遜特征相關性計算算法實現中，首次使用了SPDZ協議。
此外，算法性能優(yōu)化方面， 新版本也首次引入二階優(yōu)化算法，提出了縱向SQN算法，并成功應用在縱向廣義線性模型中，對算法性能有顯著提升。特征分箱和特征選擇新增對多方host聯邦建模的支持，開始全方位的支持多host場景。
FATE-Board：兩大可視化支持，實用性再提升
自1.0版本推出FATE-Board以來，這一產品受到了開發(fā)者廣泛好評。而在1.2版本中，FATE也對FATE-Board再次進行了提升，新增了對聯邦模式下特征相關性，以及LocalBaseline組件的可視化支持。前者能夠直觀地分析特征之間的相關性分布情況，從而幫助開發(fā)者快速進行判斷與特征選擇。而后者則可以讓開發(fā)者將基于聯邦訓練的模型與基于sklearn訓練的模型結果進行直接對比，并從可視化報告對比中得出相關結論。
此外，這一版本的FATE-Board在用戶體驗方面也有了重大的提升，如工作流、模型輸出圖表圖形、評估曲線等，都高度優(yōu)化了可視化效果及交互操作，并增強了實用性。在使用中相信能讓開發(fā)者體驗再上一層樓。
FATE-Flow：FATE數據管理模塊，開啟數據治理之路
在FATE 1.2版本中，FATE新增加了數據管理模塊，這將成為開啟數據治理的第一步。從這一版本開始，在整個Job生命周期產生的數據都有跡可循了。此外，數據管理模塊提供了諸如查詢、刪除等常用管理命令，這也極大地增強了開發(fā)者對數據的掌控能力。
總的來說，FATE在1.2這一版本中，開啟了對新領域的進一步拓展。無論是對縱向聯邦深度學習框架，還是多方安全計算SPDZ協議的支持，都是在打磨底層框架，為未來FATE能支持更多應用場景提供一種可能。從這一版本也可以看出，除新功能外，FATE對已有建模組件也在持續(xù)不斷地優(yōu)化和改進，致力于在效率，多樣性和實用性上，為開發(fā)者提供更加優(yōu)質的服務體驗。
分享
請輸入評論內容...
請輸入評論/評論長度6~500個字
