人工智能應(yīng)用的廣度和深度不斷拓展，成為了數(shù)字經(jīng)濟(jì)發(fā)展的重要驅(qū)動力量，但在此過程中，也暴露出一些風(fēng)險隱患，主要體現(xiàn)在數(shù)據(jù)濫用導(dǎo)致隱私泄露風(fēng)險、黑箱模型導(dǎo)致算法不透明、算法安全導(dǎo)致的應(yīng)用風(fēng)險等方面。
可信AI嵌入研發(fā)流程
數(shù)據(jù)與算法模型是人工智能系統(tǒng)防御能力提升的兩個重要方向。數(shù)字化時代，人工智能的發(fā)展需要大量的數(shù)據(jù)來訓(xùn)練，而數(shù)據(jù)的流轉(zhuǎn)過程涉及到用戶的隱私保護(hù)，因此，建立完善的數(shù)據(jù)管理機(jī)制至關(guān)重要。
智慧眼全方位融合了多方安全計算（MPC）、聯(lián)邦學(xué)習(xí)（FL）、可信執(zhí)行環(huán)境（TEE）等多種技術(shù)，利用區(qū)塊鏈、可信計算技術(shù)，打造數(shù)據(jù)安全可信共享的基礎(chǔ)設(shè)施，通過透明可信分布式架構(gòu)，端到端的應(yīng)用閉環(huán)，在保證數(shù)據(jù)安全和隱私保護(hù)的前提下，實現(xiàn)多參與方數(shù)據(jù)可信共享、協(xié)同計算，實現(xiàn)數(shù)據(jù)的“可用不可見”。
在算法模型防御方面，智慧眼引入了魯棒性評測、對抗測評、對抗訓(xùn)練、模型加密等技術(shù)，幫助客戶提升模型的安全性。其中運用對抗攻擊的訓(xùn)練方法能提高模型魯棒性，也就是它在異常和危險情況下系統(tǒng)生存的能力，極大地解決假樣本的攻擊。
通過對抗學(xué)習(xí)攻擊方案，并基于樣本本身的多樣性，不斷提升樣本的遷移能力，以此來考察業(yè)務(wù)當(dāng)中數(shù)據(jù)鏈路層安全，增強(qiáng)抗打擊能力，從而帶來業(yè)務(wù)效果的提升。在產(chǎn)品的運營使用階段，智慧眼持續(xù)開展人工智能風(fēng)險監(jiān)測，建立用戶反饋渠道，及時收集用戶的真實意見，并對整個系統(tǒng)進(jìn)行優(yōu)化和迭代，對實際使用過程中的各種風(fēng)險，不斷監(jiān)督完善。
積極參與可信生態(tài)建設(shè)
打造可信的人工智能體系已經(jīng)成為行業(yè)的焦點和努力的方向，智慧眼在做好企業(yè)自身個人信息和隱私保護(hù)工作的同時，也積極參與各項重要行業(yè)工作，促進(jìn)和引導(dǎo)行業(yè)共同進(jìn)步和良性發(fā)展。
2021年，中國信息通信研究院云計算與大數(shù)據(jù)研究所倡議發(fā)起的“可信人臉識別守護(hù)計劃”第一批成員單位誕生，智慧眼成功通過審核。智慧眼作為中國信通院首批“護(hù)臉計劃”成員單位，自“護(hù)臉計劃”啟動以來，積極參與相關(guān)標(biāo)準(zhǔn)建設(shè)和實踐工作，深受相關(guān)行業(yè)部門認(rèn)可，有效支撐了產(chǎn)業(yè)各層面開展人臉身份核驗安全、合規(guī)工作。
ISO/IEC 27701:2019是全球首個隱私管理體系標(biāo)準(zhǔn)，也是目前國內(nèi)外業(yè)界公認(rèn)最具權(quán)威性、被廣泛接受并應(yīng)用的隱私信息管理體系，智慧眼是國內(nèi)率先通過該認(rèn)證的人工智能企業(yè)。
同時，智慧眼在軟件開發(fā)、集成、系統(tǒng)運維等方面均獲得了信息系統(tǒng)安全等級保護(hù)證書，作為中國權(quán)威的信息產(chǎn)品安全等級資格認(rèn)證，智慧眼在信息安全、風(fēng)險控制和系統(tǒng)整體化建設(shè)方面獲得了權(quán)威認(rèn)可，也再次印證了智慧眼一直以來為客戶提供安全、可靠的信息安全環(huán)境的決心。
此外，智慧眼是國際FIDO聯(lián)盟成員單位，并全面參與國家信標(biāo)委和各行業(yè)人工智能、大數(shù)據(jù)、生物特征識別、行為識別、區(qū)塊鏈和行業(yè)頂層設(shè)計等方面的標(biāo)準(zhǔn)制定，在提高安全性、保護(hù)隱私及簡化用戶體驗方面，為其提供技術(shù)支持，積極推動AI治理和可持續(xù)發(fā)展。
以人為本，技術(shù)向善。智慧眼將持續(xù)聚焦可信人工智能技術(shù)、產(chǎn)業(yè)和行業(yè)實踐，提供安全可信的行業(yè)智能化解決方案，讓更多用戶能夠享受安心、可信的AI服務(wù)，并將與業(yè)內(nèi)共建技術(shù)、社會、文化、價值融合共生的健康有序發(fā)展生態(tài)。
湘ICP備20003263號-1