数字（zì）时代是（shì）人工智能（AI）深度应用和发展（zhǎn）的时代（dài）。AI的发展，正在（zài）以一（yī）日千里的速（sù）度改变（biàn）着这个世界，并在交通（tōng）、医（yī）疗、环境保护（hù）、城市管理等多个领（lǐng）域中（zhōng），发挥（huī）着越来越（yuè）不可替代的作用。但同时，AI的（de）安全（quán）性（xìng）问题，也成为（wéi）了数字（zì）化发展进程中不可回避的问题。在数字经济欣欣向荣（róng）的发展态势下，安全被许（xǔ）多业内人士视为木桶（tǒng）上的那一块“短（duǎn）板（bǎn）”。

如何让安全为数字化（huà）发展（zhǎn）“保驾护航”？8月6日，2021新京报（bào）贝壳财经夏季（jì）峰会——数字经济时（shí）代的（de）风险（xiǎn）防（fáng）控线上（shàng）论坛举行，蚂蚁集（jí）团（tuán）副（fù）总裁，蚂蚁（yǐ）集团安全事业群总裁赵闻飙表示，可（kě）信人工智能的研（yán）究（jiū）和落地或是抵御（yù）“数字（zì）化”风险的关键（jiàn）能力。

用可（kě）信AI解决智能化（huà）风险

伴随着数字化经济（jì）的发展（zhǎn），用户在享受数字化带（dài）来的便捷与普惠的同时，也面临（lín）数字（zì）化背后的风险，如羊毛党通过操纵多（duō）账户套取商户营销资（zī）金、个人（rén）用户（hù）遭（zāo）遇网络欺（qī）诈、账户（hù）盗用等。“过去，我（wǒ）们一直重点谈（tán）的是‘数字化’背后的风（fēng）险和应对，而对（duì）‘智能化’背后的（de）风险讲得（dé）很少（shǎo）。因为当时行业普遍认（rèn）为，人工智能技术的落地应用还相对（duì）有限。但事实（shí）上（shàng），早在六七年（nián）前，我们（men）就在平常应对黑（hēi）产攻（gōng）击中，发现了AI的（de）痕迹。”赵闻飙（biāo）表示。

新京报贝（bèi）壳财（cái）经记者（zhě）注意到，当下的（de）确有越来越多的黑灰（huī）产（chǎn）团伙将（jiāng）AI等新技术投入到了薅（hāo）羊毛、诈骗等非法（fǎ）活动中。如使（shǐ）用AI工（gōng）具操控大量账号进（jìn）行违规（guī）操作、使用AI换脸（liǎn）技术试（shì）图（tú）绕过人（rén）脸识别认（rèn）证等。

这意味着伴随人（rén）工智能技术的高速发展和（hé）加持，数字化背后的风险将持续加剧，并且演变（biàn）为“智（zhì）能化（huà）”背后（hòu）的风险挑战。

据了解，目（mù）前黑产（chǎn）作案越来越趋于多平（píng）台、多链路、团队（duì）化和智能化（huà）。这（zhè）对行业协（xié）同、风险响应机（jī）制的速度和准确性（xìng）提出了更高的要（yào）求，而且还（hái）需要切合“数字化浪（làng）潮”下（xià）社（shè）会对（duì）于隐（yǐn）私保护（hù）、技术伦（lún）理治（zhì）理等多方面的需求（qiú）。

在赵（zhào）闻飙看来，要对抗“智能化（huà）”的（de）风险，就需要“智能化”的手段（duàn），这也是“可（kě）信AI”技术进（jìn）入快速（sù）发展阶（jiē）段的核心驱动力。可信AI技（jì）术要求人工智能技术应当（dāng）具备（bèi）可解释性（xìng），以帮助人类（lèi）理解和信（xìn）赖他们的决策；具备（bèi）鲁棒性（robustness），以抵（dǐ）御黑产的（de）攻击，以保障计算和决（jué）策的稳定性和效能；具备（bèi）隐私（sī）保护的（de）能（néng）力，以满足（zú）社（shè）会和民（mín）众对于个人（rén）数据资产（chǎn）保护的需求；具备公平性，强调决（jué）策结（jié）果的公平（píng）性（xìng），同时关注（zhù）技术背后的社会责（zé）任和伦（lún）理治理。

“数字时（shí）代，安全是AI与（yǔ）AI的博弈，而可信AI，则是抵御风险（xiǎn）的关（guān）键能力（lì）。”

面向可信AI技术（shù）的下（xià）一代风（fēng）控（kòng）体（tǐ）系“IMAGE”

据了解，蚂蚁集团自2015年起投入可信AI技术的（de）研究。2016年，全面启动了人工智能（néng）风控防御战略（luè）。目前，可信AI技术（shù）已在包（bāo）括反欺（qī）诈（zhà）、反洗（xǐ）钱、反盗用、企业联合风控、数（shù）据（jù）隐私保护在内的多个风（fēng）控场景下落地（dì），支撑（chēng）着其全风险域（yù）的防（fáng）御需求。根据今年6月（yuè）全球（qiú）专（zhuān）利权（quán）威机构IPR Daily发布的报告，蚂蚁集团目（mù）前拥有（yǒu）全（quán）球范围内数量最多（duō）的“AI安全可信关键（jiàn）技术（shù）”专利，并上线部署了以“IMAGE”命名的（de）下一代风（fēng）控体（tǐ）系。它包含着“交互式风控”、“多方安全风控（kòng）”、“智能决策（cè）”、“全（quán）图风（fēng）控”、“端云协（xié）同（tóng）风控（kòng）”五大（dà）组成部分。

赵闻飙表示，“全图（tú）风控”技术能够以“图”的形态，聚合“动态（tài）发展变化的风（fēng）险信（xìn）息”，解决了（le）传（chuán）统（tǒng）风控（kòng）中只能依靠单一或静态信（xìn）息维度（dù）追踪风险的（de）困境，实现对（duì）风险变化趋势的预测，提前遏制风（fēng）险的发生。在反（fǎn）电诈等风控（kòng）场景，对于打击团伙型、多链路（lù）作案，具有重要意义。而“全图式（shì）”的风险分（fèn）析和追踪（zōng）形（xíng）式，也对人工智能的“可解释性”发展提供了（le）更（gèng）广泛的空间。

而“多方（fāng）安全（quán）风（fēng）控”和“端（duān）云协同风（fēng）控”则（zé）是“智（zhì）能化”趋（qū）势下，实现（xiàn）风控与隐私保护（hù）平衡发展的（de）实践探（tàn）索。“多方安全风控（kòng）”实现了在（zài）数据不交换的（de）前提下，多企业、多（duō）平（píng）台之间的联（lián）合风控协作。“端云协（xié）同风控”的（de）价值则（zé）是保障数据的使用（yòng）和保有权真正（zhèng）属（shǔ）于用户（hù）。通过将风控（kòng）模型部署在智能终端，如（rú）手机上，蚂蚁的技（jì）术团队建立起（qǐ）了一套“终端进（jìn）行（háng）数据计算和决策、云端（duān）仅获取决策结（jié）果”的风控模式。终端（duān）计算，意味着（zhe）敏感信（xìn）息（xī）被（bèi）保留在用户手中，规避了信息（xī）传输过程中可能出现的被攻击风险。云（yún）端仅获取决（jué）策，不仅保障了安全防（fáng）御和风险控制不受影（yǐng）响，还节约了云端（duān）的计算资源（yuán）。目前，“端云协同风控”已经（jīng）被广泛用（yòng）于（yú）支（zhī）付（fù）宝（bǎo）的日常（cháng）风控中，在去年的双（shuāng）十一期间，98%的风控决（jué）策都是在用户（hù）智能（néng）终端上完（wán）成的。

赵闻飙（biāo）在分（fèn）享中强调，传统风控受制于技术成（chéng）本、数据（jù）规模和算法效能，许多场景还（hái）是专家经验（yàn）驱（qū）动，而不（bú）是数据智能驱动。“支付宝每天（tiān）有数亿笔交易，面对如此庞大的计算（suàn）量，一旦（dàn）决策产生延迟，就给了黑产可乘之机（jī）。” 通（tōng）过人工智能与金（jīn）融风控的深度融合，蚂蚁安（ān）全实验室打造了能够实现“智能（néng）决策（cè）”的AI大脑——AlphaRisk。其（qí）能（néng）够在零人工干预的全自动模式（shì）下，对（duì）风险（xiǎn）进（jìn）行毫秒级的响应。但更（gèng）重要（yào）的是——AlphaRisk具（jù）备的自学习、自（zì）适应的能力，将极大（dà）地提升人工智能的抗打（dǎ）击能力。AI大（dà）脑通过对每一次黑产攻击（jī）行为的（de）学习和研究，不断提升（shēng）防御手段，进行高效的（de）自我进化。

在技术快速发展的同时（shí），可信AI的公平（píng）性也（yě）考验着研究者对社（shè）会（huì）责（zé）任（rèn）的坚守。赵闻飙提（tí）到，早（zǎo）在（zài）2016年，蚂蚁（yǐ）就成立（lì）了针对电信网络（luò）诈骗的技术研究小组，借助包括“图（tú）神（shén）经（jīng）网络”“博弈攻防”在内的（de）一系列创新技术应用，极大地（dì）遏制了平台电诈发（fā）生率。但许多骗子（zǐ）引导（dǎo）受害（hài）人转而使用其他的（de）支付渠道，社（shè）会（huì）欺诈问（wèn）题（tí）仍旧严峻。如（rú）何依靠技术（shù）力量，真正将诈骗罪案止步于支（zhī）付环节，成为研究的（de）重点，“交互式风控”也因此应运而生。

贝壳财经记者注意到，区别于以往的安全风控模式（shì），交互式主动（dòng）风控的关键在于“主动”二字——传（chuán）统的安全往往依赖于已知（zhī）风险（xiǎn）模式，只有风（fēng）险发生过，才知道如何预防，这也使得安全（quán）风控（kòng）往往处于“被（bèi）动（dòng）防守”的态势。

对此，赵闻飙表示，安全必须（xū）从静态的被动防守，转变为动态的主动对抗，特别是金（jīn）融安全。“以交互式风控产品‘叫（jiào）醒热线’为例（lì），当用户被骗（piàn）子诱导转账时，AI机器人（rén）将向用户发出（chū）来电提醒。充分（fèn）学习了欺诈罪案分析的（de）AI机（jī）器人，能够捕捉用户交流（liú）中的关键（jiàn）信息，采取恰当有效的反诈劝阻话术和措（cuò）施（shī）。为了跟骗子拼（pīn）速度，目前（qián）蚂蚁的反诈骗叫（jiào）醒热线中（zhōng），有（yǒu）超9成电（diàn）话是（shì）由（yóu）AI打出的，叫醒成功率超（chāo）过了人工（gōng）客服。除（chú）了事中的防护，如果（guǒ）用户深度受骗、执意支付，技术（shù）人（rén）员还开发（fā）了‘延迟到账’和‘资金（jīn）截留’的（de）功能（néng），让欺诈者没（méi）有办法支（zhī）取赃款。”

“人工智能技（jì）术的快速发展，引领了第（dì）四次工业革命的浪潮。而可信人（rén）工（gōng）智能（néng）的研究和（hé）落地，则代表了人工智能技术发展的新（xīn）阶段。在未（wèi）来（lái），与人类社会深度耦合的人工智能技（jì）术，如（rú）何（hé）在安全、可信、公平的原则下，持续发展和进步？这是每一（yī）位从业者（zhě）和研究者，为推（tuī）动科（kē）技有序、健康发展都不应（yīng）回避的命（mìng）题。”赵闻飙表示。