世界工程组织联合会前主席、中国新一代人工智能发展战略研究院执行院长龚克,在2022人工智能合作与治理国际论坛主题论坛“人工智能引领韧性治理与未来科技”中发言。主办方供图
龚克认为,当前,韧性已成为可持续发展中的重要要求和愿景。“进入21世纪以来,韧性理论从生态学、工程学、心理学领域逐步延展到城市治理领域。”
在他看来,韧性发展现在已经成为重要的发展思路。“它正视困难、风险、冲击、变化,以适应力、恢复力应对之,使系统损失减少到可承受、使运行不失稳、发展不逆转。”
龚克举例指出,韧性的基础设施是韧性城市的基础,AI在提高基础设施韧性方面可以发挥积极的作用。“比如AI可以快速、精准地帮助发现地下送水管网的泄露,以实施快速修复。又比如,AI可以及时、准确预测城市用水需求,帮助实现适时适量的供水。再如,AI可以及早、准确地预报特定灾害,帮助实现预防和减损。”
“这些例子告诉我们,AI助力韧性发展的作用是无可置疑的,数据是AI发挥作用的重要基础,数据的及时、准确、全面对于AI助力韧性发展至关重要。”龚克坦言,因此,物联网的发展、多源数据的融合、数据的无偏化处理等等,特别是相关知识与数据的结合,以及降低算法对于数据规模、质量的依赖性,成为AI助力韧性发展的技术趋势。
龚克表示,“就技术赋能而言,人工智能与韧性治理的关系,包括人工智能作为治理工具和人工智能作为治理对象两方面。我认为,两者统一于人工智能在韧性治理中负责任地、符合伦理地、依法和适度地应用。”
他指出,如果AI要赋能韧性治理,就需要自身增能,增强透明度、可解释性、可靠性、鲁棒性,自身要能抗干扰、抗攻击等,让其自身成为有韧性的AI。“如果AI自身很脆弱,容易被攻击、受干扰,它非但不能助力韧性治理,还会起到相反的作用。”
同时,龚克强调,AI在用于韧性治理上,要做到依法和适度。
“就技术赋权来讲,特别强调赋权必须是依法的,要防止技术异化为权力。”他认为,AI系统作为治理工具时应能针对具体应用主体和场景,识别法律赋予的权力边界,并在任何情况下,保证包容、公平、无歧视,保证不伤害,保证人类的监督和决定权。(完)
动科普丨登录制作平台就能一键生成你想要的App?警惕!便利与风险并存!****** 【万万没想到!App花样套路大解密③——应用制作乱象篇】 制作一款App需要几步?说出来别不信。 在一些App在线生成平台上,仅需一个域名地址、编写少量的网页代码,勾选平台提供的丰富的功能模块就能制作一款App。 甚至部分平台还提供软著、上架、分发的服务。这些功能服务便利了正规的中小型开发者,但同时也为黑灰产开发者开了口子,使得犯罪类应用广泛利用在线生成平台制作…… 前段时间,业界发布的《移动互联网风险应用白皮书(2021)》对国内数十款在线生成平台进行分析监测,当前App在线生成平台存在如下的安全问题: 1.被黑灰产团伙用于开发制作网络犯罪应用或者风险应用,其提供的功能和服务极大地降低了恶意应用开发者开发制作网络犯罪应用的成本和时间,这种现象日趋严重。 2.部分不正规的在线生成平台未提供针对开发者的实名制认证要求,部分在线平台对开发者身份和上传应用内容或者功能的审查机制薄弱。 3.在线生成平台提供了丰富的插件式功能模块选择,以及一站式的应用分发服务和上架服务,平台还能对开发者上传的应用配置信息和相关代码的加密,增加了对该类风险应用治理的难度。 4.此外,对于一些特定品类的App开发者,如果选择了不当的生成平台生成,还可能引入一些隐私合规类的风险问题。 随着移动互联网技术和智能终端的广泛普及,移动智能终端上这类网络犯罪类应用及相关黑灰产产业链不容小觑。这份白皮书显示,网络犯罪类应用在生成平台制作的数量占比中,“贷款诈骗”的样本占比最高,比例达67%;其次为“色播应用”,样本占比为17%;“色情应用”“仿冒金融平台”“投资理财诈骗”等应用也占有一定比例。 比如,下面这款应用界面即为仿冒微信界面。2019年以来,中国裁判文书网公布多起与虚假App有关的电诈案,涉及虚拟币投资、赌博、套路贷等多个领域大量“量身定制”的涉诈App背后,有的公司从接单、开发,到封装、分发、售后等,提供“一条龙”服务,诈骗App背后隐现技术开发灰色产业链。 仿冒App 博彩应用 业界人士提醒,移动互联网生态良性有序发展离不开行业相关规范和标准的引导,以及海量发现、关口前移的技术手段进行治理和约束。App生成平台具备开发技术门槛低、成本低、跨平台适配等特点,能够满足很多中小企业的实际需求,不应当成为黑灰产作恶的工具。 如今,移动生态的安全与否越来越取决于针对风险应用的安全治理能力,移动安全生态建设,也离不开手机厂商、开发者等各方参与者的通力合作。 (监制:张宁 策划:李政葳 制作:黎梦竹 部分内容来源中青网等) (文图:赵筱尘 巫邓炎) [责编:天天中] 阅读剩余全文() |