干货 | AI算法透明性实现与评估_观速讯
以下内容整理自清华大学《数智安全与标准化》课程大作业期末报告同学的汇报内容。
(相关资料图)
我们主要从分析问题、解决问题、效果评估和实际验证四方面，推动这一课题的研究，并形成相应的研究成果。
第一部分：AI算法透明概述
第一部分，AI算法透明概述，主要凝练了当前AI算法透明性存在的挑战。
近年来，人工智能技术的发展使得其透明性问题日益凸显，为保障用户对算法知情，实现监管机构对算法进行有效规范治理与问责，算法透明性必不可少。
然而，算法透明性更类似于原则性的提议，具体如何落实透明性要求，并对其进行有效评估，尚未形成共识。
因此，我们对AI算法透明当前存在的诸多挑战进行了总结，主要涉及三个维度：技术、评估和制度。
技术上，很难处理AI算法的黑箱问题；
评估上，对透明程度的要求很难把握尺度；
制度上，算法问责机制仍然模糊。
为有效应对这些挑战，我们首先给出算法透明性实现路径，解决技术和制度问题，之后提出算法透明评估清单应对评估问题，最终在推荐系统下进行实践与应用。
第二部分：实现AI算法透明
宏观上，我们首先需要AI算法透明性治理范式，针对当前在算法监管立法等多个层面的挑战。我们希望打破透明性中耦合的机制主义和管理主义，形成一种以法律规制为主导，技术适配为基础的多元一体、多方协作的AI算法透明性治理范式。
微观上，这一范式的实施措施落实到学术、法律、技术和场景四方面。
学术上，国内外学者研究主要从多方视角相关主体出发，提出了若干在法律规制和技术适配方面的思考。
法律上，鉴于算法透明，是实现算法问责的重要机制。主要可以总结为两种实现AI算法透明的模式：赋权模式和行为规范模式。赋权模式属于事后救济，而行为规范模式属于事前预防和事中约束。
这里我们具体对比了不同国家地区的法律，发现各国都采取健全算法问责机制等措施。此外，我们也注意到欧盟还强调对算法参数的公开。
技术上，我们聚焦于实现从不透明模型向可诠释模型、可理解模型转变的可解释技术，该技术具体分为事前解释、事后解释和可诠释模型。针对不同的应用实例，又会有更为细致的方法。
不同的应用场景，对AI算法透明体现出不同的场景需求。我们也分别在自动驾驶、材料化学、智能教育和建筑设计，四个细分领域内进行了需求分析和方法探索。
第三部分：评估AI算法透明
鉴于现有法律规制大多在宏观层面强调算法透明监管原则，却鲜小有具体措施。因此，我们提出一套相对详细、可实施的评估标准，以细化并落实算法透明度合规要求。
首先，面向算法使用者的AI透明度评估清单的设计目标，在于保障知情权。内容主要分为算法概述与技术信息，要求算法开发方对这些内容进行说明。
算法使用者的AI透明度评估清单相较于面向用户的清单，由于监管方需要根据算法评估内容进行等级评估，所以该技能较为严格，需要说明的内容也更为复杂。
为配合透明度评估清单的使用，我们还提出了透明度评估等级表。面向不同使用场景的算法分为五个等级进行评估，不同等级对于算法开发者应当达到的透明度有不同要求，且逐步加强。
具体这个清单是如何工作的呢？如左图所示，评估流程有助于监管方对算法开发者在事前、事中和事后阶段做出责任分配。
在开发方与使用者方面，开发方遵照透明度用户指南向算法使用者提供算法的透明度指南。之后，使用者需要阅读指南，以此确立两方权责分配并获得知情。
第四部分：AI算法透明实践
我们选择推荐系统作为典型实例，也是因为推荐系统最能体现AI算法透明的要求。如果能让外界理解为什么信息被推荐给乙方，其实就达到了这个场景下的透明度要求。
通过实现推荐系统的透明性，也能提升用户对系统的信任程度，使系统推荐结果得到检验，同时受到有关方面的监管。
考虑到推荐系统目前采用的AI推荐算法众多，所以我们设计了一个推荐系统外的解释系统或算法，用于对推荐系统进行解释或直接作为一个整体对外提供具有解释性质的推荐。
其核心算法是采用知识图谱与强化学习的技术，充分挖掘推荐系统中的可解释模型，以此进行相关的路径挖掘，并利用解释路径对推荐系统行为加以解释。
这里我们采用一九年一个公开的购物网站公布数据进行结果演示，在利用上述算法完成解释系统后，对数据集进行路径挖掘，得到左图所示的结论。
基于上述深层的推理路径，对推荐系统的多个推荐实例进行解释。结果表明，方法不仅能够帮助推荐系统获得有希望的推荐结果，而且能够有效为推荐系统找到不同的用于推荐解释的推理路径。
之后，我们分别将未加入和加入这一解释算法的推荐系统，按照前一章节设计的流程进行算法评估。结果表明，融入解释算法后的推荐系统，在透明度上有明显提升，但监管方也注意到，新的具有解释性质的推荐系统，在技术和社会风险上处理方法上有缺，要求对当前算法做进一步改进，并对提交的材料进行补充。
感谢各位的聆听！以上就是我们小组要汇报的全部内容。
编辑整理：陈龙相关文章
干货 | AI算法透明性实现与评估_观速讯
以下内容整理自清华大学《数智安全与标准化》课程大作业期末报告同学的汇报内容。我们主要从分析问题、解决问题、效果评估和实际验证四方面，
环球实时：2023苏州动物园春节免费预约指南（时间+平台+流程）
2023苏州动物园春节免费预约指南免费时间：1月21日-27日预约时间：1月14日-20日免费人群：全国游客（包括苏州本地居民及外省市游客）需要证件
武汉失业金2023领取指南（超全版） 关注
武汉失业保险金领取指南一、领取条件1、失业前用人单位和本人已经缴纳失业保险费满一年;2、非因本人意愿中断就业的;3、有求职意愿的。注意：以
每日报道：“金牌老将”长二丙成功发射亚太6E卫星
1月13日2时10分，西昌卫星发射中心，由航天科技集团所属中国运载火箭技术研究院抓总研制的长征二号丙火箭托举亚太6E卫星点火升空，随后将卫星
陕西省宁陕县市场监管局强化药品医疗器械保质稳价监管促市场保供_天天快看点
中国质量新闻网讯日前，陕西省宁陕县市场监管局召开元旦前防疫药械保质量保供应稳价格专题会议。会后，局领导带队深入零售企业查看了防疫药械
新加坡邮政1.61亿新元增持澳洲物流服务商FMH股权 持股比例提高至88%
观点网讯：1月11日，新加坡邮政(SingPost)宣布加速转型，将以1 754亿澳元(约1 61亿新元)收购澳大利亚物流公司FreightManagemen
全球观热点：市值缩水超6000亿！车企叫苦不迭，万亿电池巨头“危机”隐现？
1月9日，网红经济学家任泽平在微博公开“炮轰”宁德时代，一度引发热议。在文章中，任泽平大力抨击了宁德时代以行业龙头的地位
山东章鼓(002598.SZ)成为2022年山东知名品牌(产品)认定之一
格隆汇1月11日丨山东章鼓公布，近日，山东省品牌建设促进会发布了《关于发布2022年山东知名品牌认定名单的公告》，根据《山东知名品牌认定管理
【券商聚焦】中信证券：12月企业贷款增长强劲 世界实时
中信证券（香港）发研报指，人行发布2022年12月份金融信贷数据。其中，新增信贷1 40万亿元；新增社会融资总额1 31万亿元(上年同期2 37万亿元)
一二手房成交量均创近年新低！2023年广州楼市主题仍是“去库存”|天天热点
在刚刚过去的2022年，广州楼市供求量均降至近10年内低位水平，一二手房成交创近年新低，库存去化周期已攀升至21 2个月。克而瑞广佛区域统计显
当前快播：费纳合体、纳卡传承，今年的社交媒体精彩内容比比皆是！
岁末年终，各大社交媒体会纷纷晒出年度成绩单。你最喜欢听的是哪一首歌？经常和你聊天的朋友是哪一位……而在网球届，同样有众多社交媒体精...
怎样鉴别翡翠玉的好坏？这6个方面非常重要
怎样鉴别翡翠的好坏及价位1翡翠如何鉴定品质1 1、透明度鉴定翡翠品质的好坏可以看透明度，品质越好的翡翠，透明度越高，质地越纯净。品质越差
卓朗科技子公司松江智慧城市清算案获债权人通过 新视野
观点网讯：1月10日，天津卓朗信息科技股份有限公司披露全资子公司破产清算的进展。2022年12月2日，卓朗科技全资子公司天津松江智慧城市运营管
天天热议:各地提升科技储粮方式 实现粮食减损农民增收
央视网消息：减损是粮食增收的重要环节，各地不断提升科技储粮方式，实现粮食减损农民增收。总台央视记者蒋树林：在河南南阳的一家粮食产业园
清远贷款律师收费标准最新服务
1、按件收费收取（1）无财产争议：6000元-20000元之间；（2）法律文书：600元-2000元之间；（3）律师见证：2000元-10000元之间；（4）代办公证
试用期内辞职会扣工资吗
向劳监察投诉或者申请劳争议仲裁。劳者试用期内提前3停止用单位解除劳合同用单位应解除劳合同性结清工资律依据《劳合同》第三十七条劳者提前三
重庆轨道交通10号线二期通过竣工验收_全球信息
邹乐摄 据悉，重庆郭家沱长江大桥及南延伸段PPP项目位于重庆两江新区、南岸区，线路全长12 7公里。其中，重庆郭家沱长江大桥主桥长1403 8米
九龙证券|港股“开门红”报春归？分析师称须注意交易节奏|焦点快看
港股商场新年首周现“开门红”，恒生指数周涨幅达6 12%，恒生科技指数周涨幅达7 32%。开年以来，港股成交量较上一年年底有所放大，增量资...
外交部回应“美国愿向中国提供疫苗等先进技术和帮助”-当前时讯
据外交部网站，1月6日，外交部发言人毛宁主持例行记者会。彭博社记者：中国目前正在应对新冠病毒。美国表示愿向中国提供疫苗等先进技术和其他
盒马鲜生全面盈利，马云的新零售预言成功 头条焦点
盒马鲜生盈利了！出品|电商行业作者|航叔盒马鲜生实现盈利盒马鲜生盈利了！1月3日消息，盒马CEO侯毅日前发布全员内部信，对刚刚过去的2022年进
2022年深圳市游泳比赛，育才一小游泳队喜获佳绩
读创 深圳商报首席记者包力通讯员冯杰2022年11月，由深圳市教育局、深圳市文化广电旅游体育局联合主办的20
寻衅滋事一人有伤轻微怎么处罚
根据法律规定，寻衅滋事罪标准轻微伤，第二百寻九十三条有下列寻衅滋事行为之一，破坏社会秩序的，处五年以下有期徒刑、拘役或者管制：（一）
单位组织民警拍照，闪光灯一亮他们齐刷刷背过了身…… 全球讯息
近日在第三个“中国人民警察节”到来之际云南楚雄公安机关组织民警与警旗合影当摄影师按下快门时禁毒支队的民警却下意识转过身去
门票150，瓜子30，大爷吐槽德云社收费贵，平民艺术成奢侈文化_视点
曾几何时，相声作为最接地气的艺术门类，也是老百姓茶余饭后打发时间的一种方式，多年以前，北京、天津的老人们总喜欢端个茶碗，嗑上一把瓜子
天津滨海机场春运期间预计运输旅客100万人次 全球热讯
中新网天津1月6日电(记者王君妍通讯员刘承承胡晓红)1月7日，2023年春运拉开帷幕。天津滨海机场预计在今年春运期间将运输旅客100万人次，与2022年
2023年元旦假期全国文化和旅游假日市场总体安全平稳有序_热讯
2023年元旦假期，全国国内旅游出游5271 34万人次，同比增长0 44%，按可比口径恢复至2019年元旦节假日同期的42 8%；实现国内旅游收入265 17亿元
