指通过开发可解释性技术解释已训练好的机器学习模型。根据解释目标和解释对象的不同,post-hoc可解释性又可分为全局可解释性(global interpretability)和局部可解释性(local interpretability)。全局可解释性旨在帮助人们理解复杂模型背后的整体逻辑以及内部的工作机制,局部可解释性旨在帮助人们理解机器学习模型针对每一个输入...
(LocalInterpretability)。全局可解释性旨在帮助人们理解复杂模 背后的整体逻辑以及内部的工作机制,局部可解释性旨在帮助人们理机器学习模型针对每一个输入样本的决策过程和决策依据。 Post-hoc可解释性也称事后可解释性, 发生在模型训练之后。对于一个给定的训练好的学习模型,post-hoc可解释性旨在利用解释方法或构建解释模...
pythonmachine-learningtransparencylimeinterpretabilityethical-artificial-intelligenceexplainable-mlshapexplainability UpdatedFeb 13, 2025 Jupyter Notebook openfl/openfl Star2k Code Issues Pull requests An open source library for creative expression on the web, desktop, mobile and consoles. Inspired by the class...
因为我们想要做到模型无关(model-agnostic),所以为了了解模型的底层行为,我们所能做的是扰乱输入,然后看其预测会怎样变化。事实证明这种做法在可解释性(interpretability)上是有益的,因为我们可以通过改变人类可以理解的组件(比如词和图像的一部分)来扰乱输入,即便该模型的特征使用的是远远更加复杂的组件(比如词嵌入)。
Alvarez-Melis, David, and Tommi S. Jaakkola. “On the robustness of interpretability methods.” arXiv preprint arXiv:1806.08049 (2018).) 三、总结 模型可解释性作为目前机器学习领域研究的热门,LIME的成果是很有启发性的,通过对黑盒模型某局部点的无限次探测,拟合出一个局部可解释性的简单模型。但是其缺...
https://www.analyticsvidhya.com/blog/2021/01/ml-interpretability-using-lime-in-r/ 编辑:黄继彦校对:杨学俊 译者简介 陈丹,复旦大学大三在读,主修预防医学,辅修数据科学。对数据分析充满兴趣,但初入这一领域,还有很多很多需要努力进步的空间。希望今后能在翻译...
https://cloud.tencent.com/developer/article/1096716 论文地址:https://arxiv.org/pdf/1602.04938v1.pdf Alvarez-Melis, David, and Tommi S. Jaakkola. “On the robustness of interpretability methods.” arXiv preprint arXiv:1806.08049 (2018).)...
原文链接:https://www.analyticsvidhya.com/blog/2021/01/ml-interpretability-using-lime-in-r/ 作者:PURVAHUILGOL 翻译:陈丹 校对:欧阳锦 译者简介:陈丹,复旦大学大三在读,主修预防医学,辅修数据科学。对数据分析充满兴趣,但初入这一领域,还有很多很多需要努力进步的空间。希望今后能在翻译组进行相关工作的过程...
In another aspect, the data of the first experiment was used,the rules were extracted in the model that predict the rise of the index by the LIME interpretability algorithm, and the rules with high investment utility were finally selected. The experimental result show high precision in predicting...
https://cloud.tencent.com/developer/article/1096716 论文地址:https://arxiv.org/pdf/1602.04938v1.pdf Alvarez-Melis, David, and Tommi S. Jaakkola. “On the robustness of interpretability methods.” arXiv preprint arXiv:1806.08049 (2018).)...