解释模型¶

模型解释可在 Driverless AI 实验中运行，亦可对外部模型（即不是由 Driverless AI 构建的模型）创建的预测结果运行。

使用已完成实验页面的 解释此模型 按钮，即可针对原始特征和转换特征对 Driverless AI 模型进行解释。您还可点击顶部导航菜单中的 MLI 链接来解释 Driverless AI 模型或外部模型。

Interpreting a Driverless AI Model

Run Interpretations from MLI page. 另请参阅：

MLI recipes

MLI expert settings

Run Interpretation from Completed Experiment page

Interpreting Predictions from an External Model

解释 Driverless AI 模型¶

可通过顶部主菜单中的 MLI 页面或已完成实验页面，对已完成的 Driverless AI 实验进行解释。

请注意：

此版本不支持在 Driverless AI 1.8.9 版及更低版本中运行的 MLI 实验。1.8.9 版及更低版本中的实验不支持 MLI 迁移，即用户不能直接对使用 1.8.9 版及更低版本构建的 Driverless AI 模型运行解释，但是如果已在这些版本中构建模型，则仍可查看。
MLI 无需互联网连接便可在当前模型上运行。

从 MLI 页面运行解释¶

此方法让您能对 Driverless AI 模型运行模型解释。此方法类似于在实验摘要页面上点击 “解释此模型” ，但可通过 MLI 专家设置 和插件提供更多控制。

在 UI 右上角点击 MLI 链接以查看已解释模型的列表。

点击 新建解释 按钮。

对于您将进行解释的模型，选择曾用于训练此模型的数据集。

指定您想要用于解释的 Driverless AI 模型。然后选择该模型所使用的目标列。

（可选）指定要运行的 MLI recipes （或解释器）。这还包括自动报告。

（可选）指定运行此解释时要使用的任何其他 MLI Expert Settings 或 Explainer (recipe) specific settings.

（可选）指定一个权重列。

（可选）指定一个或多个删除列。构建模型时已删除的列在解释时将自动删除。

点击 启动 MLI 按钮。

从“已完成的实验”页面运行解释¶

在已完成实验页面点击 解释此模型 按钮，可为此实验启动模型解释。请注意，如果您希望通过解释器的 专家设置 或（自定义）插件来控制 MLI 运行，请从 MLI 页面构建模型。

解释包括摘要、使用已构建的 Driverless AI 模型的解释和使用替代模型（基于 Driverless AI 模型预测结果所构建）的解释。请参阅了解“模型解释”页面，了解绘图的详细信息。

这些绘图是交互式的，并且可通过点击操作按钮来下载日志/工件。

对于非时间序列的实验，此页面为经过训练的 Driverless AI 模型及其结果提供了多项直观解释和原因码。本章后面的 Understanding the Model Interpretation Page 一节提供了更多关于此页面的信息。

解释外部模型的预测结果¶

并非一定要对 Driverless AI 实验上运行模型解释。您可以训练一个外部模型并对此模型的预测结果运行“模型可解释性”功能。此操作可通过 MLI 页面中进行。

在 UI 右上角点击 MLI 链接以查看已解释模型的列表。

点击 新建解释 按钮。

将 选择模型 选项保留不选

选择您想要用于模型解释的数据集。此数据集必须包括外部模型生成的预测列。如果数据集中没有预测结果，则您可以加入外部预测结果。“信用卡演示”中`对外部模型预测结果运行模型解释 <examples/credit_card/credit_card_default.html#2.-Run-Model-Interpretation-on-External-Model-Predictions>`__ 一节提供了关于如何在 Python 中进行此操作的示例。

指定目标列（实际值）和预测列（外部模型的评分）。

（可选）指定运行此解释时要使用的任何其他 MLI Expert Settings.

（可选）指定一个权重列。

（可选）指定一个或多个删除列。构建模型时已删除的列在解释时将自动删除。

点击 启动 MLI 按钮。

请注意：对外部模型运行解释时，将 选择模型 选项保留不选。因为此选项用于选择 Driverless AI 模型。