MODEL INVERSION · SCENARIO 4

摊销反演AMORTIZED INVERSION

白盒权重全可见、却不能自由求值 \(x\)、手里只有一批 \((x,y)\) 数据集。

1已知

2求

给定新观测 \(y^* \sim p(y)\),恢复其原像 \(x^*\)。

\[y^* \sim p(y) \quad\Longrightarrow\quad \text{求 } x^* \text{ 使得 } f_\theta(x^*) \approx y^*\]

3相关工作

3.1Mixed Integer Neural Inverse DesignACM SIGGRAPH 2022 · 计算机图形学顶会

满足条件1.1、1.3 完全满足;不需要 1.2 的数据(可选加速:1.2 的数据可在 warm-start 环节为求解器提供初始可行解,加速剪枝)
观测条件白盒。直接读取网络权重,将 ReLU 网络编码为混合整数线性规划;需要各层激活值的有限界;无需执行目标模型
成果给定目标输出,可直接求出全局最优的输入

3.2Neural Network Inversion in Adversarial Setting via Background Knowledge AlignmentACM CCS 2019

满足条件1.2、1.3 满足;不需要 1.1——黑盒设定,不利用权重
观测条件黑盒。仅需模型的预测输出;依赖背景数据集与离线采集的 \((x, y)\) 配对
成果在对抗设定下提出基于背景知识对齐的模型反演:仅凭黑盒预测输出与背景数据,即可训练出有效的逆模型

3.3Text Embeddings Reveal (Almost) As Much As TextEMNLP 2023

满足条件1.2 满足;1.1 不满足;1.3 部分满足(单步推理满足约束;多步校正需前向求值,与硬约束冲突)
观测条件黑盒。仅需(文本,嵌入)配对数据,无需嵌入模型参数
成果证明文本嵌入几乎等同于文本本身:给定嵌入向量可高精度还原原始文本,短文本精确恢复率达 92%;获 EMNLP 2023 Outstanding Paper