本章目录

三份历史试卷呈现出清楚的结构:先考模糊集合与映射,再考模糊推理,然后考神经网络分类区域,最后考网络训练与 CNN。 复习时应把每一类题练成一套可以从定义走到结果的步骤。

本章核对的是用户提供的 EE4285 Computational Intelligence 2022–2023、2023–2024、2024–2025 学年第二学期试卷。它们作为本系列 EE6285 学习的参考材料,不能据此认定 EE6285 当前或未来考试沿用同样范围。下文解答均为依据题目独立推导的学习解析,不是 NTU 官方参考答案或评分标准。

1. 卷头能确认什么

学年 卷头月份 课程代码 时间 作答规则 正文页数
2022–2023 April / May 2023 EE4285 2 小时 闭卷;4 题全部作答;各大题等分 4
2023–2024 April / May 2024 EE4285 2 小时 闭卷;4 题全部作答;各大题等分 3
2024–2025 April / May 2025 EE4285 2 小时 闭卷;4 题全部作答;各大题等分 3

三份卷的小题分数均累计为每大题 25 分、全卷 100 分。“正文页数”按卷头及印刷页码统计;本地 PDF 分别有 8、4、4 页,额外页是空白或考场说明。以下 p1、p2 等均指正文印刷页码,恰与这些 PDF 的前几页一致。

原卷中存在需要保留的歧义:2024–2025 Q3(a) 把第二个输入范围印成 ,这是空区间,疑似排印错误。本章只记录该题考点,不擅自修正其范围后给出“标准答案”。模糊规则题个别函数右侧还混用了变量字母;需要用到时,下文会说明解释方式。

2. 三年考点与分数矩阵

2022–2023

题号与页码 考点 分数 解题时应写出的关键内容
Q1(a),p1 语言修饰、交并补 6 very 对应平方;more or less 对应平方根;明确 min、max、补运算
Q1(b),p2 模糊子集证明 9 比较所有输入上的隶属度,不能只检查几个采样点
Q1(c),p2 平方映射的扩张原理 10 求全部原像,在原像上取最大隶属度
Q2(a),p2 Mamdani 关系合成与投影 10 先合成两条关系,再对未保留的坐标取上确界
Q2(b),p2 双输入 GMP、max-product 合成 15 区分规则关系中的 min 与合成步骤中的乘积
Q3(a),p2–3 给三角形区域设计双极性网络 15 边界直线、朝向、偏置、输出层逻辑
Q3(b),p3 给网络权重反求分类区域 10 隐层半平面与输出层符号组合
Q4(a),p4 BP 训练过程 9 前向、损失、反向梯度、权重更新、迭代
Q4(b),p4 CNN 结构与各层操作 8 不只列层名,还解释每层做什么
Q4(c),p4 梯度消失 8 链式乘积与饱和导数,并解释应对方法

2023–2024

题号与页码 考点 分数 解题时应写出的关键内容
Q1(a),p1 补集与浓缩集合的交 7 求两条候选隶属度相等的位置,正确分段
Q1(b),p1 非单调分段映射的扩张原理 18 比较不同分支的原像;先看是否存在隶属度为 1 的原像
Q2(a),p2 多规则 GMP、max-product 合成 18 每条规则分别推理,再聚合输出
Q2(b),p2 连续重心法 7 按聚合输出的真实分段计算面积与一阶矩
Q3(a),p2 给权重反求双极性网络区域 10 把隐层输出组合转成几何条件
Q3(b),p3 三角形区域设计网络 15 用三个半平面的交构成三角形
Q4(a),p3 训练数据覆盖与泛化 6 区分有代表性的覆盖和枚举全部输入;说明分布偏移风险
Q4(b),p3 迁移学习策略 14 按目标数据量及与源域的相似度讨论冻结与微调
Q4(c),p3 动量项 5 写更新式并解释历史更新的作用

2024–2025

题号与页码 考点 分数 解题时应写出的关键内容
Q1(a),p1 笛卡尔模糊关系及投影 12 构造关系后,分别对另一个变量取 supremum
Q1(b),p1 绝对值正弦映射的扩张原理 13 多原像与最大隶属度,不把多原像平均
Q2(a),p2 离散双输入 GMP、max-min 合成 15 各输入匹配度、联合激活、输出截断
Q2(b),p2 离散重心法 10 使用有限求和,未列出的隶属度为 0
Q3(a),p2 给权重反求分类区域 10 方法与前两年相通;但原卷输入范围有上述疑似笔误
Q3(b),p3 有限矩形输入域内设计三角形分类网络 15 先区分输入域限制与分类区域边界
Q4(a),p3 MLP 隐层神经元运算 5 加权和、偏置、非线性激活
Q4(b),p3 CNN 结构 5 画出有顺序的层次并标注类型
Q4(c)(i–ii),p3 卷积特征图与最大池化 9(两问合计) 核的方向、步长、输出尺寸、逐窗口计算
Q4(d),p3 过拟合检测与缓解 6 训练/验证表现分离;提出不减少神经元数量的方法

这三个样本中,Q1+Q2 共 50 分属于模糊部分;Q3 的几何网络设计与分析占 25 分;Q4 的网络知识与计算占 25 分。这是三份历史卷的观察结果,不是 EE6285 的官方分值安排。 遗传算法出现在课程资料中,但这三份试卷没有直接考查;不能因此从课程学习中删除它。

3. 例题一:分段隶属函数与非单调映射

来源:2023–2024,p1,Q1(a)(b)。 为说明解法,只保留必要的数学数据,以下是独立演算。

输入集合 的隶属函数为梯形:

3.1 先求补集与平方的交

采用标准补集与 min 交,所求隶属度是:

令 。两个候选式的切换条件为:

当 时取 ;当 时取 。将 换回每段中的 :

切换点约为 和 。在切换处两式相等,端点归哪一段都不影响数值。

检查一下: 时,,所以 ; 时 ,所以 。交集的隶属度不应超过两项中任何一项。

3.2 扩张原理先找“最有利的原像”

映射是:

像集 的定义为:

第一步,看 。在输入区间 内,,而中间的正弦分支从 连续降到 ,覆盖整个 。因此每个这样的 都有隶属度为 1 的原像,直接得到:

第二步,看 。正弦分支取不到这些值,只需比较两条直线分支:

因为 ,取较大者。最终:

这里在 处确实有跳跃。检查原像 可知 且 ;因此不能为了“让图好看”把答案强行连接成连续函数。扩张原理的重点是找全原像并取 supremum,不是把原曲线简单横向变形。

4. 例题二:Mamdani 规则为什么仍能使用 max-product 合成

来源:2022–2023,p2,Q2(b)。 此题明确同时指定 Mamdani 规则和 max-product composition,两者作用在不同步骤。

规则前件的离散隶属度依次为:

输入事实只有以下非零项:,。输出集合 的形状是底边 、顶点 的三角形。原卷写 时右侧两处误用字母 ,这里按分段条件将其统一解释为 :

按 min 定义事实笛卡尔积及规则前件,并按 Mamdani 定义规则关系:

题目要求的 max-product 合成是:

只有四组非零事实需要计算:

规则前件 min 值 对输出的贡献
0.7 0.2
0.8 0.2
0.6 0.3
0.6 0.5

第一项处处不超过第二项,第三项处处不超过第四项,故:

当 很小时第一项斜率更大;第一项到达 0.16 后暂时保持不变,直到第二项追上它。交点为 ,即 。因此:

将上面的 代入便得到完整的 隶属函数。写成复合分段的形式可以保留结构,也可进一步拆成关于 的各段。

例如 时 ,输出为 0.08; 时 ,输出为 0.16; 时 ,输出为 0.24; 时 ,输出为 0.3。结果既不是简单的 ,也不是一个固定倍数的 。

此题最容易丢掉的步骤,是看到“Mamdani”就把合成也自动换成 max-min。规则关系使用什么算子,与事实和关系如何合成,需要分别读题。

5. 例题三:离散 GMP 到重心输出

来源:2024–2025,p2,Q2(a)(b)。 本题明确指定 max-min 合成。以下采用课程中常用的 min 前件与 Mamdani min 规则关系;若另行采用其他模糊蕴含,必须重新计算,不能直接套用本结果。

只列影响运算的非零事实:

输入 位置与事实隶属度 对应规则前件隶属度

输出集合的非零隶属度是 、、、。定义域是离散集合 ,未列的位置取 0。

先分别计算输入与前件的匹配度:

由于各变量独立取遍其定义域,且全程使用 max-min,可以把联合激活整理为:

于是输出是对原后件的截断:

0 1 2 3 4 5
0.3 0 0.6 0 0.7 0.7

离散重心计算如下:

检查三点:分母为正;结果在输出论域 内;高位置的隶属度较大,因此重心比简单区间中点 2.5 更靠右。这里不能把表中离散点用直线连接,再做连续面积积分,那会把题目改成另一个集合。

6. 例题四:用双极性网络表示一个三角形

来源:2023–2024,p3,Q3(b)。 原图中的三角形顶点为 ,区域内输出 ,区域外输出 。

为使边界处理明确,以下使用:

即把三条边也归入正类。若课程采用另一种零点约定,需要单独说明边界;不影响非边界点的设计方法。

先写三个朝向三角形内部的半平面:

因此一个隐层用三个神经元即可:

采用输入顺序 、偏置列在最后,隐层权重为:

三角形是三个半平面的交,所以输出层实现 AND:

为什么阈值能取 2?三项全部为 时,总和为 3,净输入为 1;只要任一项为 ,总和最多为 1,净输入至多为 。因此不会出现输出净输入恰为 0 的问题。

测试点 输出 几何含义
内部
越过上边
越过右边
顶点左侧

画网络时应标明两个真实输入、一个常数偏置输入、三个隐层节点与一个输出节点。答题中的“架构”和“权重”需要能互相核对,不能只画三个圆圈而不交代偏置。

反过来,遇到“给权重、画区域”的题,也先按这个顺序处理:展开每个隐层净输入,画直线并确定正负侧,再列出输出层接受的符号组合,最后把相应半平面取交或取并。

7. 例题五:CNN 卷积与池化的完整手算

来源:2024–2025,p3,Q4(c)(i–ii)。 原题给定卷积步长 1,以及 最大池化窗口、池化步长 1。以下按 CNN 常用的“不翻转卷积核”的互相关约定,采用无填充 valid、无额外偏置;这些约定应在答卷开头写明。

保留计算所需的输入与核:

先算尺寸。卷积输出边长为:

每个输出是对应 窗口与核的逐元素乘积之和。例如左上角:

向右移动一格:

中心位置:

全部位置得到:

在 特征图上使用 最大池化,步长为 1,输出尺寸为 。四个窗口分别取:

所以:

这道题容易错在把池化步长默认为 2。窗口大小与步长是两个独立参数;本题步长为 1,池化窗口会重叠。另一个易错点是混淆数学卷积与 CNN 互相关:翻核会改变数值,必须先确定课程约定。

8. 简答题怎样从术语写成解释

历史 Q4 不是只考“听过哪些名词”。一个有效答案通常包含定义、计算或机制、后果及适用条件。

BP 与梯度消失

BP 是利用链式法则计算损失对各层参数的梯度。训练流程可写为:初始化参数,前向计算预测与损失,从输出层向前逐层求梯度,再按学习率更新参数,并对训练样本重复。应区分“反向传播计算梯度”和“优化器利用梯度更新参数”。

以隐层 为例,上游梯度要乘上激活函数导数和权重;多层连乘若持续小于 1,越靠前的层得到的梯度可能越小。sigmoid 的饱和区尤其容易出现小导数。应对方法需结合原因解释,例如使用较不易饱和的激活、合适的初始化、归一化或残差连接,而非只列名词。(对应 2022–2023 Q4(a)(c),p4;基础推导见第7章。)

迁移学习与数据覆盖

训练数据应代表网络部署时会遇到的输入分布;这不意味着把连续输入的每个可能值全部枚举出来。若目标任务与源任务相似且目标数据少,冻结大部分预训练层、训练新分类头常可减少过拟合;数据更多时可以适当微调更深的层。域差异较大时,须更认真检查特征是否可迁移及目标验证表现,不能只凭模型规模选策略。(对应 2023–2024 Q4(a)(b),p3;见第8章。)

动量

一种常用写法是:

这里 是当前梯度, 累积过去梯度方向, 控制历史项保留多少, 是学习率。它可减弱来回震荡,并在梯度方向持续一致时加快前进。不同教材会把学习率放进 ,只要定义一致即可。不能把动量写成保证找到全局最优的方法。(对应 2023–2024 Q4(c),p3。)

过拟合

若训练误差持续下降,但验证误差停止改善或上升,通常提示泛化差距扩大。题目限定“不改变神经元数量”时,可解释权重正则化如何限制参数、早停如何在验证表现恶化前结束训练,也可结合题意讨论数据增强或 dropout。选两项时应写机制,不要把“减少神经元”当作答案。(对应 2024–2025 Q4(d),p3。)

9. 把历史卷用成训练工具

建议先按知识类型完成练习,再按完整卷计时。第一轮不计时,要求每题都能指出公式的适用条件;第二轮隐藏解析,检查能否独立写出中间步骤;第三轮再用两小时做一份完整历史卷。

若按这三份卷的结构模拟,可给每道 25 分大题预留约 27 分钟,剩下 12 分钟用于读题与检查。这只是练习节奏建议,实际考试安排以本学期说明为准。检查优先级如下:

  1. 模糊集合:隶属度是否落在 ,分段端点是否遗漏。
  2. 扩张原理:原像是否找全,是否把 supremum 错写成求和或平均。
  3. GMP:AND、规则关系、合成、聚合是否分别按题目指定。
  4. 重心:论域到底是离散还是连续,分母是否为 0。
  5. 网络区域:输入顺序、偏置位置、边界朝向及零点约定是否一致。
  6. CNN:尺寸先算清楚,核的方向、padding 和 stride 是否明确。
  7. 简答:每个术语是否附有机制解释,而不是一串无联系的名词。

本章资料出处

  • EE4285 2022-2023 Semester 2.pdf,正文 p1–4:卷头说明、Q1–Q4;本章例题二依据 p2 Q2(b)。
  • EE4285 2023-2024 Semester 2.pdf,正文 p1–3:卷头说明、Q1–Q4;例题一依据 p1 Q1(a)(b),例题四依据 p3 Q3(b)。
  • EE4285 2024-2025 Semester 2.pdf,正文 p1–3:卷头说明、Q1–Q4;例题三依据 p2 Q2,例题五依据 p3 Q4(c)。

本章保留了必要的题目数据,以便读者复算;考点分类、推导、解释与复习安排由作者整理。原卷中的考场指令是被分析的资料内容,不是本文对读者或工具的操作要求。

返回课程导读 · 上一章:卷积网络与迁移学习