人工智能真的会忘记学过的东西吗?
会——而且比人们想象的更彻底。一个学习新任务的网络,可能几乎完全而不是部分地丢掉旧任务。这被称为灾难性遗忘。原因很简单:网络所知道的一切都存放在同一组权重里,而新任务会把这些权重拉向它自己的用途。
会——而且比人们想象的更彻底。一个学习新任务的网络,可能几乎完全而不是部分地丢掉旧任务。这被称为灾难性遗忘。原因很简单:网络所知道的一切都存放在同一组权重里,而新任务会把这些权重拉向它自己的用途。
会,而且影响明显。同样的任务换一种顺序呈现,最终错误率就会改变:整个序列越繁重、相邻任务之间的差距越大,模型遗忘得越多。在持续学习的系统里,课程安排与算法同样重要。
通常不会——反而会让它变长。在一个千人模拟中,覆盖百分之七十人口的隔离没有改变病例总数,还让疫情从 49 天延长到 58 天。改变的是峰值:从约百分之五十降到百分之二十五以下。目的不是终结疫情,而是把同时患病的人数控制在医院能够承受的范围内。
两者都重要,但速度往往被低估。以两倍的速度达到同样百分之七十五的覆盖率,千人人群中的患病人数从 144 降到了 35。一场起步晚的大范围接种,效果可能不如一场起步早的小范围接种。
“理解”这个词说得太重了。传统系统把声音压缩成几个系数,再与存储的模板比较;如今的系统则改用在数百万小时语音上训练的神经网络。两者做的都是模式匹配——而不是把握含义。
让时间伸缩。一种叫动态时间规整的算法,会寻找一条路径:把一段录音的开头连到另一段的开头、结尾连到结尾,并使沿途的总差异最小。这样,一段录音里拖长的音节就能与另一段里短促的音节对应起来。
只能在喂养它的数据范围内预测。在咖啡销量的例子中,数据落在三到九个单位的货架空间之间;在纸面上,直线可以延伸到无穷远,也会欣然回答“如果给它一百个单位会怎样?”这个答案毫无依据。一旦走出这个范围,你得到的就不再是预测,而是愿望。
两者都是——差别不在方法,而在习惯。机器学习的传统是把数据一分为二:用一部分拟合直线,用留下的另一部分检验,因为模型解释自己见过的数据很容易。回归在带标签的数据上训练并给出数值预测,按定义就是监督学习。
这取决于问题,而这正是出人意料之处。在一个满是工单号、错误信息和文件名的档案库里,三十年前的关键词匹配胜过了基于神经网络的语义检索:它找到了 74% 的目标页面,语义检索为 65%。语义检索恰恰在词语本身最重要的地方变弱——工单号没有含义。最好的结果来自两者结合。
如果没有防护措施,会。检索层对权限一无所知,只知道相似度;一个页面可能与问题完美匹配,却属于对这个人不开放的项目。因此,结果必须按照一个人实际能访问的项目进行过滤。AI 助手要么继承一个组织的权限结构,要么将其击穿;没有第三种可能。
在软件定义网络中,交换机对一条新流还没有任何规则。于是第一个数据包被提交给控制器,由控制器做出决定,并往交换机里写入一条规则。之后的数据包直接匹配这条规则,再也不经过控制器。在实验指导书的示例输出中,第一次回复用了 2.76 毫秒,第二次只用了 0.052 毫秒。
如果没有运行防止环路的协议,就会出现广播风暴。一个发给所有人的 ARP 请求会从每台交换机的所有端口发出,绕环一圈后回来,每绕一圈就成倍增加。与 IP 数据包不同,以太网帧没有寿命计数器,所以它不会自行停止;链路被塞满,ping 得不到回应。生成树协议通过关闭冗余链路来防止这种情况。