首页
YJango

信息与智能

单集封面
单集封面

信息与智能

YJango
YJango
粉丝:5829
2022-12-10
2422 人已看
16 讨论
主题:15
描述:18
例子:7
类比:1
其他:12
字数:3317

学习观13

1 信息知识与学习

1.1 信息与真实

误解 误解信息与媒介关系

很多人认为信息是虚幻的,不真实的。因为他知道自己获得的体验是由特定事物所提供的,所以由另一种事物所提供的体验就一定是虚假的。

不同手机同音乐 不同媒介同信息

但同一首乐曲可在不同的手机上播放,并没有人认为另个手机所播放的乐曲就是虚假的。

不同媒介同信息

表达信息的媒介是可以变的,不变的却是信息本身。

提问 何为真实

而靠信息来减熵的生命能接收的也只有信息。那么究竟什么该被定义为真实呢?

1.2 信息的价值

处于信息时代

有一点是无法否认的:我们正处在信息时代。多数人每天起床的第一件事就是看手机。去新餐厅之前都要查用户评价。去外国之前都要查交通和酒店。

信息的价值

我们时刻都在为信息付费。因为在生活中,允许我们躲避危险的是信息。在经济中,允许我们赚取差价的是信息。在战争中,真正允许我们获得胜利的还是信息。

反问 如何杀死全知 全知与永恒

想象一个可以预测未来的人能获得多少资源?我们又要如何才能杀死可以预测未来的人?

全知与永恒

这就是为什么:拥有所有信息便可永恒。

1.3 知识获取信息

提问 如何获取信息

但问题是,生命又要如何获取信息呢?

麦克斯韦妖 如何获取信息

拿麦克斯韦妖来说,它怎么知道该开门还是关门?虽然该信息量只有 1 bit,可它没有直接获取该信息的途径 (正是学习观08的主题),只能根据分子运动信息来间接的获取开关信息。当高能分子向左运动或低能分子向右运动时就开门,否则关门。

信息

这些确定了事件(宏观态)具体是哪个情况(微状态)的事物就是学习观10中所介绍的信息。

例子

从输入信息到输出信息的对应变化叫做例子(样本)。

知识

而压缩了两个事件之间所有信息对应变化(例子)的关系便是知识(函数、映射、模型、变换)。这就是为什么学习观02说:知识不是信息。

靠知识获取信息

生命是靠知识获得信息。因为系统永远会自发的从低熵宏观态向高熵宏观态变化,即使系统的熵被降低了仍会再次变化。所以生命需要找出能描述这种变化的知识(模型),反复利用该知识获得信息来维持自身状态不变。

1.4 学习获取知识

提问 如何获取知识

可生命又要如何找出知识呢?

无限个数例子

上面的情况一共只有 4 个例子,是不是直接记住就可以了?实际上,不只有4个例子。因为“稍微偏上一点的向左”和“稍微偏下一点的向左”是两种不同的情况。全部例子的个数多到近乎无限。

靠学习找出知识

而信息与熵是硬币的正反面,所以生命根本无法靠记忆信息来对抗熵增。生命依靠方式是学习,靠学习来找出能压缩所有例子的知识,这才是生命减熵的方式。也就是为什么学习观01说:学习不是记忆

2 智能的四条件

过渡 学习能力的代价

然而学习能力并不是凭空产生的。在北欧神话中,主神奥丁为了获得知识,曾以一只眼睛换得一口智慧泉水。

智能与学习

你不用牺牲一只眼睛,因为你已经具备了奥丁所获得的能力。这也是为什么你没有意识到分子的运动情况多到无限,因为你早已瞬间将近乎无限的情况分成了四类。而你所拥有的学习知识和使用知识的能力就是:智能。

智能的条件

可想要拥有智能,需要四个能力的支持。

-学习:构建模型的能力; -存储:存储模型的能力; -应用:应用模型的能力; -获能:获得能量的能力。

这里我将“知识”替换成“模型”,二者意思相同,只不过“知识”人类在意识层面上所构建的“模型”。其中三个能力与计算机完全一致,毕竟最初计算机的诞生正是为了更高速运用我们已学到的知识。

3 智能体的五条件

生命的条件

而若要形成生命,则需要考虑第五条,即熵差:自身减熵速率需大于熵增速率。

智能体定义

一直以来大家都是从化学、物理、生物的角度来思考生命,我们不妨忽略这些限制,仅从信息减熵的角度来思考生命。而为了与真正的生命相区分,我们给它一个不同的名字:智能体 (Agent)。

过渡 理解智能体

那理解智能体要做的第一件事就是回顾它在自然生命中是如何产生的。

3.1 熵差条件的实现

水的熵差条件 智能的条件

对于生命的诞生而言,环境是一个非常重要的因素。气体变化速率太快,固体又太慢,只有液体适中,所以自然选择了在液体中的固体。自身的固体零件相对稳定,而液体又支持了熵减系统的形成。于是人们才相信水是生命之源。

3.2 能源条件的实现

两种能量来源 智能的条件

一般认为生命必须依靠阳光,因为太阳是我们的低熵能量来源。然而海底热泉却让我们看到了另一种可能,这里生命的能量来源不是阳光,而是海底沉积物的化能合成 (Chemosynthesis)。地球上居然同时有光明与黑暗两种生态系统。

3.3 存储条件的实现

DNA存储媒介 智能的条件

模型的存在需要存储媒介。而 DNA 就是这个支持了地球上所有生命的存储媒介。DNA 神奇到让人很难相信它是自然的产物,以至于让 DNA 双螺旋结构发现者之一的克里克在 1973 年提出定向胚种论,认为地球上的生命是由外星文明播种所产生的。电影《普罗米修斯》恐怕也是受此启发才将“火种”描述为外星人留给地球的 DNA。

注释 DNA编译成模型 DNA存储媒介

虽然模型是以信息的形式存储在 DNA 上的,但绝非单纯的信息,而是代码。随后会被编译成能实现模型功能的工具,用于减熵。所以现在虽然能够测出 DNA 上的这些模型的代码,却无法使用和理解上面的模型。因为我们需要搞清这些代码所编译的模型功能。

知识的描述 DNA编译成模型

这也是为什么学习观02说:记住知识的描述无法使用知识,这里所指的“知识的描述”就是“模型的代码”。

3.4 应用条件的实现

蛋白质应用 智能的条件

而那些被 DNA 代码所编译成的工具就是蛋白质。DNA 有 4 种碱基:A、C、G、T。 每三个碱基对应一个氨基酸。大量 DNA 序列会让氨基酸形成不同功能的蛋白质,就可以完成麦克斯韦妖的开关门功能。但三个碱基一共对应的氨基酸种类不是 64 种,而只有 20 种。对应的氨基酸很多都是重复的,这种冗余似乎很浪费,让人非常不解。然而这种对应方式是万里挑一。因为从信息论的角度,它的这种冗余使得遗传代码具备了极强的抗噪能力,把点突变(Point mutation)带来的灾难降到了最低。

3.5 学习条件的实现

提问 生命如何学习

而这里面最为关键的就是学习能力。DNA 上所存储的能够减熵的模型究竟是怎么被学习到的?

注释 学习观名字

接下来的几期视频,我们将从学习的视角来观察自然生命历史(故叫学习观)。

3.5.1 第一套学习系统

演化

而生命史上出现的第一个学习方法就是:演化(genetic algorithm):智能体并不以个体来学习模型,而以群体来学习模型。

1信息准备 演化

学习过程分为三个部分:虽然无法直接获得开关信息(麦克斯韦妖的例子),但有一个事实:若系统猜对了信息就会存活,否则就会无法维持状态,从而间接的提供了开关信息。

2模型候选 演化

为了提供候选模型,智能体以 DNA 为模版,大量的自我繁殖,并且在繁殖中产生基因突变,使得每个克隆体都有不同的模型。

3模型筛选 演化

而判断模型是否正确的方式就靠自然选择:只有合适的模型才能够预测到信息。但自然选择并非直接判断模型好坏,而是一次次判断模型所预测的信息是否能够维持自身状态,从而淘汰无法预测到信息的模型,所以很多劣质模型依然有机会遗传给后代。

演化与熵减 演化

当候选和筛选反复循环进行后,种群基因库就会整体形成一个能稳定减熵的模型。演化: 智能体让自己的突变克隆体去问环境,突变所产生的模型是否能预测信息,以克隆体的死亡为代价获得能稳定减熵的模型的一种学习方法。这就是为什么越低等的智能体所繁衍后代的数量越多,因为演化是这个智能体的唯一学习方法。

3.5.2 第二套的引出

提问 为何未能全知永恒

然而这并没有解释人类个体的死亡。因为癌细胞可以永生,一直活到自然将其筛选为止,但为什么人类不可以。

预告 第二套学习系统

虽然我们体内每天都有细胞死亡,但新细胞会接替其位置,这种更替明明可以永远持续下去。可我们的自然死亡却被有意写到了基因代码当中,并非技术上无法实现永生。人类这个智能体这么做的原因一定是因为信息的获取受到了某种限制,而这个限制就与动物史上所产生的第二个学习方法有关。

讨论
随记
AI 助理