记忆和泛化

[[In-Context Learning]] 语境内学习

• 理解指令

• 理解例子

思维链

• 代码训练

• 拆分问题，分布思考

[[Reinforcement Learning from Human Feedback]]

• 根据人类对它生成答案的好坏评分来调节模型，引导它生成人类认可的创意回答。

人类群体通过语言处理来实现「知识的创造、继承和应用」

教育模式影响

• 大语言模型创新和更高层次创新

培养终生学习能力

大脑运作模式视角下的知识分类 - 知乎 (zhihu.com)、机器学习理论引入的知识分类 - 知乎 (zhihu.com)

[[思考类知识]]

• 需要精度高，该中大脑模式速度慢，记忆容量低的缺点，尽可能减少问题所涉及的因素。

[[运动类知识]]

• 对速度有更多的要求，大脑可以同时并行处理多个因素，也有很强的容错性和鲁棒性。

• 任何知识在熟悉之后会逐渐被大脑放到无意识模式下处理。

• 缺点

  • 这种模式下若不重复，则不会进行学习。

  • 但当谬想知识对精度有要求时，就要稍加注意。

• 学习这类知识，尽可能让大脑无意识的直接从输入得到输出，用大量的不同的例子反复加强新大脑神经连接的形成。

[[分类知识]]，判断一个事物属于哪个模型

• 思考类知识中大部分都是分类知识

• 应用任何知识之前，都是先用分类知识来判断问题属于哪一类，然后才能够应用公式和性质来解决。

• 画思维导图对应的关键词是主谓结构

  • 它是什么来区分输入和输出

  • 为什么是来决定判断的边界

[[回归知识]]，从定性到定量，如何从一种状态变成另一种状态

• 大部分运动类都是回归知识

• 数学的特别

  • 数学公式是将同一类知识进行二次提取，都是别人总结好的“知识的描述”。

  • 做不出数学题？

    • 无法判断某个问题属于哪一类，连用公式和性质的机会都没有。

    • 到这种情况时，很多家长和老师都简单的归因为“不熟”，提升方式也基本靠悟。但是什么叫“不熟”？这种“不熟”又该如何提升。

    • 工作后通过实际例子，基本上等于重学一遍。

  • 为什么大部分人都难以学好数学？数学明明被用于所有科学的现实问题，可为什么大部分人都觉得自己学不会。一遍一遍的记住了数学公式，甚至理清了这些公式是怎么来的，但在现实问题面前全面崩溃。

• 画思维导图时，对应的关键词一般是动宾结构

  • 它的目的来明确输入变成什么样的输出

  • 问“如何达到”来明确具体的步骤

[[思维导图]]