因果推断和人工智能

具有因果推断能力&＃xff0c;是未来实现强人工智能的必要因素。

强人工智能&＃xff0c;可类比于生活中真实的人类。目前的人工智能与真实人类的最大差别&＃xff0c;在于现在的人工智能只能执行特定领域的特定目标&＃xff0c;缺失迁移的能力。迁移需要从知识中抽象出底层逻辑&＃xff0c;需要能知道不同领域之间哪些逻辑仍然适用&＃xff0c;哪些不适用了。

所以未来的强人工智能&＃xff0c;应该具备人类一样在实践中纠错的能力。意味着他像人一样会自我怀疑。最难的一点是如何把握自信与自卑之间的尺度。

对于人类而言&＃xff0c;这一点同样很难。人最难的就是在自己认知领域之外的事情。如何获取正确的知识&＃xff1f;如何判断别人是对的&＃xff0c;而自己是错的&＃xff1f;一种解决方法是听从更优秀的头脑&＃xff0c;识别他所说的话当中正确的成分。意味着强人工智能模型需要从更强的模型中学习。然而如何判断一个模型是更强的&＃xff1f;更强的模型中哪部分是正确的哪部分又是错误的&＃xff1f;比如现实生活中会有专家。但专家说的话也不一定是百分百正确。

似乎这里的逻辑&＃xff0c;等同于强化训练中的在线训练。问题是在线训练如何获得对和错的标签&＃xff1f;在日常生活中&＃xff0c;我们很难去通过反馈&＃xff0c;百分百确定自己做的事&＃xff0c;是对的还是错了。

总的来说&＃xff0c;强人工智能应具备逻辑推断能力&＃xff0c;以适应不同领域的任务&＃xff0c;同时应具备相应领域的常识&＃xff0c;或者说领域内在逻辑结构。比如3d建模应先抽象出表征&＃xff0c;再结合环境和位置来还原画面&＃xff0c;而不是一个像素一个像素的还原。

未来强人工智能不知道具体会是怎样训练出来的&＃xff0c;但因果逻辑推断和领域结构知识&＃xff0c;一定是两大必要因素。

另外的一些相关的疑问:
模仿与独立思考之间的界限在哪里&＃xff1f;
记忆在其中起了怎样的作用&＃xff1f;