点击上方“Datartisan数据工匠”可订阅哦！引子在上一章，讲过bp神经网络虽然取得了很大的进步，但它本身存在着一些无法避免的问题，其中一个比较困惑的应该是局部最优解问题。所谓的局部最优解的问题就是：卡在一个小高点的位置，而却认为自己在最高点，导致训练提前结束。很多优化的算法相继提出，目前来说比较火热的也许应该算是多种算法的结合。在2015 “机器学习”年度回顾 中使用遗传算法进化的神经网络开发了能够自己玩超级玛丽的算法。遗传算法9世纪中叶，达尔文创立了科学的生物进化学说，以自然选择为核心的达尔文进化论，第一次对整个生物界的发生、发展，作出了唯物的、规律性的解释，推翻了特创论等唯心主义形而上学在生物学中的统治地位，使生物学发生了一个革命变革。达尔文 在重要著作《物种起源》：他使用在1830年代环球科学考察中积累的资料，试图证明物种演化是通过自然选择和人工选择实现的。 1967年，Holland的学生J.D.Bagley在博士论文中首次提出“遗传算法（Genetic Algorithms）”一词简称GA，他抓住了《物种起源》两个重要的规则：交叉和变异。把这两个过程用算法的方式完美的演绎出。Super Mario World的人工智能2002年，Kenneth O. Stanley 在Massachusetts Institute of Technology上发表了，《Evolving Neural Networks throughAugmenting Topologies》（神经网络进化拓扑结构），简称NEAT。 简单的来看，神经网络进化拓扑结构用的是遗传算法和神经网络的结合，能够最大程度的克服神经网络陷入局部最小值的问题。 2015年SethBling用他开发了一款能玩Super Mario World的人工智能。并开源了自己的代码，短短的一千多行的代码，就能够自己学习，并能够通关超级玛丽。代码使用lua写成，一千多行的代码，结构也非常的清晰。 代码用神经网络算法计算权值，用遗传算法（交叉和变异）优化权重。 神经网络的权值计算过程：交叉：看不见的努力和优化Super Mario World训练过程比较简洁，训练了一晚上以后，能够顺利的通过。再次用游戏的方法，看到了神经网络的威力。通过神经网络训练权值，并用遗传算法使自己最大限制的不掉进局部最小值里，可以训练出很多优秀的项目。 但这种应用处于初期，目前的阶段只能用于娱乐项目上，真正能够实用性的东西，还需要很多的努力。