总结利用机器学习FPGA的多种算法

Fankar

SA算法，Fea-G算法，DANOVA算法，SOA算法，Shooting算法。这个是从网页中，百度说他们特有的算法。
        Fea-G算法，DANOVA算法，SOA算法，没有任何资料。
         shooting算法，叫射门算法（百度和必应的结果）。但是射门算法，并不是机器学习算法。可能是百度自己创建的算法，命名重名了而已，或者是改进，所 以并没有公开所以没有任何资料。但是我还是解释一下，所说的射门算法的意思。射门算法，无论是百度还是论文都是设计到机器人足球比赛的。这个真的是射门算法。

        机器人在R点，球在B点。那最好的射门算法就是，计算出0点，然后运行机器人行走路线为弧C。然后射门AG路线。这个就是射门算法。和机器学习无关。所以实际应该不是这个。
         SA算法，也叫退火算法。和梯度下降法的意义是一样的。就是一种逼近模型。其实是一种2个函数逼近算法。其中一个函数，可能是离散的点，或者是半截函数， 这是目标函数。我现在就用一个函数去逼近那个函数，两个函数之间的误差，到某个程度就逼近完成了。为了保证有比较优的解，算法往往采取慢降温、多抽样、以 及把“终止温度”设的比较低等方式，导致算法运行时间比较长，但是从查找到的资料来看，它可以改进神经网络，神经网络是重要的一种图像识别方法。所以有必要对这方向做详细的了解分析。
局部搜索，模拟退火，遗传算法，禁忌搜索的形象比喻： 为了找出地球上最高的山，一群有志气的兔子们开始想办法。  
            1．兔子朝着比现在高的地方跳去。他们找到了不远处的最高山峰。但是这座山不一定是珠穆朗玛峰。这就是局部搜索，它不能保证局部最优值就是全局最优值。  
            2．兔子喝醉了。他随机地跳了很长时间。这期间，它可能走向高处，也可能踏入平地。但是，他渐渐清醒了并朝最高方向跳去。这就是模拟退火。  
              3．兔子们吃了失忆药片，并被发射到太空，然后随机落到了地球上的某些地方。他们不知道自己的使命是什么。但是，如果你过几年就杀死一部分海拔低的兔子， 多产的兔子们自己就会找到珠穆朗玛峰。这就是遗传算法。  4.兔子们知道一个兔的力量是渺小的。他们互相转告着，哪里的山已经找过，并且找过的每一座山他们都留下一只兔子做记号。他们制定了下一步去哪里寻找的策 略。这就是禁忌搜索。  梯度下降法，它和SA算法作用是一样的。只是有一些改进上的变化。梯度下降法，它是神经网络中的一部分嘛。其实从其他的资料显示，用退火算法来改进神经网 络会更好。我大概说下梯度下降法，梯度是最快的下降角度。比如你想找一条最短的路径走到一个盆地的最底部，梯度下降法每次只从你当前所处位置选一个坡度最 大的方向走一步，牛顿法在选择方向时，不仅会考虑坡度是否够大，还会考虑你走了一步之后，坡度是否会变得更大。所以，可以说牛顿法比梯度下降法看得更远一 点，能更快地走到最底部。
          遗传算法,遗传算法好像比较复杂一些，从性能角度上说，它好像是可以很容易的收敛到全局最小值，而不受局部最小值影响。缺点是，遗传算法通常的效率比其 他传统的优化方法低。遗传算法容易过早收敛。遗传算法对算法的精度、可行度、计算复杂性等方面，还没有有效的定量分析方法。  禁忌算法，半启发式算法，前面那些都是启发式算法。小兔子的比喻已经能够理解一部分了，我在说点，其实这几种都是一样的作用，都是逼近模型。禁忌算法里面 有一个表，也就是记录兔子在哪个山峰上。当然这个表是有限的，就是通过选最高的，在选最高的来找到最高点。也叫“tabu搜索算法”。从目前了解的情况来 看，好像没有找到优点和缺点。看来需要了解的更多。应该有比较新的缘故吧。  A星算法，对于这个算法我看了看好像也没有了解什么。可是从我查到的信息来看，好像和人工智能没什么关系。好像叫弱人工智能。但是它也是启发式搜索算法里 面的一种。在查找资料的时候，好像很少和人工智能有关。所以不做深入了解了。有这么一个概念就好了。  
                 蚁群算法，蚁群算法具有如下一些优点：①通用性较强，能够解决很多可以转换为连通图结构的路径优化问题；②同时具有正负反馈的特点，通过正反馈特点利用 局部解构造全局解，通过负反馈特点也就是信息素的挥发来避免算法陷入局部最优；③有间接通讯和自组织的特点，蚂蚁之间并没有直接联系，而是通过路径上的信 息素来进行间接的信息传递，自组织性使得群体的力量能够解决问题。但是，基本蚁群算法也存在一些缺点：①从蚁群算法的复杂度来看，该算法与其他算法相比， 所需要的搜索时间较长；②该算法在搜索进行到一定程度以后，容易出现所有蚂蚁所发现的解完全一致这种“停滞现象”，使得搜索空间受到限制。从文字里面了 解，好像蚁群算法还是挺复杂的。比较新，性能好像也可以，值得深入了解。所以我准备花时间去了解蚁群算法。https://blog.163.com /ykn_2010/blog/static/1420333362012111411258466/。原来蚁群算法就可以构成一本书。看来内容比较多 呀。  
                粒子群算法，PSO  算法属于进化算法的一种，和模拟退火算法相似，它也是从随机解出发，通过迭代寻找最优解，它也是通过适应度来评价解的品质，但它比遗传算法规则更为简单， 这种算法以其实现容易、精度高、收敛快等优点引起了学术界的重视，并且在解决实际问题中展示了其优越性。粒子群算法是一种并行算法。百度百科里面是这么描 述的。粒子群算法也有专门的教程。10年出版。从整体描述看来，它好像是更新的，也是前面退火算法的升级版。根据华中科技大学硕士论文 https://www.doc88.com/p-371141950562.html对粒子群算法的介绍，... 看来，也是神经网络中的一部分。可能需要深入了解一下。  
                 贪心算法，（开始）所以需要说明的是，贪心算法可以与随机化算法一起使用，具体的例子就不再多举了。其实很多的智能算法（也叫启发式算法），本质上就是 贪心算法和随机化算法结合——这样的算法结果虽然也是局部最优解，但是比单纯的贪心算法更靠近了最优解。例如遗传算法，模拟退火算法（结束）（百度百科里 面的）。这句话说明遗传算法，退火算法是一种贪心算法和随机化算法的结合。（开始）值得注意的是，贪心算法并不是完全不可以使用，贪心策略一旦经过证明成 立后，它就是一种高效的算法。贪心算法还是很常见的算法之一，这是由于它简单易行，构造贪心策略不是很困难（结束）（百度百科里面的）。从整体了解来看， 贪心算法缺点很多，好像和人工智能机器学习没有多少关系。贪心算法中，仅在当前状态下作出最好选择，即局部最优选择。然后在局部最优，怎么感觉和分类决策 树差不多呢？？但是它不是分类过程。pass。  文化算法，2002年David提出基于GP的双文化算法框架。此外他们还将文化算法用于图像分割、动态优化问题、数据挖掘等。
利用文化算法，求解全局优化问题，并取得良好结果。双文化算法框架，用于图像分割和数据挖掘。我查看了很多资料，最终也没有了解出，文化算法的优缺点，用在什么地方等信息。 但是从整体结构来看，好像比较特别。可能会在关注一下。  KMP算法，是一种模式匹配算法，没有了解到它和机器学习的联系。不过匹配功能好像是需要用到。考虑到KMP算法没有连用资料，所以暂时不考虑深入了 解。