机器智能学习笔记1.0
四个神经元模型:
经典的M-P数学模型:
该神经元模型如下图所示,E代表兴奋信号,I 代表抑制信号,Y 代表输出信号, T代表阈值,其输出逻辑如下表所示:
 
| Σ E \Sigma E ΣE | Σ I \Sigma I ΣI | Y | 
|---|---|---|
| Σ E \Sigma E ΣE ≥ T \geq T ≥T | Σ I = 0 \Sigma I = 0 ΣI=0 | 1 | 
| Σ E \Sigma E ΣE ≤ T \leq T ≤T | Σ I = 0 \Sigma I = 0 ΣI=0 | 0 | 
| Σ E \Sigma E ΣE ≥ T \geq T ≥T | Σ I ≥ 0 \Sigma I \geq 0 ΣI≥0 | 0 | 
| Σ E \Sigma E ΣE ≤ T \leq T ≤T | Σ I ≥ 0 \Sigma I \geq 0 ΣI≥0 | 0 | 
可以观察到,M-P神经元模型赋予了抑制性信号非常高的否决权,当输入的抑制信号满足抑制要求时,无论兴奋信号的输入多大,输出都是不兴奋。
线性加权神经元模型:
线性加权模型神经元模型在一定程度上改变了原有M-P模型抑制信号拥有极高否决权的状态,但神经元的结构没有发生改变,只是其输入与输出关系发生了变化,输出与输入关系如下表所示:
| Σ E \Sigma E ΣE and Σ I \Sigma I ΣI | Y | 
|---|---|
| Σ E − Σ I \Sigma E-\Sigma I ΣE−ΣI ≥ T \geq T ≥T | 1 | 
| Σ E − Σ I \Sigma E-\Sigma I ΣE−ΣI ≤ T \leq T ≤T | 0 | 
阈逻辑模型:

 阈逻辑模型是在前两者的基础上进一步改变权值而得到的一个新的神经元模型,阈逻辑模型的改变主要在两个方面,第一,将权重由原来的
    
     
      
       
        {
       
       
        0
       
       
        ,
       
       
        1
       
       
        }
       
      
      
       \{0,1\}
      
     
    {0,1}变成了可连续的一个取值,即权重的取值不再是0或者1,而是在两者之间的区间
    
     
      
       
        [
       
       
        0
       
       
        ,
       
       
        1
       
       
        ]
       
      
      
       [0,1]
      
     
    [0,1]进行取值;第二是不在区分兴奋和抑制两种信号,而是用权值的正负分别来代表它们,阈逻辑模型的工作函数如下所示:
 
     
      
       
        
         Y
        
        
         =
        
        
         
          {
         
         
          
           
            
             
              
               1
              
              
               ,
              
              
               w
              
              
               h
              
              
               e
              
              
               n
              
              
               Σ
              
              
               
                W
               
               
                i
               
              
              
               
                X
               
               
                i
               
              
              
               ≥
              
              
               T
              
             
            
           
          
          
           
            
             
            
           
          
          
           
            
             
              
               0
              
              
               ,
              
              
               w
              
              
               h
              
              
               e
              
              
               n
              
              
               Σ
              
              
               
                W
               
               
                i
               
              
              
               
                X
               
               
                i
               
              
              
               ≤
              
              
               T
              
             
            
           
          
         
        
       
       
        Y= \left\{ \begin{matrix} 1 , when \Sigma W_i X_i \geq T \\ \\ 0 , when \Sigma W_i X_i \leq T \\ \end{matrix} \right. 
       
      
     Y=⎩⎨⎧1,whenΣWiXi≥T0,whenΣWiXi≤T
 其中
    
     
      
       
        
         X
        
        
         i
        
       
       
        ∈
       
       
        {
       
       
        0
       
       
        ,
       
       
        1
       
       
        }
       
      
      
       X_i \in \{0,1\}
      
     
    Xi∈{0,1}(markdown不懂怎么输出小于号,所以只能用小于等于号代替)。
 当然,我们也可以换一种表述方式,即规定一个
    
     
      
       
        s
       
       
        g
       
       
        n
       
      
      
       sgn
      
     
    sgn函数:
 
     
      
       
        
         Y
        
        
         =
        
        
         s
        
        
         g
        
        
         n
        
        
         (
        
        
         Σ
        
        
         
          W
         
         
          i
         
        
        
         
          X
         
         
          i
         
        
        
         −
        
        
         T
        
        
         )
        
       
       
         Y = sgn(\Sigma W_i X_i - T) 
       
      
     Y=sgn(ΣWiXi−T)
 其中,
    
     
      
       
        
         X
        
        
         i
        
       
       
        ∈
       
       
        {
       
       
        −
       
       
        1
       
       
        ,
       
       
        1
       
       
        }
       
       
        ,
       
       
        Y
       
       
        ∈
       
       
        {
       
       
        −
       
       
        1
       
       
        ,
       
       
        1
       
       
        }
       
       
        ,
       
       
        s
       
       
        g
       
       
        n
       
       
        (
       
       
        Z
       
       
        )
       
       
        =
       
       
        
         {
        
        
         
          
           
            
             
              1
             
             
              ,
             
             
              Z
             
             
              ≥
             
             
              0
             
            
           
          
         
         
          
           
            
           
          
         
         
          
           
            
             
              0
             
             
              ,
             
             
              Z
             
             
              ≤
             
             
              0
             
            
           
          
         
        
       
      
      
       X_i \in \{-1,1\},Y \in \{-1,1\},sgn(Z)=\left\{ \begin{matrix} 1 , Z \geq 0 \\ \\ 0 , Z \leq 0 \\ \end{matrix} \right.
      
     
    Xi∈{−1,1},Y∈{−1,1},sgn(Z)=⎩⎨⎧1,Z≥00,Z≤0
阈值权值统一模型:
阈值权值统一模型是在阈逻辑模型的基础上在进行了一系列的改造,其结构如下图所示:
 
 这个模型在原先的基础上进行改进,将阈值信号用一个权值
    
     
      
       
        
         ω
        
        
         0
        
       
       
        =
       
       
        −
       
       
        1
       
      
      
       \omega_{0}=-1
      
     
    ω0=−1代替,然后阈值变成输入向量
    
     
      
       
        
         X
        
        
         0
        
       
      
      
       X_{0}
      
     
    X0,因此此时输入向量我们就可以表示为如下形式
    
     
      
       
        X
       
       
        =
       
       
        (
       
       
        
         x
        
        
         0
        
       
       
        ,
       
       
        
         x
        
        
         1
        
       
       
        ,
       
       
        .
       
       
        .
       
       
        .
       
       
        ,
       
       
        
         x
        
        
         n
        
       
       
        ,
       
       
        
         x
        
        
         
          n
         
         
          +
         
         
          1
         
        
       
       
        )
       
      
      
       X=(x_0,x_1,...,x_n,x_{n+1})
      
     
    X=(x0,x1,...,xn,xn+1),此时输出函数便变成了
     
      
       
        
         Y
        
        
         =
        
        
         
          Σ
         
         
          
           i
          
          
           =
          
          
           0
          
         
         
          
           n
          
          
           +
          
          
           1
          
         
        
        
         
          ω
         
         
          i
         
        
        
         
          X
         
         
          i
         
        
        
         =
        
        
         
          Σ
         
         
          
           i
          
          
           =
          
          
           1
          
         
         
          
           n
          
          
           +
          
          
           1
          
         
        
        
         (
        
        
         
          ω
         
         
          i
         
        
        
         
          X
         
         
          i
         
        
        
         )
        
        
         −
        
        
         
          ω
         
         
          0
         
        
        
         
          X
         
         
          0
         
        
       
       
        Y=\Sigma_{i=0}^{n+1} \omega_{i} X_i=\Sigma_{i=1}^{n+1} (\omega_{i} X_i )- \omega_0 X_0
       
      
     Y=Σi=0n+1ωiXi=Σi=1n+1(ωiXi)−ω0X0
 其中
    
     
      
       
        
         X
        
        
         0
        
       
      
      
       X_0
      
     
    X0便是代表阈值T。










