Um neurônio artificial é uma função matemática concebida como um modelo de um neurônio biológico numa rede neural. O neurônio artificial é a unidade elementar de uma rede neural artificial.^[1]

O desenho do neurônio artificial foi inspirado na circuitaria biológica. As suas entradas são análogas aos potenciais pós-sinápticos excitatórios e inibitórios nos dendrites neurais, ou ativação. Os seus pesos são análogos aos pesos sinápticos, e a sua saída é análoga ao potencial de ação de um neurônio que é transmitido ao longo do seu axónio.

Normalmente, cada entrada é separadamente ponderada, e a soma é frequentemente adicionada a um termo conhecido como bias (correspondendo vagamente ao potencial limiar), antes de ser passada por uma função não linear conhecida como função de ativação. Dependendo da tarefa, estas funções podem ter uma forma sigmoide (por exemplo, para classificação binária), mas também podem assumir a forma de outras funções não lineares, funções lineares por partes, ou funções degrau. São também frequentemente monotonicamente crescentes, contínuas, diferenciáveis e limitadas. Funções de ativação não monótonas, não limitadas e oscilantes com múltiplos zeros que superam as funções de ativação sigmoides e tipo ReLU em muitas tarefas também foram recentemente exploradas. A função limiar inspirou a construção de portas lógicas referidas como lógica de limiar; aplicável à construção de circuitos lógicos que se assemelham ao processamento cerebral. Por exemplo, novos dispositivos como os memristores têm sido extensivamente usados para desenvolver essa lógica.^[2]

A função de ativação do neurônio artificial não deve ser confundida com a função de transferência de um sistema linear.

Um neurônio artificial pode ser referido como uma unidade semilinear, neurônio Nv, neurônio binário, função linear de limiar, ou neurônio de McCulloch–Pitts (MCP), dependendo da estrutura usada.

neurônios artificiais simples, como o modelo de McCulloch–Pitts, são por vezes descritos como "modelos caricatura", uma vez que se destinam a refletir uma ou mais observações neurofisiológicas, mas sem consideração pelo realismo.^[3] Os neurônios artificiais também podem referir-se a células artificiais na engenharia neuromórfica que são semelhantes aos neurônios físicos naturais.

Estrutura básica

Para um dado neurônio artificial ${\displaystyle k}$, sejam ${\displaystyle m+1}$ entradas com sinais ${\displaystyle x_{0}}$ a ${\displaystyle x_{m}}$ e pesos ${\displaystyle w_{k0}}$ a ${\displaystyle w_{km}}$. Normalmente, à entrada ${\displaystyle x_{0}}$ é atribuído o valor +1, o que a torna uma entrada de bias com ${\displaystyle w_{k0}=b_{k}}$. Isto deixa apenas ${\displaystyle m}$ entradas reais para o neurônio: ${\displaystyle x_{1}}$ a ${\displaystyle x_{m}}$.

A saída do ${\displaystyle k}$-ésimo neurônio é:

${\displaystyle y_{k}=\varphi \left(\sum _{j=0}^{m}w_{kj}x_{j}\right)}$,

em que ${\displaystyle \varphi }$ (phi) é a função de ativação.

A saída é análoga ao axónio de um neurônio biológico, e o seu valor propaga-se para a entrada da camada seguinte, através de uma sinapse. Pode também sair do sistema, possivelmente como parte de um vetor de saída.

Não tem nenhum processo de aprendizagem como tal. Os pesos da sua função de ativação são calculados, e o seu valor limiar é predeterminado.

neurônio de McCulloch–Pitts (MCP)

Um neurônio MCP é um tipo de neurônio artificial restrito que opera em passos de tempo discretos. Cada um tem zero ou mais entradas, escritas como ${\displaystyle x_{1},...,x_{n}}$. Tem uma saída, escrita como ${\displaystyle y}$. Cada entrada pode ser excitatória ou inibitória. A saída pode ser quieta ou a disparar. Um neurônio MCP também tem um limiar ${\displaystyle b\in \{0,1,2,...\}}$.

Numa rede neural MCP, todos os neurônios operam em passos de tempo discretos síncronos de ${\displaystyle t=0,1,2,3,...}$. No tempo ${\displaystyle t+1}$, a saída do neurônio é ${\displaystyle y(t+1)=1}$ se o número de entradas excitatórias a disparar for pelo menos igual ao limiar, e nenhuma entrada inibitória estiver a disparar; ${\displaystyle y(t+1)=0}$ caso contrário.

Pode ser usado para representar funções booleanas linearmente separáveis (por exemplo, AND, OR, NOR) mas não, por exemplo, XOR.^[4]

Cada saída pode ser a entrada de um número arbitrário de neurônios, incluindo ele próprio (ou seja, auto-laços são possíveis). No entanto, uma saída não pode conectar mais do que uma vez com um único neurônio. Auto-laços não causam contradições, uma vez que a rede opera em passos de tempo discretos síncronos.

Como exemplo simples, considere um único neurônio com limiar 0 e um único auto-laço inibitório. A sua saída oscilaria entre 0 e 1 a cada passo, atuando como um "relógio".

Qualquer máquina de estados finitos pode ser simulada por uma rede neural MCP.^[5] Munidas com uma fita infinita, as redes neurais MCP podem simular qualquer máquina de Turing.^[6]

Modelos biológicos

Os neurônios artificiais são projetados para imitar aspetos dos seus equivalentes biológicos. No entanto, existe uma lacuna de desempenho significativa entre as redes neurais biológicas e artificiais. Em particular, neurônios biológicos individuais no cérebro humano com função de ativação oscilante capazes de aprender a função XOR foram descobertos.^[7]

• Dendrites – nos neurônios biológicos, os dendrites atuam como o vetor de entrada. Estes dendrites permitem que a célula receba sinais de um grande número (>1000) de neurônios vizinhos. Como no tratamento matemático acima, cada dendrite é capaz de realizar a "multiplicação" pelo "valor do peso" desse dendrite. A multiplicação é realizada aumentando ou diminuindo a razão de neurotransmissores sinápticos para químicos de sinal introduzidos no dendrite em resposta ao neurotransmissor sináptico. Um efeito de multiplicação negativo pode ser alcançado transmitindo inibidores de sinal (ou seja, iões com carga oposta) ao longo do dendrite em resposta à receção de neurotransmissores sinápticos.
• Soma – nos neurônios biológicos, o soma atua como a função de soma, vista na descrição matemática acima. À medida que sinais positivos e negativos (excitatórios e inibitórios, respetivamente) chegam ao soma vindos dos dendrites, os iões positivos e negativos são efetivamente adicionados em soma, pela simples virtude de serem misturados na solução dentro do corpo da célula.
• Axónio – o axónio recebe o seu sinal do comportamento de soma que ocorre dentro do soma. A abertura para o axónio essencialmente amostra o potencial elétrico da solução dentro do soma. Uma vez que o soma atinge um certo potencial, o axónio transmitirá um pulso de sinal completo ao longo do seu comprimento. Neste aspeto, o axónio comporta-se como a capacidade de conectar o nosso neurônio artificial a outros neurônios artificiais.

Ao contrário da maioria dos neurônios artificiais, no entanto, os neurônios biológicos disparam em pulsos discretos. Cada vez que o potencial elétrico dentro do soma atinge um certo limiar, um pulso é transmitido ao longo do axónio. Este pulsar pode ser traduzido em valores contínuos. A taxa (ativações por segundo, etc.) a que um axónio dispara converte-se diretamente na taxa a que as células vizinhas recebem iões de sinal introduzidos nelas. Quanto mais rápido um neurônio biológico dispara, mais rapidamente os neurônios próximos acumulam potencial elétrico (ou perdem potencial elétrico, dependendo da "ponderação" do dendrite que conecta ao neurônio que disparou). É esta conversão que permite aos cientistas da computação e matemáticos simular redes neurais biológicas usando neurônios artificiais que podem produzir valores distintos (frequentemente de −1 a 1).

Células artificiais físicas

Há investigação e desenvolvimento de neurônios artificiais físicos – orgânicos e inorgânicos.

Por exemplo, alguns neurônios artificiais podem receber^[11][12] e libertar dopamina (sinais químicos em vez de sinais elétricos) e comunicar com músculo natural de rato musculatura e células cerebrais, com potencial para uso em ICCs/próteses.^[13][14]

Memristores de baixo consumo biocompatíveis podem permitir a construção de neurônios artificiais que funcionam a voltagens de potenciais de ação biológicos e poderiam ser usados para processar diretamente sinais de biossensoriamento, para computação neuromórfica e/ou comunicação direta com neurônios biológicos.^[15][16][17]

Circuitos neuromórficos orgânicos feitos de polímeros, revestidos com um gel rico em iões para permitir que um material transporte carga elétrica como neurônios reais, foram integrados num robô, permitindo-lhe aprender sensoriomotoramente dentro do mundo real, em vez de através de simulações ou virtualmente.^[18][19] Além disso, neurônios artificiais pulsantes feitos de matéria mole (polímeros) podem operar em ambientes biologicamente relevantes e permitir a comunicação sinérgica entre os domínios artificial e biológico.^[20][21]

História

O neurônio artificial foi proposto pela primeira vez por Warren McCulloch e Walter Pitts no seu artigo de 1943 "A Logical Calculus of the Ideas Immanent in Nervous Activity". Foi chamado de Unidade Lógica de Limiar ou Unidade Linear de Limiar.^[22] O modelo foi especificamente direcionado como um modelo computacional da "rede nervosa" no cérebro.^[23] Como função de ativação, empregava um limiar, equivalente a usar a função degrau de Heaviside. Inicialmente, apenas um modelo simples foi considerado, com entradas e saídas binárias, algumas restrições nos pesos possíveis e um valor limiar mais flexível. Desde o início já se notou que qualquer função booleana poderia ser implementada por redes de tais dispositivos, o que é facilmente visto pelo facto de se poder implementar as funções AND e OR, e usá-las na forma normal disjuntiva ou na forma normal conjuntiva. Os investigadores também rapidamente perceberam que redes cíclicas, com feedbacks através de neurônios, poderiam definir sistemas dinâmicos com memória, mas a maior parte da investigação concentrou-se (e ainda se concentra) em redes estritamente feed-forward devido à menor dificuldade que apresentam.

Uma rede neural artificial importante e pioneira que usou a função linear de limiar foi o perceptron , desenvolvido por Frank Rosenblatt. Este modelo já considerava valores de peso mais flexíveis nos neurônios, e foi usado em máquinas com capacidades adaptativas. A representação dos valores limiares como um termo de bias foi introduzida por Bernard Widrow em 1960 – ver ADALINE.

Um desenvolvimento posterior foi a Regra de Aprendizagem Hebbiana, proposta por Donald O. Hebb, que forneceu uma regra fundamental para ajustar os pesos em redes neurais.^[24] O princípio da aprendizagem Hebbiana postula que a conexão entre dois neurônios se fortalece se eles ativarem simultaneamente e se enfraquece se ativarem separadamente.^[24] Um refinamento da aprendizagem Hebbiana, conhecido como plasticidade dependente do tempo de impulso, foi desenvolvido para explicar o timing preciso dos impulsos neuronais.^[24] Esta forma de aprendizagem foi implementada em redes neuronais pulsantes, que se acredita serem mais eficientes em termos energéticos do que as ANNs tradicionais^{[necessário esclarecer][24]} e requerem menos energia para transmissão, pois processam dados com base na ocorrência de eventos em vez de computação contínua.^[24]

No final da década de 1980, quando a investigação sobre redes neurais recuperou força, começaram a ser considerados neurônios com formas mais contínuas. A possibilidade de diferenciar a função de ativação permite o uso direto do gradiente descendente e outros algoritmos de otimização para o ajuste dos pesos. As redes neurais também começaram a ser usadas como um modelo geral de aproximação de funções. O algoritmo de treino mais conhecido chamado backpropagation foi redescoberto várias vezes, mas o seu primeiro desenvolvimento remonta ao trabalho de Paul Werbos.^[25][26]

Tipos de função de ativação

A função de ativação de um neurônio é escolhida para ter várias propriedades que melhoram ou simplificam a rede que contém o neurônio. Crucialmente, por exemplo, qualquer perceptron multicamada usando uma função de ativação linear tem uma rede de camada única equivalente; uma função não linear é, portanto, necessária para obter as vantagens de uma rede multicamada.^{[carece de fontes?]}

Abaixo, ${\displaystyle u}$ refere-se em todos os casos à soma ponderada de todas as entradas do neurônio, ou seja, para ${\displaystyle n}$ entradas,

${\displaystyle u=\sum _{i=1}^{n}w_{i}x_{i}}$

em que ${\displaystyle w}$ é um vetor de pesos sinápticos e ${\displaystyle x}$ é um vetor de entradas.

Algoritmo em pseudocódigo

Segue-se uma implementação simples em pseudocódigo^{[carece de fontes?]} de uma única Unidade Lógica de Limiar que recebe entradas booleanas (verdadeiro ou falso) e retorna uma única saída booleana quando ativada. É usado um modelo orientado a objetos. Nenhum método de treino é definido, uma vez que existem vários. Se fosse usado um modelo puramente funcional, a classe Threshold Logic Unit abaixo seria substituída por uma função Threshold Logic Unit com parâmetros de entrada threshold, weights e inputs que retornasse um valor booleano.

class Threshold Logic Unit definido como:
    membro de dados threshold : número
    membro de dados weights : lista de números de tamanho X

    membro de função fire(inputs : lista de booleanos de tamanho X) : booleano definido como:
        variável T : número
        T ← 0
        para cada i de 1 a X faça
            se inputs(i) for verdadeiro então
                T ← T + weights(i)
            fim se
        fim para cada
        se T > threshold então
            retornar verdadeiro
        senão:
            retornar falso
        fim se
    fim função
fim classe

Ver também

• neurônio de ligação
• Conexionismo
• Receptrão

Referências

Leitura adicional

Ligações externas

• neurônio artificial imita função de células humanas
• McCulloch-Pitts Neurons (Overview)

O Commons possui imagens e outros ficheiros sobre Neurônio artificial