Pourquoi aimer le collège ? (3 MA)

Hopfield provou, em seu trabalho original [19], que a rede conhecida por seu nome, minimiza uma função de energia, constituindo-se em um sistema estável, segundo o senso de Liapunov. Zurada [95] mostra que redes BAM [96] se constituem em memórias estáveis bidirecionais, pelo mesmo critério. No caso específico deste trabalho, deve ser provado, também segundo Liapunov, que as redes IAC, bem como o modelo ’A’, são estáveis. No entanto, isto já foi feito por Nascimento [21], que provou que a rede IAC é um sistema dinâmico não linear estável e que também minimiza uma função de energia, tal como a rede de Hopfield.

Como na rede de Hopfield, na rede IAC, a topologia é selecionada de forma a satisfazer restrições específicas do problema em estudo. A maior diferença na operação entre a rede de Hopfield e a rede IAC é a função de ativação não linear utilizada [21].

6.4.1 Estabilidade de Redes IAC

Nesta seção, é apresentada a prova tal como realizada por Nascimento [21]. A partir do equacionamento básico apresentado na seção 2.1, são feitas algumas considerações iniciais, para depois realizar a minimização de uma função de energia.

Sem perda de generalidade, e pelo fato de não se estar interessado no caso em que uma unidade está completamente isolada das outras, pode-se considerar que para cada unidade i,

wi j6=0 para ao menos um j. Ao assumir que min < 0 < max e |min| = max, as Equações

2.4 e 2.5 podem ser combinadas, resultando na Equação 6.6.

6. Estabilidade 85 Considerando que a rede opera em tempo contínuo, a Equação 6.6 é substituída pela Equação 6.7.

dyi

dt = −|neti|yi+netimax − decay(yi−rest) (6.7)

Para encontrar o ponto de equilíbrio do sistema ye

i, resolve-se a Equação 6.6, estabele-

cendo∆yi(k) = 0, ou a Equação 6.7, estabelecendo dyi/dt = 0. Desta forma, considerando

que nete

i representa o valor de entrada da rede para a unidade i quando a rede alcança o ponto

de equilíbrio, obtém-se a Equação 6.8.

ye_i = maxnet

e

i +decay rest

|net_ie| +decay (6.8) Geralmente, net_ie é desconhecido, e portanto, a Equação 6.8 não auxilia na tarefa de encontrar a posição do ponto de equilíbrio, no caso geral. Pode-se, porém, considerar que se

decay = 0:

• quando net_ie6=0, o ponto de equilíbrio é caracterizado por ye_i =max, se net_ie>0, ou

ye

i = −max, se netie<0;

• quando net_ie=0, a Equação 6.8 não pode ser usada para achar o ponto de equilíbrio, mas os pontos onde neti=0 para todas as unidades são também pontos de equilíbrio,

já que∆yi(ou dyi/dt) = 0 para todo i. Um ponto onde isto é possível, mas não o único,

é considerar exti=0 para todas as unidades e, consequentemente, ye_i =0, para todo i,

é um ponto de equilíbrio.

Além disto, para rest = 0 e pequenos valores de decay, sendo |decay| << |nete

i|, o ponto

de equilíbrio ainda se localiza próximo a max ou −max, e a condição neti=0 não é suficiente

para causar um ponto de equilíbrio.

Observa-se que se wi j =0 para todo j, significando que a unidade i é completamente

isolada das outras, então neti=exti e a condição para estabilidade é ter −decay < |exti| <

2 − decay, que pode também ser escrito como −|exti| <decay < 2 − |exti|. Portanto, tal

unidade pode formar um sistema unidimensional estável mesmo no caso de decay < 0. A posição dos pontos de equilíbrio é dada pela Equação 6.8, substituindo net_iepor exti.

De forma a mostrar que uma IAC também minimiza uma função de energia, inicial- mente, assume-se que decay = 0 e que a rede está ou dentro ou nas bordas do hipercubo [−max max]M, onde M é o número de unidades da rede. Isto significa que −max ≤ yi≤max

6. Estabilidade 86

H(t) = −1

2OTWO − extTO (6.9) onde ext e O são vetores coluna. Como no caso das redes de Hopfield, pode-se escrever a Equação 6.10. dH[O(t)] dt = M

∑

i=1 ∂H[O(t)] ∂Oi dOi dt = [5OH(O)]TO˙ (6.10)

Dado que a matriz de pesos W é simétrica, tem-se a Equação 6.11.

dH dt = −[WO + ext]TO = −net˙ TO = −˙ M

∑

i=1 netidO_dti (6.11)

Sabe-se, porém, que Oi=g(yi). Desta forma, tem-se a Equação 6.12.

dH dt = − M

∑

i=1 netidg(y_dyi) i dyi dt (6.12)

Usando a Equação 6.7, finalmente, obtém-se a Equação 6.13.

dH dt =          − M

∑

i=1 dg(yi) dyi net 2 i(max − yi), if neti≥0 − M

∑

i=1 dg(yi) dyi net 2 i(max + yi), if neti<0 (6.13)

Portanto dH/dt ≤ 0 para −max ≤ yi≤max, decay = 0, e dg(yi)/dyi>=0 para todo i,

sendo g(o_{)uma função monotonicamente crescente. A partir disto, pode-se também definir}

que dH/dt = 0 se e somente se dOi/dt = dyi/dt = 0 para todo i, isto é, a rede alcançou um

ponto de equilíbrio. Observa-se que neti=0 para todo i implica não somente que dH/dt = 0,

mas também que dyi/dt = 0 para todo i (ver Equação 6.7).

Agora, é necessário estudar o caso em que a rede é inicializada fora do hipercubo [−max max]M, ou seja, −max > yi >max para ao menos um i. Se yi ≥ 0, a Equação

6.7 pode ser escrita como a Equação 6.14.

dyi

dt =

(

−|neti|(|yi| −max) − decay(|yi| −rest) if neti≥0

6. Estabilidade 87 Por outro lado, se yi<0, a Equação 6.7 pode ser escrita como a Equação 6.15.

dyi

dt =

(

|neti|(|yi| +max) + decay(|yi| −rest) if neti≥0

|neti|(|yi| −max) + decay(|yi| −rest) if neti<0 (6.15)

As Equações 6.14 e 6.15 mostram respectivamente que, dado que decay > 0 e |rest| <

max:

• se yi>max, então dyi/dt < 0;

• se yi< −max, então dyi/dt > 0.

Em outras palavras, considerando o espaço de ativação, se a rede está fora do hipercubo [−max max]M e decay > 0, as mudanças nos valores de ativação são tais que dado tempo suficiente, a rede alcança as bordas do hipercubo, fazendo |yi| ≤max. Nota-se que, mesmo

no caso onde decay = 0, as mudanças na ativação ainda guiam a rede para as bordas do hipercubo [−max max]M_{, com a única exceção que a rede pode ser bloqueada na condição}

onde neti=0. Estando dentro ou nas bordas do hipercubo, a rede pesquisa o mínimo da

função de energia dado pela Equação 6.9, dado que, entre outras condições, decay = 0. Uma maneira de garantir que a função de energia dada pela Equação 6.9 é minimizada, é ter decay > 0 sempre que |yi| >max, para ao menos um i. Quando |yi| ≤ max para todo

i, estabelece-se decay para 0. Uma maneira mais simples seria definir o valor de decay para

algum valor positivo pequeno, e rest para 0, sendo assim desnecessário considerar se a rede está dentro do hipercubo ou não.

Da Equação 6.8, pode-se ver que isto causa somente uma pequena perturbação na posição dos pontos de equilíbrio, que estão localizados onde ye_i = −max ou max, assumindo que para tal ponto de equilíbrio, a condição |decay| << |nete

i|é satisfeita. Se os pontos de equilíbrio,

que são a solução para o problema satisfazem tal condição (em geral, tal informação não está disponível a priori), então, ainda poderia-se considerar que a função de energia dada pela Equação 6.9 está sendo minimizada. Contudo, a localização e o número dos outros pontos de equilíbrio (os pontos de equilíbrio que não estão nas esquinas do hipercubo [−max max]M) podem mudar significativamente.

Uma possível interpretação para o fato de decay > 0 trazer a rede para as bordas do hipercubo, seria porque isto impede os pontos onde neti=0 de serem pontos de equilíbrio.

E da Equação 6.8, pode-se ver que também força |ye

i| <max. Contudo, alguns dos pontos

que são pontos de equilíbrio para decay = 0 podem sofrer uma grande perturbação, se a condição |decay| << |nete

6. Estabilidade 88

Dans le document The DART-Europe E-theses Portal (Page 160-164)