Racjonalista - Strona głównaDo treści
Biologiczne neurony używają dwukierunkowej propagacji->ANNs?

Ten wątek jest przedawniony

Działy Forum » Nauka
NapisanoAutorTytuł
15-05-2024 08:44Jarek Duda (1185 punktów)Biologiczne neurony używają dwukierunkowej propagacji->ANNs?
Propagacja sygnału w biologicznych neuronach jest dość symetryczna, np. "it is not uncommon for axonal propagation of action potentials to happen in both directions" ( journals.a(*)act/10.1103/PhysRevE.92.032707 ), mają znacznie lepsze uczenie "one-shot-learning" niż sztuczne, świadomość, etc.

Natomiast obecne sztuczne sieci neuronowe (ANN) są trenowane pod jednokierunkową propagację, poprzez trochę brute-force backpropagation ... raczej dość inaczej niż biologiczne.

Więc pytanie czy nie warto rozważyć wielokierunkowe sztuczne neurony ... tylko jak je zaprojektować, trenować, może wzorując się biologicznymi?



Konstrukcja z diagramu nad którą pracuję ( arxiv.org/pdf/2405.05097 ) to neurony zawierające model rozkładu łącznego połączeń:

- podstawiając część wejść dostajemy rozkłady warunkowe dla pozostałych - możemy propagować informację w dowolnym kierunku, nie tylko wartości ale i rozkłady,

- degeneruje się do tych modnych teraz KAN ( Kolmogorov-Arnold Network) jeśli ograniczymy się do zależności między parami zmiennych - można świadomie dodać między trójkami i wyżej,

- daje wiele nowych możliwości trenowania - np. bezpośrednią estymacją/updatem, czy dekompozycją tensorową ... może ewolucja biologiczna nauczyła się używać któryś z nich?

Jakby ktoś miał przemyślenia ...

Update: na KW rozwinęła się dyskusja: forum.kopa(*)nieść-do-sztucznych/
Autor wątku ma uprawnienia do usuwania wypowiedzi, jeżeli łamią regulamin Forum lub znacznie odbiegają od tematu.



Wróć do listy wątków działu Nauka
Aby pisać w tym wątku, musisz się zalogować

  

Zaloguj przez OpenID..
Jeżeli nie jesteś zarejestrowany/a - załóż konto..

Szukaj na Forum  Przewodnik  Regulamin i instrukcja obsługi Forum  Kolegium Moderatorów

[ Regulamin publikacji ] [ Bannery ] [ Mapa portalu ] [ Reklama ] [ Sklep ] [ Zarejestruj się ] [ Kontakt ]
Racjonalista © Copyright 2000-2018 (e-mail: redakcja | administrator)
Fundacja Wolnej Myśli, konto bankowe 101140 2017 0000 4002 1048 6365