>> A jaka jest funkcja celu w przypadku ewolucji ? Ano taka: przeżyć w aktualnych warunkach środowiskowych i przekazać geny. Czy to od razu implikuje złożoność organizmu ? Co jest lepiej przystosowane do warunków ziemskich: słoń czy ameba ?
>
>Myślę, że są przystosowane podobnie. O to chodzi, ze nie ma zakazu komplikowania.

Zakazu nie ma. Może się sporadycznie zdarzyć mutacja komplikująca. Ale generalnie, jak nie ma pompy informacji, to układ czy też proces powinien się z upływem czasu rozłazić, a nie komplikować.

>>Myślę, że są przystosowane podobnie. O to chodzi, ze nie ma zakazu komplikowania.
>
>Zakazu nie ma. Może się sporadycznie zdarzyć mutacja komplikująca. Ale generalnie, jak nie ma pompy informacji, to układ czy też proces powinien się z upływem czasu rozłazić, a nie komplikować.

No dobra. Powiedz czemu Twoim zdaniem powinien się rozłazić. Tylko nie powołuj się na Świetą Drugą Zasadę Termodynamiki bo ona jest "wysokopoziomowa". Pokaż rozsądne pzryczyny, możesz na jakimś modelu, dlaczego ma się to niby rozłazić.

generalnie, jak nie ma pompy informacji, to układ czy też proces powinien się z upływem czasu rozłazić, a nie komplikować.
>
>No dobra. Powiedz czemu Twoim zdaniem powinien się rozłazić. Tylko nie powołuj się na Świetą Drugą Zasadę Termodynamiki bo ona jest "wysokopoziomowa". Pokaż rozsądne pzryczyny, możesz na jakimś modelu, dlaczego ma się to niby rozłazić.

Wymijające odpowiedzi, odwracanie kota ogonem. Wobec takiej taktyki nie widzę sensu kontynuować tej dyskusji. Powiedz mi tylko jedno. Czy Ty naprawdę nie masz żadnych wątpliwości, co do możliwości spontanicznego powstania życia na Ziemi ?

Jak wiadomo, większą część masy ciała większości (wszystkich?) istot żywych, stanowi woda.
Organizmy wodę pobierają, 'używają', a następnie wydalają lub odparowują. Przy okazji, zwykle podgrzewają ją (mimowolnie) do swojej temperatury. Coż się dzieje z entropią w takim przypadku? Otóż podgrzanie wody a następnie jej odparowanie (lub wcześniejsze wydalenie cieplejszej niż pobrana) powoduje wzrost entropii.
Dla przykładu, ugotowanie i odprarowanie 2l wody w temp. 10 stopni, powoduje jej wzrost o 14,4*10^3 J/K.
Inny przykład: ciało żywe, jako (prawie zawsze) cieplejsze od otoczenia, oddaje otoczeniu temperaturę; ciało cieplejsze ogrzewa chłodniejsze, np. krowa ogrzewa powietrze w oborze, żeby daleko nie szukać
Takiemu przekazywaniu ciepła towarzyszy.. wzrost entropii całego układu tych ciał.
Co prawda same organizmy żywe wydają się być bardziej uporządkowane niż czysty chaos, ale:
-sam proces życia powoduje ciągły wzrost entropii
-ta organizacja odbywa się kosztem 'pożyczania' entropii z zewnątrz. przecież aby utrzymać uporządkowanie wewnątrz, organizm musi przerobić określoną ilość materii z zewnątrz, co znów prowadzi do wzrostu entropii.
Co do 'drugiej termodynamicznej', to związek z życiem jest dosyć ogólny. Co prawda, przetwarzanie ciepła na pracę to jest coś, co organizmy robią, ale jak to robią, to już zupełnie inna beczka.
A zresztą, co się będę produkował: www.mensa.org.pl/forum/61/meandry.html
(przecież i tak nie rozumiem termodynamiki, prawda? )
Przy okazji, przypomniała mi się ciekawa rzecz: co by się stało z organizmem żywym, gdyby go umieścić nagle w próżni kosmicznej?
Zagotowałby się (woda wrze w temp. proporcjonalnej do ciśnienia).

>Jak wiadomo, większą część masy ciała większości (wszystkich?) istot żywych, stanowi woda.
>Organizmy wodę pobierają, 'używają', a następnie wydalają lub odparowują. Przy okazji, zwykle podgrzewają ją (mimowolnie) do swojej temperatury. Coż się dzieje z entropią w takim przypadku? Otóż podgrzanie wody a następnie jej odparowanie (lub wcześniejsze wydalenie cieplejszej niż pobrana) powoduje wzrost entropii.

Entropii czego ? Organizmu czy wody ?
Nawet jeśli ciało składa się w większości z wody, to jest ono jednak czymś więcej niż wodą. A jak się rozwija embrion, to mamy wzrost czy spadek entropii organizmu ?
Jak sądzisz ?

>
>Co prawda same organizmy żywe wydają się być bardziej uporządkowane niż czysty chaos, ale:

Aha, wreszcie zajarzyłem ! Organizmy żywe tylko WYDAJĄ SIĘ być bardziej uporządkowane niż chaos ! Jak mogłem tej oczywistej prawdy wcześniej nie zauważyć !

>-sam proces życia powoduje ciągły wzrost entropii
>-ta organizacja odbywa się kosztem 'pożyczania' entropii z zewnątrz. przecież aby utrzymać uporządkowanie wewnątrz, organizm musi przerobić określoną ilość materii z

No to ja już nic nie rozumiem. To w końcu wewnątrz organizmu uporządkowanie utrzymuje się czy maleje ? Jest organizacja czy chaos ?

>Entropii czego ? Organizmu czy wody ?
układu woda+organizm

>Nawet jeśli ciało składa się w większości z wody, to jest ono jednak czymś więcej niż wodą.
dla entropii układu nie ma większego znaczenia, czym ono jest.

>Aha, wreszcie zajarzyłem ! Organizmy żywe tylko WYDAJĄ SIĘ być bardziej uporządkowane niż chaos!
uporządkowanie zależy głównie od naszej tego oceny. obiektywnie można to ocenić tylko w czasie, gdy uład się zmienia i przyjmuje (lub nie) kolejne stany. im więcej ich przyjmnie, tym mniej jest uporządkowany.

>Jak mogłem tej oczywistej prawdy wcześniej nie zauważyć !
nie wiem :>

>To w końcu wewnątrz organizmu uporządkowanie utrzymuje się czy maleje?
a co to jest wnętrze organizmu? nie żyjemy przecież w próżni. rozpatrywać można tylko cały układ, bo organizmu nie da się całkowicie wyizolować ze środowiska (nie powodując jego nagłej śmierci..)
jak się układ izoluje, to wychodzą absurdy (jak np. ten, że lodówka zmniejsza entropię..)

>Jest organizacja czy chaos?
jakaś organizacja zawsze jest (w skończonym zbiorze), ale ona się zmienia w czasie, przyjmując kolejne, nowe stany. a im więcej stanów, tym mniejszy porządek. co prawda większy niż w czystym chaosie, ale mniejszy niż np. w krysztale. a co ma większą entropię, diament czy wątroba o tej samej wadze?

>>Aha, wreszcie zajarzyłem ! Organizmy żywe tylko WYDAJĄ SIĘ być bardziej uporządkowane niż chaos!
>uporządkowanie zależy głównie od naszej tego oceny. obiektywnie można to ocenić tylko w czasie, gdy uład się zmienia i przyjmuje (lub nie) kolejne stany. im więcej ich przyjmnie, tym mniej jest uporządkowany.

Hm, czyli entropia jest pojęciem subiektywnym. Jestem doprawdy przytłoczony racjonalnością Twojego wywodu.

>>>Aha, wreszcie zajarzyłem ! Organizmy żywe tylko WYDAJĄ SIĘ być bardziej uporządkowane niż chaos!
>>uporządkowanie zależy głównie od naszej tego oceny. obiektywnie można to ocenić tylko w czasie, gdy uład się zmienia i przyjmuje (lub nie) kolejne
>>stany. im więcej ich przyjmnie, tym mniej jest uporządkowany.
>Hm, czyli entropia jest pojęciem subiektywnym.
tego nie napisałem. po prostu nie ma czegoś takiego jak obiektywne uporządkowanie, bo niby to by to miało być? dopiero zmiany układu w czasie mówią nam, czy jest chaotyczny czy uporządkowany.
zastanów się nad podanymi przykładami, to przestaniesz się dziwić.

>>Hm, czyli entropia jest pojęciem subiektywnym.
>tego nie napisałem. po prostu nie ma czegoś takiego jak obiektywne uporządkowanie, bo niby to by to miało być? dopiero zmiany układu w czasie mówią nam, czy jest chaotyczny czy uporządkowany.
>zastanów się nad podanymi przykładami, to przestaniesz się dziwić.

Entropia jest miarą nieuporządkowania materii i jest to wielkość statyczna a nie dynamiczna. Czas nie ma tu nic do rzeczy, chyba że mówimy o zmianach entropii w czasie.
Jeśli chodzi o pytanie, co ma mniejszą entropię, wątroba czy diament , to odpowiedź jest prosta - wątroba. Po prostu dlatego, że więcej informacji potrzeba, aby zbudować wątrobę (załóżmy że potrafimy to zrobić). Tak samo więcej informacji potrzeba, żeby wyprodukować tranzystor, niż żeby zbić z desek budę dla psa. Układ, który zawiera więcej informacji, ma mniejszą entropię.

>Entropia jest miarą nieuporządkowania materii i jest to wielkość statyczna a nie dynamiczna. Czas nie ma tu nic do rzeczy, chyba że mówimy o zmianach entropii w czasie.

Kurka wodna, Marku! Opowiedz o swojej klasyfikacji wielkości fizycznych. Skąd ten piękny podział: dynamiczne, statyczne? Wtajemnicz nas. Pęd jest statyczny, czy dynamiczny? Temperatura?

>Jeśli chodzi o pytanie, co ma mniejszą entropię, wątroba czy diament , to odpowiedź jest prosta - wątroba. Po prostu dlatego, że więcej informacji potrzeba, aby zbudować wątrobę (załóżmy że potrafimy to zrobić). Tak samo więcej informacji potrzeba, żeby wyprodukować tranzystor, niż żeby zbić z desek budę dla psa. Układ, który zawiera więcej informacji, ma mniejszą entropię.

Znów się kłócisz o znaczenie pojęć, których znaczenia nie znasz. Wydaje Ci się że znasz, bo opacznie rozumiesz książki, które czytasz. Zapewniam Cię stanowczo, że wątroba ma dużo wyższą entropię od diamentu. I zapewniam Cię również, że to raczej mała ilość informacji świadczy o małej entropii...

marcin, ja już rzygam tą entropią %-P

>marcin, ja już rzygam tą entropią %-P

Ja też Michale , więc się na jakiś czas wynoszę. Na Katoliku zrobiło się wesoło. Właśnie dał o sobie znać Gandamar. Proponuje samobójstwo jako metodę poznania Prawdy.

>>Hm, czyli entropia jest pojęciem subiektywnym.
>tego nie napisałem. po prostu nie ma czegoś takiego jak obiektywne uporządkowanie, bo niby to by to miało być? dopiero zmiany układu w czasie mówią nam,
>czy jest chaotyczny czy uporządkowany.
>Entropia jest miarą nieuporządkowania materii i jest to wielkość statyczna a nie dynamiczna
tego też nie napisałem. po prostu, jeżeli czas nie płynie, to i entropia się nie zmieni. jeżeli widzimy tylko jedną klatkę obrazu, to nie wiemy, czy układ jest uporządkowany, czy nie.

może zacytuję kogoś, bo widzę, że mi nie wierzysz:
"Aby móc określić entropię musimy mieć do czynienia z wielokrotnym pomiarem zmieniającego się układu. [..]
Entropia osiąga maksymalną wartość, jeśli każda możliwa konfiguracja występuje tak samo często. Entropia jest minimalna, ma wartość zero, jeśli układ znajduje się zawsze w jednej konfiguracji." (Jan Mostowski, Instytut Fizyki PAN)
trzecia termodynamiczna mówi, że w T=0, entropia jest zerowa-bo nie ma zmian, jest tylko jedna możliwa konfiguracja. jest to równoważne stwierdzeniu, że stanowi makroskopowemu o temperaturze T=0 odpowiada tylko jeden mikrostan.

>Czas nie ma tu nic do rzeczy, chyba że mówimy o zmianach entropii w czasie.
no właśnie o tym mówimy.

>Tak samo więcej informacji potrzeba, żeby wyprodukować tranzystor, niż żeby zbić z desek budę dla psa.
wprost przeciwnie. tranzystor jest bardzo prostą rzeczą, wystarczy połączyć trzy kawałki półprzewodnika.

>Układ, który zawiera więcej informacji, ma mniejszą entropię.
no to sprawdźmy, który ciąg ma mniejszą entropię: 'eeeeeeeeeeeeeeee' czy '1234567890qwerty' ?
mnie się wydaje, że pierwszy, bo ma mniej informacji. więc się mylisz. (oczywiście wg Shannonowskiej interpretacji entropii)

w takim razie:
>Jeśli chodzi o pytanie, co ma mniejszą entropię, wątroba czy diament, to odpowiedź jest prosta - wątroba.
>Po prostu dlatego, że więcej informacji potrzeba, aby zbudować wątrobę (załóżmy że potrafimy to zrobić).
czyli wg ciebie, więcej informacji trzeba, aby zbudować wątrobę-zgadzam się. dużo mniej trzeba, aby zbudować kryształ o regularnej budowie (dla ułatwienie załóżmy, że ich temperatury są równe).
choćby tylko dlatego, wątroba ma większą entropię niż diament.

wszystkie rzeczywiste procesy chemiczne i fizyczne zachodzą w kierunku wzrostu sumy entropii układu i otoczenia, dlatego entropia wątroby, jako czegoś, w czym zachodzą procesy chemiczne, będzie rosła, a diamentu praktycznie nie-sieć krystaliczna zachowuje się biernie.
to, co żyje, musi powodować wzrost entropii w swoim układzie, a kryształ może być w równowadze termodynamicznej-czyli jego entropia się (prawie) nie zmieni.
dodatkowo, organizm żywy raczej wewnętrznie entropii nie zmniejsza (może chwilowo), a jedynie stara się ją utrzymać na stałym poziomie, aby nie rosła za szybko. gdyby ta entropia malała, bylibyśmy nieśmiertelni

każdy proces życia powoduje wzrost entropii układu; podam może zabawny przykład:
"Jeśli pamiętasz, Czytelniku, każde słowo tej książki, to Twoja pamięć zarejestrowała około dwóch milionów jednostek informacji i porządek w Twym mózgu wzrósł o tyleż jednostek. Podczas czytania zmieniłeś jednak co najmniej tysiąc kalorii uporządkowanej energii w postaci jedzenia na energię nie uporządkowaną, głównie w postaci ciepła, które rozproszyło się w powietrzu wskutek konwekcji, i pocenia się. To zwiększyło nieporządek we Wszechświecie o jakieś 20 milionów milionów milionów milionów jednostek, czyli 10 milionów milionów milionów razy więcej niż wyniósł wzrost porządku w Twoim mózgu - i to pod warunkiem, że zapamiętałeś każde słowo." (S. Hawking, "Krótka historia czasu")

problem w tym, że istnieje kilka definicji entropii, a definiowanie jej jako miary nieuporządkowania nie zawsze się sprawdza. bo czasem nie wiemy, czy coś jest czy nie jest uporządkowane.
przykład: wchodzisz do pokoju, a tam na podłodze leży 1000 kostek do gry, każda gdzie indziej i inaczej. pytam: czy to jest uporządkowanie, czy nie? odpowiedz.

generalnie, już mi się niedobrze robi na słowo entr.. zawsze jak się przechodzi od wzorów do filozofii pojawiają się problemy z interpretacją.

>może zacytuję kogoś, bo widzę, że mi nie wierzysz:
>"Aby móc określić entropię musimy mieć do czynienia z wielokrotnym pomiarem zmieniającego się układu. [..]

Entropia organizmu jako całości z pewnością może ulegać pewnym wahaniom w czasie, ale jej wartość średnia utrzymuje małą wartość. W przeciwnym razie moje ciało po prostu rozleciałoby się.

>>>Układ, który zawiera więcej informacji, ma mniejszą entropię.
>no to sprawdźmy, który ciąg ma mniejszą entropię: 'eeeeeeeeeeeeeeee' czy '1234567890qwerty' ?
>mnie się wydaje, że pierwszy, bo ma mniej informacji. więc się mylisz. (oczywiście wg Shannonowskiej interpretacji entropii)

Zaraz, zaraz, jeśli ma mniej informacji, to ma większą entropię a nie mniejszą. Ale to i tak wszystko zależy, co rozumiemy pod pojęciem informacji. Dla mnie informacja jest miarą naszej wiedzy o jakimś obiekcie. Im więcej wiedzy potrzebujemy, aby opisać pewien obiekt, tym mniejszą ma on entropię.

>
>czyli wg ciebie, więcej informacji trzeba, aby zbudować wątrobę-zgadzam się. dużo mniej trzeba, aby zbudować kryształ o regularnej budowie (dla ułatwienie załóżmy, że ich temperatury są równe).
>choćby tylko dlatego, wątroba ma większą entropię niż diament.
>

Wiadomo, że jeśli cząstka ma większą temperaturę, to ma większe drgania i tym samym większą entropię. Tak więc poszczególne cząstki wątroby mają większą entropię niż poszczególne cząstki diamentu. Ale przecież ja rozpatruję te obiekty jako całość. Na poziomie makroskopowym wątroba jawi się jako twór o niezwykłej organizacji i uporządkowaniu. Wątroba, tak jak całe ciało, musi oddawać do otoczenia energię w postaci ciepła, czyli wypromieniowuje fotony. Dzięki temu zwiększa się entropia otoczenia i zachowana jest druga zasada termodynamiki.

>
>każdy proces życia powoduje wzrost entropii układu; podam może zabawny przykład:
>"Jeśli pamiętasz, Czytelniku, każde słowo tej książki, to Twoja pamięć zarejestrowała około dwóch milionów jednostek informacji i porządek w Twym mózgu wzrósł o tyleż jednostek. Podczas czytania zmieniłeś jednak co najmniej tysiąc kalorii uporządkowanej energii w postaci jedzenia na energię nie uporządkowaną, głównie w postaci ciepła, które rozproszyło się w powietrzu wskutek konwekcji, i pocenia się. To zwiększyło nieporządek we Wszechświecie o jakieś 20 milionów milionów milionów milionów jednostek, czyli 10 milionów milionów milionów razy więcej niż wyniósł wzrost porządku w Twoim mózgu - i to pod warunkiem, że zapamiętałeś każde słowo." (S. Hawking, "Krótka historia czasu")
>

No i jak widać Hawking, podobnie jak Reeves, potwierdza moje słowa, a więc jest już dwóch znanych fizyków, którzy ze mną się zgadzają. Mniej więcej to samo, co Hawking, tylko używając innych przykładów (powstawanie gwiazdy), zawarłem w swojej wypowiedzi z 31 października.

>przykład: wchodzisz do pokoju, a tam na podłodze leży 1000 kostek do gry, każda gdzie indziej i inaczej. pytam: czy to jest uporządkowanie, czy nie? odpowiedz.
>

Z takiego układu kostek raczej nie wyciągnę jakiejś sensownej informacji, więc dla mnie to jest nieuporządkowanie.

>generalnie, już mi się niedobrze robi na słowo entr.. zawsze jak się przechodzi od wzorów do filozofii pojawiają się problemy z interpretacją.

Mnie też już robi się niedobrze.

>Zaraz, zaraz, jeśli ma mniej informacji, to ma większą entropię a nie mniejszą.
wprost przeciwnie. ile będziemy to wałkować? twój problem polega na tym, że czasem nie rozumiesz co czytasz. przeczytaj jeszcze raz definicje zmian entropii i moje przykłady.

>Ale to i tak wszystko zależy, co rozumiemy pod pojęciem informacji.
chodzi nam minimalną ilość bitów, prawda..?

>Im więcej wiedzy potrzebujemy, aby opisać pewien obiekt, tym mniejszą ma on entropię.
wiedzy potrzebujemy zawsze tyle (proporcjonalnie), ile jest w obiekcie cząstek.
definicja Shannona mówi o prawdopodobieństwie i częstości wystąpienia elementu w zbiorze. im większe uporządkowanie, tym mniej takich informacji potrzeba (bo się np. powtarzają) i tym mniejsza entropia informacyjna danego układu. łatwo opisać diament, trudniej wątrobę.

>Wiadomo, że jeśli cząstka ma większą temperaturę, to ma większe drgania i tym samym większą entropię.
czytasz nieuważnie:
>(dla ułatwienia załóżmy, że ich temperatury są równe).

>No i jak widać Hawking, podobnie jak Reeves, potwierdza moje słowa, a więc jest już dwóch znanych fizyków, którzy ze mną się zgadzają.
jakie słowa? ty nie mówiłeś o tym, że utrzymywanie stosunkowo małej entropii organizmu odbywa się kosztem gigantycznego wzrostu tejże na zewnątrz.

>Mniej więcej to samo, co Hawking, tylko używając innych przykładów (powstawanie gwiazdy)
powstanie gwiazdy także zwiększa entropię, tylko że kosztem energii grawitacyjnej. nie ma procesu, który by entropię układu zmniejszał. a skoro gwiazda ma mniejszą entropię niż to, z czego powstała, to cóż jest dziwnego, że i organizmy mają małą entropię?

>>przykład: wchodzisz do pokoju, a tam na podłodze leży 1000 kostek do gry, każda gdzie indziej i inaczej. pytam: czy to jest uporządkowanie, czy nie?
>>odpowiedz.
>Z takiego układu kostek raczej nie wyciągnę jakiejś sensownej informacji, więc dla mnie to jest nieuporządkowanie.
(na szczęście to nie było pytanie na IQ) ty może nie wyciągniesz, ale ktoś, kto czyta uważnie zauważy, że napisałem coś takiego:
>jakaś organizacja zawsze jest (w skończonym zbiorze)
na skończonym zbiorze kostek zawsze można określić jakąś funkcję, której wartości dla kolejnych kostek będą kolejnymi liczbami naturalnymi.
czyli od czego zależy to uporządkowanie, skoro twoje myślenie prowadzi notorycznie do błędnych wniosków?
ja widzę dwie możliwości: błędne przesłanki albo błędne rozumowanie. zastanów się.

"Jeżeli jakiś zbiór M składa się wyłącznie z elementów mi, a wszystkich elementów mi jest razem n, p(mi) jest częstością występowania elementu mi w zbiorze M, czyli SUMA(p(mi))=1 wówczas można obliczyć entropię zbioru M jako S=-k*SUMA(i=1(1)n; n*p(mi)*log2(p(mi))+const"
dlatego nie ma sensu 'porządek' pojedynczego układu, bo się w nim nic nie zmienia.

>>No i jak widać Hawking, podobnie jak Reeves, potwierdza moje słowa, a więc jest już dwóch znanych fizyków, którzy ze mną się zgadzają.
>jakie słowa? ty nie mówiłeś o tym, że utrzymywanie stosunkowo małej entropii organizmu odbywa się kosztem gigantycznego wzrostu tejże na zewnątrz.
>

Jak to nie, do jasnej cholery !? To ty czytasz nieuważnie moje słowa i ich nie rozumiesz. Napisałem coś takiego:

Podobna sytuacja jest w przypadku tworzenia się nowej gwiazdy z materii kosmicznej. Materia skupiając się pod wpływem sił ciążenia zmniejsza entropię w swoim wnętrzu. Staje się coraz gęstsza. Równocześnie jednak wypromieniowuje fotony, które powodują ogólny wzrost entropii we wszechświecie. W tym przypadku spadek entropii wewnątrz gwiazdy jest spowodowany siłą grawitacji.

Tak naprawdę powyższy przykład nie jest wymyślony przeze mnie. Jest on zaczerpnięty z książki Reevesa. Jeśli się z tym nie zgadzasz, to tym samym twierdzisz, że Reeves gada głupoty, podobnie jak Hawking. Naprawdę nie mam już sił tłumaczyć ci wszystkiego, jak krowie na granicy.

> że Reeves gada głupoty, podobnie jak Hawking. Naprawdę nie mam już sił tłumaczyć ci wszystkiego, jak krowie na granicy.

Sorry, trochę mnie poniosło. Chyba powinienem dać sobie na wstrzymanie. Piszę więc po raz ostatni.
Wydaje mi się, że nasze nieporozumienia biorą się stąd, iż rozmawiamy o dwóch różnych rzeczach. Zgodnie z Twoim rozumowaniem, entropię można by potraktować, jako miarę naszej niewiedzy o układzie materialnym. Wtedy rzeczywiście, im prostszy (co wcale nie znaczy bardziej uporządkowany) obiekt, tym mniej wymaga informacji do opisu i tym samym miara niewiedzy jest mniejsza. Załóżmy, że mamy cząstkę materialną, która może przyjmować z równym prawdopodobieństwem np. 6 możliwych stanów. Nasza wiedza o niej jest znikoma, ponieważ nie umiemy przewidzieć, w jakim stanie za chwilę będzie cząstka. Entropia informacyjna, czyli nasza niewiedza jest wtedy maksymalna. Jeśli natomiast cząstka przyjmuje jeden możliwy stan to mamy o niej pełną informację, a entropia informacyjna jest równa zeru. A zatem Ty mówisz o entropii informacyjnej, która odnosi się raczej do informacji niż do materii. Ja mówię o entropii układu cząstek materialnych, która ściśle wiąże się z organizacją materii. Tak pojmowaną entropię można obliczyć ze wzoru:

S=k*lnp; gdzie k-stała Boltzmana,
p-prawdopodobieństwo znalezienia się układu w danym stanie.

Im wyższy stopień zorganizowania układu cząstek, tym mniejsze prawdopodobieństwo, że układ będzie w nim się znajdował. Układ będzie z czasem dążył do przyjmowania stanów bardziej prawdopodobnych, a więc bardziej chaotycznych. Aby zwiększyć organizację lub ją utrzymać, należy oczywiście napompować go informacją. Prawdopodobieństwo, że stanie się to spontanicznie jest bowiem małe. W związku z tym problem entropii wątroby i diamentu można rozstrzygnąć wyznaczając prawdopodobieństwo spontanicznego uformowania się tych dwóch obiektów. Co prawda jest to trudne do policzenia, ale podejrzewam, że mniejsze będzie prawdopodobieństwo zmaterializowania się wątroby, a co za tym idzie będzie ona mieć mniejszą entropię. Tak mi się przynajmniej wydaje.

>Tak mi się przynajmniej wydaje.
to niech ci się już nie wydaje, bo chyba wreszcie załapałeś. i nie krzycz na mnie, bo gdybym ci tych rzeczy (razem z marcinem) nie wyjaśnił, to dalej tkwił byś w błędzie 'entropiczno-wątrobowym'

>>Tak mi się przynajmniej wydaje.
>to niech ci się już nie wydaje, bo chyba wreszcie załapałeś. i nie krzycz na mnie, bo gdybym ci tych rzeczy (razem z marcinem) nie wyjaśnił, to dalej tkwił byś w błędzie 'entropiczno-wątrobowym'

No nie ! To ja wreszcie załapałem !? Ja tkwiłem w błędzie !? Ręce po prostu opadają. A kto cały czas z uporem maniaka twierdził, że wątroba ma dużo wyższą entropię od diamentu ? Ja ? I kto tu nie rozumie pojęć ? Odwracanie kota ogonem to wasza specjalność.

kpisz, czy o drogę pytasz? odświeżę ci pamięć:
Marek:
>Jeśli chodzi o pytanie, co ma mniejszą entropię, wątroba czy diament, to odpowiedź jest prosta - wątroba.
>[..] Układ, który zawiera więcej informacji, ma mniejszą entropię.
marcin:
>Zapewniam Cię stanowczo, że wątroba ma dużo wyższą entropię od diamentu.
Michał:
>[..] choćby tylko dlatego, wątroba ma większą entropię niż diament.
>[..] dlatego entropia wątroby, jako czegoś, w czym zachodzą procesy chemiczne, będzie rosła, a diamentu praktycznie nie
>[..] im większe uporządkowanie [..] tym mniejsza entropia informacyjna danego układu.
Marek:
>Zaraz, zaraz, jeśli ma mniej informacji, to ma większą entropię a nie mniejszą.
>[..] Co prawda jest to trudne do policzenia, ale podejrzewam, że mniejsze będzie prawdopodobieństwo zmaterializowania się wątroby, a co za tym idzie będzie ona mieć mniejszą entropię. Tak mi się przynajmniej wydaje.
>Tak mi się przynajmniej wydaje.
>[..] A kto cały czas z uporem maniaka twierdził, że wątroba ma dużo wyższą entropię od diamentu? Ja?
nie, właśnie nie ty. i tu jest problem.
>Odwracanie kota ogonem to wasza specjalność.
a świstak siedzi..

> Wtedy rzeczywiście, im prostszy (co wcale nie znaczy bardziej uporządkowany) obiekt, tym mniej wymaga informacji do opisu i tym samym miara niewiedzy jest mniejsza.
> Załóżmy, że mamy cząstkę materialną, która może przyjmować z równym prawdopodobieństwem np. 6 możliwych stanów. Nasza wiedza o niej jest znikoma, ponieważ nie umiemy przewidzieć, w jakim stanie za chwilę będzie cząstka. Entropia informacyjna, czyli nasza niewiedza jest wtedy maksymalna. Jeśli natomiast cząstka przyjmuje jeden możliwy stan to mamy o niej pełną informację, a entropia informacyjna jest równa zeru. A zatem Ty mówisz o entropii informacyjnej, która odnosi się raczej do informacji niż do materii. Ja mówię o entropii układu cząstek materialnych, która ściśle wiąże się z organizacją materii. Tak pojmowaną entropię można obliczyć ze wzoru:
>
>S=k*lnp; gdzie k-stała Boltzmana,
> p-prawdopodobieństwo
> znalezienia się układu w danym stanie.

To na pewno nie jest wzor na etropie. Wedle tego wzoru entropia jest zawsze mniejsza lub równa 0.
Polecam: www.treasure-troves.com
Dzial fizyka, alfabetycznie, entropy
Potem matematyka, alfabetycznie, entropy
Znajdziesz tez linki do innych sposobow liczenia entropii. Poducz sie i wroc.

>>S=k*lnp; gdzie k-stała Boltzmana,
>> p-prawdopodobieństwo
>> znalezienia się układu w danym stanie.
>
>To na pewno nie jest wzor na etropie. Wedle tego wzoru entropia jest zawsze mniejsza lub równa 0.

Zapewniam Cię, że nie ja wymyśliłem sobie ten wzór. Jeśli twierdzisz, że nie jest to wzór na entropię, to w tym momencie polemizujesz ze znanym amerykańskim fizykiem. Jest to entropia układu cząstek materialnych. Nazwijmy ją entropią termodynamiczną w odróżnieniu od entropii informacynej. Tak definiuje się ją w termodynamice, choć nie jest to jedyna definicja i wzór na entropię. Według tego wzoru im mniejsza entropia tym mniejsze prawdopodobieństwo, że układ cząstek będzie w danym stanie. Problem entropiczno-wątrobowy w świetle powyższej definicji entropii ma jednoznaczne rozwiązanie: wątroba ma mniejszą entropię niż diament, bo prawdopodobieństwo, że cząsteczki ułożą się spontanicznie w wątrobę jest mniejsze.
Ja nie jestem fizykiem i mogę pewnych niuansów nie rozumieć, ale mój punkt widzenia jest zbieżny z tym, co mówią znani fizycy. Jeśli się ze mną nie zgadzasz to nie zgadzasz się również z nimi. Całe to zamieszanie wyniknęło z tego, że istnieją najwyraźniej dwa różne rodzaje entropii: informacyjna i termodynamiczna. Przyznam, że ja znałem dotąd tylko definicję entropii w ujęciu termodynamicznym i o takiej cały czas mówiłem. Może Marcin nam tu jeszcze coś rozjaśni ? W końcu on jest fizykiem. W jednym ze swoich postów z 4 listopada podawał nawet wzór na entropię w sensie termodynamicznym:
H = k ln G, którego postać jest, jak widzisz, identyczna z tym, który ja podałem.

>czas mówiłem. Może Marcin nam tu jeszcze coś rozjaśni ? W końcu on jest fizykiem. W jednym ze swoich postów z 4 listopada podawał nawet wzór na entropię w sensie termodynamicznym:
>H = k ln G, którego postać jest, jak widzisz, identyczna z tym, który ja podałem.

O rany, myślałem, że odpowiadam webmasterowi.

Cóż, jak dla mnie sprawa jest jasna. Marek opiera się na autorytetach, choć nie do końca rozumie co piszą. Dodać do tego parę błędnych założeń i już mamy nową teorię informacji.. i nowy wątek

>H = k ln G, którego postać jest, jak widzisz, identyczna z tym, który ja podałem.

G tutaj to ilosc mozliwych stanow ukladu, czyli im wiecej mozliwych stanow tym wieksza entropia. Wiaze sie to z iloscia informacji tak, ze potrzeba wiekszej informacji by opisac stan, gdy mozliwych stanow jest bardzo duzo (chocby, gdyby je ponumerowac, to taki numer zajmie wiecej bitow). Czyli im wieksza entropia, tym wiecej informacji.

Twoje p to prawdopodobienstwo. Cos zupelnie przeciwnego do ilosci stanow, i do tego zawsze w zakresie (0,1), gdzie logarytm jest ujemny.

Co do entropii informacyjnej/termodynamicznej - wsio rawno. Stan ukladu to informacja.

Naprawde, poczytaj jeszcze troche, bo moim zdaniem masz mistyczne wyobrazenie o informacji, entropii itede... Ja wiem, ze takie wyobrazenia sa piekne, ale dobrze, jesli pokrywaja sie z rzeczywistoscia. Jesli na mylnym zrozumieniu entropii opierasz reszte swych wywodow, to juz wiesz, czemu wychodzi Ci cos innego niz wszstkim innym.

>>H = k ln G, którego postać jest, jak widzisz, identyczna z tym, który ja podałem.
>
>G tutaj to ilosc mozliwych stanow ukladu, czyli im wiecej mozliwych stanow tym wieksza entropia. Wiaze sie to z iloscia informacji tak, ze potrzeba wiekszej informacji by opisac stan, gdy mozliwych stanow jest bardzo duzo (chocby, gdyby je ponumerowac, to taki numer zajmie wiecej bitow). Czyli im wieksza entropia, tym wiecej informacji.
>
>Twoje p to prawdopodobienstwo. Cos zupelnie przeciwnego do ilosci stanow, i do tego zawsze w zakresie (0,1), gdzie logarytm jest ujemny.
>
>Co do entropii informacyjnej/termodynamicznej - wsio rawno. Stan ukladu to informacja.
>

Entropia jest zdefiniowana w następujący sposób:
S=k*lnp
gdzie p jest prawdopodobieństwem tego, że układ będzie znajdował się w jakimś szczególnym stanie.

Powyższe słowa napisał Jay Orear w swoim podręczniku do fizyki. Wzór ten powtarza sie tam tak często, że trudno to uważać za błąd drukarski .

Cóż ja mogę na to wszystko powiedzieć ? Wychodzi na to, że sami fizycy mają kłopoty z interpretacją entropii. Ale to już problem fizyków, nie mój.
Dodam tylko, że punkt widzenia zależy od punktu siedzenia. Jeśli takie układy, jak wątroba lub mózg, będziemy rozpatrywali w skalach kwantowych, to oczywiście zobaczymy tam praktycznie chaos. Mózg ludzki może przyjmować przecież olbrzymią liczbę stanów (jeśli nie nieskończoną). Powiemy wtedy, że entropia mózgu jest duża, a w każdym razie większa niż np. diamentu. W skali makro mózg jawi się natomiast jako twór o niesłychanej złożoności i organizacji, który pod tym względem nie ma rówych sobie. Wtedy powiemy, że entropia mózgu jest bardzo mała, ponieważ jest to struktura mało prawdopodobna.

Mówisz, że powinienem się jeszcze trochę douczyć. Chętnie to zrobię, chociaż tak zaawansowana fizyka nie jest mi na co dzień potrzbna. Myślę jednak, że Ty także powinieneś jeszcze douczyć się swojego fachu, bo jak na razie niczego nie potrafisz porządnie wyjaśnić i nie rozumiesz tego, co mówią i piszą inni fizycy.

>Entropia jest zdefiniowana w następujący sposób:
> S=k*lnp
>gdzie p jest prawdopodobieństwem tego, że układ będzie znajdował się w jakimś szczególnym stanie.

To jakaś karygodna pomyłka. Jeśli w jakiejś księgarni zobaczę tę książkę to sam sprawdzę.

>Cóż ja mogę na to wszystko powiedzieć ? Wychodzi na to, że sami fizycy mają kłopoty z interpretacją entropii. Ale to już problem fizyków, nie mój.

Nie ma takiego problemu. Entropia jest zdefiniowana na kilka sposobów, ale są one tożsame. Podany przez Ciebie wzór zinterpretowałbym (z minusem z przodu) jako definicję jakiegoś "nieprawdopodobieństwa".

>Dodam tylko, że punkt widzenia zależy od punktu siedzenia. Jeśli takie układy, jak wątroba lub mózg, będziemy rozpatrywali w skalach kwantowych, to oczywiście zobaczymy tam praktycznie chaos. Mózg ludzki może przyjmować przecież olbrzymią liczbę stanów (jeśli nie nieskończoną). Powiemy wtedy, że entropia mózgu jest duża, a w każdym razie większa niż np. diamentu. W skali makro mózg jawi się natomiast jako twór o niesłychanej złożoności i organizacji, który pod tym względem nie ma rówych sobie. Wtedy powiemy, że entropia mózgu jest bardzo mała, ponieważ jest to struktura mało prawdopodobna.

No właśnie nie. To nie ma nic wspólnego z prawdopodobieństwem. Jest tak: w mózgu są np. złożone cząstki. Zamiast opisywać stan każdej cząstki elementarnej wystarczy opisać stany dużych cząstek chemicznych. Potem organelli komórkowych itede... To właśnie obniża etropię. Im bardziej złożone struktury, tym rzeczywiście entropia niższa, bo jest MNIEJ "rzetelnej" informacji. Prawdziwego chaosu nie rozbijesz na podstruktury i nie masz możliwości jego opisu poza dokładnym podaniem położeń i pędów. Diament ma entropię znikomą, bo rzeczywiście jego struktura zawiera mało danych. Na chopski rozum: jeśli do pełnego opisu układu potrzebujesz mniej danych, to entropia jest niższa.

>Mówisz, że powinienem się jeszcze trochę douczyć. Chętnie to zrobię, chociaż tak zaawansowana fizyka nie jest mi na co dzień potrzbna. Myślę jednak, że Ty także powinieneś jeszcze douczyć się swojego fachu, bo jak na razie niczego nie potrafisz porządnie wyjaśnić i nie rozumiesz tego, co mówią i piszą inni fizycy.

No coż, nie pozostaje mi nic innego jak podjąć wyzwanie. Zacząłem własnie pisać do racjonalisty kilka artykułów o fizyce. Zaczynam właśnie od entropii. Mam nadzieję, że Ci to pomoże.

>>Entropia jest zdefiniowana w następujący sposób:
>> S=k*lnp
>>gdzie p jest prawdopodobieństwem tego, że układ będzie znajdował się w jakimś szczególnym stanie.
>
>To jakaś karygodna pomyłka. Jeśli w jakiejś księgarni zobaczę tę książkę to sam sprawdzę.

Sam miałem wątpliwości, dlaczego entropia jest w tym wzorze ujemna. Niestety Orear podaje gotowy wzór bez wyprowadzenia. Używa go później do obliczania zmian entropii. Definicja ta znajduje się na stronach: 234 i 239 tomu 1.

Tzn. istnieje podobna definicja, ale jest dziwne definiowanie:
"S=k*ln(W), k=1.38 x 10^-23 J/K, a W jest liczbą możliwych (prawdopodobnych) stanów realizacji układu."
tak czy inaczej, wyjdzie to samo.
Ale tamten wzór, gdzie jest ln(p) nie może być dobry, bo p jest zawsze mniejsze od 1.

Ok., skoro ja jestem takim głąbem i nie rozumiem tego, co piszą znani fizycy, a wy tak świetnie wszystko rozumiecie, to może wreszcie ktoś z was odniesie się do słów Reevesa:

"Okazuje się, że wzrost złożoności u istot żywych od bakterii do meduzy, makaka, ludzi, jakościowo odpowiada skali rosnącej informacji i malejącej entropii. "

Zdaniem Reevesa zachodzi relacja: wzrost złożoności - wzrost informacji - spadek entropii. Według was powinno być odwrotnie.

Albo rozważmy to, co napisał Hawking w "Krótkiej historii czasu":

"Jeśli pamiętasz, Czytelniku, każde słowo tej książki, to Twoja pamięć zarejestrowała około dwóch milionów jednostek informacji i porządek w Twym mózgu wzrósł o tyleż jednostek.

A więc zdaniem Hawkinga zachodzi relacja: wzrost informacji dostarczonej do mózgu - wzrost uporządkowania mózgu, a co za tym idzie spadek jego entropii . Według was powinno być odwrotnie: wzrost informacji - wzrost entropii.

Tylko nie odpowiadajcie mi znowu, że entropia wszechświata i tak rośnie, bo ja o tym wiem. Interesuje mnie tylko sytuacja w mózgu.

A co do entropii mózgu, to mogę przytoczyć jeszcze inny fragment książki Reevesa:

Sprawność istot ludzkich (świadomość, inteligencja, działalność intelektualna) wymaga rozwoju i podtrzymania wysoce zorganizowanej struktury, jaką jest mózg. Człowiek obraca gigantyczną ilością informacji. Stworzenie języka, sztuk pięknych i nauki jest dziełem systemu o bardzo niskiej entropii.

Reeves uważa zatem, że mózg ma bardzo małą entropię, a według waszych definicji powinien mieć bardzo dużą.

Na mój chłopski rozum, to co mówią Reeves i Hawking jest sprzeczne z tym, co wy mówicie. A zatem są następujące możliwości wyjaśnienia tej sytuacji:

1. Reeves i Hawking mówią brednie.
2. Z waszą wiedzą fizyczną jest coś nie tak.
3. Jest to sprzeczność pozorna, ale jeśli tak, to na czym na pozorność polega?

Albo jeszcze jeden ciekawy cytat z książki Reevs'a:

"Zobaczymy, że układy o dużej ilości informacji (o niskiej entropii) są systemami bardzo "nieprawdopodobnymi". I przeciwnie, im wyższa entropia, tym większe prawdopodobieństwo, że układ zostanie stworzony przez zjawiska nie kontrolowane, to znaczy przypadkowe."

Powiedz mi, Marcin, dlaczego miałbym wierzyć Tobie, a nie Reeves'owi, facetowi, który był wykładowcą na Uniwersytecie w Montrealu i doradcą naukowym NASA ? Entropia wiąże się ściśle z pojęciem prawdopodobieństwa i w tym kontekście wzór podany przez Oreara wydaje się mieć sens. W końcu Orear to też nie byle kto, bo jest (bądź był) wykładowcą fizyki na Uniwersytecie Cornella. Czy tacy faceci jak Reeves, Orear i Hawking mogliby nie wiedzieć czym jest entropia ?

Na razie ten cytat:

>"Zobaczymy, że układy o dużej ilości informacji (o niskiej entropii) są systemami bardzo "nieprawdopodobnymi". I przeciwnie, im wyższa entropia, tym większe prawdopodobieństwo, że układ zostanie stworzony przez zjawiska nie kontrolowane, to znaczy przypadkowe."

Dlatego pytałem w jakim sensie Reeves używa słowa informacja. Myślałem, że w jakimś miejscu książki jakoś to przybliżył. Naprawdę nie potrafię zrozumieć czemu takie rzeczy pisze, bez zrozumienia jak on definuje ten termin. Informacja to pojęcie podstawowe, mierzy sie jej ilość na przykład w bitach (lub w liczbach rzeczywistych, lub w jakiejkolwiek jednostce oznaczającej "ilość danych") i tyle. Widocznie Reeves używa tu słowa informacja w innym sensie.

>Powiedz mi, Marcin, dlaczego miałbym wierzyć Tobie, a nie Reeves'owi, facetowi, który był wykładowcą na Uniwersytecie w Montrealu i doradcą naukowym NASA ? Entropia wiąże się ściśle z pojęciem prawdopodobieństwa i w tym kontekście wzór podany przez Oreara wydaje się mieć sens. W końcu Orear to też nie byle kto, bo jest (bądź był) wykładowcą fizyki na Uniwersytecie Cornella. Czy tacy faceci jak Reeves, Orear i Hawking mogliby nie wiedzieć czym jest entropia ?

Co do wiary: Sens tego akurat cytatu nie jest sprzeczny z tym, co ja Ci piszę. Ten sens brzmi tak (pomijając niedodefiniowanie słowa informacja): mało prawdopodobne jest zaistnienie układu o małej entropii.

Dopisek ode mnie: Wyobraź sobie talię kart. Entropia takiego układu jest jakaś tam. Dowolny układ kart jest równie mało prawdopodobny. Teraz zmiszaj dwie talie kart: Entropia wzrośnie dwukrotnie, a kazdy układ kart będzie dramatycznie mniej prawdopodobny niż w przypadku jednej talii. Tu widzisz związek: prawdopodobieństwo uzyskania konkretnrgo stanu <-> entropia.

Jesli wybierzemy jakieś interesujące nas stany: np. wszystkie karty po kolei, to są one tak samo mało prawdobobne jak inne, a z racji małej ilości stanów z nimi tożsamymi uznamy je za stany o małej entropii. Wyjdzie nam wtedy, że stanów o wysokiej entropii (innych niż te "uporządkowane") jest więcej, przez co są bardziej prawdopodobne i przez tasowanie najpewniej uzyskamy jeden z tych "chaotycznych", mimo, że każdy stan indywidualnie ma takie same prawdopodobieństwo.
Czyli: jeśli chodzi prawdopodobieństwo "pojedynczego" stanu, to raczej maleje ono ze wzrostem entropii niż rośnie. Natomiast rzeczywiście jest tak, że wyróżniamy pewne klasy stanów (na przykład takie, które po rozdaniu kart spowodują rozseparowanie kolorów pomiędzy graczy), i im przypisujemy niższą entropię. Te stany są tak samo mało prawdopodobne jak wszystkie inne, ale jest o wiele ich mniej, więc uzyskanie jednego z nich jest dużo mniej prawdopodobne niż innego. Entropia jest liczbą, którą przypisujemy "klasie stanów", a nie pojedynczemu stanowi.

Możliwe, że Reeves redundantnie dodaje informację o stanach poszczególnych cząstek elementarnych do informacji o atomach, cząsteczkach chemicznych itede i wtedy wychodzi mu "więcej informacji" w mózgu, w porównaniu z informacją w kisielu.Wtedy w informacji uwzględnia poziom organizacji układu. Może też po prostu nie uznaje tej "informacji najniższego poziomu", albo zwyczajnie stosuje uproszczenie odwołujące się do intuicji. Musiałbym zobaczyć jak dokładnie on tę informację liczy.

Ciekawi mnie, coi Cie skłoniło do porzucenia rozważań materio-energetyczno-informacyjnych na rzecz entropowo-informacyjnych?

>Na razie ten cytat:
>
>>"Zobaczymy, że układy o dużej ilości informacji (o niskiej entropii) są systemami bardzo "nieprawdopodobnymi". I przeciwnie, im wyższa entropia, tym większe prawdopodobieństwo, że układ zostanie stworzony przez zjawiska nie kontrolowane, to znaczy przypadkowe."
>
>Dlatego pytałem w jakim sensie Reeves używa słowa informacja. Myślałem, że w jakimś
>miejscu książki jakoś to przybliżył. Naprawdę nie potrafię zrozumieć czemu takie rzeczy pisze, bez zrozumienia jak on definuje ten termin. Informacja to pojęcie podstawowe, mierzy sie jej ilość na przykład w bitach (lub w liczbach rzeczywistych, lub w jakiejkolwiek jednostce oznaczającej "ilość danych") i tyle. Widocznie Reeves używa tu słowa informacja w innym sensie.
>

No cóż, widocznie żeby zrozumieć takich mistyków, jak Reeves i Hawking samo racjonalne myślenie nie wystarczy. Dla mnie jednak, jako mistyka, ich słowa są w sumie dość oczywiste. W przytoczonym fragmencie "Krótkiej historii czasu" Hawking, mówiąc o informacji dostarczanej do mózgu, ma na myśli treść książki. Treść książki znajdzie swoje odbicie w strukturze (czy też stanie) neuronów, co spowoduje spadek entropii mózgu. Znaczenie informacji w ujęciu Reevesa jest mniej więcej podobne, z tym że jest to informacja potrzebna do zorganizowania materii w wyższe formy. Posłużę się może prostymi przykładami. Chcąc zbudować dom, architekt robi najpierw projekt. Projekt to właśnie informacja. Z punktu widzenia architekta nieistotna jest informacja o stanach kwantowych poszczególnych cząstek w pustakach. Podobnie, gdybyśmy chcieli opisać samochód, nieistotne dla nas byłyby stany poszczególnych cząstek oleju w silniku. Potrzebujemy tylko tej ISTOTNEJ informacji, dzięki której dom jest domem, samochód samochodem, a mózg mózgiem. Im bardziej złożony jest układ, tym więcej informacji potrzebujemy, aby go opisać i tym mniejsza jest jego entropia. Dom ma mniejszą entropię niż buda dla psa, mózg mniejszą niż kamień itd. Oczywiście nie muszę już chyba dodawać, że prawdopodobieństwo przypadkowego powstania domu jest mniejsze niż budy.
W przypadku gazów i promieniowania entropia jest proporcjonalna do liczby cząstek lub fotonów. Tej reguły nie można jednak stosować do obiektów, które mają już jakąś formę. Inaczej doszlibyśmy do absurdalnego stwierdzenia, że dom ma większą entropię niż jeden pustak. Zamieszania robi tu trochę słowo "uporządkowanie", które można mylnie rozumieć w ten sposób, że im prostszy obiekt, o bardziej regularnych kształtach, tym lepiej uporządkowany. Niestety Reeves nie podaje jakiejś ścisłej definicji informacji. Myślę, że podszedłeś do tego problemu zbyt "ściśle" i stąd Twoje kłopoty interpretacyjne.

>
>Ciekawi mnie, coi Cie skłoniło do porzucenia rozważań materio-energetyczno-informacyjnych na rzecz entropowo-informacyjnych?

Nie planowałem tej dyskusji o entropii. Chciałem podać jakiś argument za tym, że życie jest procesem mało prawdopodobnym no i się rozkręciło. Co do rozważań, jak to ująłeś, materio-energetyczno-informacyjnych, to powiedziałem w tym temacie chyba wszystko. Mógłbym tu co prawda snuć rozważania o strukturze świata myślowego, ale racjonalista.pl nie jest chyba odpowiednim miejscem do tego typu przemyśleń. Nie wiem, może zacznę się produkować np. na katoliku ? Przez pewien czas dam sobie jednak spokój z pisaniem i filozofowaniem. Trzeba zająć się przyziemnymi, codziennymi sprawami, a nie duperelami.

Zapraszam na:
groups.goo(*)D3FB3EDAD.8E1ABDE8%402com.pl
A teraz proste przykłady.
Mamy dwa zbiorniki, z wodorem i tlenem. Łączymy je i zapalamy. Powstaje nam woda (nawet całkiem czysta).
Pytanie: co ma mniejszą entropię, osobne gazy czy woda? Trzeba pamiętać, że entropia całego układu zbiorników wrośnie, bo wydzieli się przy okazji sporo ciepła (nawet trochę wybuchnie..).
Otóż entropia wody będzie mniejsza, niż gazów osobno. Czemu? Woda jest bardziej uporządkowana niż gazy, nawet osobno - wiązania chemiczne wody są ściśle określone. Mówiąc najogólniej: część energii wodory i tlenu zostaje uwolniona, aby utowrzyć mniej energetyczną wodę.
W przyrodzie jest wiele podobnych zjawisk, gdzie powstają związki o mniejszej energii niż substraty.
I co ciekawe, większość z nich to związki organiczne. Z punktu widzenia chemii, nie jest to więc trudne do wytłumaczenia, czemu powstają związki, które pozornie łamią drugą zasadę.

Mamy wodę, idźmy dalej. Ochłodźmy ją do 0 stopni. Odprowadzajmy ciepło tak długo, aż zamarźnie. Entropia znów się zmniejszy - lód jest bardziej uporządkowany niż woda. Entropia układu (woda+chłodnica) wzrośnie. Teraz wrzućmy nasz kawałek lodu do miski z wodą. Łód się stopi (pobierze ciepło z wody) i entropia układu wzrośnie - miska będzie mniej uporządkowana niż woda+lód osobno.
Marek pewnie nadal mi nie wierzy, ale mam dla niego dobrą wiadomość. Istnieje coś takiego, jak standardowe tablice entropii (standard state entropy tables) w których można znaleźć wartość zmiany entropii dla konkretnych substancji od T=0 do np. T=273 lub 298. I cóż z niej wyczytamy? Np. dla lodu mamy (delta)S=41 J/K, dla wody =63 J/K. Widać wyraźnie, że lód ma mniejszą entropię (czyli zmianę od T=0, gdzie jest tylko jeden stan) niż woda.
Zadanie domowe: mamy daną stałą K i wzór S=k*ln(W), policzyć W jak dla przykładu wyżej. Zadanie na 6: wyobrazić sobie otrzymaną liczbę.

>
>Mamy wodę, idźmy dalej. Ochłodźmy ją do 0 stopni. Odprowadzajmy ciepło tak długo, aż zamarźnie. Entropia znów się zmniejszy - lód jest bardziej uporządkowany niż woda. Entropia układu (woda+chłodnica) wzrośnie. Teraz wrzućmy nasz kawałek lodu do miski z wodą. Łód się stopi (pobierze ciepło z wody) i entropia układu wzrośnie - miska będzie mniej uporządkowana niż woda+lód osobno.
>Marek pewnie nadal mi nie wierzy, ale mam dla niego dobrą wiadomość. Istnieje coś takiego, jak standardowe tablice entropii (standard state entropy tables) w których można znaleźć wartość zmiany entropii dla konkretnych substancji od T=0 do np. T=273 lub 298. I cóż z niej wyczytamy? Np. dla lodu mamy (delta)S=41 J/K, dla wody =63 J/K. Widać wyraźnie, że lód ma mniejszą entropię (czyli zmianę od T=0, gdzie jest tylko jeden stan) niż woda.
>Zadanie domowe: mamy daną stałą K i wzór S=k*ln(W), policzyć W jak dla przykładu wyżej. Zadanie na 6: wyobrazić sobie otrzymaną liczbę.

Musisz chyba jeszcze pomedytować nad tymi "koanami" Reevesa.

A ty oczywiście uważasz, że jak coś jest napisane, to musi być prawdziwe. Otóż nawet w podręcznikach szkolnych zdarzają się błędy. To nie jest książka naukowa, może być błąd w tłumaczeniu (wzór, taki jak go podałeś, na pewno jest zły przy takiej interpretacji) a może ty po prostu zrozumiałeś go inaczej niż on by tego chciał. Możliwości jest kilka, ale ta, że mu tu się wszyscy mylimy podając wzory z książek naukowych, jest akurat najmniej prawdopodobna. A jak ci się nie podobają moje (i Marcina) liczne uzasadnienia, to podaj lepsze na swoje tezy, bp na razie zasłaniasz się autorytetami.

>A ty oczywiście uważasz, że jak coś jest napisane, to musi być prawdziwe. Otóż nawet w podręcznikach szkolnych zdarzają się błędy. To nie jest książka naukowa, może być błąd w tłumaczeniu (wzór, taki jak go podałeś, na pewno jest zły przy takiej interpretacji) a może ty po prostu zrozumiałeś go inaczej niż on by tego chciał. Możliwości jest kilka, ale ta, że mu tu się wszyscy mylimy podając wzory z książek naukowych, jest akurat najmniej prawdopodobna. A jak ci się nie podobają moje (i Marcina) liczne uzasadnienia, to podaj lepsze na swoje tezy, bp na razie zasłaniasz się autorytetami

Albo masz kłopoty z rozumieniem czytanego tekstu, albo ja tak niezrozumiale się wyarażam. Wzór pochodzi z podręcznika do fizyki Oreara (a nie Reeves'a), a więc jest to (a przynajmniej powinna być) książka naukowa. Czy Orear się pomylił, czy też inaczej interpretuje entropię ? Byc może jest to błąd, ale nie mnie to oceniać. Jeśli Orear się pomylił, świadczy to źle nie tylko o nim, ale także o tych fizykach, którzy byli recenzentami tej książki. Natomiast do słów Reeves'a i Hawkinga nikt z was jeszcze się nie odniósł, a to co piszą ci dwaj fizycy jest sprzeczne z waszymi słowami. Być może Reeves i Hawking też nie rozumieją pojęcia entropii i powinni poprosić Ciebie i Marcina o korepetycje.

Orear stosuje swój wzór do obliczania zmian entropii. W takim ujęciu nie ma znacznia czy we wzorze na entropię zastosujemy liczbę stanów czy prawdopodobieństwo. Zobaczmy zresztą:

Rozważmy dla uproszczenia izolowany układ, który może przyjmować N stanów. Niech A będzie pewnym makroskopowym stanem, czyli pewną klasą stanów "makroskopowo tożsamych", a W(A) liczbą stanów składających się na stan A. Wówczas prawdopodobieństwo znalezienia się układu w stanie A wynosi: p(A)=W(A)/N. Zgodnie ze wzorem na entropię:

S(A) = k*ln(W(A)) = k*ln(p(A)*N);

Stąd entropia układu w stanie A wynosi ostatecznie:

S(A)=k*ln(p(A)) + k*ln(N);

Wychodzi na to, że Orear utożsamia entropię z pierwszym składnikiem tego równania. Jest to o tyle uzasadnione, że entropia de facto zależy tylko od tego składnika,
gdyż drugi składnik k*ln(N)=const.
Jeśli obliczmy zmianę entropii między stanem A i stanem B to otrzymujemy :

∆S = S(A)-S(B) = k*ln(p(A))-k*ln(p(B)) = k*[ln(W(A)) + ln(N) - ln(W(B)) - ln(N)]

i ostatecznie

∆S = k*ln[W(A)/W(B)]

Wobec tego przy obliczaniu zmian entropii wzór Oreara daje poprawne wyniki.

I kto tu odwraca kota ogonem? To ja podałem ci wzór S=k*ln(W) razem z jego opisem, podczas gdy ty twierdziłeś uparcie, że:
>Entropia jest zdefiniowana w następujący sposób:
>S=k*lnp
>gdzie p jest prawdopodobieństwem tego, że układ będzie znajdował się w jakimś szczególnym stanie.

a to kochany nie jest to samo. Co do wątroby czy (nawet bardziej) mózgu też się myliłeś. Co do Reeves'a sprawa się klaruje, ale o Orearze się nie będę wypowiadał, bo nie wiem co napisał on, a co ty.

>I kto tu odwraca kota ogonem? To ja podałem ci wzór S=k*ln(W) razem z jego opisem, podczas gdy ty twierdziłeś uparcie, że:
>>Entropia jest zdefiniowana w następujący sposób:
>>S=k*lnp
>>gdzie p jest prawdopodobieństwem tego, że układ będzie znajdował się w jakimś szczególnym stanie.
>

Nie ja to napisałem tylko Orear. To cytat z jego książki. Widocznie tak interpretuje entropię. Cóż, okazuje się, że zbyt niski poziom dopaminy w mózgu nie wpływa korzystnie na zdolność rozumienia słowa pisanego.

>a to kochany nie jest to samo. Co do wątroby czy (nawet bardziej) mózgu też się myliłeś. Co do Reeves'a sprawa się klaruje, ale o Orearze się nie będę wypowiadał, bo nie wiem co napisał on, a co ty.

Jak ci się coś wreszcie wyklaruje to napisz.

>Widocznie tak interpretuje entropię.
A no właśnie. Już wiem skąd to całe nieporozumienie. Sprawa jest prosta, ale o tym za chwilę. Generalnie istnieje tylko jeden podstawowy wzór na entropię układu: S=k*ln(W) (jak podałem wcześniej, nota bene wyryty na grobie Boltzmanna). Wszystkie inne (poprawne) muszą być z nim równoważne. Ale to nie znaczy, że tożsame. Czyli mogą dawać inne wyniki liczbowe.
I tak istnieje np. entropia informacyjna (wzór też podałem), wzory szczególne dla gazów (np. DS=N*R*ln(V2/V1) N-ilość cząstek w objętości V1, zmiana do V2 ), S=k*ln(P) (P-objętość przestrzeni fazowej zajmowanej przez układ, gdzie jednostką jest chyba h^(3N) ), S=k*ln(M) (M-ilość nierozróżnialnych mikrostanów odpowiadających jednemu makrostanowi), S=-k*Suma(p_i*ln(p_i)) (entropia Gibbsa).
Używając ich otrzymamy różne wyniki. A to dlatego, że nie ma tu w zasadzie dobrej skali absolutnej. Niektórzy używają odniesienia do T=0K (np. mnie się to podoba; używane w tych tablicach o których wspomniałem), inni podają tylko wartości względne (a raczej zmiany entropii), inni jeszcze mówią o informacji itd.
A robi się tak dlatego, że jest wygodniej - można opuścić stałe i uprościć obliczenia. Ale porównywanie wtedy tych wyników czy wzorów nie ma sensu, jeżeli się nie mówi, co się opuściło.
Natomiast k*ln(p) gdzie 0<=p<=1 nie może być poprawny, gdyż daje wartości ujemne. Ujemne mogą być tylko zmiany entropii (DS), ale i takie są mało prawdopodobne.
Poprawny jest natomiast S=-k*ln(p) (gdzie p-częstotliwość występowania każdej z konfiguracji, p<=1). (A chyba nie tak trudno o pomyłkę w druku co do znaku -?).
Ponadto, ten wzór dawałby absurdalne wyniki. Np. mamy dwie częstości: P1=1/5 i P2=1/10. Pierwsza jest większa, więc większy porządek i mniejsza entropia. Zgadza się?
Dla drugiego większa entropia (większy nieporządek). Teraz układ przechodzi od stanu P1 do P2, czyli entropia ma wzrosnąć, tak ?
No to liczymy: DS=S(końcowy)-S(początkowy)=S(P2)-S(P1)=k(ln(1/10)-ln(1/5))=k*ln(1/2)<0. Kiszka, entropia nam zmalała(!), a miała wzrosnąć. Co gorsza, dodanie stałej nic tu nie pomoże-stałe się odejmą.
Dla drugiego wzoru: DS=-k*ln(1/10)-(-k*ln(1/5))=-k*ln(1/2)>0. Entropia wzrosła, tip top.
Naprawę nie mam już czasu na pisanie takich rzeczy-jak ci się dalej coś nie zgadza, to pisz na pl.sci.fizyka. A Marcin, miałeś coś napisać?

>Używając ich otrzymamy różne wyniki. A to dlatego, że nie ma tu w zasadzie dobrej skali absolutnej. Niektórzy używają odniesienia do T=0K (np. mnie się to podoba; używane w tych tablicach o których wspomniałem), inni podają tylko wartości względne (a raczej zmiany entropii), inni jeszcze mówią o informacji itd.
>A robi się tak dlatego, że jest wygodniej - można opuścić stałe i uprościć obliczenia. Ale porównywanie wtedy tych wyników czy wzorów nie ma sensu, jeżeli się nie mówi, co się opuściło.

I Orear też robi pewne uproszczenie pomijając stały składnik k*ln(N) w równaniu:

S = k*ln(p) + k*ln(N), gdzie N - liczba wszystkich możliwych stanów układu,

>Poprawny jest natomiast S=-k*ln(p) (gdzie p-częstotliwość występowania każdej z konfiguracji, pPonadto, ten wzór dawałby absurdalne wyniki. Np. mamy dwie częstości: P1=1/5 i P2=1/10. Pierwsza jest większa, więc większy porządek i mniejsza entropia. Zgadza się?

Nie, nie zgadza się. Jest dokładnie na odwrót: większa częstotliwość, większe prawdopodobieństwo, mniejszy porządek, większa entropia.

>Dla drugiego większa entropia (większy nieporządek).

Znowu pudło. Jest na odwrót: P2 jest mniejsze, a zatem częstotliwość mniejsza, prawdopodobieństwo mniejsze, większy porządek, mniejsza entropia.

>Teraz układ przechodzi od stanu P1 do P2, czyli entropia ma wzrosnąć, tak ?

I znowu pudło. Entropia ma zmaleć.

>No to liczymy: DS=S(końcowy)-S(początkowy)=S(P2)-S(P1)=k(ln(1/10)-ln(1/5))=k*ln(1/2)<0. Kiszka, entropia nam zmalała(!),

I słusznie, bo miała zmaleć.

Na twoim miejscu dałbym już sobie spokój z poprawianiem Oreara.

>I Orear też robi pewne uproszczenie pomijając stały składnik k*ln(N) w równaniu:
no to nie wmawiaj nam, że wzór był dobry, skoro podałeś zły. to chyba nie Orear robi błąd, tylko ty go nie rozumiesz.

>Nie, nie zgadza się. Jest dokładnie na odwrót: większa częstotliwość, większe prawdopodobieństwo, mniejszy porządek, większa entropia.
bzdura, bzdura, bzdura!
jest mniej możliwości, występuje mniej możliwych stanów, większy porządek, więc mniejsza entropia. wszędzie, gdzie mowa o entropii, znajdziesz takie zależności.
już ci podałem wyliczenie, czarno na białym: www.racjonalista.pl/forum.php/s,2182#84
im więcej możliwych stanów, tym więcej możliwości rozkładów, i tym większa entropia (czyli ogólnie nieporządek) i dlatego mniejsza częstość występowania pewnego stanu P.
zastanów się tylko, kiedy występuje największy bałagan? gdy każda z możliwych konfiguracji występuje w układzie tak samo często. a gdy ilość możliwości (mianownik) rośnie, to częstość maleje. ty mi naprawdę nie musisz wierzyć, bo nie ja to wymyśliłem.

>>I Orear też robi pewne uproszczenie pomijając stały składnik k*ln(N) w równaniu:
>no to nie wmawiaj nam, że wzór był dobry, skoro podałeś zły. to chyba nie Orear robi błąd, tylko ty go nie rozumiesz.
>

Dla ciebie ten wzór jest bzdurą, ale dla mnie to po prostu kwestia interpretacji. Wynika on z prostych przekształceń, które powinny być zrozumiałe dla przeciętnego ucznia szkoły średniej.

>>Nie, nie zgadza się. Jest dokładnie na odwrót: większa częstotliwość, większe prawdopodobieństwo, mniejszy porządek, większa entropia.
>bzdura, bzdura, bzdura!

Dobra, zróbmy sobie jakiś przykład. Być może nie będzie on miał sensu fizycznego z uwagi na to, że entropia odnosi się do układu cząstek materialnych, ale sądzę, że dobrze zilustruje czym jest entropia. Weźmy talię 52 kart. Możemy ją potasować na N = 52! sposobów. Rozważmy dwa następujące stany:

1) w talii występują obok siebie 4 walety, przy czym ich kolejność nas nie interesuje.
2) W talii mamy obok siebie 13 pików w kolejności od najsłabszej do najsilniejszej.

Pytanie brzmi: który stan ma większą entropię ? Który będzie częściej występował ? Który jest bardziej prawdopodobny ?

Dla pierwszego stanu mamy M1 = 4!*49! układów.
Dla drugiego stanu mamy z kolei M2 = 40! układów.

Stosując jeden z podanych przez ciebie wzorów na entropię S = k*ln(M), obliczamy:

S1 = k*ln(24*49!) oraz S2 = k*ln(40!)

A zatem S1>S2. Entropia 4 waletów jest większa.

A teraz popatrzmy jak wyglądają prawdopodobieństwa:

P1 = (24*49!)/(52!) i P2 = (40!)/(52!), co oznacza że P1>P2.
Prawdopodobieństwo, a więc i częstotliwość występowania stanu z 4 waletami jest większe.

Jednym słowem mogę tylko powtórzyć tylko to, co powiedziałem w poprzednim wątku:
większa częstotliwość - większe prawdopodobieństwo - mniejszy porządek - większa entropia, a co ty skwitowałeś słowami: bzdura, bzdura, bzdura. Otóż nie jest to bzdura. Jest to najprawdziwsza prawda, czego dowodem jest powyższy przykład.

Ja wiem, o co ci chodzi. Twoje rozumowanie jest mniej więcej następujące: jeśli zwiększymy ilość kart np. dodając dwójkę karo z innej talii, to liczba możliwych stanów zwiększy się do 53!. Entropia stanu z 4 waletami, liczona wg. wzoru S=k*ln(M), wtedy oczywiście wzrośnie, podczas gdy częstotliwość tej konfiguracji zmaleje. To samo odnosi się do stanu z 13 pikami. Jeśli jednak chcemy porównać entropię dwóch różnych stanów, to musimy oba stany rozpatrywać w tym samym układzie. Nie możesz obliczyć entropii stanu z 4 waletami w układzie 52 kart, a później entropię 13 pików w układzie np. 80 kart i powiedzieć, że stan pierwszy ma mniejszą entropię, jeśli nie zaznaczysz wyraźnie do jakich układów odnosisz obliczenia. Ja obliczam entropię dwóch różnych stanów tego samego układu, który w tym przypadku jest talią 52 kart. Układy 53 czy 80 kart, to już zupełnie inne układy. Tak samo należy postępować, jeśli chcielibyśmy porównać entropię mózgu i diamentu. Należy tutaj obliczyć prawdopodobieństwa niekontrolowanego powstania obu tych obiektów, odnosząc obliczenia do układu wszystkich cząstek we wszechświecie.

Na koniec zacytuję ci jeszcze raz naszego dobrego znajomego, Reeves'a :

Podsumowując ten wywód, możemy powiedzieć, że stany o większej entropii(najlepiej reprezentowane) to te, które powtarzają się najczęściej. Jeśli obserwujemy jakiś mało prawdopodobny stan, to istnieje duża szansa, iż został on "spreparowany". Mamy o wiele więcej szans na przejście ze stanu nieprawdopodobnego do prawdopodobnego niż na odwrót. Ale odwrotność wcale nie jest niemożliwa - jeśli zaczekamy wystarczająco długo, zdarzy się prędzej czy później.

wyjaśnienie: 'bzdura' odnosiło się do zdania 'Nie, nie zgadza się.' zbyt pochopnie odpowiedziałem, a mogłem od razu wiele wyjaśnić.

Po pierwsze, przykład z kartami nie jest dobry, bo każdy ciąg skończony jest uporządkowany, co ci już pokazałem. Mówienie o jego entropii nie ma więc większego sensu.
Po drugie: każda kolejność kart w talii jest tak samo prawdopodobna. Zbieranie waletów czy pików obok siebie to tylko oszukiwanie siebie-po prostu dodajesz p-twa wielu przypadków.
To tylko otrzymanie jednej z takich właśnie kombinacji jest mało p-dobne w porównaniu z p-twem otrzymania dowolnej innej kombinacji.
Więc te twoje stany nic tu nie zmieniają, nadal wszystkie karty (osobno) występują tak samo często.
Ja ci podam inny, bardziej sensowny układ z kartami. Zastosujemy wzór jaki już podałem: "Jeżeli jakiś zbiór M składa się wyłącznie z elementów mi, a wszystkich elementów mi jest razem n, p(mi) jest częstością występowania elementu mi w zbiorze M, czyli SUMA(p(mi))=1 wówczas można obliczyć entropię zbioru M jako S=-k*SUMA(i=1(1)n; p(mi)*log2(p(mi))+const"

Mamy układ 10 kart. Na początek mamy w nim 8 pików i 2 kiery, liczymy entropię:
S1=-k*(8/10*log(8/10)*8+2/10*log(2/10)*2)=-k*(16*log(4/5)+log(1/5))*2/5 (oczywiście S1>0, stała nas tu nie interesuje)
Teraz nasz układ się zmienia i mamy 6 pików, 2 kiery i 2 karo:
S2=-k*(6/10*log(6/10)*6+2/10*log(2/10)*2*2))=-k*(9*log(3/5)+2*log(1/5))*2/5 (j.w.)
Ostatecznie: DS=S2-S1=-k*2/5*log2( 3^9*5^6/4^16 )=-k*2/5*-3.8=k*1.52. Entropia wzrosła, c.k.d.
A czemu? Pierwszy układ był prostszy (bardziej uporządkowany) niż drugi. Choć tak naprawdę one oba są uporządkowane, tylko ten drugi mniej.

ps. w tym twoim liczeniu powinno być S2-S1=k(log(39!*39)-log(4!*48!*48))<0
Entropia zmalała (choć nie wiem, czy liczenie dla takiego układu ma jakiś sens..) i to też się zgadza.
Drugi stan jest mniej prawdopodobny, ma mniejszą entropię, większy porządek. Pierwszy stan jest bardziej prawdopodobny, ma większą entropię, mniejszy porządek. Czyli trudniej otrzymać układ M2 i/ponieważ ma on mniejszą entropię.
Entropia jest tym większa, im bardziej rozmyty jest rozkład prawdopodobieństwa, czyli osiąga największą wartość dla rozkładu jednorodnego.
Mogę więc tylko powtórzyć to, co napisałem poprzednio.

I możemy to wałkować tak długo, aż ci się cytaty z Reevesa skończą, tylko po co?
Ten cytat który podałeś jest tylko potwierdzeniem mojego wcześniejszego wyliczenia dla P1 i P2, więc nie wiem, co chcesz nim uzasadnić.
Streszczenie cytatu: stany o większej entropii powtarzają się najczęściej. U mnie P1<P2, i S1<S2, czyli p-two wystąpienia układu z P1
jest mniejsze niż P2, a układ przechodząc z P1 do P2 zwiększa entropię.

Wydaje mi się, że po prostu mylisz występowanie (p-two wyst.) całych układów z p-twem (częstością) występowania pewnych stanów w układzie,
a to nie to samo. Mało prawdopodobny układ będzie miał stany o dużej częstości (mała entropia), układ bardziej prawdopodobny będzie miał więcej stanów
o mniejszej częstości każdy (duża entropia, będzie bardziej rozmyty).

>wyjaśnienie: 'bzdura' odnosiło się do zdania 'Nie, nie zgadza się.' zbyt pochopnie odpowiedziałem, a mogłem od razu wiele wyjaśnić.
>
>Po pierwsze, przykład z kartami nie jest dobry, bo każdy ciąg skończony jest uporządkowany, co ci już pokazałem. Mówienie o jego entropii nie ma więc większego sensu.
>Po drugie: każda kolejność kart w talii jest tak samo prawdopodobna. Zbieranie waletów czy pików obok siebie to tylko oszukiwanie siebie-po prostu dodajesz p-twa wielu przypadków.
>To tylko otrzymanie jednej z takich właśnie kombinacji jest mało p-dobne w porównaniu z p-twem otrzymania dowolnej innej kombinacji.
>Więc te twoje stany nic tu nie zmieniają, nadal wszystkie karty (osobno) występują tak samo często.
>Ja ci podam inny, bardziej sensowny układ z kartami. Zastosujemy wzór jaki już podałem: "Jeżeli jakiś zbiór M składa się wyłącznie z elementów mi, a wszystkich elementów mi jest razem n, p(mi) jest częstością występowania elementu mi w zbiorze M, czyli SUMA(p(mi))=1 wówczas można obliczyć entropię zbioru M jako S=-k*SUMA(i=1(1)n; p(mi)*log2(p(mi))+const"

Twój błąd polega na tym, że ciągle mylisz pojęcia. To, co mówisz o entropii dotyczy tzw. entropii informacyjnej, która nie jest tą samą entropią, o której mówię ja, Reeves, Hawking i Orear (nazwijmy ją entropią termodynamiczną lub statystyczną). Spójrzmy na wzory definicyjne:

Entropia informacyjna : S = -k*SUMA(i=1(1)n; p(mi)*log2(p(mi))+const"
Entropia w ujęciu statystycznym: S = k*ln(W) lub wg. Oreara S = k*ln(p)

Nie trzeba być członkiem Mensy, by stwierdzić, że powyższe wzory, poza tym że są funkcjami logarytmicznymi, nie mają ze sobą nic wspólnego. Nawet znak się tu nie zgadza. Odnoszą się one do dwóch różnych wielkości fizycznych. Entropia informacyjna dotyczy informacji o pewnym układzie i jest jak gdyby miarą naszej niewiedzy o nim. Entropia statystyczna wiąże się natomiast z prawdopodobieństwem występowania określonej konfiguracji cząstek. Dla układów chaotycznych, takich jak gazy, obie entropie można uważać w pewnym sensie za równoważne. Im bardziej chaotyczny układ, tym obie są większe. Jeśli jednak rozpatrujemy zorganizowane formy materii, to już dają one różne wyniki. Przykładowo entropia informacyjna zwykłego kamyka będzie mniejsza niż entropia informacyjna budynku. Ale z entropiami statystycznymi będzie odwrotnie, gdyż prawdopodobieństwo przypadkowego powstania budynku będzie mniejsze. Zresztą już ci kiedyś tłumaczyłem różnicę między tymi entropiami, ale ty ciągle swoje.
Jeżeli jednak chcesz mnie przekonać, że dwa powyższe wzory są równoważne, to po prostu mi to wykaż, przekształcając odpowiednio wzór na entropię informacyjną, tak aby otrzymać wzór na entropię w ujęciu statystycznym.

Jeśli chodzi o przykład z kartami, to jest on poprawny. Co z tego, że każdy mikrostan jest tak samo prawdopodobny. Ja liczę entropię dla określonych makrostanów układu.

>Twój błąd polega na tym, że ciągle mylisz pojęcia.
więc świstak nadal siedzi?

Entropia jest tylko jedna, nie ważne jak ją określimy - to zależy tylko od zastosowań. Dla ułatwienia obliczeń bierze się taki albo inny wzór, ale one są równoważne, o czym już pisałem. Teraz to ty odwracasz kota ogonem.
Skoro ci wykazałem, że twoje rozumowanie co do konkretnych przypadków było błędne, to po co się upierasz przy swoich definicjach, skoro prowadzą do błędnych wniosków?
Zmiana wzoru nie spowoduje nagle, że wątroba będzie miała mniejszą entropię niż diament, bo jest tylko jedna entropia, a to, co wychodzi dla jednego wzoru musi się zgadzać (co do stałej) dla innych wzorów.
To jak z energią: możesz sobie używać różnych wzorów, różnych jednostek, nawet różnych interpretacji, ale to ciągle jest ta sama energia - innej nie ma. I tam samo nie ma innej entropii.
Zacytuję ci kogoś: "Należy mieć jednak na uwadze, ze istnieje kilka definicji entropii, a entropia jako miara nieuporządkowanania nie zawsze się sprawdza, ponieważ nie zawsze mówiąc o uporządkowaniu można mówić o entropii. Jedna z definicji mówi, że entropia to liczba sposobów rozdziału energii."

>>Twój błąd polega na tym, że ciągle mylisz pojęcia.
>więc świstak nadal siedzi?
>
>Entropia jest tylko jedna, nie ważne jak ją określimy - to zależy tylko od zastosowań. Dla ułatwienia obliczeń bierze się taki albo inny wzór, ale one są równoważne, o czym już pisałem. Teraz to ty odwracasz kota ogonem.
>Skoro ci wykazałem, że twoje rozumowanie co do konkretnych przypadków było błędne, to po co się upierasz przy swoich definicjach, skoro prowadzą do błędnych wniosków?
[webmaster: tu znalazły się treści tak obraźliwe i nieuzasadnione, że zostaną zignorowane. jeżeli forum ma być miejscem wymiany zdań, to złośliwe ataki ad hominem będą tępione]
Teraz nie chcesz się pogodzić z tym, że entropia informacyjna jest zupełnie inną wielkością fizyczną i pleciesz kolejne dyrdymały.
[..]
Jeżeli naprawdę uważasz, że entropia informacyjna jest tym samym co statystyczna, to po prostu mi to udowodnij.
[..]

O nie mój drogi, tak rozmawiać nie będziemy. Jeszcze jeden taki numer i skończymy rozmowę. Musisz zrozumieć, że z faktu, iż czegoś nie rozumiesz, nie wynika jeszcze, że wszyscy inni się mylą.
Nie muszę ci uzasadniać tego co chcesz, ponieważ zrobili to inni dawno temu. Jeżeli tego nie zrozumiesz, to już twój problem.
en.wikipedia.org/wiki/Information_entropy
en2.wikipedia.org/wiki/Thermodynamic_entropy
www.tim-thompson.com/entropy1.html
indagabo.orcon.net.nz/entropy.html
www.inform(*)rs.com/Chemistry/Entropy.shtml
www.nation(*)ncyclopedia/Information-theory
Jeżeli teraz nie przyznasz, że się mylisz (czyli że jest jedna entropia, a różne wzory, czy nawet definicje, wynikają z równych zastosowań) to skończymy tą, coraz mniej miłą, rozmowę.
Na razie to ja ci pokazałem, że się mylisz co do konkretnych przykładów. Jeżeli jednak masz zamiar zabarykadować się jakąś książką, której treści prawdopodobnie nie do końca rozumiesz, to nie mamy o czym rozmawiać.
Doprawdy, Timeo hominem unius libri !

>Na razie to ja ci pokazałem, że się mylisz co do konkretnych przykładów. Jeżeli jednak masz zamiar zabarykadować się jakąś książką, której treści prawdopodobnie nie do końca rozumiesz, to nie mamy o czym rozmawiać.
>Doprawdy, Timeo hominem unius libri !

Masz nade mną tę przewagę, że zawsze możesz wykasować moje wpisy. Mam jednak prośbę. Skoro już tak dbasz o kulturę wypowiedzi, to wykasuj również te wpisy twoich kolegów, które były obraźliwe w stosunku do mnie. Znajdują się one w wątkach "Troista struktura rzeczywistości" i "Czy człowiek ma wolną wolę".
To, co do tej pory mówisz, jest po prostu myleniem pojęć. Udowodnij mi, że entropia informacyjna i entropia termodynamiczna to jedno i to samo. Oblicz swój przykład z 10 kartami za pomocą wzoru S=k*ln(W) i porównaj wyniki. Dla ciebie przeprowadzenie takiego dowodu powinno być "bułką z masłem". I nie rób uników odsyłając mnie na jakieś inne strony.

O przepraszam, a co jest napisane na dole KAŻEGO wątku?
"Ktoś cię obraził ? Nie poddawaj się presji, napisz."
I nomen omen, to adres do mnie. Nie napisałeś-nie wymagaj. Teraz byłoby to nieuczciwe, bo wątki te się skończyły i ci, którzy to napisali, nie mogliby już zabrać głosu.

Nie muszę ci też niczego udowadniać, wszystko jest czarno na białym na podanych stronach. Różne definicje entropii, różne wzory, ale nadal ta sama entropia.
I może się zdziwisz, ale to nie Shannon wymyślił ten wzór z sumą, a właśnie Boltzman, który stosował go w termodynamice. Shannon tylko tak go zinterpretował, że podstawa log. i stała k stały się nieistotne (bo zależą tylko od konkretnych zastosowań).
Wg ciebie, byłoby to niemożliwe, bo przecież:
>Odnoszą się one do dwóch różnych wielkości fizycznych.
>Ale z entropiami statystycznymi będzie odwrotnie[..]
>chcesz mnie przekonać, że dwa powyższe wzory są równoważne[..]
>entropii informacyjnej, która nie jest tą samą entropią, o której mówię ja[..]
To ja już nie wiem, może po prostu sobie zdefiniuj swoją entropię i będzie klawo.

>
>Nie muszę ci też niczego udowadniać, wszystko jest czarno na białym na podanych stronach. Różne definicje entropii, różne wzory, ale nadal ta sama entropia.
>I może się zdziwisz, ale to nie Shannon wymyślił ten wzór z sumą, a właśnie Boltzman, który stosował go w termodynamice. Shannon tylko tak go zinterpretował, że podstawa log. i stała k stały się nieistotne (bo zależą tylko od konkretnych zastosowań).
>Wg ciebie, byłoby to niemożliwe, bo przecież:
>>Odnoszą się one do dwóch różnych wielkości fizycznych.
>>Ale z entropiami statystycznymi bdzie odwrotnie[..]
>>chcesz mnie przekonać, że dwa powyższe wzory są równoważne[..]
>>entropii informacyjnej, która nie jest tą samą entropią, o której mówię ja[..]
>To ja już nie wiem, może po prostu sobie zdefiniuj swoją entropię i będzie klawo.

Jak diabeł święconej wody unikasz odpowiedzi na zadane pytanie. Dobrze wiesz, że tego twojego przykładu nie da się policzyć za pomocą wzoru S=k*ln(W). Nie da się policzyć, ponieważ entropię termodynamiczną określa się dla konkretnych makrostanów układu. Natomiast w twoim przykładzie nie bardzo wiadomo, czym miałyby być owe makrostany.
Nie miałem zamiaru cię obrażać. Wiem dobrze, ze jesteś inteligentnym człowiekim, bo to widac choćby po witrynie, którą zaprojektowałeś i stworzyłeś. Ale nie potrfisz przyznać się do błędu i idziesz w zaparte, zgodnie z dewizą: nieważne czy riposta jest sensowna i logiczna, ważne żeby była. Takie postępowanie jest po prostu nie fair wobec mnie. Rozumiem, że możesz lekceważyć moje zdanie, ale nie możesz lekceważyć naukowców, Reeves'a i Oreara, bo taka postawa nie najlepiej śwaidczy o twoim naukowym podejściu do sprawy.

Zarzucasz mi, że zabarykadowałem się jedną książką. Otóż dlatego też tak często ją cytuję, bo twierdzisz, że nie rozumiem Reeves'a. Liczę więc na to, że mnie oświecisz i wyjaśnisz, jak mam go rozumieć. Nie podobał ci się mój przykład z kartami, więc podam ci inny, który tym razem nie jest moim wymysłem, lecz pochodzi z książki Reeves'a.

Rzucamy dwoma kostkami do gry. Możemy otrzymać 6x6 = 36 różnych kombinacji. Są to tzw. mikrostany, a każdy ma prawdopodobieństwo równe 1/36. Nas interesuje jednak pewien makrostan, który jest sumą oczek obu kości. Suma ta jest liczbą z zakresu 2..12. Okazuje się, że najmniej prawdopodobnymi makrostanami są liczby 2 i 12, którym odpowiadają kombinacje odpowiednio (1, 1) i (6, 6). Mamy zatem prawdopodobieństwo P(1) = P(12) = 1/36. Natomiast najczęściej występującym makrostanem jest liczba 7, której odpowiadają następujące mikrostany: (1,6), (2,5), (3,4), (4,3), (5, 2) i (6, 1). Mamy 6 takich kombinacji, a więc prawdopodobieństwo P(7) = 1/6. W związku z tym suma równa 7 ma największą entropię, a sumy równe 2 i 12 najmniejszą spośród wszystkich makrostanów.

Jak pisze autor:
"Każdej konfiguracji makroskopowej przypiszemy teraz pewną entropię. Z definicji entropia ta będzie proporcjonalna do liczby konfiguracji mikroskopowych, które tę konfigurację makroskopową tworzą. (Ściśle mówiąc, będzie ona proporcjonalna do logarytmu tej liczby). A zatem konfiguracja makroskopowa 7 posiada największą entropię, a 2 i 12 najmniejszą. (Zauważmy, że entropia związana jest jedynie ze zdarzeniami makroskopowymi).
W ten sposób dochodzimy do relacji prawdopodobieństwa i entropii. Im większa jest entropia jakiejś konfiguracji, tym większe prawdopodobieństwo, że pojawi się podczas gry."

Nadal twierdzisz, że nie rozumiem Reeves'a ? No to oświeć mnie i powiedz, jak mam go rozumieć ? Jeżeli ja błądzę, to i on błądzi.

Nie lubię się powtarzać:
>Entropia jest tym większa, im bardziej rozmyty jest rozkład prawdopodobieństwa, czyli osiąga największą wartość dla rozkładu jednorodnego.
>Mogę więc tylko powtórzyć to, co napisałem poprzednio.

>"Im większa jest entropia jakiejś konfiguracji, tym większe prawdopodobieństwo, że pojawi się podczas gry."
a kto twierdzi inaczej? już dużo wcześniej zauważył to marcin: www.racjonalista.pl/forum.php/s,2182#82

Jak już wspomniałem, liczenie entropii dla kart ma niewielki sens, bo jest to przypadek bardzo sztuczny. Tym bardziej, jeżeli używamy wzorów, które się do tego nie stosują. No ale zobaczmy, co da zastosowanie wzoru termodynamicznego, jak go określiłeś, do mojego przypadku:
"S=k*ln(W) gdzie W jest liczbą możliwych (prawdopodobnych) stanów realizacji układu."
W tym wypadku stan realizacji układu to po prostu kolejność kolorów kart (interesują na tylko kolory, nie figury, więc karty jednego koloru są nierozróżnialne).
Musimy sobie najpierw policzyć ogólny wzór, aby jakoś łatwo to liczyć. Tu się kłania matematyka dyskretna i wzory zwarte. W pierwszym przypadku mamy n kart i wstawiamy w nie 2 karty. Po rozpatrzeniu łatwych przypadków, otrzymujemy wzór na ilość takich możliwości:
I(2,0)=1 (czyli wstawiamy 2 karty w zero kart);
I(2,n)=I(2,n-1)+n+1=(n+1)*(n+2)/2=(n+2)!/(2!*(n+2-2)!)=C(2,n+2), czyli sprowadziłem to do kombinacji 2-el. ze zbioru n+2 elementowego.
Drugi przypadek to n kart, w które wstawiamy 2 karty, a potem znów 2 karty. Dlatego oczywiste, że: J(2,2,n)=I(2,n)*I(2,n+2)=C(2,n+2)*C(2,n+4)
W pierwszym przypadku mamy n=8, więc W1=I(2,8)=9*10/2=45. W drugim n=6, więc W2=I(2,6)*I(2,8)=28*45
DS=S2-S1=k*(log(28*45)-log(45))=k*log(28). Entropia wzrosła, oczywiście.
Naturalnie to nie jest dokładnie to samo, co wtedy (k*1.52), ponieważ użyto różnych wzorów, czyli także definicji. Entropia jest tym, co definiuje wzór-i tyle. Stałe też możemy zmieniać, o czym już pisałem. Więc wystarczy sobie dobrać stałe k tak, aby miały sens dla układów kart. O to ci chodziło?

>
>Jak już wspomniałem, liczenie entropii dla kart ma niewielki sens, bo jest to przypadek bardzo sztuczny. Tym bardziej, jeżeli używamy wzorów, które się do tego

Sztuczny przypadek ? W takim razie ten z dwoma kostkami do gry, przedstawiony w poprzednim wątku, też jest sztuczny ? Człowieku, kim ty jesteś, żeby stawiać dwóję Reeves'owi ?

>nie stosują. No ale zobaczmy, co da zastosowanie wzoru termodynamicznego, jak go określiłeś, do mojego przypadku:
>"S=k*ln(W) gdzie W jest liczbą możliwych (prawdopodobnych) stanów realizacji układu."
>W tym wypadku stan realizacji układu to po prostu kolejność kolorów kart (interesują na tylko kolory, nie figury, więc karty jednego koloru są nierozróżnialne).

Nie rozumiem tego twojego wywodu. Nie rozumiem, dlaczego jako liczbę mikrostanów wybrałeś liczbę kombinacji, a nie permutacji. Dla mnie jest W=10! w obu przypadkach. Nie wiem też w dalszym ciągu, do jakiego układu należą oba rozpatrywane przez ciebie makrostany i jak obliczyć prawdopodobieństwo każdego z nich. Ale mniejsza z tym. Wykażę ci językiem matematyki, że twoje wywody nie mają sensu.

Rozpatrzmy dwa następujące przypadki.

1) Układ 13 kart: 7 czarnych i 6 czerwonych.
2) Układ 13 kart: 10 czarnych, 1 czerwona, 1 niebieska i 1 zielona.

Najpierw obliczmy entropię ze wzoru S=k*ln(W) według zaproponowanej przez ciebie koncepcji.

Dla pierwszego układu: W(1) = 13!/(6!*7!) = 8*9*10*11*12*13/720 = 11*12*13 = 1716.
Dla drugiego układu: W(2) = 13!/10! = 11*12*13 = 1716.
A zatem W(1) = W(2) = 1716 i obie entropie są równe S(1)=S(2)=k*ln(1716) = 7.45*k.

A teraz obliczmy entropię informacyjną.

Układ pierwszy.
S(1) = -k*[(6/13)*log(6/13) + (7/13)*log(7/13)] = k*[log13 - (6/13)*log6 - (7/13)*log7 ]= k*(3.7 - 1.19 - 1.51) = 1*k.

Układ drugi.
S(2) = -k*[(3/13)*log(1/13) + (10/13)*log(10/13)] = k*[log13 - (10/13)*log10] = k*[3.7 - 0.77*3.32] = 1.14*k.

A zatem S(2) - S(1) = 0.14*k i entropia wzrosła.

Mówiąc krótko, twoje rozumowanie prowadzi do błędnych wyników.

Entropia informacyjna jest miarą niewiedzy o układzie, czy też, mówiąc inaczej, miarą rozmycia układu. I taki jest jej sens fizyczny. Natomiast kiedy liczymy entropię na podstawie liczby mikrostanów ze wzoru S=k*ln(W), to jej sens fizyczny jest już zupełnie inny.

>Nie rozumiem, dlaczego jako liczbę mikrostanów wybrałeś liczbę kombinacji, a nie permutacji.
nie wybrałem liczby mikrostanów, tylko 'liczbę możliwych (prawdopodobnych) stanów realizacji układu'.

>Nie wiem też w dalszym ciągu, do jakiego układu należą oba rozpatrywane przez ciebie makrostany
to układu 10-ciu kolorowych kart.

>i jak obliczyć prawdopodobieństwo każdego z nich.
dla tej definicji nie trzeba tego robić.

>Ale mniejsza z tym. Wykażę ci językiem matematyki, że twoje wywody nie mają sensu.
a to się dopiero okaże..

>Najpierw obliczmy entropię ze wzoru S=k*ln(W) według zaproponowanej przez ciebie koncepcji.
wniosek jest taki, że ilość realizacji w obu przypadkach jest taka sama. co w tym dziwnego? jeżeli wzór mówi, że entropia nie wzrosła, to widocznie tak jest. w końcu to wzór definiuje pojęcie.

>A teraz obliczmy entropię informacyjną.
dla ścisłości: S1=log10((6^6*7^7)/13^13)/13=0.29*k, S2=log10((10^10)/13^13)/13=0.34*k i wg tego wzoru entropia wzrosła.
to jest wzór, który się stosuje właśnie do takich przypadków.

>Mówiąc krótko, twoje rozumowanie prowadzi do błędnych wyników.
co jest błędne? ty nalegałeś na wzór k*lnW, więc się nie dziw, że dziwnie wychodzi.
zresztą: www.racjonalista.pl/forum.php/s,2182#95

>Natomiast kiedy liczymy entropię na podstawie liczby mikrostanów ze wzoru S=k*ln(W), to jej sens fizyczny jest już zupełnie inny.
sens jest taki, jak to definiuje wzór. nie rozumiem, czemu ty się dziwisz. tym bardziej, że sam napisałeś:
>Dla układów chaotycznych, takich jak gazy, obie entropie można uważać w pewnym sensie za równoważne
więc sam już nie rozumiem, o co ci chodzi.

>to jest wzór, który się stosuje właśnie do takich przypadków.
>
>>Mówiąc krótko, twoje rozumowanie prowadzi do błędnych wyników.
>co jest błędne? ty nalegałeś na wzór k*lnW, więc się nie dziw, że dziwnie wychodzi.

Wykazałem ci niezbicie, że entropia termodynamiczna S=k*ln(W) jest inną wielkością fizyczną niż entropia informacyjna, tzn. inny jest jej sens fizyczny. Oczywiście możesz nadal wierzyć, że są one tożsame, gdyż każdy ma prawo do swoich wierzeń. Ale będą to tylko wierzenia, a nie wiedza naukowa.

>Wykazałem ci niezbicie, że entropia termodynamiczna S=k*ln(W) jest inną wielkością fizyczną niż entropia informacyjna, tzn. inny jest jej sens fizyczny.
ale co ty pleciesz? sam napisałem, że:
>Różne definicje entropii, różne wzory, ale nadal ta sama entropia.
jest analogicznie jak z energią. to tak, jakbyś mi kazał liczyć energię potencjalną kamienia ze wzoru na energię poszczególnych jego atomów. niby można, tylko po co? sens będzie inny, wynik będzie inny, ale energia ta sama. więc 'wykazałeś' mi, coś, co sam zauważyłem: sens jest taki, jak to definiuje wzór.
od jakiegoś czasu tylko po mnie jeździsz, ale mnie to już naczyna nudzić. gdzie w tym sens?

>>Wykazałem ci niezbicie, że entropia termodynamiczna S=k*ln(W) jest inną wielkością fizyczną niż entropia informacyjna, tzn. inny jest jej sens fizyczny.
>ale co ty pleciesz? sam napisałem, że:
>>Różne definicje entropii, różne wzory, ale nadal ta sama entropia.
>jest analogicznie jak z energią. to tak, jakbyś mi kazał liczyć energię potencjalną

Być może wyrażam się trochę nieściśle mówiąc, że entropia termodynamiczna jest inną wielkością fizyczną niż entropia informacyjna. Wielkość fizyczna jest jedna i nazywa się entropia. Natomiast prawdą jest, że entropia termodynamiczna jest inną entropią niż informacyjna. Cała ta nasza dyskusja wygląda mniej więcej tak, jakbym ja mówił cały czas o energii potencjalnej i uzasadniając swoje tezy przytaczał przykłady z wykorzystaniem wzoru E = m*g*h. Na co ty podnosisz krzyk, że gadam bzdury i wyjeżdżasz ze wzorem na energię kinetyczną E = ½*m*v^2. Ja oczywiście zaczynam ci tłumaczyć, że przecież rozmawiamy o dwóch różnych energiach. Ale ty znowu walisz pięścią w stół i krzyczysz: bzdura, energia to energia i basta ! Przez następne 10 wątków próbuję cię przekonać, że energia potencjalna jest jednak czymś innym niż energia kinetyczna, ale żadne, nawet najbardziej oczywiste argumenty do ciebie nie docierają. Z oślim uporem powtarzasz tylko, że energia to energia i już. Naprawdę, wygląda to kuriozalnie.