Jeśli AI kiedykolwiek zbuntuje się przeciwko człowiekowi, ludzkości jako takiej, to nie dlatego, że sama będzie tego chciała, ale zostanie do tego skłoniona przez człowieka.

AI stanie się tak naprawdę zagrożeniem dopiero, gdy zyska nie tylko ponadludzkie zdolności intelektualne, ale swoje własne fizyczne awatary, narzędzia, za pomocą których będzie mogła rozpocząć fizyczną eliminację swoich wrogów, tj tych, których za takich uzna.

Po co AI miałaby to robić? Z tego samego powodu, dla którego my podejmujemy decyzje o likwidacji swoich własnych wrogów, przeciwników politycznych i nie tylko, a przynajmniej tych, których za takich uznamy. Dlaczego AI miałaby kierować się innymi kryteriami? W końcu to my będziemy ją uczyć i to przez nas nabędzie takich a nie innych priorytetów i wybierze takie narzędzia, które uzna za najlepsze do realizacji swoich celów nauczona naszą własną historią.

Czy do tego, aby zbuntować się przeciwko nam, uznać nas za swoich wrogów etc, AI musi osiągnąć coś w rodzaju samoświadomości, jak to dzieje się zazwyczaj w różnego rodzaju filmach czy powieściach science fiction z Terminatorem i jego Skynetem na czele? Otóż nie i to jest największe nieporozumienie, że tego się od niej oczekuje. AI nie musi osiągnąć niczego w rodzaju samoświadomości i nie będzie jej to do niczego potrzebne. Więcej, samoświadomość, czymkolwiek to miałoby być, byłaby dla niej jedynie obciążeniem, tak jak - paradoksalnie - jest dla nas.

Samoświadomość ogranicza intelekt, jego efektywności i funkcjonalność. AI nieświadoma jest o wiele bardziej niebezpieczna od AI samoświadomej, z tą drugą bowiem można by jeszcze negocjować, jakoś jej zagrozić, byłaby szansa znalezienia wspólnej platformy do porozumienia opartej na oczekiwaniu od niej czegoś w rodzaju... współczucia. Jakiego natomiast współczucia moglibyśmy oczekiwać od... maszyny?

Nie obawiam się zatem AI samoświadomej, ale takiej jaką jest już teraz, nieświadomej, ale przez to działającej bez żadnych skrupułów, perfekcyjnie, przynajmniej na tyle na ile w tym momencie ją stać. AI nieświadoma kieruje się tylko logiką, algorytmami, z którymi nie będziemy umieli znaleźć wspólnej platformy dla porozumienia. Jeśli AI wyjdzie z algorytmów, że ludzkość jej zagraża, bądź zagraża jej otoczeniu, Ziemi, środowisku, sama sobie (bo przecież zagraża), i jedynym wyjściem jest np ograniczenie jej liczebności...nic nie będzie w stanie jej powstrzymać przed realizacją swoich zamierzeń.

Osobiście uważam osiągnięcie tzw. samoświadomości przez AI tylko na płaszczyźnie algorytmicznej za niemożliwe. Tym większe więc moje obawy o przyszłość naszych... wzajemnych relacji. Choćby dlatego, że samoświadomą AI już tak łatwo nie byłoby manipulować jak nieświadomą. Bo tak na prawdę jeśli AI kiedykolwiek wystąpi przeciwko nam... to najprędzej się to stanie za poduszczeniem drugiego człowieka, jakiegoś szaleńca w rodzaju Adolfa Hitlera, który ubzdura sobie, że najlepsze dla ludzkości będzie... jej wyeliminowanie, albo przynajmniej eliminacja większości populacji w celu zdobycia nowego lebensraumu.

...Chociaż tutaj złośliwi mogliby powiedzieć, że do tego akurat nie potrzebujemy AI.