LLM mogą naśladować ludzki język i rozmowę z niemal idealną dokładnością. Rozróżnienie, czy rozmawiasz z LLM, czy z człowiekiem, może być trudne, i można sobie wyobrazić, że przyszłe wersje będą całkowicie nie do odróżnienia.

Jeśli zapytasz go, czy jest świadomy, odpowie, że tak – ponieważ tak powiedziałby człowiek, a został wyszkolony, aby naśladować zachowanie świadomych ludzi.

Jednak LLM to tylko modele statystyczne i prawie na pewno nie są świadome. Czy to nie czyni go prawdziwym p-zombie?