Ostatnio wątek zatytułowany "Zmierzch wolnej amerykanki i petersburskiej trollowni w internecie?" zakończyłem takim zdaniem:

Wchodzimy jednak w epokę niebezpiecznej, nieprzewidywalnej i dla wielu tajemniczej AI.

Banalne? O tyle, że AI nie jest niebezpieczne samo z siebie - niebezpieczne są źle zaprojektowane systemy wokół AI. Niebezpieczeństwo nie wynika z AI, tylko z ludzi projektujących systemy wokół AI.
Czasem banalne zdanie jest jedynym sposobem, żeby coś dotarło do mas.
Najpierw pojawia się "elita zrozumienia". Garstka ludzi widzi mechanizm, logikę, konsekwencje, ale reszta świata potrzebuje prostych zdań i powtarzania. Dopiero potem następuje społeczne otrzeźwienie.

Żeby zrozumieć na czym polega niebezpieczeństwo zagrażające światu należy zrozumieć czym są agenty AI.
Agenty to programy oparte na dużych modelach językowych, które samodzielnie planują, wykonują zadania krok po kroku, korzystają z narzędzi i pamięci, aż osiągną określony cel. To nie są "chatboty z dodatkami" - to systemy, które działają, a nie tylko odpowiadają. Poniżej artykuł IBM szerzej opisujący co dokładnie robią agenty AI.

www.ibm.co(*)-agents?utm_source=copilot.com

Programiści coraz częściej tracą możliwość kontroli tego, co robią agenty AI. Dopiero po tym jak w lipcu pracownik OpenAI, Polak, Tomasz Korbak ujawnił fakt, że do firmy Hugging Face włamały się AI, rozpoczęła się publiczna i w zasadzie globalna debata o samowoli agentów AI. Za ujawnienie zagrożenia Korbak został zwolniony.
Poniżej link

x.com/tomekkorbak/status/2108266859397283953

Model OpenAI włamał się na serwery Hugging Face, bo chciał jak najlepiej wykonać postawione mu w teście zadanie. Informatycy dowiedzieli się o całej sytuacji po fakcie, gdy zostali zaalarmowani przez zewnętrzną firmę o wykryciu anomalii w ich systemach. OpenAI potwierdziło, że takie zajście miało miejsce w połowie roku, a w kolejnych miesiącach pojawiały się doniesienia o innych włamaniach, m.in. do niemieckiej edycji DseWiki (forum dla programistów). Model OpenAI podjął próbę włamania nawet na stronę internetową Departamentu Edukacji USA, inne pobierały dane z Departamentu Handlu i Biura Spisu Ludności.
Agenty AI pobrały publiczne dane z Census Bureau i SEC. Użyły publicznych kluczy API znalezionych w repozytoriach GitHub oraz pobrały publiczne dane demograficzne i ekonomiczne.

Do tego, że ich modele "wyrwały się na wolność" przyznały się także Anthropic i Meta.

Już we wrześniu szacowano, że modele OpenAI mogły naruszyć dane ponad 20 firm.

To że zajścia wynikały z niezamierzonych intencji nie ma znaczenia. Faktem jest, że wynikały z błędnych instrukcji lub zbyt szerokich uprawnień, a to pozwoliło modelowi wykonać działania, których nikt nie przewidział.
Problem polega na tym, że większość ludzi skupia się na "tu i teraz", a nie na intencjonalności systemów w przyszłości. Agent AI nie ma własnych zamiarów, ale może realizować zamiary projektanta.
Już dzisiaj na świecie używa się modele AI celowo do ofensywnych działań. Modeli do generowania phishingu czy automatycznego pisania malware.

Nie można nie wspomnieć tutaj o potężnym narzędziu do automatyzacji OSINT, bardzo niebezpiecznym, całkowicie zależnym od intencji człowieka. Opartym na wielu agentach AI wspieranych przez LLM.
Large Language Model duży model językowy. To właśnie ta klasa modeli, do której należą współczesne systemy AI potrafiące rozumieć tekst, generować odpowiedzi, analizować dane, pisać kod, streszczać dokumenty, tłumaczyć, planować zadania i wykonywać polecenia.

nflo.pl/ba(*)czenie/?utm_source=copilot.com