Przez lata słyszeliśmy jedynie plotki o maszynach zdolnych do zabijania bez udziału operatora. Dziś to już nie teoria, a rzeczywistość, która zmienia zasady gry wojennej na naszych oczach.
To przełomowy moment – technologia, o której czytaliśmy w powieściach science-fiction, stała się realnym zagrożeniem. Musimy przestać pytać, czy to się wydarzy, a zacząć szczerze rozmawiać o tym, czy chcemy, aby algorytmy decydowały o życiu i śmierci.
Dlaczego to nie jest kolejna opowieść o sztucznej inteligencji
Wielu z nas myśli, że śmiercionośna broń AI to domena tajnych laboratoriów w USA czy Rosji. Prawda jest bardziej brutalna: dzisiaj nastolatek z dostępem do tanich części z popularnych serwisów aukcyjnych i podstawowej wiedzy programistycznej może zbudować drona o autonomicznych możliwościach.
Być może widzieliście to w relacjach z Ukrainy – niebo pełne jest maszyn, które coraz częściej działają w oparciu o własne oświetlenie celów i algorytmy rozpoznawania obrazu. Problem polega na tym, że maszyna nie posiada instynktu moralnego.
Co się dzieje, gdy maszyna przejmuje kontrolę
Etycy od dawna ostrzegają przed trzema głównymi ryzykami:
- Odpowiedzialność: Kto odpowiada za błąd maszyny? Projektant, właściciel, czy może nikt?
- Próg wejścia: Gdy wojna staje się "tanio zautomatyzowana", decydowanie o jej rozpoczęciu przychodzi politykom o wiele łatwiej.
- Błąd rozpoznania: System może łatwo pomylić żołnierza z cywilem, jeśli światło lub kąt obserwacji nie będą idealne.
Czy jeszcze możemy coś zrobić?
ONZ od dekady debatuje nad zakazem użycia w pełni autonomicznych systemów, ale silne państwa wciąż blokują te ustalenia. To przypomina walkę z wiatrakami, podczas gdy technologia wyprzedza prawo o lata świetlne.
Jeżeli chcemy ograniczyć to zjawisko, musimy wymusić na rządach wprowadzenie sztywnych regulacji, jeszcze zanim tanie drony staną się standardowym wyposażeniem w każdym konflikcie na świecie. To przypomina serwisowanie samochodu przed długą trasą – lepiej zrobić przegląd teraz, niż zostać z zepsutą maszyną na środku autostrady.
Co o tym sądzisz? Czy wierzysz, że człowiek powinien zawsze mieć "rękę na spuście", czy może wolisz, by szybciej działające algorytmy przejęły kontrolę nad bezpieczeństwem?
