Predsjednik Savjeta: Luka Goleš Babić, MSc
Članovi Savjeta:
Luka Barišić, mag. ing. comp.
Petar Šarić, mag. educ. soc. et mag. educ. phil.
Sudjelovao u izradi dokumenta: dr. sc. Branimir Pervan
U Zagrebu, 05.01.2026.
DEKLARACIJA O TEHNOETICI I ANTITOTALITARIZMU
Okvir za tehnološki razvoj koji poštuje nepovredivost ljudske osobe
Ovom deklaracijom utvrđuju se temeljna načela tehnoetike i standardi zaštite građana u digitalnom prostoru, s ciljem očuvanja nepovredivosti ljudske osobe, ljudskog dostojanstva, temeljnih sloboda i etički usmjerenog tehnološkog razvoja.
Stručni savjet stranke MOST Hrvatska, Savjet za tehnoetiku i antitotalitarizam donosi sljedeću deklaraciju:
UVODNE ODREDBE
Polazeći od spoznaje da se suvremeno društvo nalazi u fazi duboke tehnološke transformacije koja zahvaća sve sfere ljudskog života, od komunikacije i obrazovanja do ekonomije, upravljanja i kulture;
Uviđajući da digitalne tehnologije, umjetna inteligencija i algoritamski sustavi donošenja odluka oblikuju nove obrasce društvene moći te stvaraju strukture koje mogu, ako ostanu neregulirane, narušiti temeljna prava i slobode građana;
Podsjećajući na upozorenja istaknutih filozofa i teoretičara tehnologije – poput Martina Heideggera, Jacquesa Ellula, Hansa Jonasa, Marshalla McLuhana i Neila Postmana – da tehnologija nikada nije neutralno sredstvo, nego forma kulture koja preoblikuje način na koji čovjek doživljava svijet, sebe i druge ljude;
Nadovezujući se na poruke crkvenog učiteljstva i drugih personalističkih tradicija, koje upozoravaju na opasnosti tehnokratske paradigme i naglašavaju prioritet osobe nad tehničkim sustavima;
Imajući u vidu da se ubrzani razvoj tehnoloških sustava često odvija brže od društvene, moralne i pravne mogućnosti da ih se u potpunosti razumije, nadzire i etički regulira;
Naglašavajući da se tehnologija sve češće koristi i kao instrument nadzora, bihevioralne kontrole i digitalne centralizacije moći te da pojedini modeli razvoja digitalnog identiteta, monetarne digitalizacije i personaliziranog nadzora predstavljaju ozbiljan rizik za demokratski poredak;
Svjesni da umjetna inteligencija – neovisno o svojoj tehničkoj naprednosti – ostaje lišena ljudske svijesti, moralne prosudbe i sposobnosti istinskog estetskog iskustva, te da u tom smislu odražava moral i pristranosti svojih tvoraca, a ne autonomnu etičku perspektivu;
Upozoravajući da fragmentacija znanja, preopterećenost informacijama i posljedično slabljenje ljudske sposobnosti sinteze otvaraju prostor novim oblicima manipulacije, propagande i tehnokratskog upravljanja pojedincima i društvom;
Uzimajući u obzir da tehnološki razvoj koji nije ukorijenjen u personalizmu, mudrosti i poštovanju ljudskog dostojanstva prijeti pretvoriti čovjeka u objekt obrade i puki resurs digitalnog sustava;
Savjet donosi sljedeća načela i preporuke.
OPSEG PRIMJENE
Načela i preporuke ove deklaracije primjenjuju se prvenstveno na:
- Digitalne i algoritamske sustave koji imaju značajan društveni učinak,
- Sustave koji se koriste u javnim institucijama, javnim službama ili kao infrastrukturno nužni sustavi,
- Privatne sustave čija primjena izravno ili neizravno utječe na temeljna prava, slobode i dostojanstvo građana, uključujući pristup uslugama, financijama, zapošljavanju, zdravstvu, obrazovanju, informiranju i političkom sudjelovanju.
Deklaracija se ne odnosi na trivijalne, tehničke i pomoćne automatizirane sustave koji nemaju značajan utjecaj na prava, slobode i/ili društvenu moć nad pojedincima.
I. NAČELA TEHNOETIČKOG DJELOVANJA
1. Primat ljudskog dostojanstva
Tehnološki sustavi, uključujući umjetnu inteligenciju, moraju služiti čovjeku, a ne ga nadomještati, nadzirati ili svoditi na skup podataka koji omogućuju manipulaciju njegovim ponašanjem.
2. Nepovredivost privatnosti
Pravo na digitalnu privatnost, kao i na privatnost samu po sebi, jedan je od temelja demokratskog društva i osnovni preduvjet slobode mišljenja, djelovanja i političkog sudjelovanja.
3. Transparentnost tehnoloških sustava
Razvoj, implementacija i nadzor nad sustavima automatiziranog donošenja odluka moraju biti transparentni, provjerljivi i podložni vanjskoj nezavisnoj kontroli. Transparentnost se osobito zahtijeva za sustave čije odluke imaju pravne, ekonomske, zdravstvene, sigurnosne ili društveno-isključujuće posljedice po pojedince ili skupine.
4. Očuvanje ljudske svijesti i etičke prosudbe
Korištenje tehnologije ne smije dovesti do eksternalizacije moralnih odluka na strojeve niti do atrofije ljudske sposobnosti razlikovanja dobra i zla.
5. Odbacivanje tehnokratske dominacije
Politička vlast ne smije biti prepuštena tehničkim, birokratskim ili automatiziranim strukturama koje nisu demokratski legitimne te koje, radi prirode svog ustrojenja, nemaju jedinstveno ljudsku sposobnost moralnog prosuđivanja i razlučivanja.
6. Personalistički pristup znanosti i tehnologiji
Razvoj znanosti i tehnologije mora biti ukorijenjen u personalističkoj etici koja polazi od dostojanstva svake ljudske osobe kao neponovljivog subjekta odnosa, a ne od apstraktnog pojma čovječanstva ili tehnološke efikasnosti.
7. Očuvanje slobode javnog govora
Digitalni prostor mora ostati otporan na centraliziranu cenzuru, manipulaciju i totalizirajuće ideološke pritiske, uključujući, ali ne ograničavajući se na političko filtriranje sadržaja, algoritamsko oblikovanje ponašanja i neprozirne sustave rangiranja informacija.
II. PREPORUKE I ZAHTJEVI ZA DJELOVANJE
1. Jačanje pravnog okvira za zaštitu digitalne privatnosti
- Uvesti zakonske odredbe koje ograničavaju masovni nadzor, praćenje i profiliranje građana putem digitalnih platformi.
- Osigurati da obrada osobnih podataka bude zakonita, pravedna i transparentna, s jasno definiranom svrhom koja je legitimna i razmjerna.
- Potaknuti razvoj i primjenu standarda koji osiguravaju načela “privatnosti po dizajnu” (eng. privacy by design), kako bi zaštita privatnosti bila ugrađena u temelj digitalnih sustava, uključujući i one temeljene na umjetnoj inteligenciji.
- Predvidjeti sankcije i pravne lijekove za zloupotrebe obrade podataka, uključujući neovlašteni nadzor, diskriminatorne algoritme i sustave profiliranja.
- Zaštititi prava pojedinaca na objašnjenje odluka sustava temeljenih na algoritmima odlučivanja, osobito kada algoritmi informiraju o ili donose važne odluke koje utječu na ljudska prava i slobode.
- Promicati javno uključivanje i participaciju u oblikovanju pravila zaštite podataka: uključiti civilno društvo, interdisciplinarne stručnjake i predstavnike građana u kreiranje i implementaciju zakona.
2. Uspostava nadzora nad sustavima umjetne inteligencije
- Uvesti obveznu etičku reviziju algoritama odlučivanja i modela umjetne inteligencije koji će se koristiti u sustavima od šireg javnog interesa.
- Osigurati interdisciplinarni nadzor, uključujući stručnjake za filozofiju, pravo, informacijsku sigurnost i sociologiju.
- Razviti sustave transparentnog izvještavanja i javne dostupnosti informacija o radu algoritama odlučivanja, uključujući njihove odluke, kriterije i potencijalne rizike za ljudska prava.
- Uvesti mehanizme odgovornosti i sankcioniranja za slučajeve zloupotrebe ili pogrešnih sustava za odlučivanje, kako bi se zaštitila prava i slobode građana.
- Promicati edukaciju i svijest građana o radu umjetne inteligencije i njezinim implikacijama na društvo, te uključiti javnost u procese evaluacije i nadzora ključnih sustava.
3. Ograničavanje digitalne centralizacije moći
- Spriječiti koncentraciju kontrole nad osnovnim infrastrukturnim sustavima (digitalni identitet, monetarne platforme, komunikacijske mreže) u rukama malog broja neizabranih i nekontroliranih subjekata – bilo korporativnih, političkih ili nadnacionalnih.
- Osobito odbaciti implementaciju centraliziranih, jedinstvenih i obaveznih sustava digitalnog identiteta koji omogućuju praćenje ili povezivanje svih aspekata života građana; digitalne monetarne platforme ne smiju biti jedina ni obvezna sredstva plaćanja, jer bi takva rješenja predstavljala ozbiljnu prijetnju privatnosti, građanskim pravima i osobnoj autonomiji.
- U tu svrhu osigurati obaveznu zaštitu gotovine i fizičkih osnovnih ljudskih dokumenata (osobne iskaznice, rodni listovi, zdravstvene knjižice), kako bi građani uvijek imali pristup ne-digitalnim sredstvima identifikacije i financijskog djelovanja.
4. Etika razvoja digitalnih inovacija
Zabraniti korištenje sustava umjetne inteligencije za bihevioralno upravljanje, prediktivno sankcioniranje i automatizirane oblike društvene kontrole.
Osigurati da se umjetna inteligencija koristi isključivo kao pomoćno sredstvo, a ne kao autonomni donositelj odluka koje utječu na temeljna prava građana.
Promicati razvoj tehnologija umjetne inteligencije koje povećavaju ljudsku kreativnost, autonomno rasuđivanje i sposobnost kritičkog mišljenja, dok se odbacuju sustavi koji povećavaju ovisnost i dehumanizaciju.
Prije uvođenja digitalnih sustava koji imaju značajan društveni učinak, osobito onih koje uvode javne institucije ili koji postaju infrastrukturno nužni, potrebno je provesti neovisnu procjenu utjecaja na društvo, privatnost i temeljna prava. Ta procjena treba, među ostalim, odgovoriti na sljedeća pitanja:
- Koji problem ova tehnologija rješava?
- Čije probleme ona rješava, odnosno koga koristi, a koga zanemaruje ili oštećuje?
- Koje nove probleme ili dosad nepredviđene posljedice može izazvati?
- Tko može biti posebno ranjiv ili ugrožen njezinom primjenom?
- Kako ova tehnologija mijenja način razmišljanja, komunikacije i interakcije među ljudima?
- Koje institucije i skupine dobivaju moć, a koje je gube?
5. Očuvanje ljudske dimenzije u tehnološkom razvoju
- Promicati tehnologije koje jačaju ljudsku kreativnost i autonomno rasuđivanje, a odbacivati sustave koji povećavaju ovisnost, fragmentaciju svijesti i dehumanizaciju.
- Odbaciti pristupe koji pokušavaju reducirati svijest te čovjekovu duhovnu ili estetsku dimenziju na tehničke ili podatkovne procese; zaštititi shvaćanje čovjeka kao bića koje nije svedivo na mjerljive podatke, modele izračuna ili prediktivne obrasce ponašanja.
- Odbaciti sve ideje transhumanizma i sličnih filozofija koje promiču zamjenu, nadogradnju ili redukciju čovjeka tehnologijom, jer one prijete ljudskoj autonomiji, moralnoj prosudbi i dostojanstvu.
- Promicati propisivanje i primjenu lokalnih i međunarodnih pravnih i etičkih normi koje štite ljudsko dostojanstvo, jedinstvenost i integritet osobe, uključujući zabranu kloniranja i slične regulacije u području biotehnologije i medicine, pokazujući da čovječanstvo može i mora kontrolirati tehnološke prijetnje.
6. Zaštita ljudskog bića od tehnokratskog totalitarizma
- Uvesti mehanizme za pravovremenu identifikaciju i sprječavanje zloupotrebe digitalnih sustava koji mogu ugroziti slobodu, autonomiju ili dostojanstvo pojedinca.
- Zabraniti primjenu tehnologija koje ograničavaju ljudska prava, manipuliraju percepcijom ili podređuju osobnu autonomiju u ime „efikasnosti“ ili tehnološkog napretka.
- Uvesti javne mehanizme nadzora nad svim oblicima automatiziranog odlučivanja u državnoj upravi, zdravstvu, financijama i sigurnosti.
ZAKLJUČAK
Savjet za tehnoetiku i antitotalitarizam stranke MOST Hrvatska naglašava da tehnološki razvoj mora ostati podređen čovjeku, njegovoj autonomiji, dostojanstvu i moralnoj odgovornosti. Suvremeni tehnološki sustavi moraju služiti izgradnji pravednog društva, utemeljenog na personalističkim vrijednostima, nasuprot stvaranju digitalnog totalitarizma, tehnokratske dominacije ili raščovječenog poretka.
Ovom deklaracijom utvrđuju se temeljna načela tehnoetike i standardi zaštite građana, te se poziva sve društvene aktere da tehnologiju razvijaju, reguliraju i primjenjuju isključivo u korist čovjeka i općeg dobra.
Deklaracija također naglašava nužnost očuvanja ljudske dimenzije u tehnološkom razvoju, zaštitu personalističkog poretka, privatnosti, autonomije građana i slobode kritičkog mišljenja, odbacujući pritom ideje transhumanizma i tehnokratskih elemenata, kao što je obavezna, neselektivna i nekritička digitalizacija ključnih aspekata ljudskog života.