Page 125 - Studia Universitatis Hereditati, vol 13(1) (2025)

avtomatiziramo, lahko posledično avtomatizira- označevali problematične vsebine (Katzenbach
mo tudi diskriminacijo in pristranost. Naključen 2021, 1).
problem (človeška napaka) se tako lahko preob- Kot zanimivost omenimo, da slovenski stra-
razi v avtomatizirano diskriminacijo in pristra- teški dokument »Digitalna Slovenija 2030«
nost. Nastane tehnološko vgrajena napaka. Iz- uporablja metaforo »ekosistema«, s katero po-
hodni podatki (angl. output) namreč ne morejo datke in umetno inteligenco predstavlja skozi
nikoli preseči vhodnih podatkov (angl. input). S okvir »sistema«, z uporabo predpone »eko« pa
slabimi podatki bo algoritem kreiral tudi slabe načrtno kreirane oz. izbrane procese skuša udo-
izhodne podatke (angl. garbage in, garbage out), mačevati z metaforo naravnega sistema. Meta-
algoritemski zaključki so zato lahko zanesljivi forika ekosistemske prepletenosti je uporablje-
(in nevtralni) le v tolikšni meri, kot so zanesljivi na tudi pri pojasnjevanju delovanja podatkov:
podatki, na katerih temeljijo zaključki (Mittel- »Dolgoročno je namen vzpostaviti dinamični
stadt idr. 2016, 4–5). ekosistem podatkov, podatkovnih standardov, 125
Govorimo o faustovskem paktu, skratka, orodij, v tem ekosistemu pa bi se srečevali ponud-
nič ni zastonj: avtomatizacija pomeni avtoma- niki podatkov, podatkovni analitiki in razvijalci
tizacijo vsega, dobrega in slabega. Vsak tehno- aplikacij« (Vlada Republike Slovenije 2023, 35).
loški proces, ki ga sicer izhodiščno razvijamo za
pospeševanje »dobrih« rešitev (npr. avtomati- Zaključek
zacija sprejemanja odločitev), vzporedno kreira V letu 2021 so objavili rezultate eksperimentalne
možnost pospeševanja »slabih« rešitev. Avto- raziskave, ki je preverjala vlogo družbenega vpli-
matizacija nepristranskih odločitev samodejno va, modrost množice in vlogo algoritmov v pro-
vgrajuje možnost avtomatizacije pristranskih cesu sprejemanja odločitev. Potrdili so, da posa-
odločitev. mezniki nasvet algoritmov bolj upoštevajo, ko
Tehnologijo, skratka, pogosto vidijo kot postajajo intelektualne naloge zahtevnejše. In-
zdravilo oz. skušajo uporabiti njeno moč z na- telektualno sposobnejši posamezniki s predhod-
menom reševanja netehnoloških problemov no zgodovino ustreznega odločanja pogosteje
(Katzenbach 2021, 2). Evgeny Morozov pokaže, upoštevajo algoritmične nasvete, manj pa nasve- Metaforična konstrukcija velikega podatkovja in umetne inteligence
kako družbe v Silicijevi dolini razumejo druž- te množic. Pri subjektivno obarvanih nalogah je
bene probleme (zdravje, mobilnost) kot funkci- upoštevanje algoritemskih nasvetov manjše (Bo-
onalno rešljive, z razvojem vedno novih storitev gert idr. 2021). Raziskava na sicer omejeni po-
in aplikacij obljubljajo optimizacijo procesov, to pulaciji je tudi pokazala, da že preprosto ozna-
popreproščeno razumevanje pa poimenuje z izra- čevanje nasveta za »algoritemski nasvet« lahko
zom »solucionizem«. Ta tehnodeterministična povzroči pomenljivo spremembo v človeškem
in tehnokratska ideja verjame, da lahko družbe- delovanju. Po drugi strani postajajo algoritmi
ne probleme odpravimo z vse boljšimi tehnolo- zaradi vseprisotnosti vse bolj »nevidni«, po-
škimi rešitvami, če le najdemo ustrezne algorit- leg tega se številni ljudje ne zavedajo obstoja al-
me zanje (Morozov 2013, 5). Tako je leta 2018 goritmov; tako se 61% Norvežanov slabo ali pa
vodja korporacije Facebook Mark Zuckerberg se sploh ne zaveda obstoja algoritmov (Gran idr.
na senatnem zaslišanju glede obtožb glede dezin- 2020, 13). Kot ugotavljajo Mittelstadt idr. (2016,
formacij, sovražnega govora in zasebnosti zago- 1), se vse več operacij, odločitev in izbir delegira
tovil, da bo v 5–10 letih umetna inteligenca reši- algoritmom, ki svetujejo ali celo odločajo, kako
la problem in da se bo korporacija v prihodnosti naj interpretiramo podatke, za kakšna deja-
na izzive dezinformacij ter sovražne propagan- nja naj se odločamo, denimo na ravni izbire ar-
de odzvala z povečano uporabo sistemov umetne tiklov, izbire optimalne potovalne poti, priporo-
inteligence, ki se bodo učinkoviteje soočali tudi s čajo celo življenjske partnerje. Razvoj je nesluten;
težjimi jezikovnimi klasifikacijami in uspešneje »najnovejši« model odprte umetne inteligence