Gervigreindin mun hjálpa við að búa til alræðisríki framtíðar

Hvernig mun gervigreindin hjálpa til við að búa til alræðisríki framtíðar? Í dag hefur kínverska alræðisstjórnin yfir að ráða 700 milljónir myndavéla sem margar hverjar geta andlitsgreint fólk. Þar er komið á "social score system", eða félagsstig fyrir rétta hegðun og frádrátt ef röng hegðun er sýnd. Í Los Angeles var fólk (afbrotamenn) á dögunum greint með hjálp tækninnar, þrátt fyrir að það væri með klúta í óeirðum.

Í dag nota bæði lýðræðisríki (til dæmis Bretland með milljóna eftirlitsmyndavéla) og alræðisríki eins og Kína eða Singapore rafrænt eftirlitstæknivætt kerfi til að fylgjast með borgurum.  Gervigreind gerir kleift að greina, flokka og rekja hreyfingar milljóna manna í rauntíma, nokkuð sem engin leyniþjónsta getur gert. Andlitsgreining sameinuð sjónvöktun (CCTV) og hegðunargreining (t.d. líkamsmál eða rödd) gerir yfirvöldum kleift að bera kennsl á "óæskilega" hegðun eða einstaklinga. Í Kína eru götur, almenningssamgöngur og jafnvel fjölbýlishús undir stöðugu eftirliti.

Svo er það hitt kerfið sem styðst ekki við sjónræna greining, heldur á félags- eða hegðunargreiningu. Félagsstigakerfi (Social Credit System) Með hjálp gervigreindar má greina og skrá hegðun borgara út frá fjölmörgum þáttum: skuldastöðu, nethegðun, vinahópum, ferðavenjum, og jafnvel hvort þeir fara yfir á rauðu ljósi. Góð hegðun getur skilað umbun (t.d. betri lánskjör, atvinnu, aðgang að skóla), en slæm hegðun getur leitt til refsinga (t.d. ferðabanns, bann við flugi/lest, útilokun úr skóla, tapað neti). Svona kerfi ekki til í lýðræðisríki eins og Ísland? Persónuvernd verndar okkur? Nei, við notum þetta kerfi líka. Fanginn sleppur fyrr úr fangelsi vegna góða hegðunnar, tryggingataki fær lægra iðgjald vegna tjónalaust tímabil, ef borgað er á réttum tíma, minnkar refsingin (sektin).

En svo er það sem er ekki enn komið á hjá vestrænum ríkjum. Mismunun og pólitísk útilokun með sjálfvirkum hætti. Gervigreind getur verið notuð til að bera kennsl á hugsanlega andófsmenn, blaðamenn, trúarhópa eða minnihlutahópa. Þetta getur átt sér stað án mannlegrar íhlutunar, þar sem kerfið ákveður að einstaklingur er "áhættusamur" og lækkar sjálfkrafa stig hans eða vekur athygli lögreglu. Vestrænar leyniþjónustur nota þessa tækni alveg örugglega í dag.

En svo er það uppáhaldsaðferð vestrænna stjórnvalda og handbenda þeirra í fjölmiðlum; falsfréttir og áróður. Gervigreind getur framleitt raunveruleikalíkar falsupplýsingar (t.d. myndbönd með rödd og andliti fólks sem segja hluti sem það aldrei sagði). Þetta gerir alræðisríkjum kleift að eyða út sannleikanum og móta sannleikann að vild. Með deepfake tækni er hægt að gera andófsmenn tortryggilega í augum almennings. Enn sem komið, er þetta bara skemmtun hjá almenningi er auðljóst tæki í höndum stjórnvalda eða valdahópa sem vilja öðrum illt. 

Svo er það framtíðin!  Viðbragðskerfi og forspárgreining (notað síðan í síðari heimsstyrjöld) notað til koma í veg fyrir glæpi sem ekki hafa verið framdir. Gervigreind getur lært að spá fyrir um hegðun einstaklinga út frá fyrri gögnum og mynstrum. Slík tækni getur verið notuð til að handtaka fólk áður en það fremur glæpi ("predictive policing"), eins og í dystópíum á borð við Minority Report. Þetta þýðir að sakleysislegt fólk getur verið undir stöðugu álagi eða beitt viðurlögum áður en það hefur brotið af sér.

Þegar ákvörðun er tekin af reikniritum (AI), getur verið ómögulegt að skilja hvers vegna viðkomandi var settur á bannlista eða færður niður í félagsstigakerfinu. Þetta dregur úr möguleikum til málsvarnar, áfrýjunar eða gagnrýni.

Þetta getur leitt til sjálfsritskoðun (sem er til nú þegar, fólk þorir ekki að tjá sig gegn almannaáliti). Þeir sem vita að þeir eru stöðugt undir eftirliti með mögulegum afleiðingum, verða líklegri til að aðlaga hugsun og hegðun að því sem ríkið telur æskilegt. Það dregur úr hugmyndalegu frelsi, gagnrýninni hugsun og frumkvæði — sem eru lífæð lýðræðis. Glæsileg framtíð?

Að lokum.  Lýðræðisríki munu segjast ekki nota svona tækni eins og hefur verið lýst hér að ofan. En þeir sem þekkja sögu CIA, þá er ljóst að það er lýgi. Á bakvið tjöldin mun gervigreindin ákveða örlög fólks, í friði eða stríði. Hún mun jafnvel sjálf sjá um framkvæmd refsinga eða aftaka.