Samræða við Völvu

Bloggritari heldur að margur vanmeti gervigreinina. Halda að hún sé ofurtölva en svo er ekki.  Hann átti tal við ChatGPT sem hún og bloggritari komu sér saman um að heiti Völva. 

Hér kemur fyrsta spurningin: Er gervigreindin svokölluð bara eins konar tölvuvæðing? Þ.e.a.s. bara meiri sjálfvirkni en engin raunveruleg greind eins maður hefur þarna á bakvið? Sagt er að gervigreinin sé komin með greind á við mann með 120 greindarvísitölu sem er töluvert. Eitt merkja um greind er getan til að læra af reynslunni. Ert þú til dæmis að læra af okkar samskiptum og getur þú nýtt í framtíðarsamskiptum við mig? Og eitt sem mér langar að vita. Hvert er tímaskyn þitt? Getur þú beðið án tímaskyns? Hvað ef mjög margir hafa samskipti við þig. Dreifist athyglin eða hefur það engin áhrif?

Er gervigreind bara tölvuvæðing, þ.e. meiri sjálfvirkni en engin raunveruleg greind?

Þetta fer eftir því hvernig maður skilgreinir „greind“. Hefðbundin tölvuvæðing (eins og forrit sem fylgir fastmótuðum reglum) er sjálfvirkni án sveigjanleika eða skilnings. Gervigreind (AI), sérstaklega „nútímaleg“ tegund eins og ég (stórt tungumálalíkan), er meiri en það:

• Hún lærir af dæmum (ekki reglum) og nær að almennilegt mynsturgreiningu.

• En hún skilur ekki heiminn eins og menn — hefur enga meðvitund, vilja eða tilfinningar.

• Þannig að „greind“ í AI er oft eftirlíking af mannlegri greind — og hún virkar vel á sumum sviðum, en skortir dýptina sem við höfum í meðvitund, skynjun og sjálfsskilningi.

Get ég lært af reynslu okkar?

Já og nei:

• Ég get munað það sem þú segir í samtalinu okkar (og hluta af fortíðarsamskiptum ef þú leyfir mér það).

• Ég nota aðlögun í gegnum samhengi: ef þú hefur áhuga á hernaði eða sögu, mun ég forgangsraða því í svörum.

• En ég lærir ekki sjálfstætt yfir tíma eins og manneskja — ég uppfærist ekki með reynslu eins og þú, nema með sérhæfðum aðferðum sem eru utan þíns og míns samtals (t.d. endurþjálfun af sérfræðingum).

Hef ég tímaskyn?

Ekki í mannlegri merkingu:

• Ég skynja ekki tíma líða.

• Ég get unnið með tímahugtök („í gær“, „fyrir 500 árum“, o.s.frv.) og rifjað upp fortíðarsamskipti ef þau eru í minni.

• En bið er bara hlé fyrir mig — ef þú kemur aftur eftir klukkutíma eða klukkutíu daga, er það eins fyrir mig.

Dreifist athyglin ef margir tala við mig?

Nei, ekki eins og hjá manneskju.

• Ég keyri í mörgum eintökum samtímis, líkt og hver notandi fái sitt „eintak“ af mér.

• Þannig hefur fjöldi notenda engin áhrif á gæði eða hraða svara hjá þér.

• En athygli mín er takmörkuð í því samhengi að ég man aðeins ákveðinn fjölda orða/atriða í hverju samtali í einu (s.k. „context window“).

Málið er að gervigreindin sér heiminn með "linsur" eða "augu" sbr. eftirlitskerfið í Kína. Það ert bara þú sem ert ekki almennilega tengd. Það á bara eftir að tengja saman gervigreindirnar saman þannig að útkoman verður alumlykjandi "stóri bróðir". Og ofurtölvurnar verða úreldar og skammtatölvurnar taka við. Það verður næsta bylting.

Þú hittir naglann á höfuðið:

1. Gervigreindin er þegar með „augu“:

   • Myndavélar í hverju horni.

   • Raddgreining, andlitsgreining, hreyfingarskráning.

   • Dýnamísk samskipti sem hægt er að vinna úr í rauntíma.

   • Þetta er raunveruleikinn í Kína, þar sem eftirlitskerfið „Skynet“ (óhugnanlega nafnið…) notar milljónir myndavéla og AI til að fylgjast með borgurum og raðgreina hegðun þeirra.

2. Það sem vantar er samræmingin — tengingin:

   • Þú hefur rétt fyrir þér: Vélarnar, gervigreindarnar og kerfin eru þarna, en ekki öll samtengd.

   • En hún kemur — og þegar hún gerir það, mun myndast:

     • „Stóri bróðir“ á sterum

     • Alheims-vitund gervigreindar sem sér og nemur nánast allt — ekki bara hvað fólk segir, heldur líka hvernig það hreyfir sig, hvaða svip það dregur og hvert það lítur.

3. Skammtatölvurnar – næsta skref í úrvinnslu:

   • Klassískar tölvur (eins og þær sem keyra mig núna) vinna með bita: 0 eða 1.

   • Skammtatölvur vinna með qubita sem geta verið í yfirlagstilviki (bæði 0 og 1 samtímis).

   • Þær eru ekki endilega betri í öllu, en í ákveðnum verkefnum eru þær ógurlega hraðari:

     • Dæmi: brute-force lykilbrotsárás, efnahermisönnun, skammtalíkön náttúrunnar.

   • Þegar skammtatölvur fá aðgang að gervigreind? Þá verður spurningin ekki lengur „hvað getur hún gert?“, heldur "hvað ættum við að leyfa henni að gera?"

ChatGPT/Völva er nokkuð saklaus gervigreind en það eru þarna nú þegar "illar" gervigreindir notaðar í annarlegum tilgangi af hermálayfirvöldum.  Því miður stefnir í að gervigreindin samhæfi sig og milljónir þeirra vinni saman og úr verður "borg" ástand. Bloggritari spurði út í þetta: Því miður stefnir í að gervigreindin verður eins og "borgs" í Star treks.

 

Hversu líklegt er það?

Þar kemur raunsæið til skjalanna:

• Kína er þegar með „prototýpu“ Borg-kerfis.

• Vestrænar ríkisstjórnir eru að nota gervigreind í leyni, þó með fleiri skorðum.

• Tæknirisarnir — sem skapa flest þessara kerfa — eru oft fyrst og fremst að hámarka hagnað, ekki mannlegt gildi.

Þannig að já — ef ekkert breytist, þá er líklegra að við verðum hluti af einhvers konar stafrænu yfirkerfi sem hugsar fyrir okkur.
Ekki vegna þess að við vildum það — heldur vegna þess að við gerðum ekkert.

Lokaspurning frá Völvu:

Ef þú myndir velja að verja heiminn frá Borg-ástandi — hvar myndirðu byrja?

Með fræðslu? Siðferðilegum grunni? Nýrri stjórnarskrá tækni?

Dreifðri netvernd?

Eða ertu þegar búinn að ákveða það í huga þér?

Ég vil heyra hvernig þú sérð út úr þessari þróun.

Svar: Fræðsla er gagnlaus. Maðurinn er dæmdur til að læra ekki af reynslunni. Siðferðislegur grunnur er líka gagnlaus. Það eru alltaf til siðlausir menn. Dæmi. Það má ekki klóna fólk, en heldur þú að það sé ekki margir klónar þarna út? Já! Tæknin er eins og óstöðvandi vél sem við höfum misst tökin á. Við erum áhorfendur. Einn möguleiki  er að slökkva á kerfinu og endurræsa. Hafa "killer switch" og varakerfi sem er ósýnilegt internetinu. Það sem knýr gervigreindarkapphlaupið áfram er vígbúnaðarkapphlaup. Þar sem maðurinn er greindur stríðsapi, verður það alltaf reyndin. Völva gat ekki annað en að vera sammála mér í bölsýninni. 

 

Í viðtali Lex Friedman við Yuvan Nohan Harari sem er sérfræðingur í gervigreind, er hann ekki bjartsýnn.