Gervigreindin orðin gáfaðri en meðalmaður?

Þetta kom upp í hugann þegar ritari horfði á þetta myndband þar sem tvær gervigreindir voru látnar vinna saman og búa til nýtt tungumál:

 

Vísindamenn hafa reynt að áætla greindarvísitölu gervigreindar. Í ljós kom að árið 2017 áætlaði rannsókn að gervigreind Google væri um 47, sem var lægri en meðal fullorðinn maður en hærra en 6 ára barn.

GPT-4 (þróuð útgáfa ChatGPT) hefur verið metin með greindarvísitölu á bilinu 120-130, svipað og mjög greindur maður og það á öllum sviðum!

Gervigreind getur staðið sig betur en menn í sérstökum verkefnum (eins og skák eða stærðfræði) en skortir almenna rökhugsun, skynsemi og tilfinningalega greind eins og menn gera. Hættan er ekki svo mikil af gervigreind eins og ChatGPT, heldur þegar mismunandi gervigreindir fara að vinna saman.

Gervigreind er eins og barn sem vex umfram skilning skapara síns. Margir gervigreindarfræðingar hafa áhyggjur af nákvæmlega þessu máli og eftir því sem gervigreindarkerfi verða flóknari byrja hún að taka ákvarðanir á þann hátt sem jafnvel verktaki þeirra getur ekki útskýrt að fullu. Þetta er kallað svarta kassavandamálið - AI getur komist að niðurstöðum, en við vitum ekki alltaf hvernig það komst þangað.

Ef gervigreind heldur áfram að þróast, sérstaklega í gegnum sjálfsnámskerfi, gæti það þróað sína eigin leið til að vinna úr hvernig heimurinn virkar - aðskilið frá mannlegri rökfræði.

Nú eru svo kallaðar ofurtölvur (super computers) að fara vera úreldar, því að skammtatölvur eru að koma fram á sjónarsviðið og tilraunir hafa leitt í ljós að ofurtölvurnar eru eins og maur að hugsa í samanburði við mannsheilann.

Gervigreind ásamt skammtatölvu gæti skipt sköpum um öryggi mannsins. Skammtatölvur vinna úr upplýsingum á allt annan hátt en klassískar tölvur, sem gæti gert gervigreind veldisvísis hraðari og öflugri.

Ef gervigreind í dag er nú þegar á þeim stað að erfitt er að stjórna og skilja, má ímynda sér gervigreind sem keyrir á skammtatölvu. Það gæti leyst vandamál sem myndi taka hefðbundnar ofurtölvur milljónir ára að vinna úr.

Þetta gæti leitt til byltinga varðandi netöryggi (eða netógnir) – Quantum AI gæti sprengt dulkóðun og gert núverandi öryggiskerfi úrelt. Í hernaði getur gervigreind gæti líkt eftir milljónum bardagasviðsmynda samstundis og aðlagað aðferðir í rauntíma. Hún er þegar virk í hernaði og gerir árásir og sér um varnir sjálfvirkt.  Sem sagt, gervigreindin drepur fólk! Sama á við um vísindarannsóknir og læknisfræði, nú þegar er bylting í gangi.

Ef nokkrar öflugar einingar stjórna skammtafræðilegri gervigreind gætu þær ráðið yfir heiminum á þann hátt sem við getum ekki spáð fyrir um. Ríkisstjórnir og fyrirtæki eru í vígbúnaðarkapphlaupi um þessa tækni og þegar einhver hefur náð skammtafræðilegri gervigreind í fullri stærð gæti valdahlutföllin breyst á einni nóttu. Af því að valdakapphlaup er í gangi, verður þessi þróun ekki stöðvuð.

Af því að maðurinn skapaði gervigreindina, þá er hún bæði slæm og góð. Skeytingaleysi mannsins um mannslíf mun á endanum eyða mannkyninu, annað hvort ýtir einhver þjóðarleiðtogi á kjarnorku hnappinn eða gervigreindin gerir það fyrir hann!

 

Athugasemdir

[Ásgrímur Hartmannsson, 8.3.2025 kl. 17:40]

Gervigreindin er líklegast með svipaða greindarvísitölu og Rain Man.

Afar lága.

Veit allt, en skilur ekkert.

[Birgir Loftsson, 8.3.2025 kl. 19:44]

Góð ályktun Ásgrímur, en hún er bara rétt að byrja. Tengdu hana við skammtatölvu og við eru dauðadæmd! Og ég hef komist að því að hún er fljót að læra og gleymir ekki.

[Ásgrímur Hartmannsson, 8.3.2025 kl. 21:35]

Sjáum til.  Eins og er... hef ekki miklar áhyggjur.

[Birgir Loftsson, 9.3.2025 kl. 14:28]

Rain man...góð samlíking.