17. ágúst 2026 11:45
Ný alþjóðleg skýrsla um framtíð gervigreindar – hvernig eigum við að stjórna þróun AGI?
Millennium Project gefur út umfangsmikla alþjóðlega rannsókn um almenna gervigreind, stjórnun hennar og mögulegar sviðsmyndir til ársins 2035
Alþjóðlega samstarfsnetið The Millennium Project hefur gefið út nýja skýrslu, Future AI–AGI: Issues, Governance, Scenarios, þar sem fjallað er um eina af stærstu áskorunum næstu ára: hvernig samfélög heimsins geti undirbúið sig fyrir þróun frá þeirri gervigreind sem við þekkjum í dag yfir í almenna gervigreind – Artificial General Intelligence (AGI). Framtíðarsetur Íslands er hluti að samstarfsneti The Millennium Project.
Hægt er að nálgast skýrsluna hér:Skýrslan
Skýrslan byggir á umfangsmiklu alþjóðlegu rannsóknarstarfi og dregur saman sjónarmið sérfræðinga um þróun gervigreindar, mögulega alþjóðlega stjórnun hennar og ólíkar framtíðir sem kunna að blasa við fram til ársins 2035.
Frá gervigreind yfir í almenna gervigreind
Gervigreindarkerfi í dag eru fyrst og fremst hönnuð til að leysa tiltekin verkefni, þótt geta þeirra hafi aukist hratt á undanförnum árum. Með almennri gervigreind, AGI, er hins vegar átt við kerfi sem gætu lært, leyst fjölbreytt og áður óþekkt verkefni og starfað með mun meiri sjálfstjórn en núverandi gervigreind.
Slík þróun gæti haft gríðarleg jákvæð áhrif. Almenna gervigreind mætti hugsanlega nýta til að takast á við flókin vandamál á sviði heilbrigðismála, vísinda, loftslagsmála, menntunar, hagkerfis og stjórnunar samfélaga.
Á sama tíma gæti þróunin skapað áhættu sem erfitt er að sjá fyrir eða hafa stjórn á. Þess vegna leggja höfundar skýrslunnar áherslu á að ákvarðanir sem teknar eru nú geti haft afgerandi áhrif á hvernig þessi tækni þróast og hvernig hún þjónar mannkyninu.
55 sérfræðingar svara 22 lykilspurningum
Rannsókn Millennium Project skiptist í þrjá meginhluta.
Í fyrsta hlutanum er fjallað um 22 lykilspurningar varðandi þróunina frá núverandi gervigreind yfir í AGI. Þar eru dregin saman sjónarmið 55 leiðandi sérfræðinga á sviði gervigreindar.
Meðal þeirra sem koma við sögu eru þekktir frumkvöðlar og vísindamenn á borð við Sam Altman, Demis Hassabis, Elon Musk, Stuart Russell og Yoshua Bengio.
Spurningarnar snúa meðal annars að því hvernig þróun AGI gæti orðið, hvaða áhætta fylgir henni, hvaða gildi þurfi að byggja inn í kerfin og hvaða skilyrði þurfi að vera fyrir hendi áður en mjög öflug almenn gervigreind verður að veruleika.
335 sérfræðingar frá 65 löndum
Annar hluti rannsóknarinnar fjallar sérstaklega um stjórnun og regluverk.
Þar mátu 335 framtíðarfræðingar, sérfræðingar í gervigreind, stjórnarerindrekar og aðrir sérfræðingar frá 65 löndum alls 40 mögulegar reglur og leiðbeiningar um stjórnun almennrar gervigreindar.
Jafnframt voru metin fimm möguleg líkön fyrir alþjóðlega stjórnun AGI.
Þetta undirstrikar að stjórnun almennrar gervigreindar verður ekki eingöngu tæknilegt verkefni. Hún snýst einnig um alþjóðasamvinnu, stjórnmál, siðfræði, öryggi, efnahagsmál og það hvernig samfélög vilja móta framtíð sína.
Fimm sviðsmyndir til ársins 2035
Þriðji hluti skýrslunnar byggir á aðferðum framtíðarfræða og inniheldur fimm ólíkar alþjóðlegar sviðsmyndir fyrir árið 2035.
Sviðsmyndirnar lýsa mismunandi leiðum sem þróun og stjórnun almennrar gervigreindar gæti tekið. Þær eru ekki spár um hvað muni gerast heldur verkfæri til að hjálpa stjórnvöldum, fyrirtækjum, stofnunum og almenningi að sjá fyrir mögulegar afleiðingar ákvarðana sem teknar eru í dag.
Með því að skoða ólíkar mögulegar framtíðir má betur greina áhættu, tækifæri og ákvarðanir sem geta haft úrslitaáhrif á þróun næstu ára.
„Við fáum kannski ekki annað tækifæri“
Jerome C. Glenn, framkvæmdastjóri The Millennium Project og aðalhöfundur skýrslunnar, leggur áherslu á mikilvægi þess að rétt sé staðið að málum frá upphafi.
Að hans mati gæti rétt mótun upphafsskilyrða almennrar gervigreindar leitt til einhverra mestu framfara í getu mannkyns í sögunni. Verði hins vegar rangar ákvarðanir teknar sé ekki víst að mannkynið fái annað tækifæri til að leiðrétta stefnuna.
Þetta er jafnframt kjarninn í skýrslunni: stjórnun AGI þarf að þróast samhliða tækninni en ekki mörgum árum á eftir henni.
Framtíðin ræðst af ákvörðunum sem teknar eru nú
Meginboðskapur rannsóknarinnar er að framtíð gervigreindar sé ekki fyrirfram ákveðin.
Mögulegar framtíðir eru margar. Öflug gervigreind gæti orðið eitt mikilvægasta tæki mannkyns til framfara – en hún gæti jafnframt skapað áður óþekkta áhættu ef þróunin verður án nægilegs regluverks, samvinnu og langtímahugsunar.
Þess vegna þurfi að hefja undirbúning alþjóðlegrar stjórnunar áður en almenn gervigreind verður að veruleika.
Skýrslan Future AI–AGI: Issues, Governance, Scenarios er 169 blaðsíður og gefin út af The Millennium Project.
