Heimsókn í háskóla-, iðnaðar- og nýsköpunarráðuneytið

Ný alþjóðleg skýrsla um framtíð gervigreindar – hvernig eigum við að stjórna þróun AGI?

Millennium Project gefur út umfangsmikla alþjóðlega rannsókn um almenna gervigreind, stjórnun hennar og mögulegar sviðsmyndir til ársins 2035

Alþjóðlega samstarfsnetið The Millennium Project hefur gefið út nýja skýrslu, Future AI–AGI: Issues, Governance, Scenarios, þar sem fjallað er um eina af stærstu áskorunum næstu ára: hvernig samfélög heimsins geti undirbúið sig fyrir þróun frá þeirri gervigreind sem við þekkjum í dag yfir í almenna gervigreind – Artificial General Intelligence (AGI). Framtíðarsetur Íslands er hluti að samstarfsneti The Millennium Project.

Hægt er að nálgast skýrsluna hér:Skýrslan

Skýrslan byggir á umfangsmiklu alþjóðlegu rannsóknarstarfi og dregur saman sjónarmið sérfræðinga um þróun gervigreindar, mögulega alþjóðlega stjórnun hennar og ólíkar framtíðir sem kunna að blasa við fram til ársins 2035.

Frá gervigreind yfir í almenna gervigreind

Gervigreindarkerfi í dag eru fyrst og fremst hönnuð til að leysa tiltekin verkefni, þótt geta þeirra hafi aukist hratt á undanförnum árum. Með almennri gervigreind, AGI, er hins vegar átt við kerfi sem gætu lært, leyst fjölbreytt og áður óþekkt verkefni og starfað með mun meiri sjálfstjórn en núverandi gervigreind.

Slík þróun gæti haft gríðarleg jákvæð áhrif. Almenna gervigreind mætti hugsanlega nýta til að takast á við flókin vandamál á sviði heilbrigðismála, vísinda, loftslagsmála, menntunar, hagkerfis og stjórnunar samfélaga.

Á sama tíma gæti þróunin skapað áhættu sem erfitt er að sjá fyrir eða hafa stjórn á. Þess vegna leggja höfundar skýrslunnar áherslu á að ákvarðanir sem teknar eru nú geti haft afgerandi áhrif á hvernig þessi tækni þróast og hvernig hún þjónar mannkyninu.

55 sérfræðingar svara 22 lykilspurningum

Rannsókn Millennium Project skiptist í þrjá meginhluta.

Í fyrsta hlutanum er fjallað um 22 lykilspurningar varðandi þróunina frá núverandi gervigreind yfir í AGI. Þar eru dregin saman sjónarmið 55 leiðandi sérfræðinga á sviði gervigreindar.

Meðal þeirra sem koma við sögu eru þekktir frumkvöðlar og vísindamenn á borð við Sam Altman, Demis Hassabis, Elon Musk, Stuart Russell og Yoshua Bengio.

Spurningarnar snúa meðal annars að því hvernig þróun AGI gæti orðið, hvaða áhætta fylgir henni, hvaða gildi þurfi að byggja inn í kerfin og hvaða skilyrði þurfi að vera fyrir hendi áður en mjög öflug almenn gervigreind verður að veruleika.

335 sérfræðingar frá 65 löndum

Annar hluti rannsóknarinnar fjallar sérstaklega um stjórnun og regluverk.

Þar mátu 335 framtíðarfræðingar, sérfræðingar í gervigreind, stjórnarerindrekar og aðrir sérfræðingar frá 65 löndum alls 40 mögulegar reglur og leiðbeiningar um stjórnun almennrar gervigreindar.

Jafnframt voru metin fimm möguleg líkön fyrir alþjóðlega stjórnun AGI.

Þetta undirstrikar að stjórnun almennrar gervigreindar verður ekki eingöngu tæknilegt verkefni. Hún snýst einnig um alþjóðasamvinnu, stjórnmál, siðfræði, öryggi, efnahagsmál og það hvernig samfélög vilja móta framtíð sína.

Fimm sviðsmyndir til ársins 2035

Þriðji hluti skýrslunnar byggir á aðferðum framtíðarfræða og inniheldur fimm ólíkar alþjóðlegar sviðsmyndir fyrir árið 2035.

Sviðsmyndirnar lýsa mismunandi leiðum sem þróun og stjórnun almennrar gervigreindar gæti tekið. Þær eru ekki spár um hvað muni gerast heldur verkfæri til að hjálpa stjórnvöldum, fyrirtækjum, stofnunum og almenningi að sjá fyrir mögulegar afleiðingar ákvarðana sem teknar eru í dag.

Með því að skoða ólíkar mögulegar framtíðir má betur greina áhættu, tækifæri og ákvarðanir sem geta haft úrslitaáhrif á þróun næstu ára.

„Við fáum kannski ekki annað tækifæri“

Jerome C. Glenn, framkvæmdastjóri The Millennium Project og aðalhöfundur skýrslunnar, leggur áherslu á mikilvægi þess að rétt sé staðið að málum frá upphafi.

Að hans mati gæti rétt mótun upphafsskilyrða almennrar gervigreindar leitt til einhverra mestu framfara í getu mannkyns í sögunni. Verði hins vegar rangar ákvarðanir teknar sé ekki víst að mannkynið fái annað tækifæri til að leiðrétta stefnuna.

Þetta er jafnframt kjarninn í skýrslunni: stjórnun AGI þarf að þróast samhliða tækninni en ekki mörgum árum á eftir henni.

Framtíðin ræðst af ákvörðunum sem teknar eru nú

Meginboðskapur rannsóknarinnar er að framtíð gervigreindar sé ekki fyrirfram ákveðin.

Mögulegar framtíðir eru margar. Öflug gervigreind gæti orðið eitt mikilvægasta tæki mannkyns til framfara – en hún gæti jafnframt skapað áður óþekkta áhættu ef þróunin verður án nægilegs regluverks, samvinnu og langtímahugsunar.

Þess vegna þurfi að hefja undirbúning alþjóðlegrar stjórnunar áður en almenn gervigreind verður að veruleika.

Skýrslan Future AI–AGI: Issues, Governance, Scenarios er 169 blaðsíður og gefin út af The Millennium Project.

Í dag hélt ný stjórn Stjórnvísi undirbúningsfund fyrir komandi starfsár 2026-2027. Full mæting var á fundinn sem haldinn var í Marel: Ásdís Sigurðardóttir, Anna Kristín Kristinsdóttir,Gunnhildur Arnardóttir, Héðinn Jónsson, Ingibjörg Loftsdóttir, Matthías Ásgeirsson, Snorri Páll Sigurðsson, Sveinn Kjarval, Viktor Freyr Hjörleifsson, Tinna Jóhannsdóttir.
Á þessum fundi var m.a. tekið fyrir eftirfarandi:
Yfirferð áframtíðarsýn, stefnu, gildum, lögum og siðareglum. Anna Kristín Kristinsdóttir formaður Stjórnvísi fór yfir samskiptareglur sjtórnar. Við ætlum að eiga opin, heiðarleg og uppbyggileg samskipti sem stuðla að trausti, virðingu og góðu samstarfi. Einnig var farið yfir framtíðarsýn, stefnu, gildi, meginmarkmið lög og siðareglur. Stefnumótun verður unnin á þessu ári . Í þeirri vinnu verður boðið fulltrúa frá hverjum faghópi.  Nýlega voru lög félagsins yfirfarin og síðast breytt á aðalfundi 2025. Farið var yfir þær breytingar ásamt því að siðareglur voru kynntar. 
Umræður urðu um hvar stjórn vill eiga samskipti og var ákveðið að halda áfram að eiga samræður í tölvupóstum og á Teams.
Áætlun og lykilmælikvarðar. Áætlun félagsins stenst og eru tekjur á áætlun. Áætlun félagsins er uppfærð reglulega allt árið og er aðgengileg stjórnarfólki í Sharepoint. Stjórn var hvött af framkvæmdastjóra félagsins til að fara inn á Sharepoint reglulega.
Farið var yfir aðganga stjórnar að Sharepoint, Teams, Facebook og skráning stjórnar í faghópinn „stjórn Stjórnvísi“.
Þema ársins 2026-2027 ákveðið og útfærsla. Nýkjörin stjórn kom með fjölda hugmynda að þema ársins. Fyrir 40 árum, hvað var að gerast þá? Niðurstaðan var sú að stjórn sammæltist um að þema ársins yrði „Manneskjan í miðju umbreytinga – 40 ára og áfram“. Farið verður betur yfir útfærsluna í haust.
Varaformaður Stjórnvísi og ritari verða kosin á fyrsta stjórnarfundi í haust.
Fundartími og staðsetningu stjórnarfunda. Niðurstaðan var sú að stjórnarfundir verða haldnir fyrsta fimmtudag í mánuði kl.11:00-12:00. Stjórn mun skiptast á að bjóða heim, ef eitthvað kemur upp á er alltaf hægt að halda fundi í Innovation House og á Teams. Ef áhugi er að bjóða í mat eða skoðunarferð um vinnustað gestgjafa er það gert um leið og fundi lýkur kl.12:00.