Forsíða / Fréttir / Fréttatilkynning. Er vá af háþróaðri gervigreind?

Fréttatilkynning. Er vá af háþróaðri gervigreind?

25. ágúst 2023 12:04

22. ágúst 2023

Er vá af háþróaðri gervigreind?

Komin er út skýrsla á vegum samtaka framtíðarfræðinga, Millennium Project, sem varar við hættunni af háþróaðri gervigreind, og bendir á nauðsyn alheimssamvinnu á þessu sviði.

Í skýrslunni koma fram viðhorf helstu leiðtoga heims, er varða þróun gervigreindar, og hugmyndir þeirra um hugsanlega framtíðarþróun.

Skýrsla Millennium Project varar við því að háþróuð gervigreindarkerfi gætu komið fram fyrr en búist er við, sem hefði áður óþekkta áhættu í för með sér nema gripið sé til viðunandi ráðstafana á alþjóðavísu.

Í skýrslunni, sem ber titilinn International Governance Issues of the Transition from Artificial Narrow Intelligence to Artificial General Intelligence (AGI), kemur fram álit 55 gervigreindarsérfræðinga frá Bandaríkjunum, Kína, Bretlandi, Kanada, Evrópusambandinu og Rússlandi. Þeir fjalla meðal annars um hvernig eigi að takast á við AGI—AI, á grundvelli nýrra forsenda um þróun gervigreindar. Meðal þessara sérfræðinga eru Sam Altman, Bill Gates og Elon Musk.

Í skýrslunni segir að AGI gæti skapað gervigreind umfram mannlega hæfileika. Skortur á reglum gæti leitt til skelfilegra afleiðinga, þar með talið tilvistarógnun við mannkynið ef slík kerfi eru ekki í samræmi við mannleg gildi og hagsmuni. Í skýrslunni kemur fram að engir núverandi innviða séu nægilega undirbúnir til að takast á við áhættuna og þau tækifæri sem skapast af gervi almennrar greindar (AGI). Þetta kallar á hraðari þróun nýrra viðmiða, reglna, sem eru sveigjanlegar og sem gera ráð fyrir hraðari þróun á þessu sviði en gert hefur verið ráð fyrir og sem varna óþarflegri áhættu sem þróunin gæti leitt af sér.

„AGI er nær en nokkru sinni fyrr – næstu framfarir gætu farið fram úr greind manna,“ hefur skýrslan eftir Ilya Sutskever, meðstofnanda OpenAI. „Aðlögun við mannleg gildi er mikilvæg en krefjandi.“ Ben Goertzel, höfundur AGI Revolution.

Aðrar helstu niðurstöður eru:

• Ávinningur AGI verður verulegur á sviði læknisfræði, menntunar, stjórnunar og framleiðni, og því keppast fyrirtæki um að vera fyrst til að hagnýta sér hana.

• AGI mun auka pólitískt vald, og því keppast stjórnvöld um að vera fyrst í að innleiða slík kerfi.

• Alþjóðlegt samstarf er nauðsynlegt til að takast á við harðandi samkeppni meðal þjóða og fyrirtækja sem keppa um yfirburði á sviði gervigreindar. Sameiginleg áhætta kann að knýja á um samvinnu, milli ólíkra aðila, og draga úr vantrausti þeirra á milli.

• Hugsanlega þarf óvenjulegar ráðstafanir til að framfylgja nauðsynlegum aðgerðum á sviði stjórnsýslu í þessu sambandi bæði innan ríkja og á heimsvísu.

• Umdeildar tillögur um að takmarka rannsóknir og þróun, á þessu sviði gætu orðið nauðsynlegar, til að þróa innviði og lausnir til að takast á við hugsanlega almenna vá.

• Glugginn til að þróa skilvirkar lausnir er þröngur, krefst áður óþekkts samstarfs.

„Við erum öll í sama báti? – ef það gengur illa, þá erum við öll dauðadæmd,“ vitnar skýrslan í Nick Bostrom, prófessor í Oxford.

Millennium Project kallar eftir nauðsynlegum aðgerðum til að skapa AGI reglur og viðmið á innlendum og alþjóðlegum vettvangi áður en háþróuð gervigreind fer yfir getu mannkyns til að stjórna því á öruggan hátt. „Ef við fáum ekki samþykkt Sameinuðu þjóðanna um AGI og AGI-stofnun Sameinuðu þjóðanna til að framfylgja reglum og verndaraðgerðum, þá gætu ýmsar gerðir gervigreindar komið fram sem við höfum ekki stjórn á og okkur líkar ekki við,“ segir Jerome Glenn, forstjóri hjá Millennium Project.

Sjá nánar með því að fara inn á vefinn https://www.millennium-project.org/transition-from-artificial-narrow-to-artificial-general-intelligence-governance/

Þetta starf var stutt af Dubai Future Foundation og Future of Life Institute. Millennium Project var stofnað árið 1996 og eru alþjóðleg samtök með 70 formlegar tengingar, starfsstöðvar, um allan heim.

Framtíðarsetur Íslands er ein af þessum starfsstöðvum og er hluti af umræddri rannsókn. Forstöðumaður setursins er Karl Friðriksson, sem veitir frekari upplýsingar, sími 8940422 eða karlf@framtíðarsetur.is, en einnig er hægt að hafa beint samband við forstöðumann Millennium Project, Jerome Glenn, +1-202-669-4410, Jerome.Glenn@Millennium-Project.org

Fleiri fréttir og pistlar

19. júní 2025 13:54

Nýkjörin stjórn faghóps um þjónustu-og markaðsstjórnun

Nýlega barst fyrirspurn til Stjórnvísi frá áhugasömum félaga um að endurvekja stjórn faghóps um þjónutu-og markaðsstjórnun. Í framhaldi var sendur út póstur til félaga þar sem óskað var eftir áhugasömum í stjórn faghópsins. Viðbrögðin létu ekki á sér standa þar sem búið er að mynda 10 manna stjórn sem fundaði á VOX. Þar kynntu félagara sig og farið var yfir ábyrgð og hlutverk stjórna faghópa Stjórnvísi. Stjórnin kaus Maríu Ágústsdóttur ON sem formann og Hildi Ottesen sem varaformann. Áhugasamir eru hvattir til að skrá sig í faghópinn með því að smella hér.

Stjórn faghópsins skipa: Ásdís Gíslason Slökkvilið höfuðborgarsvæðisins, Brynja Ragnarsdóttir Veitur, Heiðrún Grétarsdóttir Bananar, Hildur Ottesen Harpa, Hjördís María Ólafsdóttir Happdrætti Háskóla Íslands, Ingibjörg Magnúsdóttir Pílukast ehf, María Ágústsdóttir ON, Sædís Jónasdóttir Samgöngustofa, Unnur Líndal ON og Þórhallur Örn Guðlaugsson Háskóli Íslands.

11. júní 2025 19:09

Nýkjörin stjórn faghóps um verkefnastjórnun

Yfir þrjátíu áhugaverðir aðilar sýndu áhuga á að setjast í stjórn faghóps um verkefnastjórnun, allt afburðarfólk. Úr vöndu var að ráða við að móta stjórn hópsins. Úr varð fjórtán manna stjórn, sem endurspeglar vel fjölbreytileika þeirra sem áhuga sýndu. Fyrsti fundur nýrrar stjórnar var á Kringlukránni í dag þar sem félagar kynntu sig og farið var yfir ábyrgð og hlutverk stjórna faghópa Stjórnvísi. Þar sem helmingur stjórnar var staddur erlendis stefnir stjórnin á að hittast aftur í júní til að móta hugsanlegar áherslur hópsins. Stjórnin kaus Gísla Rafn Guðmundsson sem formann og Aðalstein Ingólfsson sem varaformann. Áhugasamir eru hvattir til að skrá sig í faghópinn með því að smella hér.

Stjórn faghópsins skipa: Aðalsteinn Ingólfsson MT Sport, Auður Íris Ólafsdóttir Hagar, Daníel Sigurbjörnsson Efla, Eygerður Margrétardóttir Ríkislögreglustjóri, Gísli Rafn Guðmundsson Framkvæmdasýslan-Ríkiseignir, Halldóra Traustadóttir Reykjavíkurborg, Hannes Bjarnason Sjúkrahúsið á Akureyri, Íris Elma Guðmann Dómstólasýslan, Lísbet Hannesdóttir Háskólinn á Akureyri, Signý Jóna Hreinsdóttir Landspítali, Sigurður Blöndal Háskólinn á Bifröst, Steinunn Anna Eiríksdóttir Háskóli Íslands, Þóra Kristín Sigurðardóttir Eimskip og Unnur Helga Kristjánsdóttir Strategia.

11. júní 2025 10:54

Aðalfundur Öryggishópur Stjórnvísi - ný stjórn kosin

Fundur haldinn: 4 júní 2025

Aðilar: Vilborg Magnúsdóttir Isavia Innanlands, Lilja Birgisdóttir Marel, Viðar Arason HS Orka, Snorri Páll Davíðsson Háskóli Íslands, Eggert Jóhann Árnason Bætt Öryggi, Erlingur E. Jónasson LSE og Fjóla Guðjónsdóttir Isavia Ohf sem jafnframt ritaði fundargerð.
Gísli Níls Einarsson og Eyþór Víðisson boðuðu forföll.

Dagskrá:

Yfirferð síðasta starfstímabils
Kosning í stjórn og formanns
Drög að viðburðum næsta starfstímabils
Önnur mál

Yfirferð síðasta starfstímabils

Nokkur lægð var í starfsemi hópsins á tímabilinu september 2024 til maí 2025. Þrátt fyrir að drög hefðu verið lögð að viðburðum tímabilsins og margar góðar hugmyndir komu fram til að efla og fjalla um öryggismá á víðum grunni þá raungerðust þær ekki.

Eini viðburðurinn var haldinn í júní í samstarfi við Öryggishóp Samorku og bar yfirsögnina Orka og Öryggi. Þar var fjallað um helstu áskoranir þeirra starfsvettvangur á við að etja og leiðir sem og aðferðir sem þeir hafa tekið upp. Virkilega áhugavert og verður spennandi að fylgjast með áframhaldandi vinnu.

Hópurinn var sammála um að efling öryggisumræðu væri mikilvæg og þessi vettvangur gæti lagt mikið til. Áríðandi að allir í stjórn séu virkir og taki frumkvæði að því að koma með hugmyndir og setja upp viðburði.

Kosning í stjórn og formanns

Auglýst hafði verið eftir aðilum í stjórn þar sem tveir aðilar hafa hætt á tímabilinu.

Viðbót í stjórn: Viðar Arason HS Orka, Snorri Páll Davíðsson Háskóli Íslands og Eggert Jóhann Árnason Bætt Öryggi hafa því bæst við í stjórn Öryggishóps Stjórnvísi.

Formaður: Fjóla Guðjónsdóttir bauð sig fram til formanns til aðalfundar 2026. Engin mótframboð voru og því framboð samþykkt.

Samsetning stjórnar 2025-2026 er því eftirfarandi:

Vilborg Magnúsdóttir Isavia Innanlands, Lilja Birgisdóttir Marel, Viðar Arason HS Orka, Snorri Páll Davíðsson Háskóli Íslands, Eggert Jóhann Árnason Bætt Öryggi, Erlingur E. Jónasson LSE, Fjóla Guðjónsdóttir Isavia Ohf. Gísli Níls Einarsson Öryggisstjórnun/Alda Öryggi og Eyþór Víðisson Reykjavíkurborg.

Formaður sendir fundarseríu á stjórn fyrir starfstímabil.

Drög að viðburðum næsta starfstímabils

Margar góðar hugmyndir komu fram og stjórnin einhuga um að bjóða upp á fræðandi og flotta dagskrá.

Drög að dagskrá vetrarins:

Öryggi og LEAN á það samleið og eykur LEAN öryggi
1. Ábyrgð Lilja, september 2025
2. Hvað er Bætt Öryggi og hvernig vinnur fyrirtækið til að auka öryggi
  1. Ábyrgð Eggert, nóvember 2025
  2. Hvernig eru og fyrir hvað standa Gullnu Reglurnar
    1. Ábyrgð Viðar, október 2025 eða janúar 2026
    2. Vinna í opnu rými, hefur það áhrif á heilsu?
      1. Ábyrgð Vilborg haldið í samvinnu við Vinnís
      2. Tæknin og öryggi, hvernig vinnur Tesla að bættu öryggi með tækni
        
        Ábyrgð Lilja (Fjóla) tími ekki ákveðinn

Önnur mál
Vilborg sagði frá alþjóðlegri ráðstefnu um atferlismiðaða hegðun sem haldin verður þann 9 og 10 október 2025.

9. júní 2025 12:50

Aðalfundur faghóps um stjórnun upplýsingaöryggis

Þann 21.maí var haldinn aðalfundur faghóps um stjórnun upplýsingaöryggis.

Farið var yfir þá viðburði sem haldnir voru á starfsárinu sem var að líða. Rætt var um markmið og tilgang hópsins, hver sé markhópur þeirra kynninga sem hópurinn stendur fyrir og hvort að tækifæri séu til að gera betur. Þessi mál verða rædd nánar á komandi starfsári en hópurinn var sammála um að mörg tækifæri eru fyrir hópa eins og þennan.

Kosning stjórnar fór fram þar sem Jón Kristinn Ragnarsson var endurkjörinn sem formaður hópsins. Auk hans gáfu Benedikt Rúnarsson, Friðbjörn Steinar Ottósson, Sigurður Bjarnason og Tryggvi Níelsson aftur kost á sér. Hrefna Gunnarsdóttir bættist við hópinn eftir áramót og bauð einnig kost á sér. Auk þeirra voru ný framboð, Auður Íris Ólafsdóttir og Gná Guðjónsdóttir buðu kost á sér í hópinn og eru þær boðnar velkomnar. Fyrirkomulag hópsins er að fjöldi og fjölbreytileiki stjórnar er mikill kostur og þess vegna eru öll boðin velkomin að taka þátt í þessari vinnu.

Faghópurinn fer nú í sumarfrí en mun hefja skipulagsvinnu að sumri loknu.

3. júní 2025 15:44

„Framsýn forysta“ er þema ársins hjá Stjórnvísi 2025-2026

Nýkjörin stjórn Stjórnvísi hélt í dag vinnufund stjórnar þar sem m.a. var ákveðið þema fyrir starfárið 2025-2026. Þemavinnan var unnin í miro.com og var niðurstaðan sú að þemað var valið "Framsýn forysta". Útfærslan verður kynnt nánar á Kick off fundi í ágúst.

Samskiptasáttmáli. Fundurinn hófst með því að Anna Kristín Kristinsdóttir formaður stjórnar Stjórnvísi bauð alla velkomna og fór yfir dagskrá og markmið fundarins. Formaður Stjórnvísi kynnti hugmynd að samskiptasáttmála stjórnar 2025-2026 þar sem m.a. var rætt um að: 1. Mæta undirbúin á stjórnarfundi 2. Mæta tímalega 3. Taka ábyrgð á verkefnum 4. Hafa uppbyggilega gagnrýni 5. Samskipti opin og eðlileg 6. Vera á staðnum. 7. Allt stjórnarfólk sé virkt í starfi stjórnar. 8. Stjórn ákveði sameiginlega hvar og hvernig samskipti eiga sér stað.
Í framhaldi kynnti stjórnarfólk sig og sagði örstutt frá sér.
Yfirferð á framtíðarsýn, stefnu, gildum, lögum og siðareglum. Anna Kristín fór yfir framtíðarsýn, stefnu, gildi, meginmarkmið lög og siðareglur.
Áætlun og lykilmælikvarðar. Áætlun félagsins stenst og eru tekjur á áætlun. Áætlun félagsins er uppfærð reglulega allt árið og er aðgengileg stjórnarfólki í Sharepoint. Stjórn var hvött af framkvæmdastjóra félagsins til að fara inn á Sharepoint reglulega.
Farið var yfir aðganga stjórnar að Sharepoint, Teams, Facebook og skráning stjórnar í faghópinn „stjórn Stjórnvísi“.