Fréttatilkynning. Er vá af háþróaðri gervigreind?

22. ágúst 2023

Er vá af háþróaðri gervigreind?

Komin er út skýrsla á vegum samtaka framtíðarfræðinga, Millennium Project, sem varar við hættunni af háþróaðri gervigreind, og bendir á nauðsyn alheimssamvinnu á þessu sviði.

Í skýrslunni koma fram viðhorf helstu leiðtoga heims, er varða þróun gervigreindar, og hugmyndir þeirra um hugsanlega framtíðarþróun.

Skýrsla Millennium Project varar við því að háþróuð gervigreindarkerfi gætu komið fram fyrr en búist er við, sem hefði áður óþekkta áhættu í för með sér nema gripið sé til viðunandi ráðstafana á alþjóðavísu.

Í skýrslunni, sem ber titilinn International Governance Issues of the Transition from Artificial Narrow Intelligence to Artificial General Intelligence (AGI), kemur fram álit 55 gervigreindarsérfræðinga frá Bandaríkjunum, Kína, Bretlandi, Kanada, Evrópusambandinu og Rússlandi. Þeir fjalla meðal annars um hvernig eigi að takast á við AGI—AI, á grundvelli nýrra forsenda um þróun gervigreindar. Meðal þessara sérfræðinga eru Sam Altman, Bill Gates og Elon Musk.

Í skýrslunni segir að AGI gæti skapað gervigreind umfram mannlega hæfileika. Skortur á reglum gæti leitt til skelfilegra afleiðinga, þar með talið tilvistarógnun við mannkynið ef slík kerfi eru ekki í samræmi við mannleg gildi og hagsmuni. Í skýrslunni kemur fram að engir núverandi innviða séu nægilega undirbúnir til að takast á við áhættuna og þau tækifæri sem skapast af gervi almennrar greindar (AGI). Þetta kallar á hraðari þróun nýrra viðmiða, reglna, sem eru sveigjanlegar og  sem gera ráð fyrir hraðari þróun á þessu sviði en gert hefur verið ráð fyrir og sem varna óþarflegri áhættu sem þróunin gæti leitt af sér.

„AGI er nær en nokkru sinni fyrr – næstu framfarir gætu farið fram úr greind manna,“ hefur skýrslan eftir Ilya Sutskever, meðstofnanda OpenAI. „Aðlögun við mannleg gildi er mikilvæg en krefjandi.“ Ben Goertzel, höfundur AGI Revolution.

Aðrar helstu niðurstöður eru:

• Ávinningur AGI verður verulegur á sviði læknisfræði, menntunar, stjórnunar og framleiðni, og því keppast fyrirtæki um að vera fyrst til  að hagnýta sér hana.

• AGI mun auka pólitískt vald, og því keppast stjórnvöld um að vera fyrst í að innleiða slík kerfi.

• Alþjóðlegt samstarf er nauðsynlegt til að takast á við harðandi  samkeppni meðal þjóða og fyrirtækja sem keppa um yfirburði á sviði gervigreindar. Sameiginleg áhætta kann að knýja á um samvinnu, milli ólíkra aðila, og draga úr vantrausti þeirra á milli.

• Hugsanlega þarf óvenjulegar ráðstafanir til að framfylgja nauðsynlegum aðgerðum á sviði stjórnsýslu í þessu sambandi bæði innan ríkja og á heimsvísu.

• Umdeildar tillögur um að takmarka rannsóknir og þróun, á þessu sviði gætu orðið nauðsynlegar, til að þróa innviði og lausnir til að takast á við hugsanlega almenna vá. 

• Glugginn til að þróa skilvirkar lausnir er þröngur, krefst áður óþekkts samstarfs.

 „Við erum öll í sama báti? – ef það gengur illa, þá erum við öll dauðadæmd,“ vitnar skýrslan í Nick Bostrom, prófessor í Oxford.

Millennium Project kallar eftir nauðsynlegum aðgerðum til að skapa AGI reglur og viðmið á innlendum og alþjóðlegum vettvangi áður en háþróuð gervigreind fer yfir getu mannkyns til að stjórna því á öruggan hátt. „Ef við fáum ekki samþykkt Sameinuðu þjóðanna um AGI og AGI-stofnun Sameinuðu þjóðanna til að framfylgja reglum og verndaraðgerðum, þá gætu ýmsar gerðir gervigreindar komið fram sem við höfum ekki stjórn á og okkur líkar ekki við,“ segir Jerome Glenn, forstjóri hjá Millennium Project.

Sjá nánar með því að fara inn á vefinn https://www.millennium-project.org/transition-from-artificial-narrow-to-artificial-general-intelligence-governance/

Þetta starf var stutt af Dubai Future Foundation og Future of Life Institute. Millennium Project var stofnað árið 1996 og eru alþjóðleg samtök með 70 formlegar tengingar, starfsstöðvar, um allan heim.

Framtíðarsetur Íslands er ein af þessum starfsstöðvum og er hluti af umræddri rannsókn. Forstöðumaður setursins er Karl Friðriksson, sem veitir frekari upplýsingar, sími 8940422 eða karlf@framtíðarsetur.is,  en einnig er hægt að hafa beint samband við forstöðumann Millennium Project, Jerome Glenn, +1-202-669-4410, Jerome.Glenn@Millennium-Project.org

Fleiri fréttir og pistlar

Óskað er eftir tilnefningum - Stjórnunarverðlaun Stjórnvísi 2026.

Til að tilnefna fyrir árið 2026 smellið hér
Óskað er eftir tilnefningum til Stjórnunarverðlauna Stjórnvísi 2026. Sjá myndband. 

Stjórnvísifélagar eru hvattir til að hafa í huga að þema stjórnar starfsárið 2025-2026 er "Framsýn forysta".

Stjórnunarverðlaun Stjórnvísi 2026 verða veitt í sautjánda sinn í febrúar næstkomandi við hátíðlega athöfn á Grand hótel, Háteigi, kl.16:00-17:10. Forseti Íslands Frú Halla Tómasdóttir afhendir verðlaunin og flytur stutt ávarp.

Við hvetjum alla landsmenn til að taka þátt með því að tilnefna og rökstyðja 1. millistjórnendur 2. yfirstjórnendur 3.frumkvöðla/brautryðjendur í fyrirtækjum innan sem utan raða Stjórnvísi sem þeim þykir hafa skarað framúr á sínu sviði.

Dómnefnd birtir lista yfir þá sem hljóta lágmarksfjölda tilnefninga.
Frestur til að tilnefna rennur út 17. desember 2025.
Hver og einn Stjórnvísifélagi getur tilnefnt og rökstutt eins marga og hann vill innan sem utan síns fyrirtækis. Opið er fyrir tilnefningar í öllum faghópum Stjórnvísi sem sjá má á vef félagsins; https://www.stjornvisi.is/is/faghopar
Dómnefnd tekur við öllum tilnefningum, vinnur úr þeim og útnefnir verðlaunahafa.


Viðmið við tilnefningu:
Að stjórnandinn hafi í starfi sínu eða einstöku verkefni sýnt af sér forystu, bæði í stjórnun og nýjum hugmyndum ásamt því að stuðla að auknum árangri í starfsemi þess fyrirtækis eða stofnunar sem hann starfar hjá.

Markmið Stjórnunarverðlauna Stjórnvísi er að vekja athygli á framúrskarandi starfi stjórnenda, örva umræðu um faglega stjórnun og hvetja félagsfólk til að auka þekkingu sína, hæfni og færni sem stjórnendur. Þannig vill Stjórnvísi stuðla að aukinni fagmennsku á sviði stjórnunar á Íslandi.

Dómnefnd.
Það er Stjórnvísi mikið í mun að verðlaunin séu byggð á faglegu mati og því eru viðmið og ferli verðlaunanna vel skilgreind og dómnefnd er skipuð sérfræðingum og reynslumiklum stjórnendum.
Dómnefnd 2026 skipa eftirtaldir:

Salóme Guðmundsdóttir, formaður dómnefndar, framkvæmdastjóri Ísorku og stjórnarformaður Kadeco.
Borghildur Erlingsdóttir, forstjóri Hugverkastofunnar.
Hermann Björnsson, forstjóri Sjóvár.
Gylfi Dalmann Aðalsteinsson, dósent við viðskiptafræðideild Háskóla Íslands.
Katrín S. Óladóttir, fyrrverandi framkvæmdastjóri Hagvangs.
Margrét Guðmundsdóttir, fyrrverandi forstjóri Icepharma hf.,og stjórnarkona.
Þröstur Olaf Sigurjónsson, prófessor við viðskiptafræðideild Háskóla Íslands.

Ritari dómnefndar er Gunnhildur Arnardóttir, framkvæmdastjóri Stjórnvísi.

Nánari upplýsingar um Stjórnunarverðlaun Stjórnvísi er að finna á heimasíðu félagsins: https://www.stjornvisi.is/is/stjornunarverdlaun

Þrautreyndir reynsluboltar með framsögn í Húsi máls og menningar

Endurvakinn faghópur Stjórnvísi um almannatengsl, miðlun og samskipti hélt vel heppnaðan haustfund í Húsi máls og menningar við Laugaveg miðvikudaginn 5. nóvember 2025. Fundurinn var opinn öllu áhugasömu fólki og fjölsóttur. Faghópurinn fékk þrautreynda reynslubolta í faginu til að opna fundinn með stuttri framsögn um sig og sín verkefni, ásamt vangaveltum yfir framþróun fagsins. Þau voru Ásgeir Friðgeirsson ráðgjafi, Bryndís Ísfold Hlöðversdóttir ráðgjafi, Eva Bergþóra Guðbergsdóttir samskiptastjóri Reykjavíkurborgar, Gísli Freyr Valdórsson blaðamaður og ráðgjafi, Særún Ósk Pálmadóttir ráðgjafi hjá KOM og Steinunn Gyðu- og Guðjónsdóttir ráðgjafi hjá Aton. Umræðum stýrði Stefán Hrafn Hagalín framkvæmdastjóri Þrettánellefu.

Fullt hús á fyrsta viðburði Faghóps um þjónustu- og markaðsstjórnun

Endurvakinn faghópur Stjórnvísi um þjónustu- og markaðsstjórnun hélt fyrsta viðburð haustsins í Björtuloftum í Hörpu föstudaginn 7. nóvember síðastliðinn.

Hvert sæti var skipað þegar Ingibjörg Kristinsdóttir þjónustuhönnuður hélt erindi sitt „Frá innsýn til aðgerða“ í Hörpu. Hún leiddi þar gesti í gengum skemmtilega blöndu af fræðum og reynslu.

„Þjónustuhönnun hefur löngum sannað sig sem aðferðafræði sem eykur ánægju viðskiptavina og starfsfólks, eykur tekjur fyrirtækja, minnkar kostnað, eykur skilvirkni, minnkar áhættu, eykur tryggð viðskiptavina og eykur líkurnar á að viðskiptavinurinn velji fyrirtækið aftur og aftur“ segir í kynningu viðburðarins.

Ingibjörg fékk fjölmargar spurningar og í lokin spjölluðu gestir og nutu samverunnar í fallegu útsýni Björtulofta.

Stjórn faghópsins þakkar gestum kærlega fyrir komuna og minnir á næsta viðburð faghópsins sem verður í húsakynnum Icelandair í Hafnarfirði 27. nóvember nk. 

Gæðastjórnun - Kaffi og kafað á dýptina 28. okt.

Enn eru nokkur pláss laus á STAÐFUNDINUM "Gæðastjórnun - Kaffi og kafað á dýptina" sem fram fer 28. okt. kl. 09:00-10:30 í húsnæði Náttúrufræðistofunar Urriðaholtsstræti 6-8, Garðabæ. Sjá nánar í hér að neðan.

Skráning fer fram að venju á vef Stjórnvísi - sjá hér: https://www.stjornvisi.is/is/vidburdir/kaffi-og-kafad-a-dyptina

---

Faghópur um gæðastjórnun býður áhugafólki um gæðamál og stjórnunarkerfi á staðviðburð þar sem þátttakendur hittast og taka þátt í umræðum um sín uppáhalds viðfangsefni. Sett verða upp umræðuborð með umræðustjórnendum (moderators) sem halda utan um samtalið á hverju borði. Viðfangsefnin ákvarða þátttakendur í sameiningu í upphafi viðburðar og velja sér í kjölfarið borð/málefni sem þeir hafa áhuga á og gefst kostur á að koma á framfæri hugmyndum og áskorunum ásamt því að fá innblástur frá öðrum. Möguleiki er að skipta um borð/málefni einu sinni á viðburðinum ef fólk kýs. Viðburðinum lýkur svo með stuttri samantekt þar sem hver umræðustjórnandi kynnir helstu niðurstöðurnar sem fram komu á viðkomandi borði - svo allir fái innsýn í umræður og lærdóma morgunsins.

Kjörið tækifæri til að ræða gæðamál á dýptina, fá nýja sýn á áskoranir og viðfangsefni og hitta kollega í morgunkaffi og gæðaspjall😊

Fjöldi þátttakenda er miðaður við hámark 25 manns. Áhugasamir eru hvattir til að skrá sig sem fyrst – fyrstur kemur, fyrstur fær.

Vel sóttur fundur í JBT Marel í morgun - Hvernig vinna HSE og LEAN saman.

Stjórnvísifélagar fjölmenntu í JBT Marel í morgun þar sem Lilja Birgisdóttir (HSE/ÖHU Manager) hjá JBT Marel fræddi  okkur um hvernig HSE (ÖHU) og LEAN vinna saman, kosti þess og galla.

Boðið var upp á morgunhressingu fyrir kynninguna kl. 08:30. Eftir kynninguna var öllum boðið upp á fræðslu og útsýningshring á svölunum þar sem hægt verður að horfa yfir framleiðsluna.

Fannst þér efnið á síðunni hjálplegt?