Fréttatilkynning. Er vá af háþróaðri gervigreind?

22. ágúst 2023

Er vá af háþróaðri gervigreind?

Komin er út skýrsla á vegum samtaka framtíðarfræðinga, Millennium Project, sem varar við hættunni af háþróaðri gervigreind, og bendir á nauðsyn alheimssamvinnu á þessu sviði.

Í skýrslunni koma fram viðhorf helstu leiðtoga heims, er varða þróun gervigreindar, og hugmyndir þeirra um hugsanlega framtíðarþróun.

Skýrsla Millennium Project varar við því að háþróuð gervigreindarkerfi gætu komið fram fyrr en búist er við, sem hefði áður óþekkta áhættu í för með sér nema gripið sé til viðunandi ráðstafana á alþjóðavísu.

Í skýrslunni, sem ber titilinn International Governance Issues of the Transition from Artificial Narrow Intelligence to Artificial General Intelligence (AGI), kemur fram álit 55 gervigreindarsérfræðinga frá Bandaríkjunum, Kína, Bretlandi, Kanada, Evrópusambandinu og Rússlandi. Þeir fjalla meðal annars um hvernig eigi að takast á við AGI—AI, á grundvelli nýrra forsenda um þróun gervigreindar. Meðal þessara sérfræðinga eru Sam Altman, Bill Gates og Elon Musk.

Í skýrslunni segir að AGI gæti skapað gervigreind umfram mannlega hæfileika. Skortur á reglum gæti leitt til skelfilegra afleiðinga, þar með talið tilvistarógnun við mannkynið ef slík kerfi eru ekki í samræmi við mannleg gildi og hagsmuni. Í skýrslunni kemur fram að engir núverandi innviða séu nægilega undirbúnir til að takast á við áhættuna og þau tækifæri sem skapast af gervi almennrar greindar (AGI). Þetta kallar á hraðari þróun nýrra viðmiða, reglna, sem eru sveigjanlegar og  sem gera ráð fyrir hraðari þróun á þessu sviði en gert hefur verið ráð fyrir og sem varna óþarflegri áhættu sem þróunin gæti leitt af sér.

„AGI er nær en nokkru sinni fyrr – næstu framfarir gætu farið fram úr greind manna,“ hefur skýrslan eftir Ilya Sutskever, meðstofnanda OpenAI. „Aðlögun við mannleg gildi er mikilvæg en krefjandi.“ Ben Goertzel, höfundur AGI Revolution.

Aðrar helstu niðurstöður eru:

• Ávinningur AGI verður verulegur á sviði læknisfræði, menntunar, stjórnunar og framleiðni, og því keppast fyrirtæki um að vera fyrst til  að hagnýta sér hana.

• AGI mun auka pólitískt vald, og því keppast stjórnvöld um að vera fyrst í að innleiða slík kerfi.

• Alþjóðlegt samstarf er nauðsynlegt til að takast á við harðandi  samkeppni meðal þjóða og fyrirtækja sem keppa um yfirburði á sviði gervigreindar. Sameiginleg áhætta kann að knýja á um samvinnu, milli ólíkra aðila, og draga úr vantrausti þeirra á milli.

• Hugsanlega þarf óvenjulegar ráðstafanir til að framfylgja nauðsynlegum aðgerðum á sviði stjórnsýslu í þessu sambandi bæði innan ríkja og á heimsvísu.

• Umdeildar tillögur um að takmarka rannsóknir og þróun, á þessu sviði gætu orðið nauðsynlegar, til að þróa innviði og lausnir til að takast á við hugsanlega almenna vá. 

• Glugginn til að þróa skilvirkar lausnir er þröngur, krefst áður óþekkts samstarfs.

 „Við erum öll í sama báti? – ef það gengur illa, þá erum við öll dauðadæmd,“ vitnar skýrslan í Nick Bostrom, prófessor í Oxford.

Millennium Project kallar eftir nauðsynlegum aðgerðum til að skapa AGI reglur og viðmið á innlendum og alþjóðlegum vettvangi áður en háþróuð gervigreind fer yfir getu mannkyns til að stjórna því á öruggan hátt. „Ef við fáum ekki samþykkt Sameinuðu þjóðanna um AGI og AGI-stofnun Sameinuðu þjóðanna til að framfylgja reglum og verndaraðgerðum, þá gætu ýmsar gerðir gervigreindar komið fram sem við höfum ekki stjórn á og okkur líkar ekki við,“ segir Jerome Glenn, forstjóri hjá Millennium Project.

Sjá nánar með því að fara inn á vefinn https://www.millennium-project.org/transition-from-artificial-narrow-to-artificial-general-intelligence-governance/

Þetta starf var stutt af Dubai Future Foundation og Future of Life Institute. Millennium Project var stofnað árið 1996 og eru alþjóðleg samtök með 70 formlegar tengingar, starfsstöðvar, um allan heim.

Framtíðarsetur Íslands er ein af þessum starfsstöðvum og er hluti af umræddri rannsókn. Forstöðumaður setursins er Karl Friðriksson, sem veitir frekari upplýsingar, sími 8940422 eða karlf@framtíðarsetur.is,  en einnig er hægt að hafa beint samband við forstöðumann Millennium Project, Jerome Glenn, +1-202-669-4410, Jerome.Glenn@Millennium-Project.org

Fleiri fréttir og pistlar

Changes, beliefs, practices Current research into the contemporary sociolinguistic situation in Iceland

A total of 20 presentations. There are 5 thematic sessions: Ideologies and metalinguistic discourses; Linguistic minorities; Lifespan changes, attitudes and regional pronunciation; English in Iceland; Norms and cultural bias. The conference is in English. It is open to the public, free of charge, and no registration is required.

Áhugaverðir viðburðir framundan - Fyrsti stjórnarfundur á þessari önn

Fyrsti stjórnarfundur stjórnar faghóps framtíðarfræða var haldinn síðastliðinn föstudag. Áhugaverðar hugmyndir um viðburði framundan kom fram og mun stjórnin vinna áfram með þann efnivið sem fram komu. Hlökkum til skemmtilegrar funda á næstunni, endlega hafið samband við okkur í stjórn ef þið teljið að eitthvað eigi erindi til að fjalla um. Fyrir hönd stjórnar, Karl

Sjálfbærniásinn, ný viðurkenning fyrir árangur í sjálfbærni, veitt í fyrsta sinn til íslenskra fyrirtækja

Íslensk erfðagreining mælist hæst fyrirtækja á Sjálfbærniásnum -16 fyrirtæki hlutu viðurkenningu Sjálfbærniássins 2024
Í dag fór fram fyrsta viðurkenningarathöfn Sjálfbærniássins í Opna háskólanum, þar sem 16 fyrirtæki hlutu viðurkenningu fyrir árangur í sjálfbærni. Sjálfbærniásinn er nýr mælikvarði sem metur viðhorf almennings til frammistöðu íslenskra fyrirtækja í sjálfbærni. Mælingin er svar við aukinni kröfu viðskiptavina og annarra hagaðila um að fyrirtæki leggi meiri áherslu á sjálfbærni.
Niðurstöður rannsóknarinnar sýna að 63% þjóðarinnar að áhersla fyrirtækja á sjálfbærni hafi mjög eða frekar mikil áhrif á viðhorf þeirra gagnvart fyrirtækjum. Þetta viðhorf er sérstaklega sterkt meðal yngri kynslóða, þar sem 76% svarenda á aldrinum 18 til 24 ára telja sjálfbærni fyrirtækja hafa mikil eða frekar mikil áhrif á viðhorf þeirra. Verkefnið er unnið í samstarfi Prósents, Langbrókar og Stjórnvísi, með það að markmiði að hvetja fyrirtæki til aukinnar ábyrgðar og auka vitund neytenda um mikilvægi sjálfbærni.

„Við höfum lagt mikla vinnu í að þróa Sjálfbærniásinn með því að styðjast við þróun mælikvarða sem hafa verið notaðir á alþjóðlegum mörkuðum til að mæla sjálfbærni fyrirtækja. Leit okkar að besta mælikvarðanum tók um ár, og í fyrstu mælingum voru skoðaðir 14 markaðir og 47 fyrirtæki. Mælingarnar veita skýra mynd af viðhorfi fólks til þeirra fyrirtækja sem eru mæld, og við vonum að niðurstöðurnar verði hvatning til fyrirtækja að vanda enn frekar til verka í þessum málum og miðla upplýsingum um samfélagslega ábyrgð sína.“

Trausti Heiðar, framkvæmdastjóri Prósents.
„Það er ekki tilviljun að Íslensk erfðagreining mælist hæst á Sjálfbærniásnum. Sjálfbærni felst ekki aðeins í umhverfisvernd, heldur einnig í því að hafa jákvæð og varanleg áhrif á fólk og samfélagið. Með frumkvöðlastarfi sínu í upphafi COVID-19 faraldursins lagði fyrirtækið sitt af mörkum til að vernda heilsu og velferð landsmanna. Íslensk erfðagreining hefur einnig stuðlað að aukinni þekkingu, nýsköpun og alþjóðlegri samvinnu, sem eru grundvallarstoðir sjálfbærs samfélags. Þessi víðtæku áhrif endurspegla þá grunnhugmynd sjálfbærni að fyrirtæki sem leggja sitt af mörkum til samfélagsins, hvort sem er í gegnum vísindarannsóknir, störf eða aðra samfélagslega ábyrgð, eru lykilþátttakendur í að skapa betri framtíð fyrir öll.“

Gunnhildur Arnardóttir, framkvæmdastjóri Stjórnvísi
„Við hjá Stjórnvísi höfum mikla trú á að Sjálfbærniásinn ýti undir jákvæða þróun í íslensku atvinnulífi og skapi sér sess sem mikilvæg viðurkenning til þeirra vinnustaða sem leggja áherslu á sjálfbærni og virkt framlag í baráttunni gegn loftslagsvánni. Við göngum því til þátttöku í þessu frumkvöðlaverkefni okkar góðu samstarfsaðila með mikilli tilhlökkun.“

Niðurstöður
Fyrirtækin hlutu 0 til 100 stig þar sem 0-49 stig er talin slæm frammistaða, 50-59 stig meðalgóð frammistaða, 60-69 stig er góð frammistaða og 70 stig og yfir er framúrskarandi frammistaða.

Mynd 1. Viðmið Sjálfbærniássins

Sá markaður sem fékk heilt yfir flest stig var fyrirtæki á alþjóðamarkaði og sá markaður sem fékk heilt yfir fæst stig var markaðurinn sjávarútvegsfyrirtæki.




Mynd 2. Heildarmeðaltal markaða.
Stigalægsta fyrirtækið hlaut 34 stig af 100 mögulegum og stigahæsta fyrirtækið hlaut 86 stig. Það fyrirtæki sem hlaut flest stig allra mældra fyrirtækja er Íslensk erfðagreining með 86 stig. Indó mældist með næsthæstu einkunn, 85 stig og Össur með þriðju hæstu einkunnina, 84 stig.




Mynd 3. Meðaltal fyrirtækja.




Mynd 4. Meðaltal fyrirtækja eftir mörkuðum.

Markmið Sjálfbærniássins:
·        Veita hlutlausar og samanburðarhæfar upplýsingar um viðhorf almennings til þess hvernig íslensk fyrirtæki standa sig í sjálfbærnimálum.
·        Hvetja íslensk fyrirtæki til að leggja enn meiri áherslu á sjálfbærni.
·        Hjálpa fyrirtækjum að skilja mikilvægi þess að upplýsa almenning um að stefnu sína og verkefni sem snúa að sjálfbærni og samfélagslegri ábyrgð.
·        Auka vitund neytenda um mikilvægi sjálfbærni og hvernig þeir geta haft áhrif með kauphegðun sinni.
·        Vera íslenskum fyrirtækjum hvatning til að leggja enn frekari áherslu á þessi mál.

Framkvæmd og þátttakendur:
Rannsóknin er framkvæmd af rannsóknarfyrirtækinu Prósenti. Framkvæmdatími var frá janúar til ágúst 2024 og var um að ræða netkannanir sem voru sendar á handahófskennt úrtak úr könnunarhópi Prósents sem inniheldur 15.000 Íslendinga, 18 ára og eldri.

Rannsóknin:
Rannsóknarmódelið samanstendur af sex spurningum sem kanna viðhorf neytenda til frammistöðu fyrirtækja í sjálfbærnimálum. Spurningarnar snúa meðal annars að því hvort að fyrirtæki leggi sitt af mörkum til samfélagsins, hvort þau hugi að velferð viðskiptavina og hvort að þau leitist við að lágmarka sóun

Markaðir og viðurkenningar:
Í ár voru 47 fyrirtæki mæld á 14 mörkuðum. Viðurkenningar voru veittar á hverjum markaði fyrir sig auk þess sem fyrirtæki sem mældust með framúrskarandi einkunn hlutu sérstaka viðurkenningu. Fyrirtæki sem fá viðurkenningu munu fá tækifæri til að nota merki Sjálfbærniássins í markaðsstarfi sínu sem undirstrikar frammistöðu þeirra í sjálfbærni að mati almennings. Vinningshöfum verður þannig veittur heiður sem getur styrkt orðspor og ímynd fyrirtækisins.
Sjálfbærniásinn er i eigu Prósents, Langbrókar og Stjórnvísi.

Nánari upplýsingar  
Soffía Sigurgeirsdóttir, framkvæmdastjóri Langbrókar , í síma 694 9099,  netfang: soffia@langbrok.is   
Trausti Heiðar Haraldsson, framkvæmdastjóri Prósents í síma 546 1008 / 859 9130, netfang: trausti@prosent.is.

Kick off fundur Stjórnvísi var haldinn í Akademías í dag fimmtudaginn 29.ágúst 2024.

Hér má sjá myndir frá viðburðinum. 
Í dag hittust stjórnir faghópa Stjórnvísi í Akademías þar sem nýju starfsári var startað af krafti.  Þema starfsársins er "Snjöll framtíð".  Farið var yfir ýmis atriði til að létta stjórnendum faghópa starfið í vetur, tími gafst til að sameinast um viðburði,  skerpt var á stefnu og gildum félagsins og boðið var upp á dýrindis veitingar frá Múlakaffi.  

Krafturinn í stjórnum faghópanna er mikill eins og meðfylgjandi excelskjal sýnir þar sem komin eru drög að á annað hundruð viðburða í vetur. Einnig hlýddum  við á einstaklega áhugavert erindi frá einum reyndasta MBA kennara Norðurlandanna sem jafnframt er sérfræðingur á sviði stjórnunar og viðskiptafræða Dr. Eyþór Ívar  Jónsson  forseti Akademias "Hvernig eflir maður stjórnir og stjórnarsamstarf?"  

Hér er tengill á upptökuna: https://us06web.zoom.us/rec/share/5KwiKRPQPUE5c_-bEGRUonHrJ6DQbKLi9qTeSYXEgQ398JfnwxBLfiaw1i4Ft17W.llSeba6Ryww9uZQ4?startTime=1724947995000

Passcode: Vx7Rv#rJ

Stjórnarfundur faghóps framtíðarfræða

Stjórn faghóps framtíðarfræða mun hittast í hádeginu föstudaginn 6 september næstkomandi. Þátttakendur í hópnum eru hvattir til að koma á framfæri hugmyndum um viðburði næsta vetur á framfæri við þá aðila sem er í stjórn hópsins, en stjórnina skipa eftirfarandi:

Karl Friðriksson -  Framtíðarsetur Íslands / Formaður

Anna Sigurborg Ólafsdóttir - Skrifstofa Alþingis

Funi Magnússon - Össur

Guðjón Þór Erlendsson - Skipulagsstofnun

Gunnar Haugen - CCP hf.

Ingibjörg Smáradóttir - Náttúrufræðistofnun Íslands

Kolfinna Tómasdóttir - Rannís

Sigurður Br. Pálsson - BYKO

Sævar Kristinsson - KPMG ehf

Þór Garðar Þórarinsson - Atvinnuvega- og nýsköpunarráðuneyti

 

Netföng framangreinda er á vef Stjórnvís. Hlökkum til góðrar þátttöku í vetur, til að móta æskilega framtíð, kær kveðja Karl

Fannst þér efnið á síðunni hjálplegt?