Fréttatilkynning. Er vá af háþróaðri gervigreind?

22. ágúst 2023

Er vá af háþróaðri gervigreind?

Komin er út skýrsla á vegum samtaka framtíðarfræðinga, Millennium Project, sem varar við hættunni af háþróaðri gervigreind, og bendir á nauðsyn alheimssamvinnu á þessu sviði.

Í skýrslunni koma fram viðhorf helstu leiðtoga heims, er varða þróun gervigreindar, og hugmyndir þeirra um hugsanlega framtíðarþróun.

Skýrsla Millennium Project varar við því að háþróuð gervigreindarkerfi gætu komið fram fyrr en búist er við, sem hefði áður óþekkta áhættu í för með sér nema gripið sé til viðunandi ráðstafana á alþjóðavísu.

Í skýrslunni, sem ber titilinn International Governance Issues of the Transition from Artificial Narrow Intelligence to Artificial General Intelligence (AGI), kemur fram álit 55 gervigreindarsérfræðinga frá Bandaríkjunum, Kína, Bretlandi, Kanada, Evrópusambandinu og Rússlandi. Þeir fjalla meðal annars um hvernig eigi að takast á við AGI—AI, á grundvelli nýrra forsenda um þróun gervigreindar. Meðal þessara sérfræðinga eru Sam Altman, Bill Gates og Elon Musk.

Í skýrslunni segir að AGI gæti skapað gervigreind umfram mannlega hæfileika. Skortur á reglum gæti leitt til skelfilegra afleiðinga, þar með talið tilvistarógnun við mannkynið ef slík kerfi eru ekki í samræmi við mannleg gildi og hagsmuni. Í skýrslunni kemur fram að engir núverandi innviða séu nægilega undirbúnir til að takast á við áhættuna og þau tækifæri sem skapast af gervi almennrar greindar (AGI). Þetta kallar á hraðari þróun nýrra viðmiða, reglna, sem eru sveigjanlegar og  sem gera ráð fyrir hraðari þróun á þessu sviði en gert hefur verið ráð fyrir og sem varna óþarflegri áhættu sem þróunin gæti leitt af sér.

„AGI er nær en nokkru sinni fyrr – næstu framfarir gætu farið fram úr greind manna,“ hefur skýrslan eftir Ilya Sutskever, meðstofnanda OpenAI. „Aðlögun við mannleg gildi er mikilvæg en krefjandi.“ Ben Goertzel, höfundur AGI Revolution.

Aðrar helstu niðurstöður eru:

• Ávinningur AGI verður verulegur á sviði læknisfræði, menntunar, stjórnunar og framleiðni, og því keppast fyrirtæki um að vera fyrst til  að hagnýta sér hana.

• AGI mun auka pólitískt vald, og því keppast stjórnvöld um að vera fyrst í að innleiða slík kerfi.

• Alþjóðlegt samstarf er nauðsynlegt til að takast á við harðandi  samkeppni meðal þjóða og fyrirtækja sem keppa um yfirburði á sviði gervigreindar. Sameiginleg áhætta kann að knýja á um samvinnu, milli ólíkra aðila, og draga úr vantrausti þeirra á milli.

• Hugsanlega þarf óvenjulegar ráðstafanir til að framfylgja nauðsynlegum aðgerðum á sviði stjórnsýslu í þessu sambandi bæði innan ríkja og á heimsvísu.

• Umdeildar tillögur um að takmarka rannsóknir og þróun, á þessu sviði gætu orðið nauðsynlegar, til að þróa innviði og lausnir til að takast á við hugsanlega almenna vá. 

• Glugginn til að þróa skilvirkar lausnir er þröngur, krefst áður óþekkts samstarfs.

 „Við erum öll í sama báti? – ef það gengur illa, þá erum við öll dauðadæmd,“ vitnar skýrslan í Nick Bostrom, prófessor í Oxford.

Millennium Project kallar eftir nauðsynlegum aðgerðum til að skapa AGI reglur og viðmið á innlendum og alþjóðlegum vettvangi áður en háþróuð gervigreind fer yfir getu mannkyns til að stjórna því á öruggan hátt. „Ef við fáum ekki samþykkt Sameinuðu þjóðanna um AGI og AGI-stofnun Sameinuðu þjóðanna til að framfylgja reglum og verndaraðgerðum, þá gætu ýmsar gerðir gervigreindar komið fram sem við höfum ekki stjórn á og okkur líkar ekki við,“ segir Jerome Glenn, forstjóri hjá Millennium Project.

Sjá nánar með því að fara inn á vefinn https://www.millennium-project.org/transition-from-artificial-narrow-to-artificial-general-intelligence-governance/

Þetta starf var stutt af Dubai Future Foundation og Future of Life Institute. Millennium Project var stofnað árið 1996 og eru alþjóðleg samtök með 70 formlegar tengingar, starfsstöðvar, um allan heim.

Framtíðarsetur Íslands er ein af þessum starfsstöðvum og er hluti af umræddri rannsókn. Forstöðumaður setursins er Karl Friðriksson, sem veitir frekari upplýsingar, sími 8940422 eða karlf@framtíðarsetur.is,  en einnig er hægt að hafa beint samband við forstöðumann Millennium Project, Jerome Glenn, +1-202-669-4410, Jerome.Glenn@Millennium-Project.org

Fleiri fréttir og pistlar

Verðlaunahafar Íslensku ánægjuvogarinnar 2025

Niðurstöður Íslensku ánægjuvogarinnar fyrir árið 2025 voru kynntar 22. janúar en þetta er tuttugasta og sjöunda árið sem ánægja viðskiptavina íslenskra fyrirtækja er mæld með þessum hætti. Íslenska ánægjuvogin verðlaunar þau fyrirtæki sem skara fram úr í ánægju viðskiptavina á sínum markaði.
Nýsköpun og stafræn upplifun einkenna sigurvegarana
Niðurstöður sýna að þau fyrirtæki sem mælast með hæstu ánægju viðskiptavina eiga það sameiginlegt að vera nýskapandi, leggja áherslu á þjónustu og sterka stafræna upplifun, oft á mörkuðum sem hafa tekið miklum breytingum á undanförnum árum.
„Íslenska ánægjuvogin hefur þann tilgang að hvetja íslensk fyrirtæki til að hlúa að ánægju viðskiptavina og veita þeim samræmdan og hlutlausan mælikvarða á frammistöðu sína á milli ára og í samanburði við helstu samkeppnisaðila. Það er mikill heiður fyrir fyrirtæki að vera hæst á sínum markaði í Íslensku ánægjuvoginni og mörg setja sér markmið því tengt“ segir Gunnhildur Arnardóttir, framkvæmdastjóri Íslensku ánægjuvogarinnar og Stjórnvísi.
Í þetta skiptið var skyndibitamarkaður mældur í fyrsta sinn. Til þess að mælast í Íslensku ánægjuvoginni þurfa fyrirtæki að ná ákveðinni stærð og markaðshlutdeild.
indó sigurvegari Ánægjuvogarinnar annað árið í röð
indó er sigurvegari Íslensku ánægjuvogarinnar árið 2025 með 84,7 stig, hæsta allra fyrirtækja. Þetta er í annað skiptið sem niðurstöður hafa verið birtar fyrir indó og í bæði skiptin hefur fyrirtækið sigrað. Í öðru sæti er Dropp með 83,9 stig, aðeins tæpu einu stigi á eftir. Dropp var sigurvegari Ánægjuvogarinnar árið 2023. Costco eldsneyti var 3. hæsta fyrirtækið með 81,3 stig.
Mikill munur á hæstu og lægstu fyrirtækjum
Það mælist töluverð breidd á ánægju þeirra fyrirtækja sem voru mæld og eru einkunnir frá 60,8 til 84,7 af 100 mögulegum.
„Það er ljóst að ánægja viðskiptavina er ekki föst stærð og það er ekkert sem heitir að hafa áskrift að Ánægjuvoginni. Fyrirtækin þurfa stöðugt að vinna að ánægju 1

Stjórn Stjórnvísi heimsótti Nýjan Landspítala NLSH

Stjórn Stjórnvísi heimsótti Nýjan Landspítala NLSH í vikunni. Dagskráin hófst á kynningu Gísla Georgssonar, verkefnastjóra ,sem fór yfir helstu þætti í starfsemi NLSH í sinni kynningu. Síðan var rölt um framkvæmdasvæðið og meðal annars gengið um ganga meðferðarkjarnans undir fylgd Jóhanns G. Gunnarssonar staðarverkfræðings. Það er einstaklega fræðandi og áhugavert að fá tækifæri til að fylgjast með stórum framkvæmdum og ekki síst þessari stóru framkvæmd sem bygging nýs spítala er. Heimsóknin var sérlega vel heppnuð og kom hópnum á óvart hversu stór og umfangsmikil byggingin er.  

Hvað er það sem koma skal? Sviðsmyndir til ársins 2030 Þétt og vel skipuð nýársmálstofa faghópa framtíðarfræða og gervigreindar, næstkomandi föstudag kl 09:00 – Sjá viðburðinn.

Málshafandi er David Wood frá London Futurist

Panelinn skipa þau:

  • Sylvía Kristín forstjóri Nova
  • Róbert Bjarnason forstjóri Citizens
  • Páll Rafnar Þorsteinsson frá atvinnuráðuneytinu
  • Helga Ingimundardóttir frá Háskóla Íslands

Sjá frekari upplýsingar um málstofuna hér að neðan og um einstaka þátttakendur

Málstofan „The New Year and Scenarios to the Year 2030“ skoðar hvernig ört vaxandi útbreiðsla gervigreindar og umbreytt geopólitísk staða kunna að marka næsta áratug. Verður árið 2030 mótað af róttækum tæknibyltingum, nýju valdajafnvægi og breyttum efnahagskerfum—eða mun þróunin reynast hæg eða stigvaxandi. Við rýnum í líklegar og ólíklegar sviðsmyndir: frá alþjóðlegri samkeppni um AI, til nýrrar samvinnu, klofnings milli ríkja og samfélagslegra áskorana sem geta annaðhvort hraðað framfarahvörfum eða dregið úr þeim. Málstofan boðar skapandi samtal um framtíð manns og tækni.

Fyrirlesarinn David Wood er þekktur framtíðar- og tæknifræðingur og rithöfundur búsettur í Bretlandi. Hann er formaður London Futurists, hóps sem hann hefur haldið utan um síðan 2008. Þar hefur hann leitt umræður um umbreytandi tækni eins og gervigreind, langlífi og transhúmanisma. Hann er brautryðjandi í farsímaiðnaðinum (meðstofnandi Symbian) og berst nú fyrir greina framtíðaráskoranir og tækninýjungum til að leysa hnattræn vandamál. Hann hefur skrifað nokkrar bækur um þessi framtíðartengdu efni.

Upplýsingar um þátttakendur í panel:

Sylvía Kristín er forstjóri fjarskipta fyrirtækisins Nova. Hún starfað áður hjá Icelandair þar sem hún hefur starfað sem framkvæmdastjóri rekstrar. Áður starfaði hún sem framkvæmdastjóri viðskiptaþróunar og markaðsmála hjá Origo. Sylvía starfaði einnig um árabil hjá Amazon, fyrst við rekstur og áætlanagerð og síðan við Kindle deild fyrirtækisins þar sem hún sá um viðskiptagreind og vöruþróun.

Dr. Helga Ingimundardóttir er lektor í iðnaðarverkfræði við Háskóla Íslands og meðlimur Kennsluakademíu opinberra háskóla. Rannsóknir og kennsla hennar snúa að bestun, stærðfræðilegri líkangerð, gagnavísindum og gervigreind, með áherslu á tengsl fræða og atvinnulífs. Hún hefur víðtæka reynslu úr rannsóknum og hagnýtri gervigreind í iðnaði.

Róbert Bjarnason er reyndur frumkvöðull og leiðtogi í umræðunni um gervigreind á Íslandi. Hann stofnaði meðal annars fyrstu veffyrirtækin á Íslandi og í Danmörku á sínum tíma. Hann er stofnendi að Citizens Foundation árið 2008, sjálfseignarstofnunar sem vinnur að því að bæta opinbera ákvarðanatöku með nýstárlegum stafrænum lausnum fyrir borgara. Stofnunin er almennt talin vera í fararbroddi á sviði stafræns lýðræðis.

Páll Rafnar Þorsteinsson starfar hjá atvinnuráðuneytinu meðal annars á sviði AI. Hann hefur verið aðstoðarmaður ráðherra sjávarútvegs- og landbúnaðar. Páll Rafnar er með doktorspróf í heimspeki frá Cambridge háskóla og fjallaði lokaritgerð hans um lagahugtakið (nomos) í stjórnspeki Aristótelesar. Páll Rafnar er auk þess með meistaragráðu í stjórnmálaheimspeki frá London School of Economics og BA gráðu í heimspeki og grísku frá Háskóla Íslands. Páll Rafnar hefur starfað við Háskólann á Bifröst, sem almennatengsla ráðgjafi hjá KOM, og stundað rannsóknir og ritstjörf.

Enghlish

Páll Rafnar Þorsteinsson works at the Ministry of Industry, including on matters related to artificial intelligence. He has previously served as an assistant to the Minister of Fisheries and Agriculture. Páll Rafnar holds a PhD in Philosophy from University of Cambridge, where his doctoral thesis examined the concept of law (nomos) in Aristotle’s political philosophy. He also holds a Master’s degree in Political Philosophy from the London School of Economics, as well as a BA in Philosophy and Greek from the University of Iceland. In addition, he has worked at Bifröst University, served as a public relations consultant at KOM, and engaged in research and editorial work.

Sylvía Kristín is the CEO of the telecommunications company Nova. She previously worked at Icelandair, where she served as Chief Operating Officer. Before that, she was Executive Director of Business Development and Marketing at Origo. Sylvía also spent several years at Amazon, initially working in operations and planning, and later in the company’s Kindle division, where she focused on business intelligence and product development.

Dr. Helga Ingimundardóttir is an Assistant Professor of Industrial Engineering at the University of Iceland and a member of the Teaching Academy of Iceland’s public universities. Her work focuses on optimization, mathematical modeling, data science, and artificial intelligence, with a strong emphasis on connecting academic research to real-world applications. She brings extensive experience from applied AI and industry-driven research.

Róbert Bjarnason is an experienced entrepreneur and a leading voice in the discussion on artificial intelligence in Iceland. He was among the founders of the first web-based companies in Iceland and Denmark at the time. In 2008, he co-founded the Citizens Foundation, a nonprofit organization dedicated to improving public decision-making through innovative digital solutions for citizens. The foundation is widely regarded as being at the forefront of digital democracy.

Saga Garðars sló í gegn á Nýársfagnaði Stjórnvísi

Nýársfagnaður stjórna faghópa Stjórnvísi  var í dag haldinn í Marel sem tók á móti félögum með glæsilegum veitingum, þar sem Stjórnvísifélagar skáluðu fyrir nýju ári og gæddu sín á smáréttum.

Anna Kristín Kristinsdóttir formaður stjórnar Stjórnvísi og Engineering Manager Lead, JBT Marel opnaði viðburðinn, kynnti Marel og fór örstutt yfir þema starfsársins "Framsýn forysta" og hvernig það er útfært.

Katrín Rós Baldursdóttir, VP Software Engineering & Helgi Eide Guðjónsson, Director Supply Chain Operations sögðu okkur á áhugaverðan hátt frá hvernig "Framsýn forysta" tengist allri starfsemi JBT Marel. 

Í lokin steig  þjóðargersemin Saga Garðarsdóttir á svið með vandað uppistand og sló alveg í gegn enda hefur Saga fest sig í sessi sem ein af ástsælustu leikkonum og skemmtikröftum þjóðarinnar.  

Gleðilegt nýtt ár 2026

Stjórn Stjórnvísi óskar þér og fjölskyldu þinni farsældar á nýju ári og þakkar fyrir samfylgdina á árinu sem er að líða.
Megi nýja árið reynast ykkur gæfuríkt.

Stjórn og framkvæmdastjóri Stjórnvísi.

Anna Kristín Kristinsdóttir, Auður Daníelsdóttir, Gunnhildur Arnardóttir framkvæmdastjóri, Héðinn Jónsson, Ingibjörg Loftsdóttir, Lilja Gunnarsdóttir, Matthías Ásgeirsson, Snorri Páll Sigurðsson, Tinna Jóhannsdóttir og Viktor Freyr Hjörleifsson.

Fannst þér efnið á síðunni hjálplegt?