22. ágúst 2023
Er vá af háþróaðri gervigreind?
Komin er út skýrsla á vegum samtaka framtíðarfræðinga, Millennium Project, sem varar við hættunni af háþróaðri gervigreind, og bendir á nauðsyn alheimssamvinnu á þessu sviði.
Í skýrslunni koma fram viðhorf helstu leiðtoga heims, er varða þróun gervigreindar, og hugmyndir þeirra um hugsanlega framtíðarþróun.
Skýrsla Millennium Project varar við því að háþróuð gervigreindarkerfi gætu komið fram fyrr en búist er við, sem hefði áður óþekkta áhættu í för með sér nema gripið sé til viðunandi ráðstafana á alþjóðavísu.
Í skýrslunni, sem ber titilinn International Governance Issues of the Transition from Artificial Narrow Intelligence to Artificial General Intelligence (AGI), kemur fram álit 55 gervigreindarsérfræðinga frá Bandaríkjunum, Kína, Bretlandi, Kanada, Evrópusambandinu og Rússlandi. Þeir fjalla meðal annars um hvernig eigi að takast á við AGI—AI, á grundvelli nýrra forsenda um þróun gervigreindar. Meðal þessara sérfræðinga eru Sam Altman, Bill Gates og Elon Musk.
Í skýrslunni segir að AGI gæti skapað gervigreind umfram mannlega hæfileika. Skortur á reglum gæti leitt til skelfilegra afleiðinga, þar með talið tilvistarógnun við mannkynið ef slík kerfi eru ekki í samræmi við mannleg gildi og hagsmuni. Í skýrslunni kemur fram að engir núverandi innviða séu nægilega undirbúnir til að takast á við áhættuna og þau tækifæri sem skapast af gervi almennrar greindar (AGI). Þetta kallar á hraðari þróun nýrra viðmiða, reglna, sem eru sveigjanlegar og sem gera ráð fyrir hraðari þróun á þessu sviði en gert hefur verið ráð fyrir og sem varna óþarflegri áhættu sem þróunin gæti leitt af sér.
„AGI er nær en nokkru sinni fyrr – næstu framfarir gætu farið fram úr greind manna,“ hefur skýrslan eftir Ilya Sutskever, meðstofnanda OpenAI. „Aðlögun við mannleg gildi er mikilvæg en krefjandi.“ Ben Goertzel, höfundur AGI Revolution.
Aðrar helstu niðurstöður eru:
• Ávinningur AGI verður verulegur á sviði læknisfræði, menntunar, stjórnunar og framleiðni, og því keppast fyrirtæki um að vera fyrst til að hagnýta sér hana.
• AGI mun auka pólitískt vald, og því keppast stjórnvöld um að vera fyrst í að innleiða slík kerfi.
• Alþjóðlegt samstarf er nauðsynlegt til að takast á við harðandi samkeppni meðal þjóða og fyrirtækja sem keppa um yfirburði á sviði gervigreindar. Sameiginleg áhætta kann að knýja á um samvinnu, milli ólíkra aðila, og draga úr vantrausti þeirra á milli.
• Hugsanlega þarf óvenjulegar ráðstafanir til að framfylgja nauðsynlegum aðgerðum á sviði stjórnsýslu í þessu sambandi bæði innan ríkja og á heimsvísu.
• Umdeildar tillögur um að takmarka rannsóknir og þróun, á þessu sviði gætu orðið nauðsynlegar, til að þróa innviði og lausnir til að takast á við hugsanlega almenna vá.
• Glugginn til að þróa skilvirkar lausnir er þröngur, krefst áður óþekkts samstarfs.
„Við erum öll í sama báti? – ef það gengur illa, þá erum við öll dauðadæmd,“ vitnar skýrslan í Nick Bostrom, prófessor í Oxford.
Millennium Project kallar eftir nauðsynlegum aðgerðum til að skapa AGI reglur og viðmið á innlendum og alþjóðlegum vettvangi áður en háþróuð gervigreind fer yfir getu mannkyns til að stjórna því á öruggan hátt. „Ef við fáum ekki samþykkt Sameinuðu þjóðanna um AGI og AGI-stofnun Sameinuðu þjóðanna til að framfylgja reglum og verndaraðgerðum, þá gætu ýmsar gerðir gervigreindar komið fram sem við höfum ekki stjórn á og okkur líkar ekki við,“ segir Jerome Glenn, forstjóri hjá Millennium Project.
Sjá nánar með því að fara inn á vefinn https://www.millennium-project.org/transition-from-artificial-narrow-to-artificial-general-intelligence-governance/
Þetta starf var stutt af Dubai Future Foundation og Future of Life Institute. Millennium Project var stofnað árið 1996 og eru alþjóðleg samtök með 70 formlegar tengingar, starfsstöðvar, um allan heim.
Framtíðarsetur Íslands er ein af þessum starfsstöðvum og er hluti af umræddri rannsókn. Forstöðumaður setursins er Karl Friðriksson, sem veitir frekari upplýsingar, sími 8940422 eða karlf@framtíðarsetur.is, en einnig er hægt að hafa beint samband við forstöðumann Millennium Project, Jerome Glenn, +1-202-669-4410, Jerome.Glenn@Millennium-Project.org
