Lög og textar um gervigreind

Aurora, gervigreind og Staðlaráð

Síðasta vetur sótti ég stórskemmtilegt námskeið á vegum háskólans í Innsbruck í Austurríki í gegnum Aurora-háskólasamstarfið. Kennt var í gegnum netið og viðfangsefnið var gervigreind og lagaleg sjónarmið við notkun hennar. Námskeiðið gat varla verið á skemmtilegri tíma þar sem Chat GTP hóf að herja á heiminn nákvæmlega á sama tíma og námskeiðið var haldið. 

Sem lokaverkefni í námskeiðinu kaus ég að kynna mér samspil nýrrar tillögu að löggjöf framkvæmdastjórnar Evrópusambandsins um gervigreind og nokkurra helstu alþjóðlegu staðla um hana. Drög að löggjöf ESB um gervigreind var auðvelt að finna á netinu og áhugavert að lesa. Aðgengi að stöðlum var erfiðara því almennt eru þeir seldir þeim sem nýta sér þá við framleiðslu og til að uppfylla kröfur markaða. Staðlaráð Íslands veitti mér tímabundinn lesaðgang að nokkrum alþjóðlegum ISO-stöðlum sem kosta annars talsvert fé og þakka ég kærlega fyrir það.

Asimov, lögin og staðlarnir

Til að gera verkefnið skemmtilegra ákvað ég að bera nýju lögin og staðlana saman við lögmál Isaac Asimovs um rétta hegðun vélmenna, sem fræg urðu í skáldsögu hans, I, Robot,fyrir rúmum 80 árum. Lögmálin þrjú eru eftirfarandi: 

1. Vélmenni má ekki skaða manneskju eða láta manneskju verða fyrir tjóni vegna aðgerðaleysis

2. Vélmenni skal hlýða fyrirskipunum frá manneskju, nema ef slíkt stangist á við fyrsta lögmálið. 

3. Vélmenni verður að vernda eigin tilvist svo framarlega sem slíkt stangast ekki á við fyrsta eða annað lögmálið. 

Þessi lög Asimovs hafa í gegnum tíðina verið gagnrýnd og sundurtætt með notkun í hinum ýmsu vísindaskáldsögum þar sem aðrir rithöfundar fundu leiðir fyrir vélmenni til að brjóta lögmál Asimovs bæði viljandi og óviljandi. Þannig varð ljóst að nær ómögulegt var að nýta þessi lögmál þar sem þau svara ekki ótal lagalegum, praktískum og siðferðislegum spurningum. 

Ný evrópsk lagatillaga um gervigreind er nú komin í samþykktarferli á meginlandinu. Hún verður líklega að fyrstu heildarlögum í heiminum er varða gervigreind, sjálfvirknihugbúnað og vélmenni af nær öllu tagi. Þetta verður hugsanlega einnig fyrsta evrópulöggjöfin sem kölluð er „act“ í stað ákvarðana, reglugerða eða tilskipana sem ESB hefur hingað til notað. Evrópska lagatillagan kallast „tillaga um reglusetningu Evrópuþingsins og Evrópuráðsins til framlagningar á samþættum reglum um gervigreind“ (e. Proposal for a regulation of the European parliament and of the Council laying down harmonised rules on artificial intelligence), einnig kallað Artificial Intelligence Act. 

Við yfirlestur á lagatillögunni kemur fljótt í ljós að ekki er verið að leggja skýrar línur um hvernig gervigreind á að virka í framkvæmd. Þess í stað er áhættumat af notkun slíkrar tækni sett í forgang og áhættunni er skipt í þrjú stig:
1) óásættanlega, s.s. gervigreind sem beinlínis vinnur gegn öðrum lögum innan ESB.
2) mikla og takmarkaða, t.d. heilsuskaða, skert öryggi eða dregur úr réttindum fólks innan ESB.
3) litla sem enga, þ.e. gervigreind eða álíka sjálfvirkni sem ekki veldur áhættu skv. fyrri liðum.
Gervigreind sem valdið getur óásættanlegri áhættu verður bönnuð samkvæmt lögunum, en gervigreind með mikla og takmarkaða áhættu þarf að fylgja nánari leiðbeiningum og stöðlum. Gervigreind og hugbúnaður sem veldur lítilli sem engri áhættu fyrir fólk og samfélag verður undanþegin lögunum.  

Nýja evrópulöggjöfin um gervigreind á ekki að standa ein og sér heldur virka náið með annarri löggjöf ESB, þar með talin reglugerð um „gagnaákvörðunarvald“, reglugerð um „stafræna markaði“, reglugerð um „stafræna þjónustu“ og einnig með evrópsku GDPR persónuverndarlöggjöfinni. Þessar reglugerðir vísa allar til staðla af einhverju tagi sem styðjast má við til leiðbeiningar eða útfærslu á kröfum löggjafarinnar til viðbótar við ákvæði reglugerðanna. Þannig má segja að ábyrgð á siðferðilegum og tæknilegum útfærslum reglugerða sé framseld sérfræðingum og hagaðilum sem þó vinna í samstarfi við fulltrúa löggjafarvalds. 

Í dag eru yfir 20 staðlar með nafninu „artificial intelligence“ í titlinum. Flestir eru tæknilegir en sex af þessum stöðlum innihalda góðar leiðbeiningar um það hvernig lágmarka má áhættu vegna gervigreinar og róbóta ýmisskonar. Tveir þeirra fjalla um samskipti fólks við tæknileg kerfi. Þar koma fram leiðbeiningar um hvernig haga skuli virkni sjálfvirkra véla sem fólk notar daglega. Fjórir staðlar fjalla síðan náið um upplýsingatækni tengda gervigreind. Þar er snert á ýmsum áhyggjum varðandi hlutdrægni í hugbúnaði og ákvarðanatöku gervigreindar sem sett er á markað, auk siðferðilegra og samfélagslegra álitamála sem upp geta komið og hvernig lágmarka megi hættu vegna slíkra vandamála. 

Þessir gervigreindarstaðlar eru frekar nýlegir. Hinsvegar benti Helga Sigrún framkvæmdastjóri Staðlaráðs einnig á staðal frá árinu 2010 sem kom út í íslenskri þýðingu árið 2020 sem kallast „Leiðbeiningar um samfélagslega ábyrgð“ og vísar fyrirtækjum og stofnunum veginn til að rækta margvísleg samfélagsleg gildi, s.s. gagnsæi, kynjajafnrétti, sjálfbærni, rekjanleika ákvarðana (virðiskeðja), varúðarreglu umhverfisverndar og vernd berskjaldaðra hópa. Í staðlinum er einnig fjallað um mannréttindi og skyldur gagnvart lögum og reglum, auk þess sem dýravernd og velferð dýra er gert hátt undir höfði í samræmi við hugmyndir um siðferðilega háttsemi. Segja má að þessi staðall um samfélagsábyrgð rammi inn á sómasamlegan hátt flest það sem gervigreindarstaðlarnir eiga að áorka. Helsti ágallinn á þessum annars fína staðli er að þar sem hann er til leiðbeiningar er hann strangt til tekið ekki vottunarhæfur. En vottun á innleiðingu staðals er mikilvæg til að sýna fram á árangur. 

Lög Asimovs lagfærð

Verkefnið fólst í að bera saman lögmál Asimovs um vélmenni, lagatillögu framkvæmdastjórnar Evrópusambandsins um gervigreind og helstu staðla um gervigreind og samfélagsábyrgð. 

Niðurstaðan er sú að lagatillagan og nýjustu alþjóðlegu staðlar á sviðinu skilja lögmál Asimovs eftir í fortíðinni þar sem nú er verið að reglusetja og formgera nýjar hugmyndir um hvernig megi fyrirbyggja vandamál vegna gervigreindar, sjálfvirknivæðingar og vélmenna. Hugmyndir sem eru mun ítarlegri og líklegri til árangurs í samfélagi þar sem framleiðendur, fyrirtæki og markaðsöfl þurfa skýran lagaramma og útfærslur í formi staðla sem leiðbeina þeim til að koma í veg fyrir að gervigreind, í formi algríms, botta og þjarka, yfirtaki líf og limi fólks eða valdi öðrum óbætanlegum skaða í framtíðinni.