Dirbtinis intelektas vis dažniau ne tik padeda žmogui atlikti užduotis – jis atrenka informaciją, rekomenduoja, vertina, prognozuoja ir tampa nematomu tarpininku tarp mūsų ir pasaulio. Tačiau kas nusprendžia, kokius sprendimus apskritai galime patikėti algoritmui, kokios vertybės įrašomos į jo veikimą ir kas atsako, kai technologija atkartoja jau egzistuojančią nelygybę? Apie tai spalio 11–13 dienomis Vilniuje vyksiančioje vienoje svarbiausių Europos muziejų konferencijų „Human after all – Museums in the wake of AI“ kalbės konferencijos atidarymo pranešimą skaitysianti politinės filosofijos profesorė ir dirbtinio intelekto etikos ekspertė Annette Zimmermann.
Jos tyrimų centre – algoritminis teisingumas, demokratinis dirbtinio intelekto valdymas, pasitikėjimas didėjančios rizikos ir neapibrėžtumo amžiuje bei visuomeninė atsakomybė galingų technologijų akivaizdoje.
Prieš atvykdama į Vilnių Annette Zimmermann Lietuvos skaitytojams davė išskirtinį interviu apie tai, ką reiškia išlaikyti žmogaus sprendimo galią pasaulyje, kuriame vis daugiau sprendimų patikime dirbtiniam intelektui.
Diskusijose apie dirbtinį intelektą dažnai klausiame, ar sistema yra tiksli, saugi ir nešališka. Tačiau pirmesnis klausimas – kas apskritai turi teisę nuspręsti, ką perduodame algoritmams. Ar šiandien pernelyg lengvai priimame technologijų diegimą kaip neišvengiamą pažangą?
Piliečiams ir viešajam gėriui tarnaujančioms institucijoms, tokioms kaip muziejai, būtų naudinga daug skeptiškiau vertinti technologinio determinizmo mitą, esą tam tikra technologijų diegimo kryptis yra neišvengiama. Tokias kryptis dažnai vienašališkai nustato saujelė didžiųjų technologijų bendrovių, ir nėra akivaizdu, kad jų interesai ir tikslai sutampa su pilietiniais interesais ir tikslais. Mano naujoje knygoje „Democratizing AI“ teigiama, kad demokratinė priežiūra priklauso visiems visuomenės nariams, kuriuos šios technologijos veikia, o ne tik dirbtinio intelekto kūrėjams, technologijų bendrovių vadovams ir aukščiausio lygmens valstybės tarnautojams. Prieš optimizuojant sistemas, piliečiai turi turėti stipresnį balsą priimant kolektyvinius sprendimus dėl to, ar konkreti priemonė apskritai turėtų būti kuriama. Tam mums reikia atviresnių ir aktyvesnių viešų pokalbių apie tai, ar pažanga visada būtinai reiškia „greičiausią ir daugiausia išteklių reikalaujančią technologiją“, ar vis dėlto galimos ir visapusiškesnės pažangos vizijos.
Dažnai sakoma, kad DI tampa „demokratiškas“, kai juo gali naudotis daugiau žmonių. Jūs demokratizavimą siejate ne tik su prieiga, bet ir su legitimumu. Kokią realią teisę žmogus turėtų turėti suprasti, ginčyti ar atmesti DI sprendimus, darančius įtaką jo gyvenimui?
Vien prieigos prie technologijos demokratiniam legitimumui nepakanka – net jei ta prieiga yra nemokama. Tai, ką supratome socialinių tinklų amžiuje – „jei produktas nemokamas, produktas esi tu“, – DI amžiuje yra lygiai taip pat teisinga, kaip buvo ir tada. Didžiosios technologijų bendrovės gauna naudos iš to, kad visi naudojasi jų įrankiais, neturėdami prasmingos kolektyvinės kontrolės technologijų krypties ir tikslo atžvilgiu. Europa jau žengė keletą reikšmingų žingsnių šiai problemai spręsti, pavyzdžiui, teisiškai įtvirtindama tam tikras pilietines teises, įskaitant teisę ginčyti algoritminius sprendimus ir reikalauti prasmingų paaiškinimų, kaip buvo gauti algoritminiai rezultatai. Tačiau dar daug ką reikia padaryti, ir ne viską galima formaliai įtvirtinti kaip teisinę teisę. Be teisinių pokyčių, mums iš tiesų reikia piliečių, pilietinės visuomenės organizacijų ir viešojo sektoriaus mąstysenos pokyčio: net jei DI atrodo sudėtingas ir ne kiekvienas gali būti techninis ekspertas, mums visiems tenka atsakomybė įvardyti ir derėtis dėl pamatinių etinių vertybių, kurios turėtų lemti technologinę pažangą. Pavyzdžiui, nereikia turėti informatikos mokslų daktaro laipsnio, kad galėtum dalyvauti viešuose svarstymuose apie tai, ar DI grindžiamas masinis sekimas yra suderinamas su iš tiesų laisva visuomene, arba ar DI bendrovėms turėtų būti leidžiama dėl savo pelno sunaikinti milijonus knygų, įskaitant retas knygas.
Muziejai, universitetai ir žiniasklaida savo autoritetą grindžia tuo, kad gali paaiškinti, iš kur atsirado informacija ir kodėl ja verta pasitikėti. Generatyvinis DI dažnai pateikia įtikinamą atsakymą be aiškios kilmės. Ar DI amžiuje turėsime iš naujo apibrėžti, ką reiškia „patikima institucija“?
Generatyvinės priemonės gali atrodyti kaip pažangūs tiesos sakytojai, kuriantys sklandų, autoritetingą tekstą ir kartu visiškai slepiantys savo šaltinius. Tai gali būti pavojingai klaidinama. Muziejai, universitetai ir žurnalistika pasitikėjimą kuria būtent atskleisdami šaltinius ir pagrįsdami informacijos kilmę. Jei generatyvinės sistemos panaikina kilmės informaciją, institucijos turės įrodyti savo legitimumą demonstruodamos atskaitomybę. Muziejams ir kitiems demokratinės visuomenės ramsčiams dar niekada nebuvo taip svarbu atskleisti duomenų kilmės ir naudojimo grandines bei aktyviai kvestionuoti supaprastintus atsakymus į sudėtingus istorinius klausimus.
Algoritmai mokosi iš pasaulio, kuriame jau yra nelygybės, stereotipų ir istorinių nutylėjimų. Muziejams tai ypač jautru, nes jų kolekcijos taip pat nėra neutralios. Ar yra pavojus, kad DI, mokydamasis iš istoriškai šališkų duomenų, ne tik pakartos senus stereotipus, bet ir pateiks juos kaip tariamai neutralų ar objektyvų rezultatą?
Tokie uždari šališkumo ciklai nėra vien rizika – jie neišvengiamai atsiranda, o tarpdisciplininė DI etikos tyrėjų bendruomenė yra pateikusi daug šios problemos įrodymų. Gera žinia ta, kad tai galima keisti: galime kritiškai vertinti mokymo duomenų ir kitų šaltinių šališkumą, jį atpažinti, paaiškinti kontekstą ir ieškoti būdų, kaip sumažinti jo poveikį. Muziejams ir universitetams, kaip kolektyvinės atminties ir žinių saugotojams, tenka itin svarbus vaidmuo vedant konstruktyviai kritišką viešą pokalbį apie tai, kaip ateities technologijos turėtų sąveikauti su praeities artefaktais.
Šių metų NEMO konferencijos tema – „Human after all“. Ką praktiškai reikštų išlaikyti žmogų centre? Kokias funkcijas ar atsakomybes Jūs laikytumėte tokiomis, kurių nederėtų perduoti algoritmui?
Išlaikyti žmogų centre reiškia atsispirti pagundai struktūrinius politinius sprendimus pakeisti automatizuotu optimizavimu. Didelės svarbos sritys, susijusios su teisėmis, laisve ir pamatiniais politiniais pasirinkimais, pavyzdžiui, bausmių skyrimas baudžiamojoje justicijoje ar prognozuojamoji policijos veikla, niekada neturėtų būti visiškai perduotos automatizuotoms sistemoms. O kai kurių automatizuotų priemonių apskritai nereikėtų kurti ar diegti: tų, kurios iš esmės stiprina žalingas prielaidas, ir tų, kurios kelia ypač didelę netinkamo panaudojimo riziką, įskaitant ir trečiųjų šalių netinkamą panaudojimą.
Kalbino Živilė Stadalytė, Lietuvos muziejų asociacija.
Konferenciją kartu organizuoja NEMO – Europos muziejų organizacijų tinklas, Lietuvos muziejų asociacija ir Lietuvos nacionalinis muziejus. Ją finansiškai remia Lietuvos Respublikos kultūros ministerija, Lietuvos kultūros taryba ir Europos Sąjunga. Konferenciją taip pat remia Go Vilnius, Lietuvos nacionalinis dailės muziejus, Nacionalinis muziejus Lietuvos Didžiosios Kunigaikštystės valdovų rūmai ir „Vilnius – UNESCO literatūros miestas“. Kultūrinę programą padeda įgyvendinti MO muziejus, Vilniaus muziejus ir Vilniaus universiteto muziejus. NEMO tinklo veiklą užtikrina Vokietijos muziejų asociacija.
