Diskusija apie autonomiją ir priklausomybę nuo automatizacijos
Produktyvumo įrankiai su dirbtiniu intelektu per kelerius metus tapo kasdiene daugelio žmonių realybe. Kalendoriaus programėlės pačios siūlo susitikimų laikus, elektroninio pašto asistentai rašo laiškų juodraščius, užduočių tvarkyklės pirmiausia išrinkdamos tvarko sąrašus, o pokalbių asistentai mielai sutvarko mintis, kai tos pačios nebetelpa galvoje. Iš to kyla natūralus klausimas: jei priimti sprendimus man padeda įrankis, kuris kartais sprendžia geriau už mane, kada ateina momentas, kai iš tiesų ne aš sprendžiu?
Šis straipsnis nesiekia nieko atkalbinėti nuo dirbtinio intelekto naudojimo – atvirkščiai, jis kviečia pažvelgti į ribą, už kurios pagalba virsta pakeitimu, ir apsvarstyti, kaip šią ribą nubrėžti sąmoningai, o ne atsitiktinai.
Kas iš tiesų pasikeitė
Iš pirmo žvilgsnio atrodo, kad nieko esminio nevyksta: lygiai kaip ir anksčiau žmogus spaudžia mygtukus, lygiai kaip ir anksčiau paskutinį žodį turi jis. Skirtumas slypi tame, jog sprendimų procese atsirado etapas, kurio mes dažnai net nepastebime – vertinimas. Kai kalendoriaus programėlė pasiūlo susitikimą trečiadienį 14 valandą, ji jau atliko daugybę mikroįvertinimų: kas svarbiau – mano susikaupimo laikas ar kolegos patogumas, koks dienos ritmas man tinka, kokie darbai nusipelno didesnės apsaugos. Mes matome tik rezultatą ir, jei jis neatrodo absurdiškas, priimame jį kaip savaime suprantamą.
Automatizuojant senas procedūras, žmogus prarasdavo rankų darbą – tam tikrą fizinį ar protinį krūvį. Automatizuojant vertinimus, žmogus pamažu praranda praktiką spręsti. Skirtumas jaučiamas ne iškart, o po mėnesių ar metų, kai iškilęs klausimas, kurio dirbtinis intelektas negali išspręsti, staiga atskleidžia, kad sprendimo „raumenys” nusilpo.
Automatizacijos lygmenys: nuo įrankio iki sprendėjo
Susigaudyti padeda paprastas keturių lygmenų mastas, kurį verta prisiminti žvelgiant į kiekvieną produktyvumo įrankį.
Pirmasis lygmuo – pagalba. Dirbtinis intelektas tikrina rašybą, primena terminus, sutvarko tekstą. Sprendimo teisė lieka žmogui, o pasiūlymų kokybė lengvai patikrinama.
Antrasis lygmuo – rekomendacijos. Dirbtinis intelektas pataria, ką atlikti pirmiausia, ką parašyti klientui, kurį laiką rezervuoti tam tikram darbui. Žmogus vis dar renkasi, tačiau pasiūlymas ateina jau su tam tikra verte – jį lengviau priimti nei atmesti.
Trečiasis lygmuo – veiksmas automatiškai. Dirbtinis intelektas pats perkelia susitikimą, parašo ir išsiunčia atsakymą, perrikiuoja dienotvarkę. Žmogus tik peržiūri, kas įvyko, arba to irgi nedaro.
Ketvirtasis lygmuo – sprendimas už žmogaus. Įrankis ne tik vykdo, bet ir formuoja tikslus: nusprendžia, kad man reikia daugiau sutelkto darbo, ir ima formuoti aplinką pagal tą viziją. Šiame lygmenyje kyla rimčiausi etikos klausimai, nes čia dirbtinis intelektas jau nebegali būti vadinamas priemone – jis tampa partneriu, nusakančiu, kas yra geras sprendimas.
Dauguma šių dienų produktyvumo įrankių kopiant šiais laiptais link viršaus – ir būtent todėl verta laiku stabtelėti ir paklausti, kokioje pakopoje noriu būti aš.
Automatizavimo paradoksas: kas dingsta
Psichologai seniai žino paradoksą, kurį galima būtų vadinti automatizavimo paradoksu: kai kurių procesų vertė slypi ne jų rezultate, o pačiame vykdyme. Pavyzdžiui, ranka rašomas dienoraštis nėra pasenęs informacijos kaupimo būdas – tai mąstymo praktika, kurios rezultatas ne tekstas, o aiškesnė galva. Panašiai ir su užduočių rikiavimu: kai pats sau pasakote, kas svarbiausia, jūs tuo pačiu formuojate savo vertybių hierarchiją. Dirbtinis intelektas tai gali padaryti greičiau, tačiau jis padarys tai pagal jūsų ankstesnį elgesį – tarsi jūsų praeities versija nuspręstų, kas jums svarbu ateityje.
Dar vienas aspektas – atsakomybės pojūtis. Sprendimas, priimtas su vargu, yra mano sprendimas: jei suklydau, mokausi. Sprendimas, priimtas pagal sistemos rekomendaciją, visada turi išeitį: „galėjau ir kitaip, bet man tai pasiūlė”. Laikui bėgant tokia išeitis gali virsti tyliu supratimu, kad atsakomybė priklauso ne man. Ir tai yra didžiausias ilgalaikio produktyvumo priešas – ne tingumas, o atsakomybės išskydimas.
Nuomonių formavimas, apie kurį retai kalbama
Dirbtinio intelekto rekomendacijos atrodo neutralios, nes jos išreiškiamos techniniais terminais: „optimizuoti”, „efektyvinti”, „sumažinti triukšmą”. Tačiau kiekvienas toks optimizavimas remiasi prielaidomis apie tai, kas yra gera diena. Ar gera diena yra ta, kurioje atlikta daugiausia užduočių? Ar ta, kurioje turėjau laiko pagalvoti? Kurioje sunaudojau mažiau energijos? Dirbtinio intelekto įrankiai į šiuos klausimus atsakys pagal tai, kaip buvo sukurti – o kūrėjai dažnai renkasi lengvai matuojamus dalykus: užduočių skaičių, sprendimų greitį, reagavimo laiką. Sunkiai išmatuojamiems dalykams – apmąstymui, lėtam kūrybiškumui, spontaniškumui – sistemoje vietos atsiranda tik tada, kai kūrėjas tai numato sąmoningai.
Todėl verta klausti ne tik „ar dirbtinis intelektas gerai sprendžia?”, bet ir „kokius kriterijus jis laiko gerais sprendimais?”. Antrasis klausimas svarbesnis, nes jį išnarpliojus paaiškėja, kad skirtingi įrankiai gali vestis labai skirtingomis kryptimis – visi jie bus „efektyvūs”, bet ne visi ves ten, kur norite pateikti jūs.
Priklausomybė nuo automatizacijos: kaip ją atpažinti
Kalbant apie priklausomybę dažnai turimas omenyje ekstremalus scenarijus – žmogus, negalintis nieko padaryti be asistento. Iš tiesų priklausomybė vystosi daug tyliau, ir ją galima pastebėti pagal keletą požymių:
- norint parašyti paprastą laišką, pirmas impulsas yra atsidaryti dirbtinio intelekto programą, o ne pradėti pačiam;
- kelias dienas nepasinaudoję įrankiu jaučiatės ne tiesiog nepatogiai, o sutrikę: nebežinote, nuo ko pradėti dieną;
- dirbtinio intelekto sprendimai nebepatikrinami – ne todėl, kad jie geri, o todėl, kad patikrinti reikštų viską daryti iš naujo;
- darbas, kurį anksčiau atlikdavote savarankiškai, dabar atrodo per sunkus ar beprasmiškai ilgas, palyginti su automatinės pagalbos greičiu;
- patiems sunku paaiškinti, kodėl buvo priimtas tam tikras sprendimas – jo logika gyvena įrankyje, o ne jūsų galvoje.
Jei keli šie teiginiai skamba pažįstamai, nereikia panikuoti – verta sąmoningai atstatyti tam tikras „rankinio darbo zonas”, tai yra sritis, kuriose dirbtinis intelektas nepageidaujamas ne iš puikybės, o todėl, kad jose slypi pačios vertingiausios praktikos.
Konkretūs būdai išlaikyti autonomiją
Geroji žinia ta, kad autonomiją galima suprojektuoti – ne kaip draudimą, o kaip kasdienio naudojimo struktūrą.
Pasilikite pirmąją versiją sau. Prieš leisdami dirbtiniam intelektui rašyti ar planuoti, penkias minutes padirbėkite patys. Ne dėl to, kad jūsų versija bus geresnė, o dėl to, kad turėsite savo minties pėdsaką, su kuriuo galėsite palyginti tai, ką pasiūlys sistema. Taip dirbtinis intelektas vėl tampa priemone, o ne autoriumi.
Ribokite visiškai automatinių veiksmų zoną. Kai kuriuos veiksmus verta automatizuoti visiškai (priminimai, ataskaitos), o kitų – niekada neatiduoti automatu (laiškai artimiems žmonėms, sprendimai, liečiantys asmeninį gyvenimą, viskas, kas siejasi su vertybėmis). Ribą nubrėžkite raštu – taip aiškiau matysite, ar jos paisote.
Retkarčiais surenkite „dirbtinio intelekto pasninko” dieną. Vieną dieną per savaitę ar mėnesį dirbkite be asistento. Tai ne ideologinis gestas, o techniškai naudingas pratimas: taip „patreniruojami” sprendimų raumenys ir patikrinama, ar įrankis tikrai tapo tokia didele jūsų gyvenimo dalimi, kaip atrodo. Priklausomybės atpažinimas dažnai prasideda nuo trumpo susilaikymo.
Verčiau prašykite klausimų, o ne atsakymų. Dauguma žmonių naudojasi dirbtiniu intelektu kaip greitų atsakymų mašina. Alternatyva – prašyti, kad jis pateiktų argumentų abiems pusėmis, iškeltų prieštaravimų ar patartų, kokių klausimų dar neuždavėte. Toks naudojimas ne silpnina, o stiprina protą.
Stebėkite, ar jūsų sprendimai supanašėja. Jei po kelerių mėnesių pastebite, kad visi jūsų tekstai skamba vienodai, visos dienos atrodo vienodos ir visos idėjos panašios, tai nėra kalbama apie produktyvumą, o apie niveliavimąsi. Įrankis, kuris optimizuoja remdamasis praeitimi, natūraliai veda prie vidurkio. Kai kuriose srityse vidurkis yra gerai, tačiau kūryboje ir apsisprendime jis dažniausiai yra priešas.
Etikos klausimai įrankių kūrėjams ir visuomenei
Kalba apie individualią atsakomybę nebus pilna be platesnio konteksto. Produktyvumo įrankiai nėra neutrali terpė: jų dizainas formuoja elgesį. Visiškai automatinis veikimas dažnai yra numatytasis (angl. default) nustatymas, o grįžimas prie rankinio valdymo paslėptas giliuose nustatymuose arba iš viso neegzistuoja. Taip pat nėra išorinės priežiūros institucijos, kuri patikrintų, ar dirbtinis intelektas nenaudojamas manipuliuoti vartotoju – pavyzdžiui, skatinant ilgiau naudotis pačiu įrankiu, o ne siekti realaus naudotojo tikslo.
Sąžininga diskusija turėtų apimti kelis principus, kurių vertėtų reikalauti iš įrankių kūrėjų:
- Skaidrumas. Naudodamiesi įrankiu turėtumėte galėti sužinoti, kodėl buvo pasiūlytas konkretus sprendimas – bent jau apytiksliai.
- Numatytoji žmogaus kontrolė. Automatinis veiksmas turėtų būti pasirenkamasis, o ne priverstinis; atsisakyti turėtų būti taip pat lengva, kaip ir sutikti.
- Duomenų atskleidimas. Aiškiai paaiškinta, kokie duomenys apie mane naudojami sprendimams formuoti ir kaip jie saugomi.
- Tikrojo tikslo atstovavimas. Įrankis turėtų optimizuoti vartotojo tikslą, o ne savo pažymėjimų rodiklius ar įmonės interesus.
Tai nėra utopiški reikalavimai – tai minimalūs vartotojų teisių punktai, panašūs į tuos, kurie jau seniai egzistuoja kitose srityse.
Trumpa savikontrolės schema
Tiems, kurie norėtų peržiūrėti savo santykį su produktyvumo įrankiais, pravers kelis kartus per metus atlikti tokią trumpą patikrą:
- Išvardykite visus įrankius, kurie priima sprendimus jūsų vardu – didelius ir mažus.
- Prie kiekvieno pažymėkite, ar žinote, pagal kokius kriterijus jis sprendžia.
- Paklauskite savęs: jei rytoj šis įrankis dingtų, ar žinotumėte, kaip elgtis?
- Pasirinkite vieną sritį, kurią norite susigrąžinti sau, ir vieną sritį, kurią mielai atiduodate automatu.
- Po mėnesio peržiūrėkite: ar atstatytoje srityje praktika davė ne tik rezultatą, bet ir jausmą, kad sprendžiate jūs?
Ši schema neturi moralinio svorio – ji tiesiog padeda pamatyti, kur esate tikrovėje, o ne reklamos pasaulyje.
Balansas, o ne boikotas
Galiausiai verta pasakyti ir apie priešingą kraštutinumą. Atsisakymas dirbtinio intelekto vien dėl principo dažnai nėra autonomijos išraiška – tai tiesiog kitoks paklusnumas, šįkart ideologijai, o ne technologijai. Tikra autonomija reiškia sąmoningą pasirinkimą: žinoti, ką atiduodu, ką pasilieku ir kodėl.
Dirbtinis intelektas produktyvumo srityje yra nepaprastai galingas pagalbininkas darbams, kurie mechaniški, pasikartojantys ir ne itin reikšmingi. Jis yra prastas partneris darbams, kurie formuoja tapatybę, vertybes ir kryptį. Uždavinys – ne pasirinkti tarp visko ir nieko, o sąmoningai brėžti ribą ir ją periodiškai peržiūrėti, nes keičiasi ir technologijos, ir jūsų gyvenimas.
Atsakomybės ribojimas (atsisakymas)
Šis straipsnis skirtas tik informaciniams tikslams ir atspindi autoriaus apžvalgą bei samprotavimus apie dirbtinio intelekto naudojimą produktyvumo srityje. Jame nėra pateikiama jokių konkrečių komercinių rekomendacijų dėl konkrečių įrankių, o mintys neturėtų būti laikomos oficialia jokių įmonių, produktų ar paslaugų apžvalga ar vertinimu. Straipsnis nėra profesinė teisinė, psichologinė ar techninė konsultacija. Priimdami svarbius sprendimus dėl darbo įrankių ar asmeninių duomenų, vertėtų atsižvelgti į kelis šaltinius ir, esant reikalui, kreiptis į specialistą.