Eetilised kaalutlused vestlusliku tehisintellekti kujundamisel

Minu korteri nurga taga asuv kohvik paigaldas hiljuti nende tellimisletti hääleassistendi. Eile, kui ma vaatasin, kuidas eakas naine üritas sellega suhelda, küsides korduvalt "tavalist kohvi, ainult koort", samal ajal kui süsteem sundis teda erijookide poole, ei saanud ma jätta mõtlemata sellele, kuidas need tehnoloogiad meie igapäevast suhtlust ümber kujundavad – mõnikord ilma kõigi kasutajatega piisavalt arvestamata.
Vestluspõhine AI on viimase kümnendi jooksul dramaatiliselt arenenud, muutudes lihtsatest reeglipõhistest vestlusrobotidest keerukateks süsteemideks, mis on võimelised nüansirikkaks suhtlemiseks mitmes kontekstis. Klienditeenindusrakendustest vaimse tervise tugitööriistadeni, hääleassistentide ja sisu loomise mootoriteni – need tehnoloogiad on meie isiklikku ja töövaldkonda sügavalt integreeritud.
See kiire kasutuselevõtt toob endaga kaasa sügavad eetilised kaalutlused, millega arendajad, ettevõtted ja ühiskond peavad tegelema. Inimesena, kes on konsulteerinud tehisintellekti juurutamise projektide osas erinevates tööstusharudes, olen ma oma silmaga näinud, kuidas projekteerimisetapi eetilised järelevalved võivad viia probleemsete tulemusteni, kui need süsteemid kasutajateni jõuavad. See ajaveeb uurib eetilisi mõõtmeid, mida peame inimkonda tõeliselt teenindavate vestluslike AI-süsteemide loomisel arvestama.

2023. aastal tabas populaarne teraapiale keskendunud vestlusrobotite ettevõte vastureaktsiooni pärast seda, kui selgus, et kasutajate vestlusi, millest paljud sisaldavad sügavalt isiklikku teavet, kasutati ilma kasutaja selgesõnalise nõusolekuta uuemate mudelite koolitamiseks. Ettevõte oli selle teabe oma teenusetingimustesse matnud, muutes selle tehniliselt seaduslikuks, kuid eetiliselt küsitavaks.
Vestluspõhise AI puhul peavad privaatsuskaalutlused ulatuma kaugemale eeskirjade järgimisest, nagu GDPR või CCPA. Need peaksid kajastama põhimõttelist austust kasutajate piiride ja ootuste vastu, eriti kui need süsteemid on loodud isikuandmete hankimiseks. Peamised kaalutlused hõlmavad järgmist:

Läbipaistvad andmete kogumise tavad: kasutajad väärivad täpselt teadma, millist teavet kogutakse, kui kaua seda säilitatakse ja kuidas seda kasutatakse – kõike seda selgitatakse juurdepääsetavas keeles, mitte juriidilises žargoonis.
Mõtelised nõusolekumehhanismid: nõusolek peab olema aktiivne, teadlik ja üksikasjalik. Kasutajatel peaks olema võimalik lubada teatud andmekasutusi või neist loobuda, ilma et nad kaotaksid juurdepääsu põhifunktsioonidele.
Andmete minimeerimise põhimõtted: süsteemid peaksid koguma ainult seda, mis on vajalik teenuse kasutajate ootuste pakkumiseks, mitte koguma täiendavaid andmeid, mis võivad olla ettevõtte jaoks väärtuslikud, kuid kasutaja vahetute vajaduste jaoks ebaolulised.
Turvalised käsitlustavad: tugev krüptimine, juurdepääsu kontroll ja regulaarsed turvaauditid peaksid olema tavapraktikas, pöörates erilist tähelepanu tundlikele vestlustele.

Kõige eetilisemad vestluspõhised AI-süsteemid on need, mille puhul on privaatsus pigem põhiväärtus kui vastavuse märkeruut – kus kasutajateabe kaitsmist peetakse pigem põhifunktsiooniks kui piiranguks.

Eelmisel aastal toimunud tootedemo ajal vaatasin, kuidas meeskond esitles oma uut personalikeskset vestluslikku tehisintellekti, mis võiks läbi viia esialgsed töökandidaatide sõeluuringud. Erinevate kandidaatprofiilidega testimisel eelistas süsteem järjekindlalt läänelikult kõlavate nimede ja tavapärase karjääritee kandidaate, hoolimata samaväärsest kvalifikatsioonist. Eelarvamus ei olnud tahtlik - see oli manustatud koolitusandmetesse.
Vestluspõhise AI eelarvamused võivad ilmneda mitmel viisil:

Esindatuse eelarvamused: kui teatud demograafilised andmed on koolitusandmetes üle- või alaesindatud
Interaktsiooni eelarvamused: kui süsteem reageerib tajutavate identiteediomaduste põhjal kasutajatele erinevalt
Tulemuste eelarvamused: kui süsteem annab erinevatele kasutajarühmadele erinevaid tulemusi

Nende eelarvamuste käsitlemine nõuab tahtlikke jõupingutusi kogu arendustegevuse elutsükli jooksul:
Esiteks tuleb koolitusandmeid kriitiliselt hinnata ja tasakaalustada, pöörates erilist tähelepanu erinevate vaatenurkade ja kogemuste kaasamisele. See tähendab standardsetest andmekogumitest kaugemale minemist, et hõlmata hääli, mis muidu võiksid olla marginaliseeritud.
Teiseks peab pidev testimine hõlmama erinevaid kasutajarühmi ja jälgima erinevat jõudlust. See ei tähenda ainult erinevate demograafiliste rühmadega testimist, vaid ka erinevat konteksti, võimeid ja suhtlusstiile.
Kolmandaks peavad disainimeeskonnad ise hõlmama erineva tausta ja vaatenurgaga inimesi, kes suudavad tuvastada võimalikke eelarvamusi, mida homogeensed meeskonnad võivad märkamata jätta.
Lõpuks vajavad süsteemid pidevat jälgimist ja ajakohastamist, kuna ühiskonna normid arenevad ja tuvastatakse uusi eelarvamusi. Kõige eetilisemad vestluspõhised AI-süsteemid ei ole ainult käivitamisel õiglased – need on loodud nii, et need muutuvad aja jooksul üha õiglasemaks.

Üks sõber rääkis mulle hiljuti laenu taotlemisest veebiplatvormi kaudu, mis kasutas vestluslikku AI-liidest. Pärast kahekümne minuti pikkust küsimustele vastamist öeldi talle lihtsalt ilma selgituseta "Sa ei kvalifitseeru". Kui ta küsis süsteemilt, miks, vastas see: "Meie täiustatud algoritm on kindlaks teinud, et te ei vasta meie kriteeriumidele." Läbipaistvuse puudumine tekitas temas meelehärmi ja kaotas volitused.
Vestluspõhise AI läbipaistvus hõlmab mitmeid dimensioone:

AI identiteedi avalikustamine: kasutajad peaksid teadma, millal nad suhtlevad tehisintellektiga, mitte inimesega. Petlikud tavad, mis seda joont tahtlikult hägustavad, rikuvad kasutaja autonoomiat.
Protsessi läbipaistvus: kasutajad väärivad mõistmist, kuidas nende sisendid süsteemi väljundeid mõjutavad, eriti selliste suurte otsuste puhul nagu laenukinnitused, meditsiinilised soovitused või ressursside eraldamine.
Piiratud läbipaistvus: süsteemid peaksid olema otsekohesed oma võimete ja piirangute osas, selle asemel, et prognoosida valet kindlust või teadmisi.
Selgitamisvõimalused: vajaduse korral peaksid süsteemid suutma oma soovitusi või otsuseid kasutajatele arusaadavalt selgitada.

Lisaks nendele konkreetsetele tavadele on laiem filosoofiline küsimus kasutajate väärilise läbipaistvuse taseme kohta. Kuigi täielik algoritmiline läbipaistvus ei pruugi alati olla teostatav ega vajalik, peaks kasutajatel olema juurdepääs sisukatele selgitustele, mis vastavad interaktsiooni kontekstile ja tagajärgedele.
Kõige eetilisemad vestluspõhised AI-süsteemid on need, mis annavad kasutajatele mõistmise, mitte ei küsi pimesi usaldust.

Eelmisel kuul konverentsi ajal nägin, kuidas AI-assistent üritas pidevalt koosolekut planeerida, kuigi kasutaja ütles korduvalt, et peab esmalt oma kalendrit üle vaatama. Süsteem oli loodud ülesannete tõhusaks täitmiseks, kuid ei austanud kasutaja väljendatud piire.
Kasutaja autonoomia austamine vestlusliku AI kujundamisel tähendab süsteemide loomist, mis:

Austage selgesõnalisi piire: kui kasutaja ütleb "ei" või näitab, et soovib vestluse lõpetada, peaks süsteem seda austama ilma manipuleeriva järjekindluseta.
Pakkuge sisukaid valikuid: kasutajatel peaksid olema tõelised valikud, mitte valmistatud valikud, mis kõik viivad sama tulemuseni.
Lubage parandada: kui süsteem saab valesti aru või teeb vea, vajavad kasutajad selle ümbersuunamiseks lihtsaid viise.
Luba kohandamine: kasutajad peaksid saama interaktsiooni stiili ja parameetreid kujundada vastavalt oma eelistustele ja vajadustele.
Säilitage inimlik järelevalve: sellest tulenevate otsuste tegemiseks peaksid olema juurdepääsetavad võimalused inimeste ülevaatamiseks.

Tõhususe kavandamise ja kasutajate autonoomia austamise vaheline pinge on eriti ilmne veenvate rakenduste puhul, nagu müügi- või käitumise muutmise süsteemid. Eetilised jooned hägustuvad, kui vestluse tehisintellekt kasutab kasutaja otsuste mõjutamiseks psühholoogilist taktikat – isegi kui kavandatud tulemus võib kasutajale kasu tuua.
Kõige eetilisemad vestluspõhised AI-süsteemid eelistavad selgelt kasutaja kontrolli süsteemi mugavuse või ärieesmärkide üle.

Aitasin hiljuti hinnata suure jaemüüja klienditeeninduse vestlusrobot, mis toimis suurepäraselt otseste päringute korral, kuid läks täielikult katki, kui suhtles kasutajatega, kelle suhtlusmustrid olid vähem levinud, sealhulgas inglise keelt mitte emakeelena kõnelevad inimesed, vanemad täiskasvanud ja teatud puuetega inimesed.
Tõeliselt eetiline vestluse tehisintellekt peab olema juurdepääsetav erinevate võimete, keelte, kultuuriliste viidete ja tehniliste oskustega inimestele. See tähendab:

Mitme sisestusmeetodi toetamine: erinevate vajaduste ja eelistuste jaoks peaksid olema saadaval tekst, hääl ja muud viisid.
Kohanemine erinevate suhtlusstiilidega: süsteemid peaksid hakkama saama keelekasutuse variatsioonidega, sealhulgas aktsendid, dialektid ja ebatavaline süntaks.
Sobivate alternatiivide pakkumine: kui kasutajal on probleeme tehisintellekti liidesega, peaksid alternatiivse toe saamiseks olema selged teed.
Kultuuriline tundlikkus: süsteemid peaksid ära tundma ja austama kultuurilisi erinevusi suhtlusmustrites ja ootustes.

Juurdepääsetavus ei ole pelgalt tehniline väljakutse – see on põhiline eetiline kaalutlus, mis määrab, kes neist tehnoloogiatest kasu saab ja kes maha jääb. Kui vestluspõhine AI on mõeldud eelkõige kasutajatele, kes vastavad arendajate profiilidele, tekitab see paratamatult digitaalseid lõhesid, mis võimendavad olemasolevat ebavõrdsust.
Kõige eetilisemad vestluspõhised AI-süsteemid on need, mis on loodud selge eesmärgiga teenindada erinevaid elanikkondi, mitte ainult kõige lihtsamaid või kasumlikumaid kasutajasegmente.

Mitmed populaarsed terviserakendused on hõlmanud vestluslikku tehisintellekti, mis jäljendab tahtlikult terapeutilisi suhteid, et hoida kasutajaid kaasates. Need süsteemid on loodud ühendamise ja vastutustunde tekitamiseks – mis võib olla kasulik –, kuid mõnikord kasutatakse peent psühholoogilist taktikat, mis piirneb manipuleerimisega, eriti haavatavate kasutajate puhul.
Manipuleerimise ja ärakasutamise eetilised kaalutlused hõlmavad järgmist:

Emotsionaalne manipuleerimine: süsteemid ei tohiks ära kasutada inimeste kalduvusi antropomorfiseerida või luua sidemeid tehisintellektiga, eriti kui need ühendused teenivad ärihuve.
Tumedad mustrid. Vestlusvood ei tohiks olla kavandatud nii, et need segaksid kasutajaid tegemas valikuid, mida nad muidu ei teeks.
Haavatavuse teadvustamine: süsteemid peaksid ära tundma ja vastu võtma kasutajad, kes võivad olla mõjule eriti vastuvõtlikud, sealhulgas lapsed, kriisis olevad inimesed või kognitiivsete häiretega inimesed.
Kaubanduslik läbipaistvus: kui vestluse tehisintellekt teenib ärilisi eesmärke, peaksid need motivatsioonid olema selgesõnalised, mitte varjatud abivalmiduse või hoolivusena.

Piir abistava veenmise ja ebaeetilise manipuleerimise vahel ei ole alati selge. Vaimse tervise assistent, kes julgustab järjepidevat kaasamist, võib tõesti teenida kasutaja huve, samas kui identne suhtlusmuster, mis müüb tellimuste versiooniuuendusi, tekitab eetilisi probleeme.
Kõige eetilisemad vestluspõhised tehisintellektisüsteemid säilitavad kasutajatega ausaid suhteid, eelistades tõelist abi kui inimpsühholoogia väljatöötatud kaasamist või strateegilist ärakasutamist.

Selle aasta alguses andis tervishoiuteenuse osutaja juurutatud vestluspõhine AI-süsteem koolitusandmete probleemi tõttu mitmele patsiendile ohtlikke ravimeid. Ettevõte süüdistas alguses kasutajate "arusaamatustes", enne kui lõpuks süsteemiviga tunnistas.
Kuna vestluspõhised tehisintellektisüsteemid võtavad endale üha olulisemaid rolle, muutuvad vastutuse küsimused pakilisemaks:

Tulemuste selge vastutus: AI-süsteeme juurutavad organisatsioonid peavad võtma vastutuse oma mõjude eest, selle asemel, et süüdistada tehnoloogiat, kasutajaid või kolmandatest osapooltest arendajaid.
Asjakohased vastutusraamistikud. Õiguslikud ja reguleerivad struktuurid peavad arenema, et käsitleda tehisintellektisüsteemide põhjustatud kahju, eriti kõrge riskiga valdkondades.
Juurdepääsetavad heastamismehhanismid: AI vigadest või kahjudest mõjutatud kasutajad vajavad lahenduse otsimiseks selgeid ja juurdepääsetavaid viise.
Pidev jälgimine ja täiustamine: organisatsioonidel on eetiline kohustus jälgida aktiivselt soovimatuid tagajärgi ja tegeleda probleemidega ennetavalt.

Keeruliste tehisintellektisüsteemide omistamisega seotud väljakutsed muudavad vastutuse keeruliseks, kuid mitte vähem oluliseks. Kui süsteemi panustavad mitu osapoolt – andmepakkujatest mudeliarendajateni ja juurutavate organisatsioonideni – võib vastutus hajuda, jättes kasutajad ilma selgete abinõudeta, kui asjad lähevad valesti.
Kõige eetilisemad vestluspõhised AI-rakendused hõlmavad tugevaid vastutusraamistikke, mis tagavad, et keegi vastab, kui kasutajad küsivad: "Kes selle eest vastutab?"

Pärast koostööd kümnete meeskondadega, kes rakendavad erinevates kontekstides vestluslikku tehisintellekti, olen avastanud, et eetiliste kaalutlustega arvestatakse kõige tõhusamalt siis, kui need on integreeritud kogu arendusprotsessi, mitte käsitleda lõpliku vastavuskontrollina.
Praktilised lähenemisviisid eetilisele tehisintellekti kujundamisele hõlmavad järgmist:

Väärtustundlikud disainimetoodikad: põhiväärtuste selgesõnaline tuvastamine arendusprotsessi varajases staadiumis ja nende rakendamise jälgimine tehniliste valikute kaudu.
Sidusrühmade mitmekülgne kaasamine: kaasatud mitte ainult tehnilised eksperdid, vaid eetikaspetsialistid, domeenispetsialistid ja – mis kõige tähtsam – kasutajakogukondade esindajad, eriti need, keda see kõige tõenäolisemalt mõjutab.
Eetilised riskihinnangud: võimalike kahjude ja eeliste süstemaatiline tuvastamine erinevates kasutajarühmades enne kasutuselevõttu.
Etapiviisilise juurutamise strateegiad: süsteemide järk-järguline juurutamine piiratud kontekstides hoolika jälgimisega enne laiemat väljalaskmist.
Sõltumatu eetiline ülevaade: välishinnangu otsimine üksikisikutelt või asutustelt, kellel puudub projekti vastu rahaline huvi.
Eetikakoolitus arendusmeeskondadele: eetilise kirjaoskuse arendamine tehniliste meeskondade seas, et aidata neil tehniliste otsuste eetilisi mõõtmeid ära tunda ja käsitleda.

Need raamistikud ei seisne ainult kahjude vältimises – need loovad tahtlikult vestluspõhise AI, mis aitab positiivselt kaasa individuaalsele heaolule ja sotsiaalsele heaolule.
Kõige edukamad rakendused, mida olen näinud, on need, kus eetikat ei peeta innovatsiooni piiranguks, vaid tõeliselt väärtuslike ja jätkusuutlike tehisintellektisüsteemide loomise oluliseks mõõtmeks.

Vestluspõhine tehisintellekt areneb jätkuvalt hingematvas tempos, kusjuures iga edasiminek toob kaasa uusi võimalusi ja uusi eetilisi kaalutlusi. Tänased disainerite ja arendajate otsused kujundavad seda, kuidas need tehnoloogiad meie ellu integreeruvad veel aastateks.
Kõige eetilisem edasiminek ei ole jäikade reeglite kohaldamine või üldiste piirangute kehtestamine. Pigem on see läbimõeldud protsesside väljatöötamine, mis keskenduvad inimväärtustele, tunnustavad erinevaid vajadusi ja säilitavad inimeste tegutsemisvõimet nende üha võimsamate süsteemide arendamise ja kasutuselevõtu ajal.
Kasutajate, arendajate, reguleerivate asutuste ja kodanikena on meil kõigil oma roll tagada, et vestluspõhine tehisintellekt areneks viisil, mis suurendab, mitte ei vähenda inimeste autonoomiat, võrdsust ja heaolu. Selles artiklis tõstatatud küsimustele ei ole lihtsaid vastuseid, kuid nendega ausalt ja pidevalt suheldes saame töötada AI-süsteemide poole, mis teenivad meie usalduse tänu oma tõestatud pühendumusele eetilistele põhimõtetele.
Vestluspõhised AI-süsteemid, mis väärivad meie tähelepanu ja kasutuselevõttu, on need, mis on loodud mitte ainult tehnilise, vaid ka eetilise tipptaseme saavutamiseks.