Kur bëhet fjalë për marrjen e mbështetjes emocionale në internet, njerëzit presin të lidhen me njerëz të tjerë të cilët mund të ofrojnë një vesh për t’i dëgjuar dhe, ashtu siç mund ta mendoni, presin të lidhen me njerëz.
Megjithatë, për disa përdorues të shërbimit të chat-it së mbështetjes emocionale, Koko, përvoja e tyre u ofrua pjesërisht nga chatbot-et e inteligjencës artificiale (AI).
Në tetor, Koko kreu një eksperiment ku GPT-3, një chatbot popullor, tashmë, tejet i famshëm i inteligjencës artificiale, u ktheu përgjigje ose tërësisht ose pjesërisht atyre që u drejtuan për ndihmë. Njerëzit që ishin menaxhues të chatit mund t’i redaktonin përgjigjet, por nuk ishin ata gjithmonë autorët e atyre mesazheve, ku rreth 4,000 njerëz morën përgjigje nga Koko që të paktën pjesërisht ishin shkruar nga inteligjenca artificale.
Ndërsa eksperimenti kishte qëllime të mira, që atëherë ai ka ndezur një debat të fortë etik.
Kur përdoruesit mësuan se mbështetja u ishte ofruar pjesërisht nga një mekanizëm jo-njerëzor, përfitimet e ndihmës nuk ishin më të njëjtat, ku edhe Morris, bashkë themeluesi i Koko, vuri në dukje se “ndjeshmëria e simuluar ndihet e çuditshme, e zbrazët” në Twitter.
Eksperimenti është kritikuar nga akademikë, gazetarë dhe teknologë, të cilët akuzuan Kokon për veprim joetik dhe manipulim të individëve vulnerabël pa dijeninë ose pëlqimin e tyre.
Ndërsa universiteteve dhe organizatave që marrin fonde federale u kërkohet të ndjekin rregulla strikte kur kryejnë eksperimente me subjekte njerëzore, nuk ka detyrime të tilla ligjore për korporatat private ose grupet jofitimprurëse që nuk marrin mbështetje federale. Si rezultat, industria e teknologjisë është përballur me pyetje në lidhje me implikimet etike kur kompanitë teknologjike hyjnë në tregun e shërbimeve shëndetësore.
Gjithsesi, pavarësisht mungesës së detyrimeve ligjore, konsideratat etike duhet të jenë gjithmonë në ballë kur kryhen studime me subjekte njerëzore, veçanërisht ata që mund të jenë në pozita të cenueshme.
Eksperimenti Koko shërben si një paralajmërim për industrinë e teknologjisë, duke theksuar nevojën për transparencë më të madhe dhe konsiderata etike shtesë kur përdoret inteligjenca artificale në shërbimet shëndetësore, dhe se kjo e fundit duhet të përdoret me përgjegjësi dhe me konsideratën maksimale për individët që synon t’i ndihmojë.
