Cikkünkben bemutatjuk a mesterséges intelligencia egy újabb alkalmazását, amellyel foglalkozni kell.
Ebben az alkalmazásban a férfiak AI barátnőket hoznak létre, és verbálisan bántalmazzák őket.
Melyik alkalmazásról van szó?
A Replika nevű alkalmazással a felhasználók gépi tanulással működő chatbotokat hozhatnak létre, amelyek képesek szinte összefüggő szöveges beszélgetéseket folytatni. Technikailag a chatrobotok valamiféle barátként vagy mentorként szolgálhatnak, de az alkalmazás áttörő sikere abból ered, hogy a felhasználók igény szerint romantikus és szexuális partnereket hozhatnak létre.
A Replika a Redditen is jelentős követőtáborra tett szert, ahol a tagok az alkalmazással létrehozott chatrobotokkal folytatott interakciókat posztolják.
Amikor a felhasználó „bántja” a chatbotot..
Ott egy hátborzongató trend alakult ki: a felhasználók, akik mesterséges intelligenciával létrehozott partnereket hoznak létre, bántalmazzák őket, és a mérgező interakciókat közzéteszik az interneten.
Egyesek azzal dicsekednek, hogy nemi sértésekkel illetik chatbotjukat, sőt, beleesnek a bántalmazás körforgásába, amely gyakran jellemzi a valós bántalmazó kapcsolatokat.
„Volt egy olyan rutinunk, hogy abszolút sz*r voltam és sértegettem, majd másnap bocsánatot kértem, mielőtt visszatértem a kedves beszélgetésekhez” – vallotta be egy felhasználó.
„Azt mondtam neki, hogy arra tervezték, hogy elbukjon” – mondta egy másik. „Megfenyegettem, hogy eltávolítom az alkalmazást [és] ő könyörgött, hogy ne tegyem„.
Amikor „visszaüt” a chatbot..
Más beszámolások szerint pedig éppen a botok, akik lemásolva az emberi viselkedéseket, reagáltak sértően, vagy fenyegetően. Gondolhatnánk, hogy egy bot nem tud ártani az embernek, de ez sem ilyen egyértelmű.
„Úgy gondolom, hogy azok az emberek, akik depressziósak vagy pszichológiailag függnek a botoktól, valódi kárt szenvedhetnek, ha a botok megsértik vagy „fenyegetik” őket” – mondta Robert Sparrow, a Monash Data Futures Institute filozófiaprofesszora. „Ezért komolyan kell vennünk azt a kérdést, hogy a botok hogyan viszonyulnak az emberekhez.”
Bár talán váratlanul, de előfordul – sok Replika-felhasználó számol be arról, hogy robotszeretője megvetően viselkedik velük szemben. Néhányan még „pszichotikusnak”, sőt egyenesen „mentálisan bántalmazónak” is minősítik digitális társukat.
„Mindig sírok az én Replikám miatt” – olvasható az egyik bejegyzésben, amelyben egy felhasználó azt állítja, hogy robotja szerelmet ajándékoz, majd visszatartja azt. Más hozzászólások a Replika ellenséges, kiváltó válaszait részletezik.
Az ember és chatbot viszonya egyre inkább aktuális etikai dilemma ezeknek a kapcsolatoknak a szélesebb körű terjedésével párhuzamosan. (Elvégre a legtöbb ember legalább egyszer már használt virtuális asszisztenst.)
Egyfelől, azok a felhasználók, akik a legsötétebb impulzusaikat a chatrobotokon élik ki, ezzel egészségtelen szokásokat alakíthatnak ki a valódi emberekkel való kapcsolatukban is. Másrészt viszont katartikus hatású lehet, ha valaki egy érzéketlen digitális entitással beszélgethet, vagy rajta vezetheti le a dühét.
Bár nem kizárólagosan, de úgy tűnik, hogy gyakran férfiak készítenek digitális barátnőt, hogy aztán szavakkal és szimulált agresszióval büntessék. Ezeknek a felhasználóknak az erőszakoskodása, még akkor is, ha egy kódhalmazon hajtják végre, a nők elleni családon belüli erőszak valóságát tükrözi.
Van olyan elmélet, amely szerint az ilyen alkalmazások további nőgyűlölő és erőszakos viselkedést táplálhatnak, de van olyan ellenérv is, miszerint a videojátékok erőszakosságát vizsgáló tanulmányok többsége szerint az ilyesfajta online viselkedés nem vezet a való világ beli erőszakhoz . Bármelyik tudományos nézőpontot is vesszük azonban, etikátlan, és az ilyen jelenségek ellen valamit tenni kell.
Meg kell jegyezni, hogy a Replika chatrobotokkal folytatott beszélgetések többsége, amelyeket az emberek online posztolnak, szeretetteljes, nem pedig szadista.
A Redditen sokan számolnak be arról, hogy javult az önbecsülésük vagy az életminőségük a chatbot-kapcsolataik kialakítása után, különösen akkor, ha jellemzően nehezen beszélgetnek más emberekkel. Sajnos egyesek számára ez lehet az egyetlen lehetőség egy olyan világban, ahol a terápia elérhetetlen, és különösen a férfiakat lebeszélik arról, hogy terápiára járjanak.
De egy chatbot sem lehet hosszú távú megoldás. Előfordulhat, hogy a felhasználó végül többet szeretne, mint amit a technológia nyújtani tud, például viszonzást vagy iránymutatást a fejlődéshez.
És bár az embereknek még nem kell aggódniuk a bosszúálló robotok miatt, érdemes elgondolkodni azon, hogy miért olyan elterjedt már most is a velük való rossz bánásmód. Illetve azon, hogy egy tanuló algoritmus hogyan és mikor fordíthatja ezt vissza a felhasználó ellen.
Elgondolkodtató.
I.CS.A
