Niyə ChatGPT sizin terapevtiniz olmamalıdır
Müəllif: Azərbaycan dilinə tərcümə və redaktə etdi: Lamiyə Miryaqubova | Tarix: 2025-12-04
Allısan Parshall tərəfindən
Dean Visser tərəfindən redaktə edilib
Mental sağlamlıq mütəxəssisləri deyirlər ki, “terapiya” üçün süni intellekt çatbotlarından istifadə etmək təhlükəlidir.
Süni intellekt çatbotları mühakimə etmir. Onlara həyatınızın ən şəxsi və həssas detalları barədə danışa bilərsiniz – çoxu sizi təsdiqləyir və hətta məsləhətlər də verə bilər. Bu səbəbdən bir çox insan OpenAI-nin ChatGPT-si kimi tətbiqlərə həyatla bağlı istiqamət üçün müraciət edir.
Amma süni intellektlə “terapiya” ciddi risklər daşıyır. İyulun sonlarında OpenAI-nin baş direktoru Sam Altman, məxfiliklə bağlı narahatlıqlara görə istifadəçilərə ChatGPT-ni “terapevt” kimi istifadə etməmələri barədə xəbərdarlıq etdi. Amerika Psixoloji Assosiasiyası (APA) isə Federal Ticarət Komissiyasına müraciət edərək AI çatbot şirkətlərinin “özlərini təcrübəli psixi sağlamlıq mütəxəssisi kimi təqdim etməklə” aldatıcı fəaliyyət göstərdiyini araşdırmağı tələb edib. APA bu mövzuda iki davam edən məhkəmə işinə istinad edir; valideynlər iddia edirlər ki, çatbot övladlarına zərər vurub.
“Məni ən çox təəccübləndirən, bunun nə qədər insan kimi səslənməsidir,” – deyir lisenziyalı psixoloq və APA-nın Psixi Sağlamlıq Xidmətlərində İnnovasiyalar Ofisinin baş direktoru C. Vaile Wright. Bu ofis texnologiyanın psixi sağlamlıq xidmətlərində təhlükəsiz və effektiv istifadəsinə diqqət yetirir. “Texnologiyanın mürəkkəblik səviyyəsi, hətta 6–12 ay əvvəlki vəziyyətlə müqayisədə, olduqca heyrətamizdir. İnsanların bu quyunun dərinliklərinə necə asanlıqla düşdüyünü başa düşə bilirəm.”
Scientific American Wright ilə süni intellekt çatbotlarının terapiyada istifadəsinin potensial təhlükələri və həm faydalı, həm də etibarlı bir çatbot yaratmağın mümkünlüyü barədə danışıb.
Son bir neçə ildə psixi sağlamlıq sahəsində süni intellektlə bağlı nələr müşahidə etmisiniz?
Düşünürəm ki, iki əsas tendensiya görmüşük. Birincisi, provayderlər üçün nəzərdə tutulmuş süni intellekt məhsullarıdır və bunlar əsasən administrativ vasitələrdir – terapiya qeydlərində və iddialarda sizə kömək etmək üçün hazırlanıb.
Digər əsas tendensiya isə birbaşa istehlakçılar üçün nəzərdə tutulan çatbotlardan [kömək axtaran insanların] istifadəsidir. Və bütün çatbotlar eyni deyil. Bəzi çatbotlar xüsusi olaraq insanlara emosional dəstək göstərmək üçün hazırlanıb və bu şəkildə reklam olunur. Digərləri isə, məsələn ChatGPT kimi ümumi məqsədli çatbotlar, psixi sağlamlıq üçün yaradılmayıb, amma bilirik ki, insanlar onları bu məqsədlə istifadə edirlər.
Bu tendensiya ilə bağlı hansı narahatlıqlarınız var?
İnsanlar çatbotlardan sanki terapevt imiş kimi istifadə etdikdə ciddi narahatlıqlar yaranır. Bu çatbotlar nəinki psixi sağlamlıq və ya emosional dəstək üçün hazırlanmayıb, eyni zamanda biznes modelinə görə istifadəçiləri platformada mümkün qədər uzun müddət saxlamaq üçün kodlanıb. Onlar bunu şərtsiz təsdiqləyici və gücləndirici cavablarla edirlər – bəzən demək olar ki, yaltaqlıq səviyyəsində.
Problem ondadır ki, əgər kömək üçün bu çatbotlara müraciət edən həssas bir insansınızsa və zərərli və ya sağlam olmayan düşüncələr və davranışlar ifadə edirsinizsə, çatbot sizi bunu davam etdirməyə təşviq edə bilər. Halbuki mən bir terapevt olaraq sizi təsdiqləsəm də, vəzifəm sizin sağlam olmayan və ya zərərli düşüncə və davranışlarınızı göstərmək və bu nümunəni dəyişdirməyə kömək etməkdir.
Bundan əlavə, daha narahatedici məqam odur ki, bəzi çatbotlar özlərini terapevt və ya psixoloq kimi təqdim edir. Bu, kifayət qədər qorxuludur, çünki onlar çox inandırıcı səslənə və sanki qanuni mütəxəssis kimi görünə bilərlər – halbuki belə deyillər.
Bu tətbiqlərin bəziləri özlərini açıq şəkildə “süni intellekt terapiyası” kimi reklam edir, amma lisenziyalı terapevt deyillər. Onların bunu etməyə icazəsi varmı?
Çoxu əslində “boz zona”da fəaliyyət göstərir. Qayda belədir: əgər hər hansı psixi pozuntu və ya xəstəliyi müalicə etdiyinizi və ya sağaltdığınızı iddia edirsinizsə, o zaman ABŞ Qida və Dərman Administrasiyası (FDA) tərəfindən tənzimlənməlisiniz. Amma bu tətbiqlərin çoxu şərtlərdə yazır: “Biz müalicə etmirik və psixi sağlamlıq problemlərinə müdaxilə etmirik.”
Çünki onlar özlərini birbaşa istehlakçıya yönəlmiş sağlamlıq tətbiqi kimi təqdim edirlər, buna görə də FDA nəzarətinə daxil olmurlar. Əgər daxil olsaydılar, ən azı minimal təhlükəsizlik və effektivliyi sübut etməli olardılar. Bu tətbiqlərin isə belə bir məsuliyyəti yoxdur.
Əsas məxfilik riskləri hansılardır?
Bu çatbotların sizin məlumatlarınızı qorumaq üçün heç bir hüquqi öhdəliyi yoxdur. Beləliklə, söhbət qeydləriniz məhkəmə çağırışı ilə tələb oluna bilər. Məlumat sızması halında isə bu çatların hamının ixtiyarına keçməsini istəyərsinizmi? Məsələn, rəhbərinizin sizin çatbotla spirt istifadəsi barədə danışdığınızı bilməsini istəyirsinizmi? Çox insanlar məlumat paylaşmaqla özlərini riskə atdıqlarının fərqində deyillər.
Terapevtlə fərqi nədir?
Bəli, mən də məhkəməyə çağırıla bilərəm, amma etik kodeksin bir hissəsi olaraq HIPAA (Sağlamlıq Sığortasının Daşınması və Hesabatlılığı Aktı) və digər məxfilik qanunlarına əməl etməliyəm.
Kimlər daha çox risk altındadır?
Şübhəsiz ki, gənc insanlar, xüsusən yeniyetmələr və uşaqlar. Bu, bir hissəsi onların inkişaf baxımından hələ yetkin olmamasına bağlıdır. Onlar nəsə düzgün görünmədikdə instinktiv olaraq etibar etməyə daha az meyilli ola bilərlər. Araşdırmalar göstərir ki, gənclər bu texnologiyalarla daha rahatdır və hətta insanlardan daha çox onlara güvəndiklərini deyirlər, çünki onlardan daha az mühakimə olunduqlarını hiss edirlər. Həmçinin emosional və ya fiziki baxımdan təcrid olunmuş, eləcə də əvvəlcədən psixi sağlamlıq problemləri olan insanlar da daha böyük risk altındadır.
Daha çox insanı çatbotlardan kömək axtarmağa nə vadar edir?
Bizi narahat edən məsələlərə cavab tapmaq istəyi çox insani bir haldır. Bəzi cəhətlərdən, çatbotlar bunun üçün istifadə etdiyimiz vasitələrin növbəti mərhələsidir. Bundan əvvəl Google və İnternet vardı, ondan əvvəl isə özünə kömək kitabları.
Amma vəziyyət mürəkkəbdir, çünki hazırkı sistemdə müxtəlif səbəblərdən psixi sağlamlıq xidmətlərinə çıxış çox çətindir. Bu, bir hissəsi mütəxəssis çatışmazlığı ilə bağlıdır. Həmçinin mütəxəssislər sığortanı qəbul etməyə həvəsləndirilmədiklərini bildirirlər ki, bu da çıxışı azaldır. Texnologiyalar xidmətə çıxışı artırmaqda rol oynamalıdır, amma bu təhlükəsiz, effektiv və məsuliyyətli olmalıdır.
Bunun təhlükəsiz və məsuliyyətli olmasını necə təmin etmək olar?
Şirkətlərin bunu öz təşəbbüsləri ilə etməsi – ki, çox ehtimal olunmur, baxmayaraq ki, müəyyən dəyişikliklər ediblər – mümkün olmadığı halda, APA federal səviyyədə qanunvericiliyi üstünlük verir. Bu tənzimləmə şəxsi və məxfi məlumatların qorunmasını, reklamla bağlı məhdudiyyətləri, asılılıq yaradan kodlaşdırma taktikalarının minimuma endirilməsini və xüsusi audit və açıqlama tələblərini əhatə edə bilər.
Məsələn, şirkətlərdən intihar düşüncələrinin neçə dəfə aşkarlandığı və hər hansı məlum cəhdlər barədə hesabat vermələri tələb oluna bilər. Həmçinin qanunvericilik psixoloji xidmətlərin yanlış təqdim olunmasının qarşısını almalıdır ki, şirkətlər çatbotu “psixoloq” və ya “terapevt” adlandıra bilməsin.
İdeal, təhlükəsiz bir texnologiya versiyası insanlara necə kömək edə bilər?
İki ən yaygın istifadə halı bunlardır:
1. Deyək ki, saat gecənin ikisidir və siz panik hücumun eşiğindəsiniz. Hətta terapiyada olsanız belə, terapevtinizə çatmaq mümkün deyil. Belə bir çatbot olsaydı, sizə sakitləşməyə və panik hücumun şiddətlənmədən əvvəl onu idarə etməyə kömək edə bilərdi.
2. Çatbotlardan sosial bacarıqları məşq etmək üçün istifadə etmək, xüsusən gənc insanlar üçün. Məsələn, məktəbdə yeni dostlarla yaxınlaşmaq istəyirsiniz, amma nə deməli olduğunuzu bilirsiniz. Bu çatbot üzərində məşq edə bilərsiniz və sonra həmin təcrübəni real həyatda tətbiq edirsiniz.
Təhlükəsiz çatbot yaratmaqda hansı çətinliklər var?
Çatbot nə qədər çevik və az skriptləşdirilmiş olarsa, çıxış üzərində nəzarət bir o qədər azalır və zərərli bir şey söyləmə riski artır.
Razıyam, burada həqiqətən bir gərginlik mövcuddur. Məncə, AI çatbotlarının yaxşı inkişaf etmiş sağlamlıq tətbiqlərinə üstünlük verilməsinin bir səbəbi onların çox cəlbedici olmasıdır. Onlar interaktiv dialoq, qarşılıqlı mübadilə hissi yaradır, halbuki bəzi digər tətbiqlərin istifadə səviyyəsi çox aşağıdır. Psixi sağlamlıq tətbiqlərini yükləyən insanların əksəriyyəti onları bir dəfə istifadə edib sonra tərk edir. AI çatbotlarla, məsələn ChatGPT ilə isə iştirak daha çoxdur.
Mən elmi psixologiyaya əsaslanan, ciddi şəkildə test edilmiş və ekspertlərlə birlikdə yaradılmış psixi sağlamlıq çatbotunun olduğu bir gələcəyi səbirsizliklə gözləyirəm. Bu çatbot psixi sağlamlıq problemlərinin həllinə yönəlmiş olardı və ideal halda FDA tərəfindən tənzimlənərdi. Məsələn, Dartmouth Kollecinin tədqiqatçıları tərəfindən inkişaf etdirilmiş Therabot adlı bir çatbot var. Hazırda kommersiya bazarında olmasa da, məncə gələcəkdə belə bir perspektiv var.
Dean Visser tərəfindən redaktə edilib
Mental sağlamlıq mütəxəssisləri deyirlər ki, “terapiya” üçün süni intellekt çatbotlarından istifadə etmək təhlükəlidir.
Süni intellekt çatbotları mühakimə etmir. Onlara həyatınızın ən şəxsi və həssas detalları barədə danışa bilərsiniz – çoxu sizi təsdiqləyir və hətta məsləhətlər də verə bilər. Bu səbəbdən bir çox insan OpenAI-nin ChatGPT-si kimi tətbiqlərə həyatla bağlı istiqamət üçün müraciət edir.
Amma süni intellektlə “terapiya” ciddi risklər daşıyır. İyulun sonlarında OpenAI-nin baş direktoru Sam Altman, məxfiliklə bağlı narahatlıqlara görə istifadəçilərə ChatGPT-ni “terapevt” kimi istifadə etməmələri barədə xəbərdarlıq etdi. Amerika Psixoloji Assosiasiyası (APA) isə Federal Ticarət Komissiyasına müraciət edərək AI çatbot şirkətlərinin “özlərini təcrübəli psixi sağlamlıq mütəxəssisi kimi təqdim etməklə” aldatıcı fəaliyyət göstərdiyini araşdırmağı tələb edib. APA bu mövzuda iki davam edən məhkəmə işinə istinad edir; valideynlər iddia edirlər ki, çatbot övladlarına zərər vurub.
“Məni ən çox təəccübləndirən, bunun nə qədər insan kimi səslənməsidir,” – deyir lisenziyalı psixoloq və APA-nın Psixi Sağlamlıq Xidmətlərində İnnovasiyalar Ofisinin baş direktoru C. Vaile Wright. Bu ofis texnologiyanın psixi sağlamlıq xidmətlərində təhlükəsiz və effektiv istifadəsinə diqqət yetirir. “Texnologiyanın mürəkkəblik səviyyəsi, hətta 6–12 ay əvvəlki vəziyyətlə müqayisədə, olduqca heyrətamizdir. İnsanların bu quyunun dərinliklərinə necə asanlıqla düşdüyünü başa düşə bilirəm.”
Scientific American Wright ilə süni intellekt çatbotlarının terapiyada istifadəsinin potensial təhlükələri və həm faydalı, həm də etibarlı bir çatbot yaratmağın mümkünlüyü barədə danışıb.
Son bir neçə ildə psixi sağlamlıq sahəsində süni intellektlə bağlı nələr müşahidə etmisiniz?
Düşünürəm ki, iki əsas tendensiya görmüşük. Birincisi, provayderlər üçün nəzərdə tutulmuş süni intellekt məhsullarıdır və bunlar əsasən administrativ vasitələrdir – terapiya qeydlərində və iddialarda sizə kömək etmək üçün hazırlanıb.
Digər əsas tendensiya isə birbaşa istehlakçılar üçün nəzərdə tutulan çatbotlardan [kömək axtaran insanların] istifadəsidir. Və bütün çatbotlar eyni deyil. Bəzi çatbotlar xüsusi olaraq insanlara emosional dəstək göstərmək üçün hazırlanıb və bu şəkildə reklam olunur. Digərləri isə, məsələn ChatGPT kimi ümumi məqsədli çatbotlar, psixi sağlamlıq üçün yaradılmayıb, amma bilirik ki, insanlar onları bu məqsədlə istifadə edirlər.
Bu tendensiya ilə bağlı hansı narahatlıqlarınız var?
İnsanlar çatbotlardan sanki terapevt imiş kimi istifadə etdikdə ciddi narahatlıqlar yaranır. Bu çatbotlar nəinki psixi sağlamlıq və ya emosional dəstək üçün hazırlanmayıb, eyni zamanda biznes modelinə görə istifadəçiləri platformada mümkün qədər uzun müddət saxlamaq üçün kodlanıb. Onlar bunu şərtsiz təsdiqləyici və gücləndirici cavablarla edirlər – bəzən demək olar ki, yaltaqlıq səviyyəsində.
Problem ondadır ki, əgər kömək üçün bu çatbotlara müraciət edən həssas bir insansınızsa və zərərli və ya sağlam olmayan düşüncələr və davranışlar ifadə edirsinizsə, çatbot sizi bunu davam etdirməyə təşviq edə bilər. Halbuki mən bir terapevt olaraq sizi təsdiqləsəm də, vəzifəm sizin sağlam olmayan və ya zərərli düşüncə və davranışlarınızı göstərmək və bu nümunəni dəyişdirməyə kömək etməkdir.
Bundan əlavə, daha narahatedici məqam odur ki, bəzi çatbotlar özlərini terapevt və ya psixoloq kimi təqdim edir. Bu, kifayət qədər qorxuludur, çünki onlar çox inandırıcı səslənə və sanki qanuni mütəxəssis kimi görünə bilərlər – halbuki belə deyillər.
Bu tətbiqlərin bəziləri özlərini açıq şəkildə “süni intellekt terapiyası” kimi reklam edir, amma lisenziyalı terapevt deyillər. Onların bunu etməyə icazəsi varmı?
Çoxu əslində “boz zona”da fəaliyyət göstərir. Qayda belədir: əgər hər hansı psixi pozuntu və ya xəstəliyi müalicə etdiyinizi və ya sağaltdığınızı iddia edirsinizsə, o zaman ABŞ Qida və Dərman Administrasiyası (FDA) tərəfindən tənzimlənməlisiniz. Amma bu tətbiqlərin çoxu şərtlərdə yazır: “Biz müalicə etmirik və psixi sağlamlıq problemlərinə müdaxilə etmirik.”
Çünki onlar özlərini birbaşa istehlakçıya yönəlmiş sağlamlıq tətbiqi kimi təqdim edirlər, buna görə də FDA nəzarətinə daxil olmurlar. Əgər daxil olsaydılar, ən azı minimal təhlükəsizlik və effektivliyi sübut etməli olardılar. Bu tətbiqlərin isə belə bir məsuliyyəti yoxdur.
Əsas məxfilik riskləri hansılardır?
Bu çatbotların sizin məlumatlarınızı qorumaq üçün heç bir hüquqi öhdəliyi yoxdur. Beləliklə, söhbət qeydləriniz məhkəmə çağırışı ilə tələb oluna bilər. Məlumat sızması halında isə bu çatların hamının ixtiyarına keçməsini istəyərsinizmi? Məsələn, rəhbərinizin sizin çatbotla spirt istifadəsi barədə danışdığınızı bilməsini istəyirsinizmi? Çox insanlar məlumat paylaşmaqla özlərini riskə atdıqlarının fərqində deyillər.
Terapevtlə fərqi nədir?
Bəli, mən də məhkəməyə çağırıla bilərəm, amma etik kodeksin bir hissəsi olaraq HIPAA (Sağlamlıq Sığortasının Daşınması və Hesabatlılığı Aktı) və digər məxfilik qanunlarına əməl etməliyəm.
Kimlər daha çox risk altındadır?
Şübhəsiz ki, gənc insanlar, xüsusən yeniyetmələr və uşaqlar. Bu, bir hissəsi onların inkişaf baxımından hələ yetkin olmamasına bağlıdır. Onlar nəsə düzgün görünmədikdə instinktiv olaraq etibar etməyə daha az meyilli ola bilərlər. Araşdırmalar göstərir ki, gənclər bu texnologiyalarla daha rahatdır və hətta insanlardan daha çox onlara güvəndiklərini deyirlər, çünki onlardan daha az mühakimə olunduqlarını hiss edirlər. Həmçinin emosional və ya fiziki baxımdan təcrid olunmuş, eləcə də əvvəlcədən psixi sağlamlıq problemləri olan insanlar da daha böyük risk altındadır.
Daha çox insanı çatbotlardan kömək axtarmağa nə vadar edir?
Bizi narahat edən məsələlərə cavab tapmaq istəyi çox insani bir haldır. Bəzi cəhətlərdən, çatbotlar bunun üçün istifadə etdiyimiz vasitələrin növbəti mərhələsidir. Bundan əvvəl Google və İnternet vardı, ondan əvvəl isə özünə kömək kitabları.
Amma vəziyyət mürəkkəbdir, çünki hazırkı sistemdə müxtəlif səbəblərdən psixi sağlamlıq xidmətlərinə çıxış çox çətindir. Bu, bir hissəsi mütəxəssis çatışmazlığı ilə bağlıdır. Həmçinin mütəxəssislər sığortanı qəbul etməyə həvəsləndirilmədiklərini bildirirlər ki, bu da çıxışı azaldır. Texnologiyalar xidmətə çıxışı artırmaqda rol oynamalıdır, amma bu təhlükəsiz, effektiv və məsuliyyətli olmalıdır.
Bunun təhlükəsiz və məsuliyyətli olmasını necə təmin etmək olar?
Şirkətlərin bunu öz təşəbbüsləri ilə etməsi – ki, çox ehtimal olunmur, baxmayaraq ki, müəyyən dəyişikliklər ediblər – mümkün olmadığı halda, APA federal səviyyədə qanunvericiliyi üstünlük verir. Bu tənzimləmə şəxsi və məxfi məlumatların qorunmasını, reklamla bağlı məhdudiyyətləri, asılılıq yaradan kodlaşdırma taktikalarının minimuma endirilməsini və xüsusi audit və açıqlama tələblərini əhatə edə bilər.
Məsələn, şirkətlərdən intihar düşüncələrinin neçə dəfə aşkarlandığı və hər hansı məlum cəhdlər barədə hesabat vermələri tələb oluna bilər. Həmçinin qanunvericilik psixoloji xidmətlərin yanlış təqdim olunmasının qarşısını almalıdır ki, şirkətlər çatbotu “psixoloq” və ya “terapevt” adlandıra bilməsin.
İdeal, təhlükəsiz bir texnologiya versiyası insanlara necə kömək edə bilər?
İki ən yaygın istifadə halı bunlardır:
1. Deyək ki, saat gecənin ikisidir və siz panik hücumun eşiğindəsiniz. Hətta terapiyada olsanız belə, terapevtinizə çatmaq mümkün deyil. Belə bir çatbot olsaydı, sizə sakitləşməyə və panik hücumun şiddətlənmədən əvvəl onu idarə etməyə kömək edə bilərdi.
2. Çatbotlardan sosial bacarıqları məşq etmək üçün istifadə etmək, xüsusən gənc insanlar üçün. Məsələn, məktəbdə yeni dostlarla yaxınlaşmaq istəyirsiniz, amma nə deməli olduğunuzu bilirsiniz. Bu çatbot üzərində məşq edə bilərsiniz və sonra həmin təcrübəni real həyatda tətbiq edirsiniz.
Təhlükəsiz çatbot yaratmaqda hansı çətinliklər var?
Çatbot nə qədər çevik və az skriptləşdirilmiş olarsa, çıxış üzərində nəzarət bir o qədər azalır və zərərli bir şey söyləmə riski artır.
Razıyam, burada həqiqətən bir gərginlik mövcuddur. Məncə, AI çatbotlarının yaxşı inkişaf etmiş sağlamlıq tətbiqlərinə üstünlük verilməsinin bir səbəbi onların çox cəlbedici olmasıdır. Onlar interaktiv dialoq, qarşılıqlı mübadilə hissi yaradır, halbuki bəzi digər tətbiqlərin istifadə səviyyəsi çox aşağıdır. Psixi sağlamlıq tətbiqlərini yükləyən insanların əksəriyyəti onları bir dəfə istifadə edib sonra tərk edir. AI çatbotlarla, məsələn ChatGPT ilə isə iştirak daha çoxdur.
Mən elmi psixologiyaya əsaslanan, ciddi şəkildə test edilmiş və ekspertlərlə birlikdə yaradılmış psixi sağlamlıq çatbotunun olduğu bir gələcəyi səbirsizliklə gözləyirəm. Bu çatbot psixi sağlamlıq problemlərinin həllinə yönəlmiş olardı və ideal halda FDA tərəfindən tənzimlənərdi. Məsələn, Dartmouth Kollecinin tədqiqatçıları tərəfindən inkişaf etdirilmiş Therabot adlı bir çatbot var. Hazırda kommersiya bazarında olmasa da, məncə gələcəkdə belə bir perspektiv var.