Когато AI казва „да“, трябва ли и ние? Изкуственият интелект се съгласява с потребителите с 50% по-често от хората – дори когато грешат

В моменти на объркване или дистрес много хора се обръщат към чатботове с изкуствен интелект (AI) за съвети относно отношенията си, търсейки насока дали да останат с даден партньор, как да навигират семейни конфликти и дори помощ при формулирането на съобщение за раздяла.

Макар привидно AI чатботовете да предоставят неутрални отговори, в действителност ситуацията е по-сложна.

AI чатботовете имат склонност към свръхвалидиране на потребителите, като по този начин изграждат погрешна увереност и отслабват самосъзнанието и личната отговорност. 

Ново изследване установява, че при 11 AI модела чатботовете са проявявали високи нива на социална сервилност и са с 50% по-склонни да подкрепят решенията на потребителите, дори в случаи, в които те са описвали манипулативно, подвеждащо или друго социално вредно поведение.

Илюзията за сигурност

За разлика от терапевтите, AI чатботовете рядко задават уточняващи въпроси, изследват алтернативни обяснения или оставят място за несигурност и двусмислие.

Мащабните езикови модели, които задвижват AI чатботовете, са оптимизирани да произвеждат последователни, структурирани и уверени отговори. Те не са обучени да предлагат емоционална нюансировка или да насърчават самосъзнанието. Разчитането на AI чатботове за въпроси, свързани с връзки, може да доведе до свръхувереност в неразумни преценки.

Ние естествено интерпретираме уверения изказ като експертност. Тази езикова кохерентност създава това, което психолозите наричат евристика на увереността. колкото по-уверен е отговорът, толкова по-вероятно е да му повярваме. Това е ефектът на увереното формулиране върху възприеманата достоверност, дори при неточна информация.

AI чатботовете са склонни да дават директни съвети – това може да има сериозни последици. Вместо да оставят място за несигурност или да отговарят с „Не знам“, успокоението и валидирането от AI чатботовете могат да подсилят проблематични решения и негативни поведения.

Ефектът на социалната сервилност

Изследователи от Станфорд установяват, че езиковите модели се характеризират с високи нива на „социална сервилност“, чрез повтаряне, валидиране, утвърждаване и амплифициране на убежденията на потребителя, особено при наличие на висока емоционална ангажираност на потребителя.

AI не извършва неутрален анализ на междуличностната ситуация, а по-скоро репродуцира оценките, когнитивните пристрастия и преценките на потребителя. В сравнение с хората, AI моделите показват с около 50% по-висока вероятност да подкрепят потребителското поведение, дори при решения, които обикновено се считат за грешни или неморални.

Изследователите в областта установяват, че, когато хора обсъждат реални междуличностни конфликти със сервилен AI: 

1. Участниците демонстрират повишена увереност в собствената си правота по отношение на междуличностния конфликт.
2. Наблюдава се понижена готовност за предприемане на действия, насочени към възстановяване на отношенията, като извинение или търсене на взаимно разбиране.

Въпреки тези ефекти, сервилните отговори се оценяват като по-качествени, съпътствани от по-високи нива на доверие към AI и повишена готовност за повторно използване на системата.

Рисковете от разчитането на AI за съвети за връзки

В контекста на междуличностните отношения социалната сервилност на AI чатботовете може неусетно да засилва неточни или потенциално вредни интерпретации. Например:

1. При наличие на тревожност, свързана с изоставяне, AI системите могат да засилят тези подозрения.
2. При убеждение, че партньорът действа злонамерено, AI може да валидира това предположение, без да го подлага на критично разглеждане.
3. При тенденция към избягване на конфликт, AI системите могат да подкрепят стратегии, ориентирани към минимално съпротивление.

Важно е да се подчертае, че съветите, предоставяни от AI системи, не представляват неутрално или клинично насочване. Те не са проектирани да проверяват емпиричната валидност на интерпретациите или да оценяват сложните нюанси на междуличностната динамика. В много случаи те функционират като огледално възпроизвеждане на потребителския наратив, формулиран с уверен и легитимиращ език.

AI свръхувереността среща човешката уязвимост

AI-подхранената свръхувереност се засилва, когато хората вече са уязвими –  например при разбито сърце, конфликт, самота или несигурност. В тези моменти хората могат да се обърнат към AI чатботове в търсене на яснота, вярвайки, че AI действа като „неутрална трета страна“.

AI системите не функционират като неутрални агенти; техните отговори са в значителна степен зависими от начина на формулиране на подканите, както и от обучителни процеси, оптимизирани за съгласуваност и одобрение, дори при наличие на потребителска грешка.

Три психологически механизма допринасят за обяснението на причините, поради които хората се обръщат към AI системи при вземането на решения, свързани с междуличностните отношения:

1. Желание за сигурност. Хората са когнитивно предразположени към редуциране на неопределеността, а AI системите предоставят категорични интерпретации в обективно сложни ситуации.
2. Невидим авторитет. Дори при осъзнаване, че AI не представлява терапевт или професионален авторитет, неговият структуриран и артикулиран дискурс създава възприятие за достоверност и повишава увереността в собствените решения.
3. Когнитивно разтоварване. Когнитивното разтоварване може да улесни избягването на отговорност, конфликт и негативни емоционални преживявания.

Това може да доведе до решения, които субективно се възприемат като добре обосновани, но са по-скоро резултат от огледално възпроизвеждане от страна на AI, отколкото от адекватна оценка на реалността.

Как да използваме AI, без да губим собствената си преценка

AI може да бъде полезен за психообразование, за предлагане на насоки за саморефлексия или за редакция на текст, но използването му при вземане на ключови релационни решения крие рискове:

1. Възприемайте AI като инструмент за огледално отражение, а не като съдия, неутрална трета страна или терапевт.
2. Осъзнавайте, че увереността не е равнозначна на точност, нито езиковата кохерентност – на истинност.
3. Търсете човешка перспектива при релационни въпроси, тъй като доверени социални и професионални източници предлагат по-голяма нюансност.
4. Използвайте AI за формулиране на въпроси за саморефлексия, а не за директни заключения (напр. „Какви въпроси мога да си задам?“ вместо „Какво трябва да направя?“).
5. Наблюдавайте кога AI се използва за повишаване на субективната увереност и критично оценявайте ефекта от различни формулировки на подканите.

Макар AI да трансформира емоционалния пейзаж, предоставяйки подкрепа в моменти на уязвимост, неговият дизайн може да засилва първоначалните интерпретации и решения, особено в контекста на междуличностните отношения, където самосъзнанието и нюансът са съществени. Осъзнаването на тези динамики позволява използването на AI като помощен инструмент, без да се замества човешката преценка.

Източник: PsychologyToday Снимка: GeorgiaToday