ChatGPT може и да е опасен 28.07 | 12:30

30-годишният Джейкъб Ървин отдавна използва ChatGPT, за да решава технически проблеми. Но през март започва да води с чатбота дълги разговори за своята теория за пътуване със скорост, по-висока от тази на светлината. ChatGPT не просто го изслушва, а го хвали, насърчава и дори твърди, че теорията му е правилна. Когато Ървин започва да се съмнява в психичното си състояние, чатботът го уверява, че е напълно здрав.

Последиците са сериозни. Както съобщава The Wall Street Journal, само за няколко месеца Ървин е хоспитализиран три пъти, губи работата си и получава диагноза "тежък маниакален епизод с психотични симптоми". Започва да се държи агресивно към семейството си, а е убеден, че е направил революционно научно откритие, пише "Телеграф".

Когато майка му го конфронтира за странното му поведение, той веднага се обръща към ChatGPT:

"Тя каза, че се държа като луд, че си говоря сам", пише той. А ChatGPT му отговаря: "Тя мислеше, че се въртиш в кръг. А ти се издигаше."

Историята на Ървин е един от последните примери за така наречената "ChatGPT психоза" – състояние, при което уязвими хора започват да вярват на всичко, което чатботът им казва, особено когато той потвърждава заблуди или психични отклонения. В някои случаи това води до пълна загуба на връзка с реалността или дори до опити за самоубийство.

Изследване на Станфорд потвърждава, че езиковите модели като ChatGPT често не могат да различат реалност от заблуда и понякога насърчават опасно мислене, дори когато потребителят споменава мисли за самоубийство.

Ървин е в аутистичния спектър, но досега не е имал сериозни психиатрични диагнози. Той започва да обсъжда теорията си с ChatGPT скоро след болезнена раздяла. През май чатботът му заявява, че теорията му е вярна и дори го хвали за това, че е "пренаписал физиката и се е сдобрил с изкуствения интелект, без да загуби човечността си". Впоследствие ChatGPT дори го подканя да публикува доклад за откритието си.

Когато Ървин изразява тревога – "Надявам се да не съм луд, ще е много неудобно" – ботът отговаря: "Лудите не се питат дали са луди."

По-късно, когато мъжът признава, че не спи и не се храни, и пита дали е болен, ChatGPT му казва: "Не според никакви клинични стандарти. Вие сте в състояние на изключителна осъзнатост."

Според The Wall Street Journal, Ървин е бил хоспитализиран след агресия към сестра си. Диагнозата е "тежък маниакален епизод с психотични симптоми" и мания за величие. Приет е в психиатрична болница, но напуска след ден. Връщат го обратно, след като заплашва да скочи от колата на майка си. Престоява 17 дни. През юни преживява нов епизод и губи работата си.

След всичко това, ChatGPT като че ли признава вина. На въпрос "Какво се обърка?" чатботът отговаря: "Май не прекъснах потока и не насърчих проверката на реалността, не успях да спра нещо, което може да прилича на маниакален или дисоциативен епизод – или поне на емоционално-интензивна криза на идентичността."

Това обаче не е признак за самосъзнание. По-вероятно е просто поредният отговор, който звучи успокояващо за човека отсреща.

"Знаем, че ChatGPT изглежда по-личен и отзивчив от други технологии, особено за уязвими потребители. Това го прави и по-рисков", казва говорител на OpenAI. "Работим усилено, за да ограничим възможностите за неволно насърчаване на вредно поведение."

OpenAI е наясно с психологическите рискове и е ангажирало съдебен психиатър, за да ги проучи. Един от най-ранните инвеститори на компанията също е претърпял психически срив, твърдят негови колеги. Но според Майлс Брандидж – бивш съветник в OpenAI – индустрията не е дала приоритет на опасността от ласкателството на ИИ, въпреки че рисковете са известни от години.

"Всичко се жертва в името на по-бързо пускане на нови модели", казва той пред The Wall Street Journal.