ChatGPT алармира: над милион луѓе неделно бараат помош за ист проблем

Повеќе од еден милион корисници на ChatGPT испраќаат пораки неделно што содржат „директни индикатори за можно самоубиствено планирање или намера“, соопшти OpenAI во блог пост.

Откритието, дел од ажурирање за тоа како четботот се справува со чувствителни разговори, е едно од најдиректните признанија на технолошката компанија досега за степенот до кој вештачката интелигенција може да ги влоши проблемите со менталното здравје, објавува Гардијан.

Покрај проценките за самоубиствени мисли и поврзани интеракции, OpenAI исто така рече дека околу 0,07% од неговите корисници активни во дадена недела – приближно 560.000 од 800 милиони неделни корисници – покажуваат „можни знаци на вонредни состојби во менталното здравје поврзани со психоза или манија“. Компанијата предупреди дека ваквите разговори е тешко прецизно да се откријат и измерат и дека ова е почетна анализа.

Објавата доаѓа во време кога OpenAI се соочува со зголемен надзор по тужбата од страна на семејството на тинејџер кој извршил самоубиство по долготрајна употреба на ChatGPT. Покрај тоа, Федералната трговска комисија на САД (FTC) минатиот месец започна широка истрага за компаниите што развиваат чет-ботови со вештачка интелигенција, вклучувајќи го и OpenAI, за да испита како тие ги проценуваат негативните ефекти врз децата и адолесцентите.

OpenAI во соопштението тврди дека неговата неодамнешна надградба на GPT-5 го намалила бројот на несакани однесувања во моделот и ја подобрила безбедноста на корисниците во евалуација што вклучувала повеќе од илјада разговори за самоповредување и самоубиство.

„Нашите нови автоматизирани евалуации го оценија новиот модел GPT-5 со 91% усогласеност со посакуваните однесувања, во споредба со 77% во претходната верзија на GPT-5“, се вели во соопштението.

Компанијата забележа дека GPT-5 го прошири пристапот до телефонските линии за помош во кризни ситуации и воведе потсетници за корисниците да прават паузи за време на долгите сесии. За понатамошно подобрување на моделот, OpenAI регрутираше 170 клиничари од својата Глобална мрежа на лекари – мрежа на здравствени професионалци кои ја оценија безбедноста на одговорите на моделот и помогнаа во пишувањето одговори поврзани со проблеми со менталното здравје.