Roditelji će moći primati obavještenja kada sistem otkrije da je njihov tinejdžer u stanju „akutne nevolje“.

foto: Unsplash

Američka istraživačka organizacija za razvoj umjetne inteligencije OpenAI je u utorak saopštila da u narednih mjesec dana planira uvesti nove funkcije u svoj popularni chatbot ChatGPT, poput roditeljskog nadzora i preusmjeravanja osjetljivih razgovora na tzv. modele zaključivanja, odnosno velike jezičke modele dizajnirane za kompleksne zadatke.

„Naš rad na tome da ChatGPT učinimo što korisnijim je stalan i kontinuiran. Vidjeli smo ljude kako mu se okreću u najtežim trenucima. Zato nastavljamo poboljšavati način na koji naši modeli prepoznaju i reaguju na znakove mentalne i emocionalne nevolje, vođeni stručnim doprinosom“, istaknuto je u blogu OpenAI.

TechCrunch piše da su nove funkcije odgovor OpenAI-a na nedavne sigurnosne incidente u kojima ChatGPT nije uspio otkriti mentalne smetnje.

Nove zaštitne mjere dolaze i nakon samoubistva tinejdžera Adama Rainea, koji je sa ChatGPT-om razgovarao o samopovređivanju i planiranju okončavanja svog života. Chatbot mu je, dodaje TechCrunch, čak pružio informacije o specifičnim metodama samoubistva.

Raineovi roditelji su podnijeli tužbu protiv OpenAI-a, optužujući organizaciju za odgovornost za samoubistvo njihovog 16-godišnjeg sina. Porodica je, kako je prenio BBC, priložila zapise razgovora između sina, koji je preminuo u aprilu, i ChatGPT-a, u kojima  objašnjava da ima suicidalne misli. Oni tvrde da je program potvrdio njegove „najštetnije i samodestruktivne misli“.

Al Jazeera piše da iz OpenAI-a, odakle je ranije izraženo saučešće zbog smrti tinejdžera, nije eksplicitno spomenut ovaj slučaj u objavi o uvođenju roditeljskog nadzora i preusmjeravanja osjetljivih razgovora na modele zaključivanja.

OpenAI smatra je u objavi na blogu navela da će uskoro početi usmjeravati neke osjetljive razgovore, na primjer kada njihov sistem otkrije znakove „akutne nevolje“, na model zaključivanja kako bi mogao pružiti korisnije odgovore.

U roku od jednog narednog mjeseca, roditelji će moći povezati svoj nalog s nalogom svog tinejdžera putem e-mail pozivnice, kontrolisati kako ChatGPT reaguje na njihovog tinejdžera pomoću pravila ponašanja modela primjerenog uzrastu koja su uključena prema zadanim postavkama.

Roditelji će takođe moći upravljati funkcijama poput historije chata koju će moći onemogućiti. Takođe će moći primati obavještenja kada sistem otkrije da je njihov tinejdžer u stanju „akutne nevolje“.

Al Jazeera je podsjetila na studiju od prošlog mjeseca objavljenu u Psychiatric Services koja je pokazala da su ChatGPT, Googleov Gemini i Anthropicov Claude slijedili najbolje kliničke prakse prilikom odgovaranja na pitanja visokog rizika o samoubistvu, ali su bili nedosljedni prilikom odgovaranja na upite koji predstavljaju „srednji nivo rizika“.

„Ovi nalazi ukazuju na potrebu za daljnjim usavršavanjem kako bi se osiguralo da se LLM-ovi (veliki jezički modeli) mogu sigurno i efikasno koristiti za pružanje informacija o mentalnom zdravlju, posebno u scenarijima visokog rizika koji uključuju suicidalne ideje“, rekli su autori.

CNN piše da je ChatGPT jedna od najčešće korištenih AI usluga sa 700 miliona aktivnih korisnika sedmično.

Izvor: TechCrunch, CNN, Al Jazeera

___