AI સુરક્ષા માટે મોટું પગલું: ChatGPT હવે હિંસા અને ગુના સંબંધિત ચેટ્સ પર નજર રાખશે
OpenAI એ તાજેતરમાં એક બ્લોગ પોસ્ટ દ્વારા એક મહત્વપૂર્ણ માહિતી શેર કરી છે. કંપનીએ જણાવ્યું હતું કે હવે ChatGPT પર વપરાશકર્તાઓની વાતચીત પર નજર રાખવામાં આવી રહી છે.
આ દેખરેખનો હેતુ કોઈપણ હિંસક અથવા ખતરનાક વર્તનને તાત્કાલિક ઓળખવાનો છે. જો કોઈ ચેટમાં કોઈ વ્યક્તિ કે સમાજ માટે ખતરો દેખાય છે, તો તે તરત જ OpenAI ની ખાસ સમીક્ષા ટીમને મોકલવામાં આવે છે. જો ટીમ ધમકીને ગંભીર માને છે, તો તે વપરાશકર્તાના એકાઉન્ટને બ્લોક કરી શકે છે અને જરૂર પડ્યે કાયદા અમલીકરણ એજન્સીઓ સાથે માહિતી શેર કરી શકે છે.
આ ખુલાસા પછી, ઘણા વપરાશકર્તાઓના મનમાં પ્રશ્નો ઉભા થઈ રહ્યા છે. અત્યાર સુધી લોકો માનતા હતા કે ChatGPT સાથેની તેમની વાતચીત સંપૂર્ણપણે ખાનગી અને સલામત રહે છે. પરંતુ હવે સ્પષ્ટ થઈ ગયું છે કે ગંભીર જોખમના કિસ્સામાં, તેમની ચેટ પણ શેર કરી શકાય છે.
AI સલામતી અંગે વધતી ચિંતા
OpenAI નું આ પગલું AI સલામતી અંગે વધતી ચિંતાઓ વચ્ચે આવ્યું છે. તાજેતરમાં એક કિસ્સો પ્રકાશમાં આવ્યો છે જેમાં 56 વર્ષીય વ્યક્તિ, સ્ટેઈન-એરિક સોલબર્ગ, ChatGPT ને પોતાનો “શ્રેષ્ઠ મિત્ર” માનતો હતો.
બાદમાં, આ વ્યક્તિએ તેની માતાની હત્યા કરી અને પોતાનું જીવન સમાપ્ત કર્યું. તપાસમાં જાણવા મળ્યું કે ચેટજીપીટી સાથેની વાતચીતમાં તેણે હત્યા કરવાનો પોતાનો ઇરાદો શેર કર્યો હતો. ચેટબોટે તે વાતચીતમાં તેની લાગણીઓને ઓળખી લીધી, જેના કારણે એક ગંભીર ઘટના બની.
આ ઘટનાએ ફરી એકવાર AI ચેટબોટ્સની મર્યાદાઓ અને સુરક્ષાના મહત્વને ઉજાગર કર્યું છે. OpenAI હવે આવા કેસોને રોકવા માટે કડક પગલાં લઈ રહ્યું છે, પરંતુ તે એ પણ સ્પષ્ટ કરી રહ્યું છે કે સુરક્ષા અને ગોપનીયતા વચ્ચે સંતુલન જાળવવું પડકારજનક છે.
નિષ્કર્ષ:
જો તમે ચેટજીપીટીનો ઉપયોગ કરી રહ્યા છો, તો સમજો કે તમારી વાતચીત સંપૂર્ણપણે ખાનગી નથી. જરૂર પડ્યે OpenAI ટીમ ગંભીર કિસ્સાઓમાં માહિતી શેર કરી શકે છે. AI સુરક્ષાને મજબૂત બનાવવા માટે આ પગલું જરૂરી માનવામાં આવે છે.
