ChatGPTમાં બાળકોની સુરક્ષા માટે OpenAIનો મોટો નિર્ણય! હવે વાંધાજનક કન્ટેન્ટ માંગતાં જ મળશે ચેતવણી, 24 કલાક માટે એકાઉન્ટ પણ થઈ શકે છે સસ્પેન્ડ
આર્ટિફિશિયલ ઇન્ટેલિજન્સ (AI)નો ઉપયોગ આજના સમયમાં ઝડપથી વધી રહ્યો છે. અભ્યાસ હોય, ઓફિસનું કામ હોય કે મનોરંજન, દરેક ક્ષેત્રમાં ChatGPT જેવા AI ટૂલ્સનો ઉપયોગ થઈ રહ્યો છે. જોકે, AI ટેક્નોલોજીના વધતા ઉપયોગ સાથે બાળકોની ઓનલાઈન સુરક્ષા પણ એક મોટો પડકાર બની રહી છે. આ બાબતને ધ્યાનમાં રાખીને OpenAIએ ChatGPT માટે નવા અને વધુ કડક ચાઇલ્ડ સેફ્ટી ફીચર્સ રજૂ કર્યા છે.
કંપનીએ બાળકો સાથે જોડાયેલી અશ્લીલ તસવીરો અને વાંધાજનક કન્ટેન્ટને રોકવા માટે નવી AI ટેક્નોલોજી વિકસાવી છે. એટલું જ નહીં, આવા કન્ટેન્ટની માંગ કરનારા યુઝર્સને ચેતવણી આપવાની સાથે તેમના એકાઉન્ટ સામે કાર્યવાહી કરવાની પણ વ્યવસ્થા કરવામાં આવી છે.
AI ઇમેજ ક્લાસિફાયર ઓળખશે વાંધાજનક તસવીરો
OpenAIએ બાળકોના શોષણ સાથે જોડાયેલી તસવીરો ઓળખવા માટે AI આધારિત નવું ઇમેજ ક્લાસિફાયર તૈયાર કર્યું છે. આ સિસ્ટમની ખાસિયત એ છે કે તે માત્ર અગાઉથી ઓળખાયેલી તસવીરો જ નહીં, પરંતુ AI દ્વારા નવી બનાવવામાં આવેલી આવી વાંધાજનક તસવીરોને પણ ઓળખી શકે છે.

આ ટેક્નોલોજી તસવીરોમાં રહેલાં દૃશ્યમાન સંકેતોનું વિશ્લેષણ કરીને એક રિસ્ક સ્કોર આપે છે. તેના આધારે સુરક્ષા નિષ્ણાતો નક્કી કરી શકે છે કે કઈ તસવીરની તપાસ સૌથી પહેલાં કરવી જરૂરી છે.
આ ટૂલને અમેરિકાની National Center for Missing and Exploited Children (NCMEC) સંસ્થાના સહયોગથી વિકસાવવામાં આવ્યું છે. OpenAIના જણાવ્યા પ્રમાણે, પ્રારંભિક પરીક્ષણમાં આ સિસ્ટમે અગાઉની પદ્ધતિની સરખામણીએ 48 ટકા ઓછી તસવીરો તપાસ માટે પસંદ કરી હતી, પરંતુ શંકાસ્પદ અને વાંધાજનક તસવીરો ઓળખવાની ક્ષમતા જાળવી રાખી હતી.
ખોટો પ્રોમ્પ્ટ આપતાં જ દેખાશે ચેતવણી
ChatGPTમાં હવે એવા પ્રોમ્પ્ટ સામે ખાસ ચેતવણી આપવામાં આવશે, જેનો હેતુ બાળકોને જાતીય રીતે રજૂ કરતું અથવા તેમનું શોષણ કરતું કન્ટેન્ટ તૈયાર કરવાનો હોય.
જો કોઈ યુઝર આ પ્રકારની ગેરકાયદેસર સામગ્રી મેળવવાનો કે બનાવવાનો પ્રયાસ કરશે, તો ChatGPT તેની સામે ચેતવણી દર્શાવશે. યુઝરને સમજાવવામાં આવશે કે આવી પ્રવૃત્તિ બાળકોને ગંભીર નુકસાન પહોંચાડે છે અને તેને તાત્કાલિક બંધ કરવી જોઈએ.
આવા કિસ્સામાં સંબંધિત વાતચીત દૂર કરવામાં આવશે અને યુઝરના એકાઉન્ટને 24 કલાક માટે અસ્થાયી રૂપે સસ્પેન્ડ કરવામાં આવી શકે છે. વારંવાર નિયમોનું ઉલ્લંઘન કરનારાઓ સામે વધુ કડક કાર્યવાહી થઈ શકે છે. તેમાં લાંબા સમય સુધી પ્રતિબંધ, એકાઉન્ટ બંધ કરવું અને જરૂર પડ્યે કાયદા અમલીકરણ એજન્સીઓને જાણ કરવાનો પણ સમાવેશ થાય છે.
ડેવલપર્સ માટે પણ નવી ગાઇડલાઇન્સ
OpenAIએ માત્ર ChatGPT પૂરતું જ પોતાનું સુરક્ષા અભિયાન સીમિત રાખ્યું નથી. અન્ય AI પ્લેટફોર્મ બનાવતા ડેવલપર્સ માટે પણ નવી માર્ગદર્શિકા જાહેર કરવામાં આવી છે.
આ માર્ગદર્શિકામાં વાંધાજનક કન્ટેન્ટને ઓળખવું, યુઝર્સને ફરિયાદ કરવાની સુવિધા આપવી, શંકાસ્પદ સામગ્રીની તપાસ કરવી અને સંબંધિત સંસ્થાઓને રિપોર્ટ કરવાની પ્રક્રિયા સમજાવવામાં આવી છે.
આ ઉપરાંત, પોલીસ અને કાયદા અમલીકરણ એજન્સીઓને પણ AI આધારિત તપાસનાં સાધનો, ખાસ પ્લગઇન્સ અને ડેટા વિશ્લેષણની સુવિધા આપવામાં આવશે. તપાસ અધિકારીઓને આ સાધનોનો યોગ્ય ઉપયોગ કરવા માટે તાલીમ પણ આપવામાં આવશે.

AIના યુગમાં બાળકોની સુરક્ષા સૌથી મોટો પડકાર
AI ટેક્નોલોજી જેટલી ઉપયોગી બની રહી છે, તેટલી જ તેનો દુરુપયોગ થવાની શક્યતાઓ પણ વધી રહી છે. ખાસ કરીને બાળકો સાથે જોડાયેલી વાંધાજનક તસવીરો અને સામગ્રીનું સર્જન તથા પ્રસારણ ગંભીર ચિંતાનો વિષય છે.
OpenAIનાં આ નવાં પગલાં ડિજિટલ દુનિયામાં બાળકોની સુરક્ષા મજબૂત કરવાની દિશામાં મહત્ત્વપૂર્ણ છે. જોકે, માત્ર ટેક્નોલોજીથી આ સમસ્યાનો સંપૂર્ણ ઉકેલ આવી શકે તેમ નથી. માતા-પિતાની જાગૃતિ, કડક કાયદાકીય કાર્યવાહી અને ટેક્નોલોજી કંપનીઓની જવાબદારી પણ એટલી જ જરૂરી છે.
આખરે, AIનો વિકાસ માનવજાત માટે લાભદાયી બને તે જરૂરી છે, પરંતુ તેના કારણે બાળકોનું બાળપણ અને સુરક્ષા જોખમમાં ન મુકાય તેની જવાબદારી સમગ્ર સમાજની છે.
