ChatGPT પર બાળકો હવે રહેશે વધુ સુરક્ષિત, AI રોકશે નકારાત્મક કન્ટેન્ટ
ડિજિટલ દુનિયામાં ઉંમરની ખરાઈ (Age Verification) હંમેશા એક જટિલ મુદ્દો રહ્યો છે. ઘણીવાર બાળકો પોતાની ખોટી ઉંમર જણાવીને સોશિયલ મીડિયા અને AI પ્લેટફોર્મનો ઉપયોગ કરે છે, જેના કારણે તેમના માનસિક સ્વાસ્થ્ય પર ખરાબ અસર પડવાનું જોખમ રહે છે. આ જોખમને ઘટાડવા માટે OpenAI એ ChatGPT પર એક નવી એજ પ્રેડિક્શન સિસ્ટમ (Age Prediction System) શરૂ કરી છે. આ સિસ્ટમ ટેક્નોલોજી અને વર્તણૂકના સંકેતોના આધારે યુઝરની ઉંમરનો અંદાજ લગાવશે અને તે મુજબ સેફ્ટી સેટિંગ્સને સક્રિય કરી દેશે.
૧. શું છે એજ પ્રેડિક્શન સિસ્ટમ અને તે કેવી રીતે કામ કરશે?
આ સિસ્ટમ કોઈ પરંપરાગત ઓળખપત્ર માંગવાને બદલે યુઝરના ડિજિટલ વ્યવહારનું વિશ્લેષણ કરે છે. OpenAI એ સ્પષ્ટ કર્યું છે કે કંપની એક વિશેષ ‘AI મોડલ’ નો ઉપયોગ કરશે જે નીચેના સંકેતો (Signals) ના આધારે ઉંમરની ઓળખ કરશે:
-
બિહેવિયરલ સિગ્નલ: યુઝર ચેટબોટને કેવા પ્રકારના પ્રશ્નો પૂછી રહ્યો છે અને તેની ભાષા કેવી છે.
-
એકાઉન્ટ લેવલ ડેટા: સાઇન-અપ સમયે આપેલી માહિતી અને એકાઉન્ટની ઉંમર (તે કેટલા સમયથી સક્રિય છે).
-
યુઝેજ પેટર્ન: યુઝર કયા સમયે સૌથી વધુ એક્ટિવ રહે છે અને તે ChatGPT નો ઉપયોગ કયા હેતુ માટે કરી રહ્યો છે.
-
એક્ટિવિટી ટાઇમ: પ્લેટફોર્મ પર વિતાવેલો સમય અને ઉપયોગ કરવાની ફ્રીક્વન્સી.
કંપનીનું કહેવું છે કે આ અલગ-અલગ ઇન્ડિકેટર્સના મિશ્રણથી AI ને એ સમજવામાં મદદ મળશે કે યુઝર ૧૮ વર્ષથી ઓછી ઉંમરનો છે કે પુખ્ત.
૨. ટીન યુઝર્સ માટે શું બદલાશે?
જો સિસ્ટમને ખબર પડશે કે યુઝરની ઉંમર ૧૮ વર્ષથી ઓછી છે, તો ChatGPT નો અનુભવ સંપૂર્ણપણે બદલાઈ જશે. કિશોરો માટે નીચેના પ્રકારના કન્ટેન્ટને પ્રતિબંધિત અથવા મર્યાદિત (Restrict) કરી દેવામાં આવશે:
-
સેન્સિટિવ કન્ટેન્ટ: હિંસક ચિત્રણ (Graphic Violence) અને અસુરક્ષિત વાયરલ ચેલેન્જિસને સંપૂર્ણપણે બ્લોક કરી દેવામાં આવશે.
-
રોલ-પ્લે પર નિયંત્રણ: જાતીય, રોમેન્ટિક કે હિંસક રોલ-પ્લે જેવી પ્રવૃત્તિઓ પર પ્રતિબંધ હશે.
-
સ્વાસ્થ્ય અને શરીર: અનહેલ્ધી ડાયેટિંગ, બોડી શેમિંગ અને એક્સ્ટ્રીમ બ્યુટી સ્ટાન્ડર્ડ્સ સાથે જોડાયેલા કન્ટેન્ટને ઓછું કરવામાં આવશે જેથી બાળકોના આત્મસન્માનને ઠેસ ન પહોંચે.
-
એડલ્ટ કન્ટેન્ટ: કોઈપણ પ્રકારનું જાતીય રીતે સ્પષ્ટ (Sexually Explicit) કન્ટેન્ટ બાળકોની પહોંચથી બહાર હશે.
૩. જો સિસ્ટમથી ભૂલ થાય તો શું થશે?
૩. જો સિસ્ટમથી ભૂલ થાય તો શું થશે?AI મોડલ હંમેશા ૧૦૦% સચોટ હોતા નથી. OpenAI એ આ માટે પણ એક ઉકેલ શોધ્યો છે:
-
સેલ્ફી વેરિફિકેશન: જો કોઈ પુખ્ત યુઝરને સિસ્ટમે ભૂલથી ‘માઇનર’ (Minor) તરીકે માર્ક કર્યા હોય, તો તે એક સરળ પ્રક્રિયા દ્વારા પોતાની ઉંમરની ખરાઈ કરી શકે છે. આ માટે યુઝરે પોતાની એક સેલ્ફી અપલોડ કરવી પડશે, જેના પછી સિસ્ટમ તેમની ઉંમરનું ફરીથી મૂલ્યાંકન કરશે.
-
સેફ્ટી બાય ડિફોલ્ટ: OpenAI નું કહેવું છે કે જો મોડલ ઉંમરનો સાચો અંદાજ નથી લગાવી શકતું, તો તે સુરક્ષાને પ્રાથમિકતા આપતા ‘સેફ્ટી સેટિંગ્સ’ ને પોતાની મેળે જ ઓન કરી દેશે.
૪. ફીડબેકથી મોડલ વધુ બહેતર બનશે
OpenAI એ એમ પણ જણાવ્યું છે કે આ મોડલ અત્યારે શરૂઆતના તબક્કામાં છે. જેમ જેમ લોકો તેનો ઉપયોગ કરશે અને ફીડબેક આપશે, તેમ તેમ સિસ્ટમ વધુ સચોટ બનતી જશે. કંપનીનું લક્ષ્ય એક એવું સુરક્ષિત વાતાવરણ બનાવવાનું છે જ્યાં કિશોરો AI ની શક્તિનો ઉપયોગ પોતાના શિક્ષણ અને સર્જનાત્મકતા માટે કરી શકે, કોઈપણ નકારાત્મક પ્રભાવ વગર.
૫. કેમ જરૂરી હતું આ પગલું?
સમગ્ર વિશ્વમાં AI રેગ્યુલેશન (AI Regulation) ને લઈને ચર્ચા ચાલી રહી છે. સરકારોનું દબાણ છે કે AI કંપનીઓ બાળકોની સુરક્ષા માટે કડક વ્યવસ્થા કરે. OpenAI નું આ પગલું માત્ર કાયદાકીય સુરક્ષા જ નથી આપતું, પરંતુ વાલીઓને (Parents) પણ એ ભરોસો અપાવે છે કે તેમના બાળકો ChatGPT પર સુરક્ષિત છે.
નિષ્કર્ષ
ChatGPT ની આ નવી એજ પ્રેડિક્શન સિસ્ટમ ટેક્નોલોજીની દુનિયામાં એક સીમાચિહ્ન રૂપ છે. આ દર્શાવે છે કે AI માત્ર માહિતી આપવાનું સાધન નથી, પરંતુ તે પોતાના યુઝર્સની સુરક્ષા માટે જવાબદાર પણ છે. આ નવા અપડેટ સાથે, ઈન્ટરનેટ કિશોરો માટે વધુ સુરક્ષિત અને ઉપયોગી બનવાની દિશામાં એક ડગલું આગળ વધ્યું છે.
