સોશિયલ મીડિયા પર AI-ડીપફેક અને ગેરકાયદેસર કન્ટેન્ટ સામે કેન્દ્ર સરકારની લાલ આંખ: સામગ્રી હટાવવાની સમયમર્યાદા 36 કલાકથી ઘટાડીને 3 કલાક કરી
ડિજિટલ દુનિયામાં આર્ટિફિશિયલ ઇન્ટેલિજન્સ (AI) અને ડીપફેકના વધતા જતા દુરુપયોગને રોકવા માટે કેન્દ્ર સરકારે એક અત્યંત મહત્ત્વનો અને કડક નિર્ણય લીધો છે. ઇલેક્ટ્રોનિક્સ અને માહિતી ટેકનોલોજી મંત્રાલય (MeitY) એ સોશિયલ મીડિયા પ્લેટફોર્મ્સ અને ડિજિટલ મધ્યસ્થીઓ (Intermediaries) માટેના નિયમોમાં મોટો ફેરફાર કર્યો છે. નવા નિર્દેશો અનુસાર, સરકાર અથવા અદાલત તરફથી કોઈ પણ ગેરકાયદેસર સામગ્રી (Illegal Content) હટાવવા અંગેની સત્તાવાર સૂચના મળ્યા બાદ સોશિયલ મીડિયા કંપનીઓએ તેને દૂર કરવા માટેની સમયમર્યાદા પહેલાંના ૩૬ કલાકથી ઘટાડીને હવે માત્ર ૩ કલાક કરી દીધી છે.
આ નિર્ણય ખાસ કરીને ઇન્ટરનેટ પર ઝડપથી ફેલાતી વાયરલ ખોટી માહિતી, બોગસ વીડિયો, અને દેશની સુરક્ષા કે કાયદો-વ્યવસ્થાને નુકસાન પહોંચાડતા કન્ટેન્ટ પર તાત્કાલિક લગામ લગાવવાના હેતુથી લેવામાં આવ્યો છે.
AI-જનરેટેડ કન્ટેન્ટ અને ડીપફેક પર કડક નજર
છેલ્લા કેટલાક સમયથી ડીપફેક ટેકનોલોજીનો ઉપયોગ કરીને સેલિબ્રિટીઝ, રાજકારણીઓ અને સામાન્ય નાગરિકોના ફેક વીડિયો તેમજ ઓડિયો બનાવીને લોકોને ગુમરાહ કરવાના કિસ્સાઓમાં ચિંતાજનક વધારો થયો છે. આ જોખમ સામે લડવા માટે મંત્રાલયે તમામ સોશિયલ મીડિયા પ્લેટફોર્મ્સને સ્પષ્ટ આદેશ આપ્યો છે કે તેઓ AI દ્વારા બનાવવામાં આવેલી કે સુધારેલી તમામ સામગ્રી પર સ્પષ્ટ લેબલિંગ અને ટ્રેસેબલ મેટાડેટા (Traceable Metadata) સુનિશ્ચિત કરે.
આ નિયમ પાછળનો મુખ્ય ઉદ્દેશ્ય એ છે કે સામાન્ય વપરાશકર્તાઓ ડિજિટલ પ્લેટફોર્મ પર જોઈ રહેલી સામગ્રી અસલી છે કે કૃત્રિમ રીતે બનાવવામાં આવી (AI-Generated) છે, તેને સરળતાથી ઓળખી શકે. આનાથી ડિજિટલ ફ્રોડ, સાયબર અપરાધ અને સામગ્રીનો દુરુપયોગ અટકાવવામાં મોટી મદદ મળશે.
IT નિયમોમાં સુધારો અને નવી જવાબદારીઓ
આ નવા દિશાનિર્દેશો ફેબ્રુઆરી મહિનામાં સુધારેલા ઇન્ફોર્મેશન ટેકનોલોજી (IT) નિયમોનો એક ભાગ છે. નિયમનકારી માળખાને વધુ મજબૂત બનાવતા સરકારી આદેશમાં જણાવાયું છે કે:
“મધ્યસ્થીઓએ અનુમતિપાત્ર AI-જનરેટેડ સામગ્રી માટે સ્પષ્ટ લેબલિંગ અને ટ્રેસેબલ મેટાડેટાની સુવિધા ઊભી કરવી જરૂરી છે. આ ફેરફાર યુઝર્સની જવાબદારી અને પ્લેટફોર્મની ‘ડ્યુ ડિલિજન્સ’ (યોગ્ય કાળજી) ને વધુ મજબૂત બનાવે છે.”
આ ઉપરાંત, પ્લેટફોર્મ્સે તેમના વપરાશકર્તાઓને ગેરકાયદેસર AI સામગ્રી બનાવવા કે શેર કરવાના કાનૂની પરિણામો અને સજાની જોગવાઈઓ વિશે સતત જાગૃત કરવા પડશે. સોશિયલ મીડિયા કંપનીઓ હવે માત્ર એક ‘માધ્યમ’ હોવાનો દાવો કરીને પોતાની જવાબદારીમાંથી છટકી શકશે નહીં; તેમણે કાનૂની પાલન માટે મજબૂત વ્યવસ્થા ઊભી કરવી પડશે.
ગંભીર ગુનાઓ પર ‘તાત્કાલિક કાર્યવાહી’નો આદેશ
નવી માર્ગદર્શિકામાં કેટલાક ચોક્કસ પ્રકારના સંવેદનશીલ અને હાનિકારક કન્ટેન્ટ માટે શૂન્ય સહનશીલતા (Zero Tolerance) ની નીતિ અપનાવવામાં આવી છે. સરકારે સ્પષ્ટ કર્યું છે કે નીચે મુજબના કિસ્સાઓમાં કોઈ પણ વિલંબ વગર તાત્કાલિક કડક કાર્યવાહી કરવાની રહેશે:
બાળ જાતીય શોષણ સામગ્રી (CSAM): બાળકો સાથે જોડાયેલા કોઈ પણ શોષણકારી કે અશ્લીલ કન્ટેન્ટ પર સખત બાન.
બિન-સહમતિ વિનાની ઘનિષ્ઠ છબીઓ (Non-consensual Intimate Imagery): વ્યક્તિની સંમતિ વગર તેની અંગત કે વાંધાજનક તસવીરો અને વીડિયો વાયરલ કરવા.
ડીપફેક નકલ (Impersonation): AI નો ઉપયોગ કરીને કોઈ અન્ય વ્યક્તિની ઓળખ છીનવવી કે ખોટો દાવો કરવો.
સમાજમાં હિંસા કે ભય ફેલાવતી સામગ્રી: કાયદો અને વ્યવસ્થા બગાડે તેવા કૃત્રિમ કન્ટેન્ટ.
જ્યારે પણ પ્લેટફોર્મ પર આવી સામગ્રી મળી આવે કે તેની જાણ થાય, ત્યારે કંપનીઓએ કોઈ પણ રાહ જોયા વિના તેને તુરંત જ ડિલીટ કે બ્લોક કરવાની રહેશે.
ટેક કંપનીઓ માટે નવો પડકાર
સરકારના આ આક્રમક વલણથી ફેસબુક, ઇન્સ્ટાગ્રામ, X (ટ્વિટર), યુટ્યુબ અને વોટ્સએપ જેવા મોટા સોશિયલ મીડિયા પ્લેટફોર્મ્સ પર કામગીરીનું ભારે દબાણ આવશે. ૩૬ કલાકની જગ્યાએ માત્ર ૩ કલાકમાં કન્ટેન્ટ રિવ્યુ કરીને તેને હટાવવું એ ટેકનોલોજીકલ રીતે એક મોટો પડકાર છે. આ માટે કંપનીઓએ પોતાની ઓટોમેટેડ AI ફેક્ટ-ચેકિંગ સિસ્ટમ અને માનવ સમીક્ષકો (Human Reviewers) ની ટીમ વધુ સક્રિય કરવી પડશે.
દિશાનિર્દેશોનું પાલન ન કરનાર પ્લેટફોર્મ્સ IT એક્ટની કલમ 79 હેઠળ મળતું ‘સેફ હાર્બર’ (Safe Harbour) રક્ષણ ગુમાવી શકે છે, જેનો અર્થ એ થાય કે યુઝર દ્વારા પોસ્ટ કરાયેલા ગેરકાયદેસર કન્ટેન્ટ માટે કંપની પોતે પણ અદાલતમાં કાનૂની રીતે જવાબદાર બનશે.
યુઝર્સ માટે આનો અર્થ શું છે?
સામાન્ય ઇન્ટરનેટ યુઝર્સ માટે આ નિર્ણય ડિજિટલ સુરક્ષાની દિશામાં એક મોટું પગલું છે.
૧. સાચી માહિતી: AI કન્ટેન્ટ પર લેબલ હોવાથી યુઝર્સ ફેક વીડિયો કે ફોટોથી ગુમરાહ થવાથી બચશે.
૨. ઝડપી ફરિયાદ નિવારણ: જો કોઈ વ્યક્તિની અંગત છબી કે ફેક વીડિયો વાયરલ થશે, તો તેને હટાવવા માટે હવે દિવસો સુધી રાહ જોવી નહીં પડે, ૩ કલાકમાં જ કાર્યવાહી થશે.
૩. વધારે જવાબદારી: સોશિયલ મીડિયા પર ગેરકાયદેસર કે AI-જેનરેટેડ ભ્રામક કન્ટેન્ટ શેર કરતા પહેલા યુઝર્સે પણ હવે સો વાર વિચારવો પડશે, કારણ કે તેના કાનૂની પરિણામો ગંભીર આવી શકે છે.
