Meta
આજકાલ મેટા તેના AIને લઈને ઘણી ચર્ચામાં છે. તાજેતરમાં, કેટલીક તસવીરો સામે આવી છે જેમાં AI દ્વારા ઈન્સ્ટાગ્રામ અને અન્ય પ્લેટફોર્મ પર ઈન્ડિયન અને અમેરિકન સેલિબ્રિટીઝની નકામી તસવીરો શેર કરવામાં આવી રહી છે. ટેક જાયન્ટે આ વિષય પર નિર્ણય લેવા માટે લોકોનો અભિપ્રાય માંગ્યો છે. ચાલો તેના વિશે જાણીએ.
સોશિયલ મીડિયા જાયન્ટ મેટાના દેખરેખ બોર્ડે ભારત અને યુ.એસ.માં જાહેર વ્યક્તિઓને સંડોવતા બે કેસમાં AI-જનરેટેડ પોર્ન ઈમેજો પર પગલાં લેવાના નિર્ણય માટે જાહેર ટિપ્પણીઓ આમંત્રિત કરી છે.
કન્ટેન્ટ મોડરેશન પર નિર્ણય લેનારા બોર્ડે જણાવ્યું હતું કે બેમાંથી એક કેસમાં ઇન્સ્ટાગ્રામ પર પોસ્ટ કરાયેલી નગ્ન મહિલાની AI-જનરેટેડ તસવીર સામેલ છે. આ ઈમેજ એઆઈનો ઉપયોગ કરીને બનાવવામાં આવેલી ભારતની સાર્વજનિક વ્યક્તિની સમાન છે.
આ સામગ્રી પોસ્ટ કરનાર એકાઉન્ટ માત્ર ભારતીય મહિલાઓની AI-જનરેટેડ તસવીરો જ શેર કરે છે. પ્રતિસાદ આપનારા મોટાભાગના વપરાશકર્તાઓ ભારતમાં એકાઉન્ટ ધરાવે છે. જ્યાં ડીપફેક થાય છે અને તે વધતી જતી સમસ્યા છે.
મેટાએ જાહેર અભિપ્રાય માંગ્યો
મેટાએ આ મુદ્દે લોકોનો અભિપ્રાય માંગ્યો છે, જો કે ઈલેક્ટ્રોનિક્સ અને આઈટી મંત્રાલયે પહેલાથી જ સોશિયલ મીડિયા કંપનીઓને AI-જનરેટેડ નકલી ઈમેજો અને વીડિયો દૂર કરવા કહ્યું છે અને આ પ્લેટફોર્મ્સને કડકપણે તેનું પાલન કરવા માટે કહેવામાં આવ્યું છે.
રશ્મિકા મંડન્ના અને પ્રિયંકા ચોપરા જોનાસ સહિત અનેક ભારતીય અભિનેત્રીઓના નકલી અથવા મોર્ફ કરેલા ફોટા અને વિડિયો ઇન્સ્ટાગ્રામ, ફેસબુક અને ટ્વિટર સહિત બહુવિધ સોશિયલ મીડિયા પ્લેટફોર્મ પર વાયરલ થયા છે.
બોર્ડે કહ્યું કે ભારત-સંબંધિત કેસમાં, એક વપરાશકર્તાએ મેટાને અશ્લીલતા માટે સામગ્રીની જાણ કરી હતી પરંતુ રિપોર્ટ આપમેળે બંધ થઈ ગયો હતો કારણ કે 48 કલાકની અંદર તેની સમીક્ષા કરવામાં આવી ન હતી.
બોર્ડે કહ્યું કે આ પછી યુઝરે બોર્ડને અપીલ કરી. આ કેસના બોર્ડના સંચાલનના પરિણામે, મેટાએ નિર્ધારિત કર્યું કે સામગ્રીને ભૂલમાં છોડવાનો તેનો નિર્ણય ભૂલમાં હતો અને ધમકીઓ અને ઉત્પીડન સમુદાયના ધોરણોનું ઉલ્લંઘન કરવા બદલ પોસ્ટને દૂર કરી.
ફરિયાદના 24 કલાકમાં કાર્યવાહી કરવામાં આવે છે
2021 ના IT નિયમો અનુસાર, ફરિયાદ મળ્યાના 24 કલાકની અંદર સંપૂર્ણ અથવા આંશિક નગ્નતાને દૂર કરવા માટે ઑનલાઇન પ્લેટફોર્મ જરૂરી છે. બોર્ડે યુ.એસ.માં એક કેસ પર જાહેર મંતવ્યો પણ આમંત્રિત કર્યા છે, જ્યાં ફેસબુક જૂથમાં એક અમેરિકન સેલિબ્રિટીની AI-જનરેટેડ પોર્નોગ્રાફિક છબી પોસ્ટ કરવામાં આવી હતી.
બોર્ડે કહ્યું કે પોસ્ટનો જવાબ આપનારા મોટાભાગના યુઝર્સના એકાઉન્ટ યુએસમાં છે. આ કિસ્સામાં, છબીને પહેલાથી જ ફેસબુકના સમુદાય માનકોનું ઉલ્લંઘન માનવામાં આવી હતી અને તેને દૂર કરવામાં આવી હતી.
આ કેસ માટે જાહેર ટિપ્પણી વિન્ડો 30 એપ્રિલ સુધી 14 દિવસ માટે ખુલ્લી છે, બોર્ડે જણાવ્યું હતું કે સેલિબ્રિટીઓના નામ અથવા વિગતોનો ઉલ્લેખ કર્યો નથી.