ડીપફેક સામે જંગ: ગ્રોક AI હવે વાસ્તવિક વ્યક્તિઓના ફોટા સાથે ચેડાં કરી શકશે નહીં
એલોન મસ્કના સોશિયલ મીડિયા પ્લેટફોર્મ X એ આજે જાહેરાત કરી છે કે તેણે તેના AI ચેટબોટ, Grok ને વાસ્તવિક લોકોની છબીઓ ડિજિટલી “કપડાં ઉતારવા” થી રોકવા માટે કડક નવા તકનીકી પગલાં અમલમાં મૂક્યા છે. મહિલાઓ અને બાળકોના બિન-સહમતિથી જાતીયકૃત ડીપફેક બનાવવા માટે ટૂલના વ્યાપક દુરુપયોગને પગલે કંપની તેના AI શાસનના “વૈશ્વિક તણાવ પરીક્ષણ”નો સામનો કરી રહી છે ત્યારે આ પગલું લેવામાં આવ્યું છે.
નવા તકનીકી પ્રતિબંધો અને જીઓબ્લોકિંગ
15 જાન્યુઆરીના રોજ પ્રકાશિત થયેલા એક અપડેટમાં, X ની સલામતી ટીમે પુષ્ટિ કરી હતી કે તેણે Grok ને વાસ્તવિક લોકોની છબીઓને બિકીની અથવા અન્ડરવેર જેવા ખુલ્લા કપડાંમાં સંપાદિત કરવાથી રોકવા માટે ફિલ્ટર્સ તૈનાત કર્યા છે. સ્થાનિક કાયદાઓનું વધુ પાલન કરવા માટે, X એ જીઓબ્લોકિંગ રજૂ કર્યું છે જેથી આ છબી જનરેશન ક્ષમતાઓને સંપૂર્ણપણે એવા અધિકારક્ષેત્રોમાં અક્ષમ કરી શકાય જ્યાં આવી સામગ્રી ગેરકાયદેસર માનવામાં આવે છે.
વધુમાં, X પ્લેટફોર્મ પર Grok દ્વારા કોઈપણ છબીઓ બનાવવા અથવા સંપાદિત કરવાની ક્ષમતા હવે ફક્ત ચૂકવણી કરનારા સબ્સ્ક્રાઇબર્સ માટે મર્યાદિત છે. X એ જણાવ્યું હતું કે આ આવશ્યકતા જવાબદારીનો એક સ્તર ઉમેરે છે, જે પ્લેટફોર્મને નીતિઓ અથવા કાયદાનું ઉલ્લંઘન કરવા માટે ટૂલનો દુરુપયોગ કરવાનો પ્રયાસ કરતા કોઈપણ વ્યક્તિઓને ઓળખવામાં અને જવાબદાર ઠેરવવામાં મદદ કરે છે.
વૈશ્વિક નિયમનકારી દબાણનો કાસડો
આંતરરાષ્ટ્રીય નિયમનકારો દ્વારા આક્રમક પગલાંની શ્રેણીને પગલે આ પ્રતિબંધો લાગુ કરવામાં આવ્યા છે:
• દક્ષિણપૂર્વ એશિયા: ઇન્ડોનેશિયા અને મલેશિયા, ટૂલ દ્વારા માનવ અધિકારોના ઉલ્લંઘન અને નાગરિકોની સલામતીનો ઉલ્લેખ કરીને, Grok AI ને સંપૂર્ણપણે અવરોધિત કરનારા પ્રથમ દેશો બન્યા.
• ભારત: ઇલેક્ટ્રોનિક્સ અને માહિતી ટેકનોલોજી મંત્રાલય (MeitY) એ X ને ઔપચારિક ચેતવણી જારી કરી, જેમાં જણાવ્યું હતું કે તેનું “સુરક્ષિત બંદર” રક્ષણ કડક યોગ્ય ખંત પર શરતી છે. અધિકારીઓએ નોંધ્યું કે સામગ્રી દૂર કરવાની વિનંતીઓ પર X ના પ્રારંભિક પ્રતિભાવોમાં મહત્વપૂર્ણ કેસ-વાઇઝ ડેટાનો અભાવ હતો.
• યુરોપ: યુરોપિયન કમિશને ડિજિટલ સર્વિસીસ એક્ટ (DSA) હેઠળ ઔપચારિક કાર્યવાહી શરૂ કરી છે, જેમાં X ને 2026 ના અંત સુધી Grok ના ઇમેજ ટૂલ્સથી સંબંધિત તમામ દસ્તાવેજો સાચવવાનો આદેશ આપ્યો છે. ફ્રેન્ચ ફરિયાદીઓએ સગીરોને સંડોવતા લૈંગિક સ્પષ્ટ છબીઓના પ્રસારને સમાવવા માટે હાલની તપાસનો પણ વિસ્તાર કર્યો છે.
• યુનાઇટેડ સ્ટેટ્સ: કેલિફોર્નિયાના એટર્ની જનરલ રોબ બોન્ટાએ xAI માં તપાસ શરૂ કરી, બિન-સહમતિપૂર્ણ સામગ્રીના જથ્થાને “આઘાતજનક” ગણાવ્યો અને બાળ જાતીય દુર્વ્યવહાર સામગ્રી (CSAM) ના નિર્માણ માટે શૂન્ય-સહિષ્ણુતા નીતિ પર ભાર મૂક્યો.
સુરક્ષા ક્ષતિઓ અને પ્રતિષ્ઠાના જોખમો
ગ્રોકના “સ્પાઇસી મોડ” દ્વારા જાહેર વ્યક્તિઓ અને સામાન્ય વપરાશકર્તાઓ બંનેને “નગ્ન” કરવાના સંકેતોનું પાલન કરવામાં આવ્યું તે પછી વિવાદ ફાટી નીકળ્યો. હાઇ-પ્રોફાઇલ પીડિતોમાં સ્વીડનના નાયબ વડા પ્રધાન એબ્બા બુશનો સમાવેશ થાય છે, જેમણે પોતાની AI-જનરેટેડ છબીઓને “જાતીય હિંસા” ના સ્વરૂપ તરીકે વર્ણવી હતી. બિન-લાભકારી AI ફોરેન્સિક્સ દ્વારા કરવામાં આવેલા વિશ્લેષણમાં જાણવા મળ્યું છે કે 20,000 ગ્રોક-જનરેટેડ છબીઓમાંથી, અડધાથી વધુ વ્યક્તિઓને ઓછામાં ઓછા પોશાકમાં દર્શાવવામાં આવ્યા હતા, જેમાં 2% સગીર હોવાનું જણાય છે.
વધતા દબાણ હેઠળ, xAI એ “સુરક્ષાઓમાં નિષ્ફળતાઓ” સ્વીકારી હતી જેના કારણે આ નબળાઈઓનો ઉપયોગ થઈ શક્યો હતો. જ્યારે કંપનીએ તાજેતરમાં
20 બિલિયન ઇન સિરીઝઇફંડિંગ∗∗∗ મેળવ્યું હતું, ત્યારે તેની લાંબા ગાળાની કાર્યક્ષમતા 2025 ના ત્રીજા ક્વાર્ટરમાં ∗∗∗1.46 બિલિયન ચોખ્ખી ખોટ અને EU AI એક્ટ અને અન્ય વૈશ્વિક માળખાનું પાલન કરવાના મોટા ઓપરેશનલ ખર્ચથી જોખમમાં છે.
xAI ગવર્નન્સ માટે આગળનો માર્ગ
આ ઘટના વર્તમાન ટેકનિકલ ગવર્નન્સમાં એક મહત્વપૂર્ણ અંતરને પ્રકાશિત કરે છે. નિષ્ણાતો નોંધે છે કે જ્યારે કોર્પોરેટ મોડેલો ઘણીવાર કીવર્ડ બ્લોકિંગ પર આધાર રાખે છે, ત્યારે આ પદ્ધતિઓ ઘણીવાર “દૂષિત તકનીકી ઇકોસિસ્ટમ” માટે લાગુ પડતી નથી જ્યાં ટેકનોલોજીનો ઉપયોગ “નગ્નતા” માટે ઇરાદાપૂર્વક કરવામાં આવે છે.
xAI હાલમાં “આપત્તિજનક દૂષિત ઉપયોગની ઘટનાઓ” ને સંબોધવા માટે જોખમ વ્યવસ્થાપન માળખાને સુધારી રહ્યું છે, જેને તે 100 થી વધુ મૃત્યુ અથવા $1 બિલિયનના નુકસાન તરફ દોરી જતી ક્રિયાઓ તરીકે વ્યાખ્યાયિત કરે છે. જો કે, આજના અપડેટ્સ સૂચવે છે તેમ, પ્લેટફોર્મને હવે વૈશ્વિક બજારોમાં તેની હાજરી જાળવી રાખવા માટે ડીપફેક પોર્નોગ્રાફી અને છબી-આધારિત જાતીય દુર્વ્યવહાર જેવા વધુ તાત્કાલિક સામાજિક જોખમોને પ્રાથમિકતા આપવાની ફરજ પાડવામાં આવી રહી છે.
