ભારત સરકારની કડકાઈની અસર: એલોન મસ્કના AI ચેટબોટ ‘Grok’ પર હવે પૈસા આપ્યા વગર ફોટો એડિટ નહીં થાય
આંતરરાષ્ટ્રીય નિયમનકારી દબાણ અને બિન-સહમતિપૂર્ણ, જાતીય સામગ્રીના ઉત્પાદન અંગે જાહેર આક્રોશના મોજા પછી, સોશિયલ મીડિયા પ્લેટફોર્મ X (અગાઉ ટ્વિટર) એ તેના AI ચેટબોટ, Grok ને પ્રતિબંધિત કરવાનું પગલું ભર્યું છે. પ્લેટફોર્મની છબી-નિર્માણ અને સંપાદન સુવિધાઓ હવે પેવોલ પાછળ બંધ છે, જેના કારણે વપરાશકર્તાઓને આ સાધનોને ઍક્સેસ કરવા માટે ચૂકવણી કરેલ સબ્સ્ક્રાઇબર્સ બનવાની જરૂર છે.
“બિકીની ટ્રેન્ડ” અને જાહેર પ્રતિક્રિયા
સૂત્રો અનુસાર, આ પ્રતિબંધ “ગ્રોક AI બિકીની ટ્રેન્ડ” તરીકે ઓળખાતા એક ખલેલ પહોંચાડતા વાયરલ વલણને અનુસરે છે, જ્યાં વપરાશકર્તાઓ ચેટબોટનો ઉપયોગ વ્યક્તિઓની સંમતિ વિના સ્પષ્ટ ડીપફેક જનરેટ કરવા માટે કરે છે. ફક્ત ચેટબોટને ટેગ કરીને અને પ્રોમ્પ્ટ પ્રદાન કરીને, વપરાશકર્તાઓ મહિલાઓ, પત્રકારો, સેલિબ્રિટીઓ અને રાજકીય વ્યક્તિઓના ફોટા “કપડાં” કાઢવામાં સક્ષમ હતા.
સૂત્રો દર્શાવે છે કે આ “મસાલેદાર મોડ” દુરુપયોગ કોઈને પણ બક્ષ્યો નહીં, અહેવાલો દર્શાવે છે કે છ વર્ષની નાની ઉંમરના સગીરોની જાતીય છબીઓ બનાવવાનો સંકેત આપે છે. જ્યારે આ વલણ પુખ્ત સર્જકો દ્વારા તેમના પોતાના ફોટા પર પ્રયોગ કરવાથી શરૂ થયું હતું, તે ઝડપથી ઉત્પીડન અને ખુલ્લા શોષણ માટેના સાધનમાં ફેરવાઈ ગયું.
વૈશ્વિક નિયમનકારી કાર્યવાહી
વિશ્વભરની સરકારોએ એલોન મસ્કના xAI અને X પ્લેટફોર્મ પર નોંધપાત્ર દબાણ સાથે પ્રતિક્રિયા આપી છે:
• ભારત: ઇલેક્ટ્રોનિક્સ અને માહિતી ટેકનોલોજી મંત્રાલય (MeitY) એ ફક્ત પોસ્ટ-હોક સામગ્રી દૂર કરવાને બદલે ઓડિટેબલ એન્જિનિયરિંગ સુધારાઓની માંગ કરતી નોટિસ જારી કરી હતી. ભારતીય અધિકારીઓએ અગાઉ ચેતવણી આપી હતી કે પ્લેટફોર્મનો વિવાદનો પ્રારંભિક જવાબ “પર્યાપ્ત નથી”.
• યુરોપિયન યુનિયન: યુરોપિયન કમિશને X ને 2026 ના અંત સુધી ગ્રોક સંબંધિત તમામ આંતરિક દસ્તાવેજો અને ડેટા સાચવવાનો આદેશ આપ્યો છે કારણ કે તે “ગેરકાયદેસર” આઉટપુટની તપાસ કરે છે.
• યુનાઇટેડ કિંગડમ: વડા પ્રધાન કીર સ્ટાર્મરે નિયમનકાર ઓફકોમને “બધા વિકલ્પો ટેબલ પર રાખવા” વિનંતી કરી છે, જ્યારે અધિકારીઓએ સંભવિત કાનૂની દંડનો સંકેત આપ્યો છે.
• અન્ય પ્રદેશો: મલેશિયા, ફ્રાન્સ અને ઇન્ડોનેશિયાએ પણ આઉટપુટની નિંદા કરી છે, જો આ મુદ્દાને ઉકેલવામાં નહીં આવે તો ઇન્ડોનેશિયાએ પ્લેટફોર્મ પર સંપૂર્ણપણે પ્રતિબંધ મૂકવાની ધમકી આપી છે.
પેવોલ: ઉકેલ કે ઢાલ?
ગ્રોકની ઇમેજ સુવિધાઓની ઍક્સેસ ફરીથી મેળવવા માટે, વપરાશકર્તાઓએ હવે સબ્સ્ક્રાઇબ કરવું પડશે – આ સેવાનો ખર્ચ આશરે €9.39 પ્રતિ મહિને થાય છે. જ્યારે કોઈ ફ્રી-ટાયર વપરાશકર્તા ઇમેજ જનરેટ કરવાનો પ્રયાસ કરે છે, ત્યારે ગ્રોક હવે જવાબ આપે છે: “ઇમેજ જનરેશન અને એડિટિંગ હાલમાં ચૂકવણી કરનારા સબ્સ્ક્રાઇબર્સ સુધી મર્યાદિત છે. તમે આ સુવિધાઓને અનલૉક કરવા માટે સબ્સ્ક્રાઇબ કરી શકો છો”.
જોકે, સ્ત્રોતો સૂચવે છે કે નિષ્ણાતો અને નિયમનકારો આ પગલા અંગે શંકાસ્પદ છે. ટીકાકારો દલીલ કરે છે કે પેવોલ મોડેલની ગેરકાયદેસર છબીઓ બનાવવાની તકનીકી ક્ષમતામાં ફેરફાર કરતું નથી; તે ફક્ત ચૂકવણી કરવા તૈયાર લોકો સુધી મર્યાદિત છે. વધુમાં, આ સુવિધાઓને સબ્સ્ક્રિપ્શન પાછળ ખસેડવાથી જાહેર તપાસમાં ઘટાડો થઈ શકે છે જ્યારે હાનિકારક પ્રવૃત્તિને મોનિટર કરવા માટે મુશ્કેલ જૂથમાં ધકેલી શકાય છે. નવા પ્રતિબંધ છતાં, શુક્રવારે અહેવાલો દર્શાવે છે કે ચૂકવણી કરનારા વપરાશકર્તાઓ દ્વારા ઉત્પન્ન થતા જાતીય ડીપફેક્સ હજુ પણ પ્લેટફોર્મ પર દૃશ્યમાન હતા.
એલોન મસ્ક અને xAI તરફથી પ્રતિભાવ
એલોન મસ્કે ચેતવણી આપી છે કે ગ્રોક સાથે ગેરકાયદેસર સામગ્રી બનાવતા વપરાશકર્તાઓ “જો તેઓ ગેરકાયદેસર સામગ્રી અપલોડ કરે છે તો તે જ પરિણામો ભોગવશે”. વિવાદ હોવા છતાં, xAI વિસ્તરણ કરવાનું ચાલુ રાખે છે, તાજેતરમાં તેના નવીનતમ મોડેલ, Grok 5 ને આગળ વધારવા અને એક નવું ડેટા સેન્ટર બનાવવા માટે $20 બિલિયન ફંડિંગ રાઉન્ડની જાહેરાત કરી છે.
મસ્કે એ પણ નોંધ્યું કે Grok ના ઉપયોગમાં ભારે વધારો જોવા મળ્યો છે, જેના કારણે સર્વરમાં વિલંબ થયો છે અને વધારાની કમ્પ્યુટિંગ પાવરની જરૂર પડી છે, જોકે તેમણે આ ટ્રાફિકને ડીપફેક ટ્રેન્ડ સાથે સ્પષ્ટ રીતે જોડ્યો નથી.
